De l’autre côté de la machine, Voyage d’une scientifique au pays des algorithmes • Aurélie Jean • Le Livre de Poche • 224 pages •

Belle découverte que ce petit essai sur les algorithmes numériques. Aurélie Jean, entrepreneuse, auteure et scientifique française, nous raconte son parcours et ses questionnements sur les algorithmes numériques. Des réseaux sociaux à Chatgpt, tout le monde a ce mot à la bouche “algorithme”, mais qu’en savons-nous finalement ? Nous sommes bombardés par les médias des dangers et des avancées incroyables de cette technologie. Avec ce livre, nous avons une introduction courte et précise d’une personne qui s’est vraiment frottée à la construction d’algorithmes, par exemple pour la médecine ou la presse. Ce sont les coulisses d’une technologie encore mal comprise par le grand public, souvent simplifié par les journalistes. Oui, les algorithmes sont une série d’étapes à suivre pour compléter une tâche. Mais, pas que. Souvent, quand on commence un algorithme, cela passe par une feuille et un papier, un problème à résoudre.

En plus d’être féministe et inspirante, le point de vue d’Aurélie se concentre sur les biais introduits dans les algorithmes. Et, ils sont partout. Un des biais souvent connu est le biais cognitif engendrant des discriminations. Par exemple, un algorithme de détection faciale qui ne reconnaîtrait pas les personnes de couleur foncée, parce que les données utilisées ne comportent pas ces images. Mais il y en a tellement d’autres, à toutes les étapes de création, des hypothèses formulées, à la vision du concepteur, en passant par des observations erronées. Les biais, on ne peut pas les éviter, mais surtout ce sont les gardes-fous de tout intellectuel confronté aux algorithmes qui doit faire preuve d’esprit critique… et de responsabilité. Savoir en toute connaissance de cause ce qui implique l’implémentation d’un algorithme et ses conséquences pouvant nuire à des personnes est essentiel. Donc savoir aussi arrêter à temps des projets, tels sont les enseignements tirés de l’expérience d’Aurélie tout au long de son parcours.

Sans une éducation adaptée aux technologies actuelles propres à la révolution que nous vivons, les problématiques sont mal posées par nos dirigeants politiques. Alors que les films de science fiction brouillent la frontière entre réel et virtuel, Aurélie propose plutôt de nous resituer dans la réalité avec un miroir algorithmique plus inclusif mais aussi plus raisonné. Pour elle, une intelligence artificielle “forte” n’arrivera sans doute jamais car elle n’a aucun libre-arbitre, ni conscience de son existence. La technologie avancera, c’est certain, mais même avec l’avénement de la superpuissance d’un ordinateur quantique, il est difficile de simuler la complexité et l’abstraction d’un cerveau humain.

Pour quelqu’un qui aime bien la science-fiction comme moi, j’ai trouvé instructif la lecture de ce livre. Dans un sens, en ayant conscience des mécanismes sous-jacent, ça permet d’être un peu moins bêtement fasciné par l’intelligence artificielle. Souvent, il est vrai, on a tendance à personnifier et à attribuer des émotions aux robots, dès qu’ils ont l’air un peu humains. Or, comme dit Aurélie, un robot peut vous dire “je t’aime”, il ne vous aime pas. Par ailleurs, les algorithmes sont la virtualisation de notre monde. Comme nous avons des biais, la représentation ne peut être parfaite, et comme l’écrit Aurélie, ce n’est pas une mauvaise chose, sinon notre société serait trop lisse. Toutefois, il est bon d’en avoir conscience et d’y réfléchir dans un sens qui aille pour le bien d’une société plus juste, plus équitable, et plus éduquée au niveau scientifique.

Quelques extraits du livre :

“Avant toute chose, un algorithme n’est pas une recette de cuisine… Mais, oui, la recette de cuisine est un algorithme… Laissez-moi vous expliquer.”

“On qualifie de numérique un algorithme qui a été conçu pour être implémenté dans un code informatique destiné à faire tourner une simulation ou un calcul sur un ou plusieurs microprocesseurs d’un ordinateur.”