Lecture ESSAI

L’homme augmenté Futurs de nos cerveaux

Raphaël Gaillard, Ed. Grasset 2024

Thème : Comment l'homme a toujours cherché à augmenter ses capacités

Dans son livre, Raphaël Gaillard s’interroge sur les différents moyens que l’homme a trouvés pour s’augmenter. Les soins de restauration ne sont-ils pas une façon de s’augmenter, faute de pouvoir restituer la personne fidèlement à son état antérieur ? La recherche sur la réduction des capacités mnésique (la quête de l’oubli dans le cadre des traumatismes psychiques) ne serait-elle pas aussi une augmentation ? L’utilisation des drogues psychoactives ne permet-elle pas également d’accéder à un état augmenté ? … Cependant, ces progrès et cette augmentation de l’être humain ne sont pas accessibles à tous, de nouvelles inégalités se tissent entre les personnes : « Il nous faut donc prendre le temps d’examiner non seulement la réalité de l’augmentation actuelle et à venir mais ses conséquences indirectes, à commencer par la façon dont elle divise l’humanité. » (p181) Dans cette recherche d’amélioration permanente, Raphaël Gaillard nous encourage à garder à l’esprit que nous ne sommes que des hommes et que l’évolution de notre cerveau d’homo sapiens s’est dirigée vers plus de complexité que de robustesse. Par conséquent, de nombreux bugs interviennent chez nos semblables, de plus en plus nombreux à souffrir de troubles mentaux. Alors, qu’en est-il de cette hybridation du cerveau humain si ce dernier n’est déjà pas en mesure de supporter son propre fonctionnement ? L’ajout de nouvelles facultés à l’homme bouleverserait un équilibre déjà fragile, tandis que l’IA (intelligence artificielle), imprégnée de nos données humaines va aussi devoir progresser : « L’IA va devoir travailler à son harmonie, inventer sa propre figure de l’homme de Vitruve » (p221). Ainsi, alors que nous encensons l’IA, elle se montre encore insuffisante face à certaines questions : elle y répond parfois en inventant des notions théoriques farfelues, est incapable de créativité artistique et est surtout sur-consommatrice d’une énergie que nous savons précieuse et limitée. Nous voyons donc cette entité plus parfaite que ce qu’elle est réellement et face à sa progression rapide, il est important de nous questionner sur les axes à emprunter, « nous n’aurons pas le temps de l’expérimentation comme préalable à toute décision » (p227). Pour répondre à ce défi, Raphaël Gaillard nous propose de consolider nos acquis et de revenir à nos fondamentaux, notamment au livre, « cet objet associant écriture et lecture, constitue la grande hybridation de l’humanité » (p245). Une hybridation qui nous rend intelligents : « Il ne s’agit pas de lire pour apprendre, de lire pour s’engraisser de cette infobésité omniprésente, mais pour se souvenir de qui l’on est ou plutôt devenir ce que l’on est » (p295), « La matière cérébrale traversée par les savoirs en garde la trace indélébile, non au titre de chacun de ces savoirs et de leur possible restitution, mais des voies qu’ils y ont forgées. » (p321). Notre intelligence humaine nous permettrait donc de ne plus nous mesurer à celle de l’IA afin de savoir qui l’emporterait, mais de réfléchir à l’association la plus souhaitable, celle qui servirait au mieux l’humanité. Raphaël Gaillard souligne l’importance de la préparation des générations jeunes et futures en insistant sur l’écriture et la lecture, un prérequis à cette hybridation numérique qui nous accompagne aujourd’hui : un apprentissage qui permet de « Façonner plutôt que de nous encombrer de connaissances » (p338), et d’«instituer une jeune personne, c’est-à-dire lui donner les moyens de son autonomie » (p339).

Recension : Bénédicte Thiriez, coordinatrice du site d'appui lorrain

Lecture ESSAI

Que faire de l’intelligence artificielle ? Petite histoire critique de la raison artificielle

Ed. Bibliothèque Rivages Payot, 2024, 124 pages

Thème : Intelligence artificielle

L’ouvrage de Vivien Garcia retrace l’histoire de l’intelligence artificielle qui se construit depuis le Turc mécanique du 18ème siècle jusqu’à aujourd’hui. L’homme rêve en effet depuis longtemps d’une intelligence non humaine qui l’accompagnerait, voire rivaliserait avec la sienne jusqu’à lui devenir supérieure ? L’auteur lie les différentes étapes de la recherche scientifique et de ses réalisations (cybernétique, systèmes experts, intelligence dite artificielle, intelligence artificielle générative, LLM) à des questionnements philosophiques, politiques, éthiques qui pour lui sont les seuls à même d’interroger, d’être « alertes aux dimensions normatives des objets techniques, [en] n’ayant de cesse d’interroger la manière dont ils recomposent nos interactions, les font exister » (p124). L’éthique a par vocation sa place dans le débat autour de l’IA, non en posant une forme de labellisation de l’objet, mais bien toujours et encore en interrogeant la norme afin de questionner ses fondements, sa construction, sa place, son rôle dans les interactions. La « puissance évocatrice » (p.10) du terme intelligence artificielle met en effet la philosophie à l’épreuve de la penser, de penser ses ressorts, de penser l’objet technique, ses constructions et ses usages mais aussi le rapport qu’il entretient avec l’homme et ses fantasmes. Notamment celui de reproduire le cerveau humain dans la machine, ce que trahit l’utilisation d’un vocabulaire « anthropomorphique » (p.79) lorsque qu’on parle de réseaux de neurones, d’apprentissage…

Est-ce que les systèmes, entraînés, dotés d’informations entrantes massives peuvent être qualifiés d’intelligents ? En écho à Daniel Andler dans Intelligence artificielle, intelligence humaine : la double énigme où l’auteur affirme que l’intelligence est la capacité de l’homme non seulement à résoudre un problème, ce que sait aussi faire la machine, mais aussi la capacité à juger de la situation dans laquelle il est, Vivien Garcia penche pour répondre également par la négative. Si on avance que l’intelligence est une aptitude mentale, à partir de capacités cognitives plurielles, à appréhender et organiser les données d’une situation, à mettre en relation les procédés à employer avec le but à atteindre, à choisir les moyens ou à découvrir les solutions originales qui permettent l'adaptation aux exigences de l'action, peut-on aussi parler d’intelligence des systèmes experts, de l’IA, de l’IA générative ? Le système artificiel connait les données du problème qu’on lui fournies, mais pas la situation ni ses qualifications. Les situations que résout la machine, sont comme des matrices de jeu, closes et désincarnées. Et l’auteur de montrer que « La transformation d’une [telle] situation en un problème ne peut conduire qu’à sa désincarnation, à la mise en exergue de ses caractéristiques les plus aisément modélisables, à l’exclusion d’une multitude de faits, au rejet de l’évènement, de l’imprévu.» (p.63). En signifiant que les données qui nourrissent les systèmes « ne sont jamais le monde […] elles n’offrent qu’une collection de points de vue sur celui-ci » et que « [un réseau de neurones] ne se fait pas tout seul : il faut bien une certaine expertise pour définir l’architecture qui fera parler les données ». (p.64). On retrouve ici l’entendement fonction propre de l’esprit développée dans la « Critique de la raison pure », 1781 du philosophe E. Kant. L’entendement qui permet de trier, catégoriser, relier entre eux les éléments pour définir un schéma, une vérité scientifique. Aussi Vivien Garcia insiste sur le rôle essentiel que tient l’homme dans la construction des système d’IA, car il faut « un travail préliminaire d’ingénierie des connaissances. Son enjeu est la représentation, dans les formats numériques, des savoirs humains, sur lesquels s’appuie l’expertise reproduite » (p.71). Et même dans les systèmes de réseaux de neurones, entraînés, l’auto apprentissage par la machine se fait en fonction de modèles recherchés

Pour interroger la norme, l’auteur questionne les données qui « ne sont jamais données » en ce sens que ce n’est pas la machine par son expérience du monde qui les identifient, « elles sont le fruit de différentes normes et médiations techniques, sociales et culturelles plus ou moins conscientes et affirmées » (p.84). Elles ne sont pas le monde. L’IA comme tout objet technique n’est donc ni neutre, ni infaillible. Elle contribue pourtant à construire des normes parfois empreintes de biais. A l’argument qui consiste à dire que plus il y aura de données mieux les biais seront évités l’auteur répond « imaginer qu’une plus grande variété au sein du corpus d’entraînement, voire une symétrie d’opinion, résoudrait le problème est un leurre. » (P.109) car toute donnée entrée l’est en un lieu et un temps précis (cf. Emmanuel Kant) et est le fruit d’un consensus ou d’un compromis social et politique. L’IA générative qui marque une nouvelle étape, car elle peut produire du contenu textuel, graphique, sonore, -dont les LLM sont une sous-catégorie- renforce cette idée. Là encore « Il n’y a pas de LLM neutre, il y a tout au plus des données de sortie en phase avec certaines valeurs » (p109). Penser que les modèles de langage construiraient un modèle du monde qu’ils comprennent, est une erreur d’abord parce que le dialogue entre humain ne consiste pas seulement en texte entré, il est empreint de symbolique, il aussi un échange fait d’intention communicative. Ensuite parce que l’entraînement des LLM repose sur des jeux de données, et ces jeux parce qu’ils évoluent dans un monde clos, en sont une réduction et ne peuvent représenter le monde. La matérialité du monde porté par le langage ne peut pas y trouver représentation.

Le sous-titre du livre « Petite histoire critique de la raison artificielle » apparaît comme une invitation à relire E. Kant pour s’interroger sur la place que prennent les modèles issus de l’IA dans la construction des savoirs, dans la construction des normes. Est-ce que la raison critique peut-être artificielle ?

Recension : Laure Pesch, coordinatrice du site d'appui alsacien