L’AGI comme mème : qui nomme la chose décide de l’avoir atteinte

Un point m’a marqué en regardant les annonces de ce mois-ci. Un terme transcende désormais le discours de l’ensemble des gros acteurs de l’intelligence artificielle, et il est devenu leur objectif affiché : l’intelligence artificielle générale. Chez OpenAI c’était déjà le cas. Chez Google c’est relativement nouveau, et cela s’installe depuis leurs dernières conférences.

Cette position est en partie marketing. Elle a aussi un avantage stratégique, et c’est cette partie-là qui mérite qu’on s’y arrête. Il n’existe aucune instance extérieure pour arbitrer. Aucun institut ne détient le mètre étalon de l’intelligence générale, aucun organisme ne certifiera le franchissement. Le terme voudra donc dire ce qu’en décideront ceux qui l’emploient le plus. À mesure qu’ils imprègnent le grand public de ce vocabulaire, ils gagnent le droit de dire, au moment qui leur convient, que l’ensemble des produits et des technologies qu’ils ont déployés constitue un nouveau palier de capacité, et que ce palier est celui que nous étions convenus d’appeler intelligence générale.

Je veux être précis ici, parce que ce n’est pas une accusation. Nommer une chose pour marquer un avant et un après est un geste ancien, et parfaitement conscient, dans ce domaine. Dans les années 1950, quand John McCarthy a introduit le terme d’intelligence artificielle, il l’a introduit précisément pour désigner une rupture, une différence avec la cybernétique, une manière de dire que ce qui se construisait était d’une autre nature. Le mot a fait un travail que les résultats seuls n’auraient pas fait. Ce qui se passe aujourd’hui est le même geste, à une échelle où l’enjeu n’est plus académique.

Ce que ces modèles apprennent vraiment

Sous le vocabulaire il y a un objet réel, et il mérite une meilleure description que celle que le mot AGI lui donne.

Richard Dawkins a introduit la notion de mème dans Le Gène égoïste, en 1976, à côté du gène. Là où le gène est l’unité de la transmission biologique, le mème est l’unité de la transmission culturelle : tout ce qu’un cerveau contient et qui se transmet de génération en génération sans passer par l’ADN. La conséquence est facile à manquer tant elle est ordinaire. Un enfant qui se développe et devient adulte ne part pas de rien. Il part de son patrimoine génétique et de son environnement, certes, mais surtout de l’ensemble des mèmes déjà établis par la société, qui lui permettent de partir d’un socle commun plutôt que de zéro. Toute la recherche jamais menée extrapole depuis ce socle.

C’est ce que font ces grosses architectures. Elles apprennent nos mèmes. Elles réalisent une version compressée et interactive de l’ensemble de l’information collectée durant des générations et des générations.

Cet ensemble prend la forme d’un graphe. Chaque nœud est une connaissance acquise de génération en génération, les arêtes sont les interactions entre ces connaissances, et chaque nœud peut porter plusieurs modalités. Les modalités ne sont pas un ornement, et c’est pour cela que les laboratoires poussent si fort dans cette direction. Reprenons l’enfant : en grandissant, il prend un accent, des intonations légèrement particulières, des manières de poser un mot. Ce sont des informations extrêmement subtiles, produites par une société, et elles capturent ce que le texte ne dit pas. Un système qui ne lit que du texte manque une partie du mème.

Que l’on m’entende bien sur ce que je ne dis pas. Capturer ce graphe et le restituer correctement n’est pas, en soi, une reproduction de l’intelligence humaine. Mon point est plus étroit : le faire efficacement serait quelque chose dont il y aurait, dans une société, un avant et un après.

Un seuil de restitution, non de cognition

Ce qui nous dit quel sera réellement ce seuil. Capturer ne suffit pas. Ce que ces acteurs appelleront AGI, c’est le moment où la connaissance compressée sera restituée assez efficacement pour changer notre manière de vivre et de travailler. C’est un événement social et économique, pas un événement cognitif. Le mot sera attaché à un effet, non à une propriété interne. Ce qui est cohérent avec tout ce qui précède : un effet, cela se démontre sur une scène.

Prenons une organisation. À mesure qu’une entreprise grossit, elle doit consacrer une part croissante de son énergie à lutter contre son propre désordre. Réunions, synchronisation, couches d’encadrement : un effort considérable passe à maintenir tout le monde dans la même direction, et cet effort ne produit rien par lui-même. Un système capable de tenir le contexte de chaque échange et de restituer la bonne information au bon moment agit comme une glu structurelle. Il ne rend pas l’entreprise plus intelligente, il l’empêche de se dépenser à rester cohérente.

Et la distinction qui survit à tout cela mérite d’être énoncée seule. Créer ou recycler, au sens d’interpoler dans un contexte existant : la machine saura le faire. Créer de la valeur véritablement nouvelle, à ce stade, reste humain, et l’humain pourra y concentrer toute son énergie.

Le seuil qui n’existe pas

Vient la partie où je me sépare entièrement du terme.

Le terme d’AGI, dans sa définition actuelle, est un anthropomorphisme complet. Il pose l’intelligence humaine comme facteur dominant et mesure tout à cette aune. Or l’intelligence est multidimensionnelle. Pour un objectif donné, pour une capacité donnée, il existe de nombreuses manières d’y parvenir, selon des spectres d’intelligence très différents. Appeler « générale » le cas particulier que nous connaissons de l’intérieur est une erreur de catégorie.

Il y a une version plus forte de cet argument. L’intelligence humaine est unique en ceci qu’elle émerge de notre ADN, de toute l’évolution, de notre environnement, de l’ensemble de nos sens. Une machine, elle, apprend depuis un environnement simulé, ou depuis le graphe décrit plus haut, et ce graphe est toujours une abstraction du réel. Les deux ne pourront jamais être parfaitement alignés. Non par insuffisance technique, mais parce qu’ils ne viennent pas du même endroit. La reproduction parfaite n’est pas un objectif difficile, c’est un objectif mal posé.

Mais admettons. Faisons l’hypothèse et imaginons une machine qui s’approche suffisamment des capacités humaines.

Alors il n’y aura aucun moment où elle aurait simplement atteint l’intelligence humaine sans la surpasser. Si l’on reproduit l’ensemble des capacités humaines, on sera forcément plus intelligent qu’un humain, parce qu’une machine ne s’épuise pas. Elle peut penser indéfiniment. On peut lui donner des sens et des accès à des informations auxquels aucun humain n’aura jamais accès. Une machine qui reproduit le raisonnement humain est, par définition, une superintelligence.

Ce qui veut dire que la séquence avec laquelle tout le monde travaille, l’intelligence générale d’abord et la superintelligence ensuite, décrit deux étapes successives d’un même point. Le vocabulaire officiel du domaine porte une incohérence en son centre. Et c’est, je le soupçonne, exactement ce qui le rend commode : un seuil que personne ne sait définir est un seuil que personne ne peut vous opposer.

Intelligence collective amplifiée

Si le seuil qui compte est un seuil de restitution, alors le nom honnête de ce que nous construisons n’est pas « intelligence artificielle générale ». C’est intelligence collective amplifiée. Non pas une nouvelle intelligence à côté de la nôtre, mais la nôtre, rendue plus disponible à elle-même.

Je préfère ce nom pour une raison qui dépasse l’exactitude. Il remet l’accomplissement là où il appartient, dans le travail accumulé des générations, et il en retire le mysticisme. Il rend aussi visible le risque réel, que l’autre terme dissimule.

Car une intelligence collective amplifiée compresse les mèmes de tous en un artefact unique. Et si cet artefact répond d’une seule voix, alors ce que nous appelions amplification est un aplatissement. Le graphe contient les désaccords, les variantes locales, les chemins qui n’ont pas été pris. Une compression qui en restitue la moyenne nous rend une version de nous-mêmes que personne n’a jamais été.

Je ne sais pas comment l’éviter, et je ne suis pas certain que ceux qui le construisent se posent la question. Mais elle me semble meilleure que celle de savoir quand nous aurons franchi un seuil qui, pour autant que je puisse en juger, n’existe pas.