Ce qui se procéduralise : pourquoi certains métiers changent avant les autres

Écrit en mars 2023. La question sur laquelle ce texte se referme, celle de savoir si ces systèmes remonteraient jusqu’au système 2, a reçu sa réponse depuis : les modèles de raisonnement entraînés par renforcement y ont touché. Le texte est laissé tel qu’il a été pensé.

ChatGPT s’est répandu plus vite que Snapchat, plus vite que TikTok, plus vite qu’Instagram. Ce qui compte davantage que la vitesse, c’est l’étendue : il a été adopté dans presque tous les domaines en même temps, ce qu’aucune application n’avait fait avant lui.

Ce qu’il met à disposition, en tout cas, c’est un service cognitif. Massivement déployé, accessible à tous, et capable d’effectuer une série énorme de tâches là où les programmes informatiques qu’on écrivait avant en effectuaient une seule.

On m’a demandé si c’était comparable à ce qui s’était passé avec le déploiement d’internet, et je pense qu’il y a là une subtilité qui compte. Au moment d’internet, on a surtout observé une transition vers un secteur qui existait déjà, le tertiaire, et qui s’est massivement étendu grâce à tous les services qu’on a construits dessus. Ce que ça demandait, en tout cas, c’était de former les gens aux métiers nouveaux qui arrivaient. Ici on ne crée pas de nouveau secteur. C’est le même, et ce qui change se passe à l’intérieur.

Et si le service est cognitif, alors la question du travail de demain devient une question précise, qui a une réponse. Il ne suffit pas de dire que l’intelligence artificielle va tout changer. Il faut savoir quelle partie de la cognition vient d’être mise à disposition, parce que c’est elle qui décide de quels métiers bougent en premier.

Deux systèmes de pensée

Daniel Kahneman décrit dans Thinking, Fast and Slow deux régimes de pensée.

Le système 1 est intuitif, réflexe, immédiat. C’est ce qu’on a appris et qu’on restitue sans y penser. Quand vous savez faire du vélo, vous n’avez plus besoin de vous concentrer. Quand vous conduisez sur un trajet connu, vous allez d’un point A à un point B tout en parlant à la personne à côté de vous et en pensant à ce que vous mangerez demain midi.

Le système 2, c’est ce qui se passe quand vous vous perdez. Vous vous arrêtez, vous éteignez la radio, vous regardez autour de vous, vous essayez de vous rappeler si vous êtes déjà passé par là, et vous prenez une décision. Mémoire de travail, mémoire sémantique, mémoire épisodique, raisonnement explicite.

Il faut quand même faire une distinction ici, parce que la vidéo dont ce texte est tiré la passe un peu vite. Le système 1 relève de la psychologie de la décision, la mémoire procédurale est une catégorie de la neuropsychologie, et les deux ne se recouvrent pas exactement. Elles se rencontrent sur un point qui est précisément celui qui m’intéresse : le geste qu’on exécute parfaitement sans être capable de le décrire.

Ce que deux patients amnésiques ont montré

Clive Wearing était musicien et chef de chœur. En 1985, une encéphalite herpétique détruit ses hippocampes. Depuis, son empan mnésique dépasse rarement quelques dizaines de secondes : il ne forme plus de souvenirs. Il joue pourtant toujours du piano, et il dirige toujours un chœur. Il ne se souvient pas d’avoir joué le morceau. Il le joue.

L’autre expérience est encore plus parlante. Henry Molaison, connu en psychologie sous les initiales H.M., a été opéré en 1953 pour soigner une épilepsie sévère, et l’opération lui a coûté la capacité de former de nouveaux souvenirs. Brenda Milner lui a fait passer une tâche de dessin en miroir : tracer une étoile en ne voyant que le reflet de sa main. Tout le monde échoue au premier essai, et tout le monde progresse en quelques séances espacées. H.M. progresse aussi, séance après séance, alors qu’à chaque fois il est convaincu de découvrir la tâche.

C’est là que se trouve la charnière. Le fait de charger la tâche dans la mémoire de travail, de la faire, d’échouer et de recommencer, modifie la procédure elle-même. Le système 2 écrit dans le système 1, et il le fait par la plasticité, sans même avoir besoin de laisser un souvenir derrière lui.

Des poids figés

Dire que ces modèles ont un système cognitif est forcément un raccourci, et je préfère le signaler. C’est une analogie, pas une description. Mais si je devais rapprocher ces modèles d’une catégorie plutôt que d’une autre, ce serait clairement de la mémoire procédurale.

La raison est en fait assez simple. Ce sont des architectures de type Transformer, et une fois l’entraînement terminé, les poids sont fixes. Si on fait l’analogie avec le cerveau, ça veut dire qu’il n’y a pas de neuroplasticité à proprement parler. Le modèle a appris un très grand nombre de régularités et il est capable de les restituer remarquablement bien pour une tâche donnée. Ce qu’il ne peut pas faire, c’est la boucle du miroir : regarder l’effet de ce qu’il vient de produire et réécrire sa propre procédure en conséquence.

Par contre, il y a une objection à cet argument, et elle est sérieuse. Ces modèles s’adaptent bel et bien dans une conversation : donnez-leur trois exemples dans le contexte et ils attrapent la règle. C’est ce qu’on appelle l’apprentissage en contexte, et c’est une vraie adaptation.

Simplement, elle est transitoire. Elle vit dans la fenêtre de contexte, elle est bornée par sa taille, et rien de ce qui s’y passe ne remonte dans les poids. À la conversation suivante, la leçon est perdue et tout recommence. C’est une mémoire de travail sans consolidation, ce qui, en tout cas de mon point de vue, renforce l’argument au lieu de l’affaiblir. La plasticité manque exactement là où les deux patients montrent qu’elle est décisive.

Ce qui se procéduralise en premier

À partir de là, on peut regarder les métiers autrement.

Ceux qui reposent majoritairement sur la restitution d’une procédure sont clairement les premiers concernés. Le graphiste devant son logiciel, qui exécute une suite de gestes appris. Le développeur, dès qu’un programme est assez simple pour être écrit sans y penser. Je ne porte pas de jugement sur la valeur de ces métiers, j’observe seulement quelle part de leur travail avait déjà été procéduralisée.

Les chiffres, puisqu’il y en a, méritent d’être cités correctement. Le papier publié par OpenAI il y a dix jours estime qu’environ 80 % de la population active américaine pourrait voir au moins 10 % de ses tâches touchées par ces modèles, et qu’environ 19 % des travailleurs pourraient en voir au moins la moitié. Ce sont des travailleurs et des tâches, pas des emplois supprimés, et la distinction n’a rien de cosmétique.

Ce qui résiste est plus intéressant. Un directeur artistique, un directeur technique, ne tiennent pas parce qu’ils seraient plus intelligents que les autres. Ils tiennent parce que ce qui fait leur réussite sur le long terme est précisément la boucle dont je parlais : regarder l’environnement, constater que la procédure qui marchait ailleurs ne marche pas ici, et la changer. Un modèle fondamental sait très bien dérouler un plan connu à partir d’un contexte donné. C’est l’adaptation de ce plan, au fil de l’eau, qui reste hors de sa portée.

Alors la question qui compte pour l’avenir, et je n’ai pas de réponse à donner aujourd’hui, c’est de savoir si ces systèmes vont rester à ce stade, à répliquer la mémoire procédurale de manière extrêmement efficace, potentiellement plus efficace qu’un humain sur certaines tâches, ou s’ils vont remonter la chaîne de valeur cognitive jusqu’au système 2, et jusqu’à s’améliorer eux-mêmes.

En tout cas je sais où regarder. Le jour où l’un de ces systèmes constatera l’effet de ce qu’il vient de faire et modifiera ce qu’il est en conséquence, plutôt que de recommencer chaque conversation avec les mêmes poids, ce sera arrivé.