Le 21 septembre, C’était ça ou mourir, premier roman de Thélyson Orélien, recevait le prix du roman Fnac. Dans les jours suivants, un compte anonyme publiait l’analyse d’un détecteur : le texte aurait été, pour l’essentiel, produit par une IA. L’essayiste Samuel Fitoussi reconnaîtra plus tard faire partie du « projet collectif » qui l’animait, inquiet de ce que l’IA fait à la lecture et à l’écriture. D’autres analyses ont suivi, les soupçons s’accumulent, la presse s’emballe, l’auteur, lui, dément toujours. Le 25 septembre, l’Académie Goncourt retire finalement le roman de sa sélection, au nom de sa mission : « couronner la littérature écrite par des femmes et des hommes ». Que ce livre doive beaucoup à une machine paraît aujourd’hui vraisemblable.

Depuis, les écrivains parlent.
« Fabriquer ses phrases, trouver ses mots, si ce n’est pas ça, notre métier, qu’est-ce que c’est ? », demande Hervé Le Tellier.
Amélie Nothomb, elle, assure que si on lui tendait une baguette magique capable d’accomplir à sa place « ce travail monstrueusement difficile », elle la jetterait à la poubelle.
Annie Ernaux, prix Nobel de littérature, avait signé dès juin, avec cent cinquante personnalités, une tribune au titre sans appel : « Nous refusons le projet inhumain d’un dialogue ininterrompu avec les machines ».

Deux semaines avant l’affaire, une autre discipline avait connu la même secousse, presque sans écho dans les pages culture. Le 8 septembre, OpenAI annonçait qu’une dizaine de milliers d’agents avaient produit, en quatre-vingt-huit heures, une démonstration portant sur les équations de Navier-Stokes, l’un des sept problèmes du millénaire. La preuve est encore en cours de vérification.

Là aussi, les mathématiciens ont parlé.
Le 11 septembre, vingt-cinq lauréats de la médaille Fields rappelaient dans Le Monde que résoudre un problème ne constitue pas une fin en soi : la recherche mathématique, c’est aussi élaborer des idées, les discuter, les simplifier et les transmettre.
Quatre jours plus tard, la Société mathématique de France s’inquiétait d’une « course effrénée » aux résultats, qui « met en danger la culture mathématique collective » et, à terme, le savoir humain.
Cédric Villani, l’un des signataires de la tribune, confiait le 18 septembre au Monde : « J’ai été secoué. […] C’est un cataclysme comme jamais les maths n’en ont connu. »

Le même mois, la littérature et les mathématiques ont fait la même découverte : ce qu’elles tenaient pour le plus humain d’elles-mêmes peut être produit autrement, au point de supplanter parfois leurs meilleurs génies. Hier, une équation sur laquelle des générations de chercheurs avaient buté ; aujourd’hui, un roman qu’un jury a peut-être couronné sans y voir la machine ; demain, qui sait, une théorie unifiée de la physique. L’affaire dépasse donc de loin un prix littéraire. C’est l’ensemble de la production intellectuelle qui se trouve concerné, et rien n’indique qu’on puisse arrêter le mouvement. Plus encore, cette production se retrouve du jour au lendemain à la portée de tous : chacun peut s’improviser tour à tour juriste, programmeur, graphiste ou musicien, et cela sans la moindre maîtrise du domaine au départ.

Aussi, la réaction du monde littéraire et académique est légitime, et il faut la prendre au sérieux. Écrire un roman, construire une théorie, démontrer un théorème a longtemps été l’affaire d’un petit nombre. Le talent y comptait pour beaucoup. L’accès aussi : des études longues, des codes appris tôt, des institutions qui valident, et bien souvent le milieu d’où l’on vient. Cette rareté a fondé une valeur, une place, une tradition, parfois une autorité. La voir se dissoudre en quelques années revient à voir vaciller ce sur quoi une vie de travail s’est bâtie.
Pour bon nombre d’intellectuels, pourtant, il n’est pas question de défendre un privilège. Il s’agit de défendre l’intellect comme un territoire humain, attaqué de toutes parts par des modèles de langage de mieux en mieux affûtés.

Mais. Une question mérite d’être posée : ne se trompent-ils pas de combat ?

Je suis moi-même professeur de mathématiques. J’ai reçu la formation pour l’être, puis réussi le concours qui appose une reconnaissance académique sur mon expertise. C’est ce parcours qui définit ma valeur professionnelle : enseigner les mathématiques est une chose que je fais mieux que la plupart des gens, et c’est pour cela qu’on me paie. La question du remplacement s’impose à moi comme à beaucoup d’autres. Aujourd’hui, ChatGPT explique sans doute mieux que moi : il reformule sans se lasser, ne perd jamais patience, s’ajuste au niveau de chaque élève. Bientôt, des tuteurs numériques sauront reproduire presque tout ce que fait un enseignant. Pourtant, la question que je me pose n’est pas de savoir si je vais être remplacé. Ce que je me demande actuellement, c’est à quoi sert ce que je fais. Quand j’apprends à un élève à résoudre une équation, est-ce lui que je sers, en tant qu’être humain, ou le rôle qu’il jouera un jour dans la société ? Ce savoir lui apporte-t-il vraiment quelque chose, à lui personnellement, ou n’a-t-il de valeur que dans le modèle où il devra prendre place ? Et si demain nos métiers sont automatisés, ce qu’ils produisaient gardera-t-il un sens pour l’humain, ou ne servira-t-il plus qu’à faire tourner un système qui s’est détaché des hommes pour fonctionner seul ?

Yuval Noah Harari raconte une histoire voisine à propos du blé. La révolution agricole a multiplié les humains, nourri des villes, permis des royaumes. Elle n’a pas rendu le paysan plus heureux que le chasseur-cueilleur qu’il avait été : il travaillait davantage, mangeait moins varié, tombait plus souvent malade. L’espèce y a gagné ; l’individu, beaucoup moins. Harari y voit « la plus grande escroquerie de l’histoire », et décrit ce qu’il appelle le piège du luxe : ce qui commence comme un confort devient une nécessité, puis une obligation. La production intellectuelle suit peut-être la même pente. On l’acquiert parce qu’on nous a convaincus qu’on en aurait besoin, on la défend parce qu’elle a coûté cher, et une fois qu’on la possède, on s’aperçoit parfois qu’elle servait moins à vivre qu’à tenir sa place.

Le langage confond deux réalités qu’il faudrait distinguer : l’humain, et le système humain. Le premier naît, aime, souffre et meurt. Le second est la société qu’il a construite, avec ses institutions, ses marchés, ses classements et sa croissance. Ce qui sert le second ne sert pas forcément le premier. Réciproquement, le système humain pourrait bien ne pas survivre à ce qui sert véritablement l’humain. La production intellectuelle a servi le système avec une efficacité remarquable. Elle a aussi servi les humains, et il serait malhonnête de le nier : la médecine, les transports, un confort que nos arrière-grands-parents n’auraient pas imaginé. Mais si l’on dresse le bilan d’ensemble, en comptant ce que cette puissance a également épuisé, détruit ou accéléré, il n’est pas certain qu’elle ait d’abord servi ceux qui la produisaient. Et surtout, ne nous a-t-elle pas détournés de l’essentiel : vivre, simplement, plutôt que de s’acharner à trouver les moyens de mieux vivre ?

L’IA rend cette question inévitable. Tant que l’intelligence était rare, elle éblouissait, et l’éblouissement dispensait de lui demander des comptes. Une démonstration brillante ou un roman virtuose se justifiaient d’eux-mêmes. Lorsque l’intelligence devient abondante, l’éblouissement retombe, et reste la question qu’il masquait : à quoi sert-elle, et à qui ?

C’est sans doute sur ce terrain que le monde intellectuel est le plus attendu. Défendre un savoir-faire que les machines partagent désormais le conduit à une bataille de retardement. Choisir ce qui mérite d’être pensé, écrit, démontré, pour qui et pourquoi, reste en revanche une tâche entière, que personne n’est mieux placé que lui pour entreprendre. S’il ne le fait pas, d’autres le feront de toute façon à sa place. Car dans un monde où produire de l’intelligence ne coûtera plus rien, le sachant et l’ignorant se retrouveront à égalité devant la seule question qui compte : quelle humanité voulons-nous devenir ?

Pour répondre à cette question, devant laquelle nous serons tous rassemblés, il faudra sans doute descendre au plus profond de la nature humaine, et y chercher ce qui fait réellement sa singularité, ce qui ne peut pas être automatisé. L’IA nous apprend déjà une chose : cette singularité ne réside pas dans l’intelligence, si l’on entend par là la capacité à se représenter objectivement le réel et à en produire des récits qui lui sont fidèles. Cette compétence, qui prend appui sur le langage, est précisément celle où les algorithmes analytiques et l’inférence statistique semblent dépasser le cerveau humain, en étendue comme en précision. C’est donc peut-être du côté de la subjectivité qu’il faudra chercher. Dans le retour à l’expérience vécue, dans ce qu’elle nous apporte de plus que l’analyse brute et froide de la réalité. En somme, dans ce qui fait de chacun d’entre nous un « sujet », et que la machine ne sera probablement jamais.

Reste une dernière question : ce texte a-t-il été écrit par une IA ? Et si c’est le cas, cela retire-t-il quelque chose à l’humain qui le signe ?
Si la réponse est oui, le problème devient troublant : dans ce cas, c’est alors la machine qui parle, et qui invite l’humain à réfléchir à ce qu’il produit à travers elle.

Humanuscrit

Ce texte a été écrit avec Claude (Anthropic) : rédigé à partir des notes de Max Carrière, puis repris par lui au fil d’une quarantaine de versions.

Sources

© Humanuscrit