On parle beaucoup d’aligner l’intelligence artificielle. Le mot vient des laboratoires. Il désigne un problème réel : faire en sorte qu’une machine poursuive les objectifs qu’on lui donne, et pas d’autres.

Mais la question n’est presque jamais posée en entier. On se demande comment aligner. On se demande rarement sur quoi.

Sur les objectifs de ceux qui la conçoivent ? De ceux qui la financent ? D’une économie qui a besoin de croître pour ne pas s’effondrer ? Une IA parfaitement alignée sur de mauvais objectifs n’est pas une réussite technique. C’est une question politique tranchée dans le mauvais sens.

Or cette question reste ouverte. Ceux qui construisent ces machines le reconnaissent eux-mêmes : ils ne savent pas entièrement ce qu’ils construisent, ni jusqu’où cela ira. Tant que la direction n’est pas fixée, elle peut encore être discutée. Voici quelques propositions pour qu’elle le soit.

Débattre des objectifs

Les objectifs donnés aux intelligences artificielles ne devraient pas être fixés par les seules entreprises qui les conçoivent. Une technologie capable de transformer l’éducation, le travail, la santé et l’information concerne tout le monde. Ce qu’elle doit servir, ce qu’elle doit refuser, ce qu’elle doit privilégier quand deux valeurs s’opposent, comme la liberté et la sécurité : ce sont des choix de société. Ils méritent d’être débattus publiquement, comme on débat d’une constitution, et non tranchés dans un comité interne.

Rendre les valeurs lisibles

Toute IA porte des valeurs. Elles sont inscrites dans les données qui l’ont formée, dans les règles qu’on lui a fixées, dans ce qu’on lui a appris à accepter ou à refuser. Ces valeurs devraient être rendues lisibles : écrites, publiées, compréhensibles par quelqu’un qui n’est pas ingénieur. On ne peut pas discuter un choix qu’on ne voit pas. Une machine qui influence chaque jour des millions de décisions ne devrait pas avoir de principes secrets.

Des modèles communs

À côté des modèles privés, il devrait exister des modèles publics ou communs : financés collectivement, gouvernés de façon transparente, accessibles à tous. Non pour remplacer les entreprises, mais pour qu’elles ne soient pas seules. Nous n’avons pas confié les routes, les bibliothèques ou la recherche fondamentale au seul marché. Une infrastructure de la pensée mérite au moins la même attention.

Apprendre à choisir

L’école prépare encore largement à ce que la machine sait déjà faire : retenir, calculer, rédiger, résumer. Elle devrait préparer à ce que la machine ne peut pas faire à notre place : choisir. Choisir les questions qui valent d’être posées. Choisir les problèmes qui valent d’être résolus. Choisir les histoires qui valent d’être racontées. Quand la puissance devient accessible à tous, ce qui distingue un être humain n’est plus ce qu’il sait faire, mais ce qu’il décide de faire.

Du comment au pourquoi

Depuis deux siècles, notre civilisation s’est développée presque entièrement sur son versant technique. Nous avons appris à produire plus, plus vite, plus loin. Nous avons répondu, avec une efficacité inouïe, à la question du comment. Nous avons beaucoup moins travaillé celle du pourquoi.

Ce déséquilibre restait supportable tant que la technique progressait lentement. Il ne l’est plus. Une intelligence artificielle peut désormais résoudre des problèmes que nous ne savons même pas formuler. La puissance n’est plus ce qui nous manque. Ce qui nous manque, c’est de savoir à quoi l’employer.

Il devient donc urgent de déplacer l’effort de notre civilisation de son versant technique vers son versant philosophique. Non pour renoncer à la technique, mais pour la remettre à sa place : celle d’un moyen. Se demander ce qu’est une vie bonne, ce que nous devons aux autres et au vivant, ce qui mérite d’être préservé et ce qui peut être abandonné. Ces questions ne sont pas un luxe réservé aux philosophes. Elles sont devenues la condition pour que la puissance que nous avons créée ne décide pas à notre place.

Deux chemins

L’intelligence artificielle ouvre aujourd’hui deux possibilités.

La première consiste à poursuivre dans la même direction, en accélérant. Produire davantage, consommer davantage, automatiser tout ce qui peut l’être.

Cette direction, nous la connaissons déjà. Le système qui organise nos sociétés, le capitalisme, repose sur une croissance sans fin. Or une civilisation qui doit croître sans fin dans un monde fini épuise tôt ou tard ce dont elle dépend. Ce n’est pas une prophétie : c’est une conséquence logique. Les signes en sont déjà tangibles : réchauffement climatique, creusement des inégalités, tensions géopolitiques.

Avec l’IA, continuer dans cette direction, c’est monter dans un train lancé contre un mur, qui accélère de façon exponentielle et où bientôt plus personne ne tiendra les commandes. Passé un certain seuil, aucun retour en arrière ne sera possible.

Sur ce chemin, l’effondrement n’est pas un risque. C’est le terminus.

La seconde consiste à saisir une occasion qui ne s’est peut-être jamais présentée. Pour la première fois, la puissance qui façonne le monde échappe en partie à ceux qui l’ont conçue. Ceux qui se trouvent aujourd’hui au sommet ne seront peut-être pas, cette fois, en mesure d’imposer seuls la direction. La question « sur quoi aligner ? » ne leur appartient donc plus tout à fait. Elle peut revenir à tous.

Rien ne garantit que nous saurons saisir cette occasion. Les propositions qui précèdent ne sont qu’une manière de commencer. Mais le choix entre ces deux chemins, lui, ne peut être délégué. Ni aux entreprises, ni aux États, ni aux machines.

© Humanuscrit