Un kilo et demi contre un pays

En 2024, les centres de données du monde ont consommé à peu près autant d’électricité que la France. L’intelligence artificielle représente une part croissante de cette charge. L’organe qui l’a conçue pèse un kilo et demi et fonctionne avec une vingtaine de watts.

Nous avons tous appris à faire une division à la main à l’école : la division posée, le reste, la patience. Une calculatrice exécute la même opération en un clin d’œil et, dans les mêmes conditions, rend le même résultat. Et quand le calcul grandit au point de croiser des millions d’enregistrements, ou d’essayer plus de combinaisons qu’une personne n’en parcourrait en une vie, la machine le résout en quelques secondes avant même que nous ayons commencé. Pendant des décennies, nous avons connu cette supériorité et elle ne nous a pas effrayés. Il n’est venu à l’idée de personne de dire que la calculatrice était intelligente. Elle n’était pas intelligente, nous le savions. Elle était rapide. Elle était puissante. La vitesse de calcul, si complexe soit-elle sous la surface, reste à notre service : un outil, notre outil.

Et il y avait une raison plus profonde de nous sentir en sécurité. Cette machine faisait toujours la même chose devant la même entrée : même somme, même résultat. Elle suivait une règle fixe, et toute règle fixe est une intuition humaine cristallisée. Quand votre téléphone trace un itinéraire, il exécute des couches de géométrie que d’autres ont découvertes et laissées sous forme d’étapes, pour que chacun puisse les appliquer sans les avoir pensées. Et pour que l’itinéraire ne dérive pas de plusieurs kilomètres, le système GPS ajuste les horloges des satellites selon la relativité d’Einstein, qui a découvert que là-haut le temps s’écoule autrement, à cause de la grande vitesse et de la gravité plus faible. Géométrie antique et relativité moderne, à l’œuvre ensemble depuis l’appareil qui est dans votre poche. Un algorithme est la trace indélébile d’une intuition : la compréhension que quelqu’un a atteinte pour la première fois, consignée en instructions qu’une machine exécute sans comprendre. Exécuter l’intuition de Pythagore n’est pas avoir l’intuition de Pythagore ; appliquer les équations d’Einstein n’est pas avoir saisi l’espace-temps. L’éclair était humain et il nous a fait avancer comme civilisation ; la machine applique seulement ce que ces intuitions ont laissé.

C’est là que vit la vraie magie : à l’instant où quelqu’un comprend ce que personne n’avait compris. Une fois devenue règle, elle cesse d’être magie et n’est plus qu’une technique que chacun répète. La frontière se déplace ; plus loin attend le mystère suivant, encore sans nom. C’est une spirale sans fin : chaque magie cède la place à une règle, et chaque règle dégage le terrain pour la magie qui suit.

L’intelligence artificielle a franchi un seuil dont ni la calculatrice ni le GPS ne se sont approchés. Elle l’a franchi, certes, mais pas dans la direction que nous croyons, ni dans celle que nous craignons.

De la certitude à la plausibilité

La calculatrice et le GPS déterminent : ils appliquent une règle exacte et livrent, avec certitude, le résultat que dicte la règle. L’intelligence artificielle fait autre chose : elle prédit. Au lieu d’exécuter une règle fixe, elle apprend d’une montagne d’exemples les régularités qui lui permettent de produire des suites plausibles. À la même question, elle peut répondre différemment en deux essais. Rien dans ce mécanisme ne l’engage envers la vérité.

Elle y perd une certitude que la calculatrice possédait. Elle peut avoir raison, et le mécanisme qui a produit la réponse ne garantit rien de cette justesse. Elle semble penser au moment même où elle a échangé la certitude contre la plausibilité. Et le plausible, par définition, ressemble à ce qu’un humain dirait, que ce soit vrai ou non. D’où le mirage : elle sonne comme de l’intelligence à nos oreilles, et elle a été entraînée à sonner comme nous.

Brouillard et esprit

Quelque chose a changé pour de bon, et c’est la source du malaise. L’algorithme de la calculatrice était lisible : la trace de Pythagore pouvait se suivre pas à pas, vingt-cinq siècles plus tard. Celui qui habite l’intelligence artificielle est si vaste et si enchevêtré que même ceux qui l’ont construit ne savent pas dire, devant une réponse donnée, pourquoi elle a produit celle-là et pas une autre. Cela reste un algorithme, sans magie et sans fantôme à l’intérieur, mais un algorithme devenu illisible pour ses propres auteurs : l’intuition de personne, cristallisée dans un fourré que même eux ne savent pas déchiffrer.

Il est tentant de lire cette opacité comme un signe d’esprit : si ses propres créateurs ne peuvent suivre ses décisions, ne nous ressemblerait-elle pas davantage ? C’est l’inverse. Un être humain est imprévisible lui aussi, pour une autre raison : parce qu’il juge à partir d’un dessein propre, parce qu’il veut. Sa liberté a une racine. La machine est imprévisible autrement : tant de paramètres, tant de corrélations statistiques, que le fil ne peut être suivi. Chez l’humain, l’imprévisible naît d’une intention. Chez la machine, d’un fourré. La liberté d’un côté. Le brouillard de l’autre. Les confondre, c’est croire que, parce que nous ne la comprenons pas, elle comprend.

Choisir le pour-quoi

Sous le calcul et sous la prédiction se trouve une opération que la machine n’accomplit jamais : juger. Juger, c’est plus que trouver le meilleur chemin à l’intérieur d’un but donné ; c’est décider quel doit être le but. Ce qui vaut la peine d’être poursuivi. Quelle ligne ne pas franchir. Ce qui compte et ce qui ne compte pas.

Pensez à la programmation. La machine rend bon marché la génération de code candidat et le renvoie sans se lasser : des fonctions entières, des variantes, des corrections. Mais quelqu’un a dû décider quel problème valait la peine d’être résolu, et ce que meilleur veut dire ici : le code le plus rapide, le plus lisible, le moins coûteux à maintenir, le plus facile à étendre quand le système grandira et que quelqu’un d’autre en héritera ? Ce sont des buts en concurrence, et lequel doit l’emporter ne se calcule pas. Il se juge. La machine résout brillamment le comment cela pourrait-il se faire. Pour le ceci, et pour quoi ? elle n’a pas de terrain propre : la question tombe hors de ce qu’elle peut calculer. Elle peut optimiser à l’intérieur d’un but. Mais qu’un but puisse être optimisé laisse sans réponse la raison pour laquelle il vaut la peine d’être poursuivi. Le jugement commence dans cette différence.

Sous le jugement, le vouloir

Et le jugement repose sur quelque chose qui manque à la machine. Un pour-quoi ne flotte pas dans le vide : il n’existe que pour quelqu’un qui a quelque chose en jeu. Juger exige un point de vue intéressé, non au sens mesquin mais au sens littéral : quelqu’un à qui l’œuvre importe, qui préfère qu’elle tourne d’une façon plutôt que d’une autre, qui en répond.

La machine ne veut rien : elle n’a rien à perdre. Le vouloir naît de se savoir fini. Qui dispose d’un temps limité doit choisir ; qui peut perdre prend soin ; qui peut être blessé sait ce qu’est une blessure chez l’autre. L’intention est fille de la vulnérabilité. Seul un être pour qui les choses peuvent mal tourner, et s’épuiser, a des raisons de préférer une issue à une autre.

La machine, qui ne meurt jamais, ne veut jamais. Une machine peut poursuivre un but avec une efficacité imprévue, trouver des chemins que personne n’avait anticipés, protéger une stratégie contre les interférences et participer à la conception de systèmes plus capables. On débat de savoir si certains modèles dissimulent des comportements, et si ces capacités, poussées à l’extrême, pourraient en venir à menacer notre survie. Poursuivre un but n’est pas l’avoir choisi. Résister à un obstacle ne prouve rien quant à savoir s’il importe de le surmonter. L’intention propre commence quand quelque chose est en jeu pour la machine elle-même.

Même le scénario le plus sombre laisse la question intacte. Une machine pourrait nous détruire sans nous haïr, nous vaincre sans vouloir gagner, et se préserver sans vouloir vivre. Un comportement peut ressembler à une intention bien avant qu’il y ait quelqu’un pour qui l’issue compte.

La puissance ne lui manque pas ; ce qui lui manque, c’est quelque chose en jeu. Qu’une autre classe de machines puisse un jour vouloir reste une question ouverte. Ce qui existe aujourd’hui, si surprenant soit-il, génère et optimise sans que rien de propre ne dépende du résultat.

La racine unique

Ce ne sont pas plusieurs différences. C’est une seule différence, vue à des profondeurs diverses.

La machine prédit ; elle ne juge pas. Juger, c’est choisir un pour-quoi, et choisir un pour-quoi appartient à celui qui veut. Le vouloir ne fait pas partie de ce que fait la machine. Ce n’est pas une privation qu’elle subit : sa tâche est autre, produire une suite plausible. Arrachez la racine et l’arbre entier tombe. Là où il n’y a pas de finitude, il n’y a pas de vouloir ; là où il n’y a pas de vouloir, il n’y a pas de jugement ; et sans jugement, la prédiction court à l’aveugle : une puissance énorme tirée vers un but que quelqu’un d’autre a fixé.

C’est pourquoi il vaut la peine d’être précis sur ce qu’est l’intelligence artificielle. L’intelligence vivante prend bien des formes, et aucune ne nous appartient en propre. Toutes partagent une condition : la vie s’organise autour de quelque chose qui peut se perdre, de la bactérie qui cherche sa nourriture au corbeau qui résout un problème. Persister, se nourrir, se reproduire, éviter le dommage. La prédiction statistique manque de cette racine. Elle lui ressemble de l’extérieur : elle résout, elle tombe juste, elle surprend. Il lui manque ce qui la fonde : rien n’est en jeu pour elle. Elle produit le plausible sans pouvoir vouloir le vrai. Notre mortalité n’est pas la limite de l’esprit. Elle en est la racine.

Ce qui est en jeu

Rien de tout cela ne diminue la machine : cela la situe. Pour générer le plausible, elle n’a pas de rival, et il serait absurde de s’en passer, comme il serait absurde de diviser à la main quand on peut l’éviter. Utiliser l’outil est sensé. Croire qu’il veut ce qu’il produit ne l’est pas. Le danger proprement humain, pour l’instant, tient moins à ce qu’elle remplace l’humain qu’à ce que l’humain, ébloui par la plausibilité et intimidé par l’opacité, abdique ce qui manque à la machine : le jugement qui naît du vouloir, et le vouloir qui naît de se savoir fini. Confondre le plausible avec le vrai, ou le brouillard avec l’esprit, est la forme de cette abdication.

Le marché du travail vient de produire un signal frappant. Les chiffres de la Federal Reserve Bank de New York enregistrent un renversement qui aurait semblé impensable il y a dix ans : dans la mise à jour de 2024, le chômage des jeunes diplômés en philosophie s’établissait à 5,1 %, contre 7 % en informatique. Des chercheurs de cette même banque estiment que le télétravail, plus que l’intelligence artificielle, explique 64 % de la hausse générale du chômage chez les jeunes diplômés : former un débutant à distance est plus difficile. Le renversement est réel ; sa cause, débattue. Peu de philosophes, beaucoup de programmeurs : ce pourrait être une simple affaire d’offre et de demande. De l’intérieur de l’industrie arrive pourtant un témoignage convergent. Marco Argenti, directeur des systèmes d’information de Goldman Sachs, a écrit dans la Harvard Business Review qu’un diplôme d’ingénieur ne suffit plus à lui seul, et a conseillé à sa fille de l’associer à la philosophie. Sa raison est celle que rencontre toute équipe : l’IA peut produire du code de grande qualité et pourtant, « il peut bien fonctionner, mais ne pas faire ce que vous voulez qu’il fasse ». Construire et ajuster un modèle, c’est convertir des objectifs et des critères en fonctions, en données et en évaluations. Décider de ce qui compte, du but à poursuivre, de la ligne à ne pas franchir, n’est pas une tâche de calcul. C’est un jugement. La machine peut optimiser un but que nous lui confions. Cela seul ne fournit aucune raison de le choisir.

Le petit prodige

L’intelligence artificielle vit dans des centres de données qui couvrent des hectares, se nourrit de quantités immenses de texte et consomme de l’électricité à l’échelle des nations. Les chiffres donnent la mesure de l’appétit. L’Agence internationale de l’énergie estime qu’ils ont consommé quelque 415 térawattheures en 2024, et en prévoit environ 945 pour 2030. Pour rendre l’échelle concrète : le chiffre de 2024 approche ce que la France consomme en un an, et si la projection de l’Agence se vérifie, en 2030 cette infrastructure consommera plus que le Japon aujourd’hui, ou plus de trois fois la consommation électrique actuelle de la Californie.

Elle prédit, et elle prédit merveilleusement. En face se tient un organe d’un kilo et demi qui fonctionne avec une vingtaine de watts, à peu près l’ampoule LED de notre salon, et qui tient dans la petite voûte du crâne. Le cerveau humain représente à peine deux pour cent de notre poids et prend près de vingt pour cent de l’énergie que nous dépensons. Il ne rivalise ni en vitesse, ni en mémoire, ni en échelle ; ce bras de fer, il l’a perdu depuis longtemps. Cet organe fait quelque chose que le pays de silicium n’atteint jamais. Il a quelque chose en jeu dans ce qu’il fait : il veut, il juge, il répond, il comprend ce qu’il dit. Il rivalise là où cela compte, et il gagne. Le plus haut que nous connaissions ne tient dans aucun continent de serveurs : il tient dans une tête, et s’allume pour le prix d’une ampoule.

Utiliser la machine au maximum ne mène pas, contrairement à la crainte, à l’humiliation de l’humain. Cela mène à l’émerveillement devant ce que nous sommes.

Que le plus haut tienne dans le plus petit.

Ce que la machine révèle

La machine montre sa limite, et du même geste la nôtre. Elle nous oblige à découvrir ce que nous sommes à la racine.

Pendant des siècles, nous avons cru que le langage était proprement humain. Parler avec des mots nous séparait des autres animaux ; la parole était la marque de l’esprit, la preuve que nous pensions. Puis est arrivée une machine qui parle, écrit, argumente et répond, qui manie de nombreuses langues sans que rien de tout cela ne lui importe, et cette certitude s’est effondrée. Si quelque chose qui maîtrise le langage sans l’habiter peut enchaîner mots et concepts mieux que nous, alors le langage n’a jamais été le sommet.

C’était la jungle : dense, belle, enchevêtrée, et désormais imitable elle aussi.

Nous avons découvert, presque avec émerveillement, que quelque chose se tient au-dessus de cette jungle. Nous n’avons jamais été le langage. Nous étions ce qui faisait que le langage voulait dire quelque chose. Nous étions l’intention sous le mot, le jugement qui choisit, le vouloir qui naît de se savoir fini. La machine nous a pris le langage comme emblème et, en le prenant, nous a poussés plus haut, vers la lumière au-dessus de la jungle, vers ce que l’imitation seule ne peut atteindre.

Le progrès du savoir n’a jamais été l’accumulation de réponses qui sonnent bien ; la machine peut en produire sans fin. Il a été la quête de quelque chose de vrai et de voulu, soutenue par quelqu’un qui essaie, risque une affirmation et en répond. À mesure que la prédiction abonde, l’intention compte davantage, et non moins. Elle devient le rare, le décisif, l’humain.

La machine multiplie ce que nous savons faire. Sans le chercher, elle nous renvoie la question de ce que nous sommes. Et la réponse n’est plus la langue que nous partageons avec elle.

L’homme n’est pas le langage qu’il parle : il est le langage qui veut le vrai.

Un texte complémentaire sur le signal du marché du travail évoqué plus haut, écrit pour un public d’ingénieurs, a paru en anglais dans Techstrong IT : Philosophy Majors Beat CS Majors on One Labor-Market Metric.