Présentation d’AI 2027

En 2021, un chercheur nommé Daniel Kokotajlo a publié un billet de blog intitulé « What 2026 Looks Like », dans lequel il exposait ce qui, selon lui, allait se passer dans le domaine de l’IA au cours des cinq années suivantes.

Le monde prend un malin plaisir à déjouer les prédictions des prophètes en herbe. L’océan des possibles est trop vaste pour que quiconque puisse vraiment en tracer la carte. Au mieux, nous esquissons vaguement les grandes catégories de résultats possibles, puis prions ceux qui nous écoutent de nous pardonner les surprises inévitables. Daniel savait tout cela et s’y était résigné. Mais même lui ne s’attendait pas à ce qui s’est passé ensuite.

Il a eu raison sur toute la ligne.

Bon, pas littéralement sur toute la ligne. Les États-Unis ont restreint les exportations de puces vers la Chine fin 2022, pas mi-2024. L’IA a battu des humains à Diplomacy pour la première fois fin 2022, pas en 2025. La montée de la propagande générée par l’IA ne s’est pas produite. Et, bien sûr, il reste à voir ce qui se passera entre mi-2025 et 2026. Mais pour mettre ces erreurs en perspective, Daniel a écrit son document deux ans avant l’existence de ChatGPT. Personne, à part les chercheurs et quelques passionnés, n’avait jamais parlé à une IA. En fait, « parler » à une IA était impropre. Il n’y avait aucun moyen de lui faire poursuivre la conversation : elle associait librement des idées à partir de votre instruction, la transformant parfois en une nouvelle tenant en un seul paragraphe. En mettant le paquet, on pouvait amener une IA à additionner des nombres à un chiffre et à donner la bonne réponse plus de 50 % du temps. Pourtant, si vous lisiez le billet de Daniel sans vérifier sa date de publication, on ne vous en voudrait pas de croire qu’il s’agit d’un récit un peu confus, mais globalement plausible, des quatre dernières années.

Je n’ai pas été le seul à le remarquer. Un an plus tard, OpenAI a recruté Daniel dans son équipe chargée des politiques publiques. Tant qu’il travaillait pour eux, il ne pouvait guère faire de spéculations en public. « What 2026 Looks Like » promettait une suite sur 2027 et les années suivantes, mais elle n’a jamais vu le jour.

Pas de chance pour Sam Altman, mais heureusement pour nous, Daniel a rompu avec OpenAI mi-2024, lors d’une séparation spectaculaire dont ont parlé the New York Times et d’autres médias. Il a fondé l’AI Futures Project pour produire la suite promise, avec notamment :

• Eli Lifland, un superprévisionniste classé premier dans l’initiative de prévision de la RAND. Vous pouvez en apprendre davantage sur lui et son équipe de prévision ici. Il a cofondé AI Digest, qu’il conseille, et cocréé TextAttack, un framework d’attaques adversariales contre les modèles de langage.
• Jonas Vollmer, investisseur en capital-risque chez Macroscopic Ventures, qui a pratiqué avec succès sa propre forme, plus concrète, de prévision de l’IA : la société a investi très tôt dans Anthropic, aujourd’hui valorisée à 60 milliards de dollars.
• Thomas Larsen, ancien directeur exécutif du Center for AI Policy, une organisation qui conseille des responsables politiques des deux grands partis.
• Romeo Dean, l’un des responsables de l’AI Safety Student Team de Harvard et expert en devenir du matériel informatique pour l’IA.

… et moi ! Depuis octobre, je travaille bénévolement à temps partiel pour le projet, en m’occupant un peu de la rédaction et de la communication. Je ne peux pas m’attribuer le mérite de la prévision elle-même — ni même l’essentiel du travail de rédaction et de communication —, mais cela a été un immense privilège de travailler aux côtés de certaines des personnes les plus intelligentes et les plus rigoureuses sur le plan épistémique que je connaisse, en essayant de m’imprégner de leur vision du monde assez profondément pour lui rendre justice. Nous ne nous attendons pas à avoir autant de chance que la dernière fois, mais nous pensons tout de même apporter une contribution utile au débat.

En résumé : nous pensons que les agents IA s’amélioreront progressivement en 2025 et 2026. En 2027, les agents de codage seront enfin assez performants pour accélérer sensiblement la recherche et le développement en IA, provoquant une explosion d’intelligence qui dépassera le niveau humain vers le milieu de l’année 2027 et atteindra la superintelligence début 2028. Le gouvernement américain prend conscience de la situation début 2027, peut-être après avoir entrevu que l’IA pourrait lui donner un avantage stratégique décisif en matière de cyberguerre, et commence à attirer les entreprises d’IA dans son orbite — sans les nationaliser complètement, mais en les poussant vers une relation qui ressemble davantage à celle qu’il entretient avec ses fournisseurs militaires. La Chine prend conscience de la situation à peu près au même moment, vole les poids du modèle d’IA américain le plus avancé et maintient une quasi-parité. Une course aux armements s’engage, qui incite les deux pays à rogner sur la sûreté et à viser l’automatisation complète malgré les objections du public ; tout cela va à une vitesse folle et la majeure partie de l’économie est automatisée vers 2029. Si l’IA est désalignée, elle pourrait se retourner contre les humains dès 2030 (c’est-à-dire après avoir automatisé une part suffisante de l’économie pour survivre sans nous). Si elle est alignée avec succès, alors, par défaut, le pouvoir se concentre entre les mains de quelques dizaines d’oligarques de la tech et de membres de l’exécutif américain ; ce groupe est trop divisé pour imposer une dictature écrasante, mais on pourrait tout de même qualifier assez justement son règne de technoféodalisme. L’humanité commence à coloniser l’espace à la toute fin des années 2020 / au début des années 2030.

Pensons-nous vraiment que les choses iront aussi vite ? Pas tout à fait : entre le début du projet l’été dernier et aujourd’hui, la date médiane prévue par Daniel pour l’explosion d’intelligence est passée de 2027 à 2028. Nous gardons le scénario centré sur 2027 parce que cela reste sa prévision modale (et parce que ce serait pénible de tout changer). D’autres membres de l’équipe (dont moi) situent leur prévision médiane plus tard, à la fin des années 2020 ou au début des années 2030, et pensent aussi que l’automatisation progressera plus lentement. Voyez-y donc peut-être une idée de ce à quoi ressemblerait un scénario rapide situé au 80e percentile : ce n’est pas exactement notre prévision médiane, mais ce n’est pas non plus une possibilité que nous estimions pouvoir écarter sans risque.

Mais même si les choses ne vont pas aussi vite (ou si elles vont plus vite — autre possibilité que nous n’écartons pas !), nous sommes aussi ravis de pouvoir présenter un scénario concret, tout simplement. Nous ne sommes pas les premiers à le faire — il y a eu avant nous, entre autres, L Rudolf L et Josh C — mais nous pensons avoir franchi un cap quant au niveau de détail et à notre capacité à fournir des preuves à l’appui (voir la rubrique Recherche en haut de la page pour notre modèle et nos justifications). Nous espérons que cela rendra plausible notre horizon de trois à cinq ans, ou, à défaut, que les gens commenceront à expliquer précisément pourquoi ils ne sont pas d’accord.

Dwarkesh Patel a eu la gentillesse de nous inviter, Daniel et moi, dans son podcast (sponsorisé par Jane Street, qui sponsorisait aussi SSC il y a bien des années !) pour présenter et expliquer le scénario. Je ne participe généralement pas à des podcasts, et j’ai peur d’avoir été un peu la cinquième roue du carrosse dans celui-ci, mais j’espère que ma célébrité incitera les gens à écouter ce que dit Daniel. Imaginez « Un expert de l’aide internationale discute de la famine en Éthiopie avec un acteur hollywoodien que le sujet préoccupe », avec moi dans le rôle de l’acteur, et vous ne serez pas déçus.

Mais sérieusement, les échanges entre Daniel et Dwarkesh sont excellents et devraient répondre à toutes vos objections, et même à celles auxquelles vous n’aviez pas pensé. Prenez une gorgée de votre verre chaque fois que Dwarkesh pose une question sur les goulets d’étranglement ; buvez un shot chaque fois que Daniel répond que son modèle en tient déjà compte et que, sans eux, les choses iraient encore plus vite.

Vous pouvez lire le scénario complet ici — et si vous avez des questions, ne manquez pas la FAQ et les documents complémentaires. Je vous laisse le temps de vous faire votre propre opinion, puis j’écrirai davantage sur ce que j’en retiens personnellement demain ou la semaine prochaine.