Chaque débat sur la pause du développement de l’IA

Create an account to save your favorites

With a free account, this article will be saved to your favorites, and the reading history kept in this browser will be preserved.

Already have an account? Log in

Log in to save your favorites

New here? Create an account

acx
Mar 25, 2026 1,207 words 407 likes Read today Read Opened today Opened

Un dialogue satirique qui montre comment les opposants aux propositions de moratoire sur le développement de l’IA ignorent souvent que leurs partisans appellent explicitement à conclure des accords bilatéraux avec la Chine, et non à instaurer des moratoires unilatéraux.

Listen · 8 min
Add to a reading list

Reading lists are hand-picked posts you can share with a link, like where to start with Scott Alexander for a friend.

New reading list with this post
768 comments Original

PARTISAN : Les États-Unis doivent commencer à discuter avec la Chine pour parvenir à un accord bilatéral instaurant un moratoire sur le développement de l’IA. Cet accord devrait être transparent, son respect devrait pouvoir être assuré de part et d’autre, et…

OPPOSANT : On ne peut pas décréter un moratoire unilatéral sur le développement de l’IA ! La Chine nous détruirait !

PARTISAN : Comme je l’ai dit, on doit commencer à négocier un accord bilatéral pour que les deux parties…

OPPOSANT : Espèce d’imbécile ! Vous ne vous rendez pas compte que, pendant qu’on suspendra unilatéralement le développement de l’IA, la Chine foncera et profitera de son avance pour saper nos droits et libertés fondamentaux ? Comment pouvez-vous être aussi naïf !

PARTISAN : Écoutez, je vous assure qu’il s’agit de négocier un moratoire réciproque. On ne pense pas plus que vous qu’un moratoire unilatéral fonctionnerait. Mais on pense que si on négocie…

OPPOSANT : Et pendant qu’on suspendra unilatéralement le développement de l’IA, vous croyez que la Chine va se tourner les pouces et ne rien faire ? Bien sûr que non ! C’est livrer l’avenir à nos rivaux !

PARTISAN : J’ai l’impression que vous ne m’écoutez pas.

OPPOSANT : Tout comme la Chine ne nous écoutera pas quand on lui demandera gentiment de ne pas nous détruire avec l’IA avancée qu’elle aura développée pendant que nous, on aura décrété un moratoire unilatéral comme des pigeons !

PARTISAN : Bon, reprenons depuis le début. Votre problème, c’est que vous ne pensez pas que la Chine accepterait un moratoire lors de négociations ? Parce qu’on a déjà eu des échanges assez fructueux, à petite échelle, avec des scientifiques chinois. Et la Chine est en train de perdre la course, donc elle a encore plus intérêt que nous à faire une pause. Xi a exprimé certaines inquiétudes quant aux risques de l’IA et à l’importance de l’alignement des IA : rien de très ferme, mais c’est déjà plus que ce qu’a fait notre gouvernement. On est d’accord, il n’est pas évident que la Chine accepterait un moratoire, mais on pense qu’il faut mettre la proposition sur la table et peut-être travailler à un cadre préliminaire qui nous permettrait d’instaurer un moratoire plus tard, si on recevait un coup de semonce et que nos deux gouvernements devenaient plus réceptifs.

OPPOSANT : Non, mon problème, c’est que vous voulez décréter un moratoire unilatéral pendant que la Chine fonce ! Ça frôle dangereusement la trahison !

PARTISAN : Ou alors, votre problème, c’est que vous ne faites pas confiance à la Chine pour respecter un accord une fois signé ? Parce qu’on est d’accord : un accord doit être transparent pour les deux parties, et son respect doit pouvoir être assuré de part et d’autre. On a quelques idées pour surveiller les centres de données chinois selon une approche peu intrusive — bien sûr, la Chine pourrait surveiller les nôtres de la même façon — et, en fait, les calculs tiennent globalement la route. On pense que ce serait moins intrusif que d’autres dispositifs qui ont fonctionné par le passé, comme la vérification nucléaire.

OPPOSANT : Vous croyez bêtement que si les États-Unis décrétaient un moratoire, tout irait bien. Mais votre plan utopique haut-moderniste a une faille : nos ennemis, eux, ne feront pas de pause !

PARTISAN : Ou alors, votre problème, c’est que vous pensez que l’IA apportera beaucoup de bienfaits et qu’il serait donc idiot de faire une pause ? Je suis d’accord que les bienfaits de l’IA seraient considérables, et je pense qu’on pourrait chercher à les maximiser même pendant un moratoire. Par exemple, on pourrait, avec la Chine, mettre en place les infrastructures nécessaires à un moratoire, définir ensemble une ligne rouge qui déclencherait ce moratoire, puis fixer des lignes vertes précisant quels dispositifs de contrôle devraient être en place avant de lever progressivement le moratoire et de continuer à avancer. Il ne s’agirait pas tant d’arrêter complètement les progrès de l’IA que de tenter de les poursuivre sous surveillance, avec la participation du gouvernement américain, du gouvernement chinois et de la communauté scientifique. Je sais qu’il est raisonnable de craindre qu’une telle stratégie graduelle ne dérive vers une approche luddite plus extrémiste, mais on pourrait prendre des mesures pour réduire ce risque.

OPPOSANT : J’ai l’impression que vous ne m’écoutez pas du tout ! Le problème, c’est que pendant que vous gambadez dans votre petit monde de hippies fleuris et de moratoires unilatéraux, la Chine fonce vers la victoire !

PARTISAN : Ou alors, votre problème, c’est que vous vous inquiétez des conséquences économiques qu’aurait la suppression des agents conversationnels existants ? Parce qu’un moratoire voudrait simplement dire que la Chine et nous ralentirions l’entraînement de nouvelles IA. L’inférence — faire fonctionner les types d’IA que les gens utilisent aujourd’hui — pourrait se poursuivre comme prévu dans les deux pays.

OPPOSANT : Mais la Chine, alors ? Pendant qu’on suspendrait l’entraînement, elle entraînerait ses IA plus vite que jamais !

PARTISAN : Vous commencez à m’exaspérer. Il y a beaucoup de raisons de s’inquiéter d’un moratoire sur le développement de l’IA, à commencer par la possibilité que la Chine refuse de l’accepter ou qu’elle l’accepte, puis fasse secrètement défection en essayant de contourner l’accord. J’ai très envie de débattre de ces inquiétudes avec vous. Mais on dirait qu’on n’arrive pas à dépasser le stade où vous affirmez que je veux un moratoire unilatéral, ce qui est tout simplement faux. Presque personne ne veut d’un moratoire unilatéral ! Pause AI, le plus grand groupe militant dans ce domaine, déclare :

Nous demandons avant tout un moratoire international sur le développement de l’IA, imposé par un traité… un tel traité doit aussi être signé par la Chine.

Eliezer Yudkowsky, le plus célèbre partisan d’un moratoire sur le développement de l’IA, écrit dans son livre que :

« Le but n’est pas que votre pays cesse unilatéralement ses recherches sur l’IA et se laisse distancer. Le but est qu’un nombre suffisant de grandes puissances se déclarent prêtes à mettre fin, partout dans le monde, à cette course suicidaire, afin que votre pays ne soit pas désavantagé si vous acceptez de cesser de gravir l’échelle de l’escalade de l’IA. »

David Krueger, principal intervenant lors de la récente vague de manifestations en faveur d’un moratoire sur le développement de l’IA, a déclaré :

« C’est en fait assez simple : [D’abord,] les dirigeants des entreprises acceptent un moratoire conditionnel, [puis] les États-Unis et la Chine acceptent un moratoire conditionnel, [puis] un moratoire international. Remarquez qu’aucune de ces étapes ne prévoit que “les États-Unis décrètent un moratoire unilatéral”. »

… et a ajouté : « Je me concentre sur les États-Unis [parce que] la Chine s’est montrée plus intéressée par un ralentissement et par la réglementation. » Si vous pensez que quelqu’un réclame un moratoire unilatéral, je pense que vous avez la responsabilité de dire de qui vous parlez. Si vous trouvez vraiment quelqu’un qui défend cette position, je le critiquerai aussi sévèrement que vous le faites.

OPPOSANT : Vous croyez que c’est vous qui commencez à vous exaspérer ? Je ne vous vois pas répondre à mon argument principal : si on instaure un moratoire unilatéral comme vous le proposez, la Chine nous battra, on perdra toutes nos libertés et on devra apprendre le chinois et tracer mille caractères tout biscornus chaque fois qu’on voudra communiquer ! Et tout ça parce que vous étiez trop bête pour comprendre que, dans une course, ça n’a aucun sens qu’un seul des concurrents fasse une pause en espérant que tout ira bien !

PARTISAN : Laissez tomber. Ce débat est terminé.

OPPOSANT : Vous voyez, c’est bien votre genre de décider unilatéralement que ce débat est terminé ! Vous ne comprenez pas que même si vous voulez mettre le débat en pause, moi, je peux continuer à parler ! C’est exactement ce que j’attendais d’un imbécile crédule qui veut laisser la Chine gagner la course à l’IA en décrétant un moratoire unilatéral ! Ce que vous ne comprenez pas, c’est que pendant qu’on fera une pause, le président Xi va… va… (*d’une voix faible, à peine audible*) Hé, qui a coupé mon micro ?

If you enjoy this fan website, you can support us over here. Thanks a lot!
Share this article

Did I buy another domain name just to have shorter sharing urls? I sure did! Enjoy.

(If you're posting on a public page, consider using the full URL to prevent link rot. I plan on running this website for many many years, but it too shall pass.)

Send this article to your Kindle or e-reader

We'll email you this article as an EPUB attachment, ready to open on your Kindle, Kobo, or any other e-reader.

To send to your Kindle, just use this link.

Enter your Send-to-Kindle email (it looks like [email protected]) below. For Amazon to accept the file, you first need to add our sender address to your approved list:

[email protected]

Open Amazon approved emails settings

On that page, open "Personal Document Settings", then add the address above under "Approved Personal Document E-mail List".

If your Kindle is linked to a non-US Amazon account, change the link's domain to match your country (for example amazon.fr or amazon.co.uk instead of amazon.com).

Email address