La peste ou le choléra ? C’est, en somme, ce que l’on pourrait retenir du débat sur les dangers du développement de l’IA par les grandes puissances.

Tout en ayant le courage, il faut le reconnaître, d’être le seul géant de l’IA à contester la politique de Donald Trump en la matière, Dario Amodei adopte une position fortement ancrée dans l’idée d’une supériorité morale occidentale. Dans son essai L’adolescence de la technologie, il en fait la démonstration sans tergiverser, pointant la nécessité, pour “les nations démocratiques”, de garder une longueur d’avance sur “les régimes autoritaires” afin de ne pas être subjuguées par eux.

Sa position est connue de longue date : il est vital de retarder le développement des technologies chinoises en limitant notamment leur accès aux puces avancées et aux équipements nécessaires à leur fabrication. Objectif : profiter de ce délai pour préserver la supériorité américaine sur ses adversaires, au premier rang desquels, vous l’aurez compris, l’Empire du Milieu.

Pourquoi, dès lors, mécontente-t-il les autorités américaines ? Tout simplement en raison de son « désalignement« , pour reprendre un vocable de l’IA. Dario Amodei alerte sur les risques de basculement vers un État de surveillance autocratique. Selon lui, la Chine s’y est déjà engagée, et les démocraties occidentales pourraient suivre si un certain nombre de garde-fous ne sont pas posés.

Pas dupe, il juge lui-même « fondamentalement intenable » l’idée d’arrêter ou même de ralentir substantiellement les technologies IA. Mais certaines règles restent, à ses yeux, non négociables, notamment autoriser une IA à décider seule de tuer. Une affaire rappelant fortement la prolifération nucléaire. La bombe A a changé le monde en deux explosions. L’IA pourrait le faire en silence.