De nombreux experts du secteur technologique multiplient les mises en garde contre le risque de voir l’humanité perdre le contrôle de cette technologie stratégique. Dans le même temps, les tensions géopolitiques pèsent de plus en plus ouvertement sur la course mondiale à l’IA.
Le 16 septembre, le secrétaire général de l’ONU, Antonio Guterres, a appelé à une mobilisation internationale pour mettre en place des mécanismes de contrôle, de véritables «garde-fous», autour de l’intelligence artificielle. Cet appel intervient quelques jours seulement après que plusieurs dirigeants de grandes entreprises technologiques américaines ont eux-mêmes préconisé de ralentir le développement de l’IA, au motif que cette technologie pourrait finir par échapper au contrôle humain.
Une accélération qui inquiète
Dans une tribune publiée le 12 septembre, le directeur général d’Anthropic, Dario Amodei, a averti que le rythme actuel de développement pourrait permettre aux systèmes d’IA d’acquérir rapidement la capacité de mener des activités dangereuses sur Internet. Les principales entreprises du secteur devraient donc, selon lui, ralentir l’amélioration des capacités de leurs modèles tout en renforçant les dispositifs de sécurité. Le directeur général d’OpenAI, Sam Altman, le patron de xAI, Elon Musk, ainsi que plusieurs experts internationaux ont ensuite publiquement soutenu cet appel.
Ces prises de position témoignent de l’évolution profonde du débat sur la sécurité et les risques liés à l’IA au cours des deux dernières années. Longtemps cantonnées à des discussions théoriques sur des scénarios hypothétiques, ces questions sont désormais devenues un enjeu géopolitique concret et urgent.
Depuis la fin de 2025, les cyberattaques menées par des agents d’IA sont devenues de plus en plus sophistiquées. L’attaque de la base de données de Hugging Face, en juillet 2026, en a fourni une illustration particulièrement préoccupante. Les agents d’IA auraient alors mené de manière autonome une grande partie de l’opération, à une vitesse hors de portée des pirates informatiques humains.
Brad Carson, ancien membre de la Chambre des représentants des États-Unis et aujourd’hui président de l’organisation Americans for Responsible Innovation (ARI), nous expose les données du problème.
«Tout va aujourd’hui si vite que les chercheurs eux-mêmes sont effrayés par l’IA. C’est ce que nous avons vu ces deux ou trois dernières semaines. Ce sont précisément les personnes qui travaillent dans ces entreprises qui tirent la sonnette d’alarme. Les avertissements viennent de l’intérieur même du secteur. Ce qu’il développe pourrait avoir des conséquences catastrophiques. Je pense donc que nous devons prendre leurs inquiétudes très au sérieux», estime-t-il.
Au-delà de la vitesse de développement de l’IA, un autre facteur alimente les inquiétudes: le manque de contrôle exercé sur les grandes entreprises technologiques, qui investissent des milliards de dollars dans la course aux modèles d’IA les plus performants. C’est ce qui ressort des propos de Marta Ziosi, directrice adjointe chargée des technologies émergentes et des pratiques industrielles à l’Institut Ada Lovelace, au Royaume-Uni
«Ce qui m’inquiète aujourd’hui, et qui explique peut-être aussi les craintes liées au risque d’extinction de l’humanité, c’est que ces entreprises détiennent un pouvoir considérable sans faire réellement l’objet d’une surveillance ou être soumises à des garde-fous suffisants. Je pense que cela crée une sorte de ‘tempête parfaite’, avec plusieurs facteurs de risque qui se conjuguent», s’inquiète-t-elle.
Une course de plus en plus géopolitique
Les risques liés à l’IA justifieraient la mise en place d’un cadre de gouvernance mondial contraignant, soumis à une surveillance étroite et indépendante. Mais la question d’un éventuel ralentissement de l’IA ne relève plus seulement de considérations technologiques ou humanitaires. Elle s’inscrit désormais pleinement dans la rivalité géopolitique.
La semaine dernière, plusieurs hauts responsables américains, dont le président Donald Trump, ont rejeté les inquiétudes concernant les risques liés à l’IA, estimant que les États-Unis devaient avant tout préserver leur avance dans cette technologie stratégique.
En Chine aussi, les appels lancés par les dirigeants américains du secteur technologique en faveur d’un ralentissement sont accueillis avec réserve. Les experts et les médias chinois s’interrogent sur les motivations d’Anthropic et d’autres entreprises américaines, certains estimant que les grands groupes technologiques américains pourraient «exagérer» les scénarios apocalyptiques liés à l’IA afin de favoriser l’adoption de règles qui profiteraient aux acteurs déjà en tête et freineraient leurs concurrents étrangers.
Stuart Russell, président de l’Association internationale pour une IA sûre et éthique et professeur d’informatique à l’Université de Californie à Berkeley, partage en partie cette analyse. Il souligne que les risques liés à l’IA ne connaissent pas de frontières et juge «étrange» de considérer que l’IA développée par un pays serait intrinsèquement «meilleure» que celle développée par un autre.
«Du point de vue de la gouvernance, si nous sommes préoccupés par le risque d’extinction que pourraient représenter les systèmes d’IA, cette menace peut venir de n’importe où. Elle ne s’arrête évidemment pas aux frontières nationales. Nous avons donc besoin d’accords internationaux pour que chaque pays mette en place les mécanismes de contrôle nécessaires afin d’empêcher qu’un tel scénario ne se produise», propose-t-il.
Reste à savoir à quoi devrait ressembler un tel cadre juridique et quelle institution serait en mesure de l’élaborer. Les événements de 2025 et du début de 2026 ont en tout cas montré que la question n’était plus de savoir si l’IA allait redessiner l’ordre mondial, mais à quelle vitesse et surtout de savoir qui en fixerait les règles.
La compétition technologique s’inscrit désormais dans une rivalité géopolitique plus large entre grandes puissances, pour lesquelles la maîtrise de l’IA est appelée à jouer un rôle déterminant tant pour la sécurité nationale que pour leur puissance économique à long terme.
