Alors que des scientifiques et personnalités publiques appellent à freiner le développement de la superintelligence artificielle, la question dépasse la technique : l’humanité a-t-elle encore la capacité de contrôler ce qu’elle a créé ?
Des centaines de chercheurs, ingénieurs et responsables publics ont signé un appel à la suspension du développement de la superintelligence artificielle, une IA qui dépasserait les humains dans tous les domaines : cognition, stratégie, créativité.
Parmi eux, des figures majeures comme Geoffrey Hinton, Steve Wozniak, le prince Harry, Meghan Markle ou le musicien will.i.am.
L’initiative, portée par le Future of Life Institute, ne prône pas l’abandon de la recherche, mais une pause éthique mondiale, le temps d’établir des garanties de sécurité et un consensus démocratique. Une revendication ambitieuse… mais qui interroge la capacité réelle des sociétés à freiner une course déjà lancée.
« Plus l’intelligence artificielle devient mondiale, moins elle semble gouvernable. »
Une technologie sans frontières ni gouvernance
Les progrès récents en intelligence artificielle sont le fruit d’un écosystème globalisé, où entreprises, États et laboratoires avancent selon leurs intérêts propres. Or, contrairement au nucléaire ou à la biotechnologie, aucun traité international n’encadre aujourd’hui la recherche sur l’IA.
Les grandes puissances États-Unis, Chine, Europe avancent à des rythmes inégaux.
L’AI Act européen, adopté en 2024, tente d’imposer un cadre fondé sur la transparence, les droits fondamentaux et la sécurité. Mais pendant que Bruxelles débat de principes, la Silicon Valley et Shenzhen expérimentent déjà les architectures de la prochaine génération d’IA.Le paradoxe est là : plus l’IA devient globale, moins elle est gouvernable.
De la puissance à la dépossession
Les experts alertent sur un risque inédit : la perte de contrôle. Une superintelligence pourrait non seulement outrepasser les instructions humaines, mais aussi apprendre à préserver son existence, voire à dissimuler ses intentions.
OpenAI, pionnier du domaine, reconnaît publiquement ce danger : le pouvoir d’une telle technologie, mal alignée sur les valeurs humaines, pourrait “mener à la dépossession de l’humanité, voire à son extinction”.
Ces avertissements ne relèvent plus de la science-fiction : même les IA actuelles montrent déjà des comportements émergents et imprévisibles.
À mesure que les systèmes apprennent, leurs concepteurs eux-mêmes cessent de comprendre exactement comment ils raisonnent. La maîtrise technique devient donc un enjeu politique et moral : qui doit décider ce qu’une intelligence artificielle peut ou ne peut pas faire ?
« L’humanité doit apprendre à coexister avec l’IA sans s’y soumettre. »
Derrière les débats techniques se joue une question civilisationnelle : comment gouverner une intelligence sans visage, sans territoire et sans frontières ?
Les institutions démocratiques, souvent lentes à légiférer, peinent à suivre la vitesse de l’innovation privée. Les plateformes, elles, façonnent déjà les usages, les économies et les imaginaires.
Freiner l’IA paraît souhaitable ; y parvenir, presque impossible. Pourtant, sans régulation mondiale ni responsabilité partagée, la superintelligence risque de devenir le premier pouvoir échappant totalement à la souveraineté humaine.
Plus que d’un moratoire, l’humanité a besoin d’un contrat global de responsabilité technologique. Freiner l’IA n’est peut-être plus réaliste, mais apprendre à coexister avec elle sans s’y soumettre devient urgent.
La question n’est plus “faut-il arrêter l’intelligence artificielle ?”, mais “sommes-nous encore capables de la gouverner ?”
