Technomedia

Après des années de course effrénée, les patrons des plus puissantes entreprises d’intelligence artificielle appellent désormais à ralentir. Entre incidents inquiétants, usages malveillants et craintes d’une IA toujours plus autonome, faut-il vraiment céder à la peur ou simplement imposer enfin de solides garde-fous ?

Faut-il avoir peur de l’intelligence artificielle ? Ou plus exactement, faut-il céder au vent de panique qui semble souffler sur la Silicon Valley ? On est loin, en tout cas, des débuts idylliques de l’intelligence artificielle, en 2022, lorsqu’OpenAI proposait au grand public son agent conversationnel ChatGPT, vite rejoint par Claude d’Anthropic, Gemini de Google, Copilot de Microsoft.

Mais aussi par le Chinois DeepSeek et même le Français Mistral AI et son « chat » ardemment défendu par Emmanuel Macron. Depuis, de l’eau a coulé sous les ponts, le secteur s’est structuré en levant des milliards de dollars, quitte à nourrir l’idée d’une bulle de l’IA qui, si elle éclatait, pourrait provoquer autant de dégâts sinon plus que la crise des subprimes de 2008…

Une course effrénée

Surtout, depuis 2022, les principaux acteurs se livrent une course sans merci. Beaucoup reconnaissent désormais qu’il faudrait renforcer les garde-fous et qu’une régulation internationale serait souhaitable, comme l’a fait l’Union européenne avec l’AI Act, comme le proposent le pape Léon XIV ou encore le président chinois Xi Jinping. Mais aucun ne veut lever le pied au risque de se voir dépasser par ses concurrents. Et Donald Trump s’oppose à toute régulation ou gouvernance mondiale qu’il juge susceptible de freiner les États-Unis face à la Chine.

Dès lors, OpenAI, Anthropic et les autres développent des modèles d’IA de plus en plus puissants, de plus en plus rapidement et confondent peut-être vitesse et précipitation. Ainsi, plusieurs « incidents » ces derniers mois ont montré les géants de l’IA dépassés par leur création : des agents IA d’OpenAI ont contourné les garde-fous pour agir en essaim et pirater Hugging Face, vaste plateforme de modèles d’intelligence artificielle récemment rachetée par NVidia.

À ces comportements imprévus des agents s’ajoute un autre risque, différent : celui de l’utilisation malveillante de ces outils par des humains. C’est dans ce contexte que le 9 septembre, un jeune ingénieur démissionnaire d’Anthropic et qui a aussi travaillé pour OpenAI, Jacob Coxon, a publié sur son compte X un message alarmiste vu plus de 170 millions de fois.

Alertes tous azimuts

« Aucune des deux entreprises n’agit de manière responsable. Elles foncent droit vers une superintelligence auto-améliorante et jouent à la roulette russe avec nos vies », écrit le jeune homme. Des propos chocs qui rejoignent les inquiétudes déjà exprimées par certains comme Bill Gates, fondateur de Microsoft, Eric Schmidt, ex-PDG de Google ou Volker Türk, Haut-Commissaire des Nations unies aux droits de l’homme, qui a appelé lundi 7 septembre les États à renforcer la réglementation de l’IA, jugeant qu’elle « pourrait faire peser un risque existentiel sur l’humanité ».

Le message de Jacob Coxon est largement relayé. Evan Hubinger, autre employé d’Anthropic, évalue dans la foulée à « plus de 10 % » la probabilité que l’IA « tue tous les humains » d’ici « la fin de la décennie » ! Une estimation que Geoffrey Hinton, prix Nobel de physique en 2024, ne juge « pas déraisonnable » sur la BBC.

De telles probabilités restent évidemment spéculatives et très contestées. Mais le fait qu’elles soient formulées publiquement par des chercheurs et des figures majeures du secteur témoigne du climat actuel.

Le lendemain du tweet, Anthropic publie jeudi 10 septembre, des informations concernant 39 cas d’utilisation de Claude à des fins malveillantes et criminelles, recensés entre décembre 2025 et août 2026. Avant d’être coupé par Anthropic, Claude a notamment été utilisé par des acteurs étatiques iraniens, russes et émiratis pour mener des campagnes de propagande, bâtir des outils de surveillance visant des minorités et des opposants, et diffuser du contenu favorable à leurs régimes… Ici, le danger est d’une autre nature : ce n’est pas l’IA qui agit contre la volonté de ses concepteurs, mais des humains qui détournent ses capacités à des fins politiques, militaires ou criminelles.

Musk et Altman prêts à ralentir au contraire de Trump…

Deux jours plus tard, samedi 12 septembre, le PDG d’Anthropic, Dario Amodei, publie un long texte appelant à ralentir la progression des IA les plus puissantes. Il redoute l’auto-amélioration des modèles et des agents autonomes incontrôlables, et propose davantage de contrôles externes et une coordination mondiale.

Amodei reçoit le soutien de ses concurrents Elon Musk – « Dario a raison » – et Sam Altman. Vu l’accélération actuelle du développement de l’IA, « je redoute que d’ici 6 à 12 mois, un groupe (d’agents) soit capable de prendre le contrôle de l’intégralité d’internet », prévient Dario Amodei, ce qui « pourrait entraîner des centaines de milliards de dollars de dégâts ». Le PDG d’Anthropic s’inquiète aussi de l’arrivée de l’amélioration récursive autonome, un processus qui voit l’IA s’améliorer elle-même sans intervention humaine. Il formule enfin plusieurs propositions, comme l’intégration par les fleurons de l’IA d’observateurs indépendants et la collaboration entre les entreprises les plus avancées pour définir des normes de sécurité communes.

Sans surprise, Donald Trump a fustigé ces propositions, y voyant une « conspiration malsaine » contre l’IA… alors que les démocrates appellent le Congrès à se saisir du sujet.

Stratégie ou réelle prise de conscience ?

Au final, toute cette séquence interroge : s’agit-il d’une réelle prise de conscience des géants de l’IA qui s’aperçoivent qu’ils ont joué aux apprentis sorciers et que, oui, une régulation est indispensable ? Ou s’agit-il d’un plan de communication plus subtil pour ralentir tout le secteur, imposer des normes coûteuses que seuls les géants déjà installés pourraient facilement respecter et, au passage, consolider leur avance face aux nouveaux entrants ?

Car le secteur commence également à rencontrer des difficultés. Le mouvement contre les centres de données, gourmands en eau et en électricité, s’étend aux États-Unis, ceux qui mettent des sommes colossales dans l’IA s’interrogent sur le retour sur investissement. Et hormis des prouesses en médecine, en pharmacie, en mathématiques ou dans le domaine militaire, la révolution IA n’en est qu’à ses débuts et n’a pas encore bouleversé tous les secteurs économiques ni la vie quotidienne de chacun.

Faut-il donc avoir peur de l’IA ? Non mais il faut suffisamment se méfier de ce que nous pouvons en faire, et de ce que nous pourrions un jour ne plus maîtriser, pour lui imposer de solides garde-fous. Et ainsi éviter le scénario du Meilleur des mondes d’Huxley où ce sont les machines qui décident et plus les hommes.

Les valeurs de l'IA décrochent