Technomedia

Tribune de Martin Pavanello, président de Mister IA, cabinet de conseil et de formation en intelligence artificielle.

« L'intelligence artificielle, c'est un peu comme la bombe nucléaire. » La phrase est de Pascal Lamy, ancien directeur général de l'Organisation mondiale du commerce, invité fin octobre du podcast géopolitique de LCP. Il y réclame des accords internationaux pour vérifier que les risques sont contenus, et constate qu'il n'en existe aucun à l'échelle mondiale.

La comparaison fait sourire ceux qui ne voient dans l'IA qu'un correcteur d'orthographe amélioré. Elle pose pourtant la seule question qui compte. Si une technologie peut devenir dangereuse pour l'humanité, il faut la traiter comme un objet dangereux. Avec une agence, des inspecteurs et des règles.

Personne n'appuiera sur pause

Écartons d'abord une illusion : on n'arrêtera pas le développement de l'IA. En mars 2023, plus de mille chercheurs et patrons réclamaient six mois de pause. Personne ne l'a respecté. Il y aura toujours un pays, une entreprise ou un laboratoire qui aura intérêt à ne pas jouer le jeu et à avancer pendant que les autres s'arrêtent.

En juin, Anthropic, l'éditeur de Claude, a proposé de préparer un mécanisme mondial capable de ralentir, voire de suspendre, les modèles les plus avancés. Son patron, Dario Amodei, a lui-même reconnu qu'une telle pause n'aurait de sens que si tous les acteurs, adversaires géopolitiques compris, l'acceptaient, et si elle était vérifiable.

Il faut donc tracer la ligne au bon endroit. Mettre en pause toute la recherche en IA serait une faute monumentale. L'IA qui aide un médecin à lire une radio ou un notaire à relire un acte n'a rien d'une arme. Suspendre certains projets de pointe, ceux qui visent une intelligence générale capable de s'améliorer seule, pourquoi pas. Je ne sais pas comment on y parviendrait. Mais c'est là, et seulement là, que se place la limite.

Le nucléaire et l'avion l'ont prouvé

Une agence mondiale, utopie ? L'histoire dit l'inverse. En mars 1963, John F. Kennedy se disait hanté par un monde où 15, 20 ou 25 pays posséderaient la bombe dans les années 1970. Ils sont neuf aujourd'hui. Le traité de non-prolifération a ses trous : l'Inde, le Pakistan, la Corée du Nord. Il a tenu quand même. Et il a été signé en pleine guerre froide, par des rivaux qui n'avaient aucune raison de se faire confiance.

L'aviation offre un modèle plus parlant encore. En 1944, en pleine guerre, 54 pays réunis à Chicago jettent les bases de l'Organisation de l'aviation civile internationale. En 1947, 590 passagers meurent dans des accidents, sur 21 millions de voyageurs. En 2002, 791, sur plus de 1,6 milliard. Le secret n'est pas un miracle technologique. C'est une habitude : chaque accident est analysé, et ses leçons sont partagées avec tous. C'est exactement ce que propose Pascal Lamy pour l'IA, avec une plateforme commune de partage des incidents graves.

Reconnaissons la difficulté. L'uranium se voit, se pèse et se compte. Un modèle d'IA se copie en quelques minutes. Mais les puces, les data centers et l'électricité qui les alimentent ne se cachent pas dans un tiroir. C'est par là que la surveillance peut commencer.

Sans la Chine, pas d'agence

Reste l'éléphant dans la pièce. Lamy le dit sans détour : Washington et Pékin n'ont aucune raison de coopérer, parce qu'ils sont rivaux. La fracture est déjà visible. En juillet, 29 pays ont signé à Shanghai l'acte de naissance d'une organisation mondiale de coopération sur l'IA voulue par la Chine. Aucun membre du G7, aucun pays européen.

Une agence réservée aux démocraties serait un club de plus, pas un régulateur. Deux clubs qui s'ignorent, ce n'est pas une gouvernance, c'est une nouvelle guerre froide. La Chine est excellente en IA, en avance sur plusieurs sujets. Elle doit être à la table dès le premier jour. On ne contrôle pas une technologie en laissant dehors l'un des deux pays qui la développent le plus vite.

Des acteurs privés, et c'est peut-être une chance

On objectera que les laboratoires qui réclament des règles veulent surtout figer leur avance. Je n'y crois pas. Anthropic sait que d'autres rattraperont ses modèles. Être une entreprise rentable et valorisée à prix d'or n'empêche pas de se poser, comme tout le monde, la question de la fin du monde.

Pour la première fois, une technologie aussi potentiellement dangereuse est entre les mains d'entreprises privées plutôt que d'États. C'est inédit. C'est peut-être aussi rassurant. Qui aurait intérêt à ce qu'elle nous échappe ? Personne. Il n'y a pas d'empire à bâtir, pas de territoire à conquérir. Il y a de l'argent à gagner. Or un laboratoire qui n'en ferait qu'à sa tête effraierait le monde entier, et la Bourse le lui ferait payer. Les marchés ne remplacent pas un gendarme. Mais ils rendent la règle acceptable pour ceux qu'elle doit contraindre.

L'Europe, invitée ou spectatrice ?

Et la France ? Soyons lucides : elle n'a le poids ni pour porter cette agence ni pour l'accueillir. Sur ce sujet, nous sommes un nain. Mistral, en revanche, mérite sa place parmi les dix laboratoires qui compteront. Encore faut-il qu'on l'invite. Le principal club des laboratoires de pointe, le Frontier Model Forum, réunit Amazon, Anthropic, Google, Meta, Microsoft et OpenAI. Aucun européen.

On n'arrêtera pas l'IA. On peut encore décider qui écrit ses règles. Le nucléaire a attendu plus de vingt ans pour se doter d'un traité. Nous n'aurons pas ce luxe.