Technomedia

OpenAI, Anthropic, Microsoft et Mistral AI ont signé l’Appel de Paris, qui prévoit des tests communs et un partage plus rapide des alertes. L’accès des experts indépendants aux modèles les plus puissants reste à préciser.

Un expert indépendant pourra-t-il examiner un modèle d’intelligence artificielle avant que son fabricant ne le mette en service ? C’est l’une des questions que soulève l’Appel de Paris, rendu public lundi 9 novembre à l’issue d’une réunion organisée par Emmanuel Macron à l’Élysée, dans le prolongement du G7 d’Évian. Le texte vise les modèles les plus avancés, dits « de frontière », dont les capacités pourraient faciliter des cyberattaques ou dont l’autonomie croissante pourrait rendre le contrôle plus difficile.

La liste publiée par l’Élysée compte, au 10 novembre, douze États, dont la France, le Canada et le Kenya, dix entreprises et sept organisations de la société civile, parmi lesquelles LawZero, représentée par le chercheur Yoshua Bengio. Sam Altman pour OpenAI, Dario Amodei pour Anthropic et Arthur Mensch pour Mistral AI ont souscrit à l’appel. Google, Meta et xAI, qui avaient pris des engagements à Séoul en 2024, n’y figurent pas. Les États-Unis, le Royaume-Uni et le Japon ont participé à la réunion et sont absents de la liste des signataires.

À Séoul, les entreprises avaient déjà accepté le principe d’évaluations externes. Elles s’étaient même engagées, dans les cas extrêmes, à renoncer à développer ou à déployer un modèle si elles ne parvenaient pas à ramener le risque sous un seuil qu’elles avaient défini. L’Appel de Paris cherche à rendre ces évaluations comparables. Les signataires veulent s’accorder sur les méthodes de test et publier, dans un répertoire accessible à tous, les résultats jugés non sensibles. Une autorité pourrait ainsi comparer les résultats des laboratoires et suivre les risques d’une version à l’autre.

Encore faut-il que les experts puissent accéder aux modèles à temps. Les développeurs promettent de faciliter les évaluations indépendantes « lorsque cela est approprié et proportionné au risque ». Le texte laisse ouvertes les modalités de cet accès et ne fixe ni calendrier ni sanction. Les entreprises s’engagent aussi à pouvoir mettre en pause ou arrêter les modèles qu’elles contrôlent, y compris pendant l’entraînement ou lors de leur utilisation en interne.

La coopération doit aussi se poursuivre après le déploiement, lorsqu’un incident survient ou qu’un signal inquiétant est détecté. Les signataires veulent s’accorder sur la façon de classer les incidents graves et mieux partager les premiers signes de danger entre entreprises et autorités. Les États promettent des canaux confidentiels pour les lanceurs d’alerte et entendent clarifier les responsabilités lorsqu’un dommage de grande ampleur touche plusieurs pays.

En Europe, le règlement sur l’IA impose déjà des tests normalisés et le signalement des incidents graves aux fournisseurs des modèles à usage général qui présentent un risque systémique. Paris cherche à rapprocher les pratiques au-delà de l’Union. La portée de l’appel se mesurera si un test indépendant révèle un danger avant un lancement. Qui aura alors le pouvoir d’imposer au fabricant de le différer ?