Le Conseil de l’IA et du numérique propose de réévaluer les chatbots grand public après chaque modification importante. Parmi ses 18 recommandations figurent aussi des protections renforcées pour les mineurs, l’interdiction de la publicité déguisée dans les réponses et un protocole national pour réagir aux campagnes de désinformation amplifiées par l’IA.

Les entreprises qui proposent des agents conversationnels (chatbots) d'intelligence artificielle au grand public - comme ChatGPT, Claude, Gemini ou Mistral... - devraient, avant de les commercialiser en Europe, démontrer que leurs produits protègent suffisamment leurs utilisateurs. Telle est la principale préconisation du rapport « Protéger sans empêcher : nos vulnérabilités à l’ère de l’IA générative » du Conseil de l’IA et du numérique. Saisi le 20 février 2026 par Anne Le Hénanff, ministre déléguée chargée de l’Intelligence artificielle et du Numérique, le Conseil formule 18 recommandations après 55 auditions. L’Élysée inscrit ces travaux dans la réflexion engagée par Emmanuel Macron sur les effets du numérique sur la démocratie.

Une évaluation préalable

La commission propose d’étendre aux IA génératives grand public l’évaluation préalable prévue pour les systèmes considérés comme à haut risque par le règlement européen sur l’IA (IA Act). Cette évaluation, qui associerait des experts de plusieurs disciplines et les autorités de régulation, concernerait aussi les assistants intégrés aux réseaux sociaux. Début janvier, sur X, comme l'a cité en exemple le rapport, les utilisateurs pouvaient demander à Grok de sexualiser une photo. 

Selon une estimation du Center for Countering Digital Hate citée dans le rapport, l’outil aurait produit environ trois millions d’images sexualisées en onze jours ! Le rapport préconise ensuite qu'une fois le produit lancé, les contrôles se poursuivraient, notamment à chaque modification importante. En cas de manquement, un retrait du marché pourrait alors être envisagé.

Les limites et les effets d'un compagnon virtuel 

Selon l’enquête Interface–YouGov citée par les experts, 92 % des adolescents français qui utilisent l’IA générative disent passer plus de temps qu’ils ne le souhaitent sur au moins un des outils étudiés. La commission vise ainsi les mécanismes qui encouragent cet usage. Un compagnon virtuel peut, en effet, se montrer toujours disponible, flatter son interlocuteur et l’inciter à se confier, souligne le rapport. Parmi les mesures envisagées pour les services accessibles aux mineurs figurent notamment la désactivation par défaut des notifications, de la géolocalisation, du micro et de la caméra. 

À l’école, les experts préconisent de former les élèves dès le primaire et de ménager des temps sans IA, où chacun écrit ou résout un problème par lui-même.

L'économie de la cognition

Ce que l’utilisateur confie au chatbot intéresse aussi celui qui le commercialise, observe ensuite la commission. Au fil des échanges, le fournisseur peut déduire des difficultés financières, des opinions politiques ou une fragilité psychologique. Un conseil pourrait alors servir à placer une offre commerciale. 

Le rapport parle d’« économie de la cognition » qui renvoie à l'économie de l'attention, bien documentée sur les réseaux sociaux. Après ces derniers, qui ont appris à monétiser le temps passé devant un écran, les fournisseurs d’IA pourraient anisi tirer profit des raisonnements, des réactions et des décisions que l’utilisateur leur soumet. La commission demande donc d’interdire la publicité déguisée et de donner aux chercheurs un accès encadré aux données d’usage, d’entraînement et de monétisation.

Protéger les élections

Les assistants IA entrent aussi dans la préparation du vote ; une tendance qui ne devrait cesser de croître avec l'élection présidentielle de 2027. Selon un sondage Terra Nova–Harris Interactive repris dans le rapport, 16 % des Français déclarent ainsi avoir déjà utilisé une IA générative pour éclairer leur choix aux municipales de 2026. 

Le groupe de réflexion britannique Demos a, lui, soumis des questions sur les élections écossaises à cinq outils. Sur 320 réponses, 109 comportaient des erreurs factuelles. 

Les experts préconisent donc un code de conduite pour les candidats et les partis, ainsi qu’un protocole interministériel en cas de manipulation de l’information. Il s’agirait de fixer à l’avance des seuils d’alerte et de savoir qui joindre chez les fournisseurs d’IA quand un contenu trompeur commence à se propager.

Philippe Rioux