Technomedia

• Les développeurs les plus en pointe avec l’intelligence artificielle générative décrivent une fatigue d’un genre nouveau, la vibecoding fatigue ou l’AI brain fry.

• Des parades sont inventées pour ne pas se laisser soumettre par l’IA.

• Cette fatigue pourrait gagner tous les métiers du langage, des journalistes aux juristes en passant par les traducteurs.

Sur un forum de développeurs, un ingénieur raconte sa fatigue après deux mois à coder sept heures par jour, quasiment sans week-ends. Il décrit une lassitude d’un genre particulier, née de ces outils qui produisent beaucoup, très vite, et qu’il faut valider sans relâche. Il en donne une image frappante :

« C’est comme mettre ta bougie de productivité sur un lance-flammes ; tu vas plus vite, mais tu brûles beaucoup plus d’énergie. »

Cette tendance, c’est la vibecoding fatigue, une lassitude de valider sans arrêt le travail d’une machine qui ne s’arrête jamais. Le mot est né sous la plume d’un ingénieur passé chez Google, Jorge Raad, qui décrit dès août 2025 le malaise né d’une délégation cognitive excessive aux outils d’IA. Les fils de discussion de praticiens s’en emparent dans les mois qui suivent, bien avant la première étude savante, publiée en mars 2026, sur laquelle je reviendrai.

Ce que disent les forums rejoint les enquêtes. Dès 2024, l’Upwork Research Institute interroge 2 500 professionnels ; 77 % de ceux qui utilisent l’IA jugent qu’elle a alourdi leur charge. Un an plus tard, la même équipe va plus loin ; parmi les salariés les plus productifs grâce à l’IA, 88 % se disent en burn-out.

C’est un basculement que je documente aussi sur mon terrain, une enquête menée depuis 2023 auprès d’une dizaine d’entreprises du numérique françaises, dont les résultats paraîtront prochainement. Une tendance liée à l'objet de ma thèse, à savoir l’adaptation des entreprises du numérique à l’IA générative.

Utilisateurs et constructeurs de l’IA

Les grands modèles d’IA, ceux d’OpenAI, d’Anthropic, de Google ou de Microsoft, ont tous misé sur le code, pour deux raisons. Le code agit directement sur le monde puisqu’une seule ligne peut lancer un calcul à l’autre bout de la planète. Et surtout, il se vérifie. Quand un modèle se trompe dans une phrase, l’erreur reste floue.

Quand il se trompe dans un programme, le bug se voit, se compte et se corrige. Les concepteurs de ces modèles en ont fait leur mesure de progrès. Le principal test du secteur, SWE-bench, soumet les modèles à des centaines de bugs réels relevés dans des logiciels publics. Un classement en ligne affiche pour chaque modèle la part de ces bugs qu’il parvient à corriger seul, et chaque laboratoire y suit la progression de ses concurrents.

Les développeurs sont équipés plus tôt et plus intensément que les autres. Ils s’en servent même pour fabriquer les outils d’IA eux-mêmes ; ils sont à la fois utilisateurs et constructeurs. Traducteurs, comptables, juristes, tous les métiers du langage suivent, avec un temps de retard.

Canari dans la mine

En mars 2026, une étude, menée sur 1 488 personnes, le baptise l’AI brain fry. Les coûts sont conséquents avec un tiers de fatigue de décision en plus, 39 % d’erreurs graves en plus, et une envie de démissionner qui passe de 25 % à 34 %. Un des auteurs, Matthew Kropp, désigne les premiers concernés, les ingénieurs qui pilotent déjà plusieurs systèmes d’IA à la fois. Il les appelle « le canari dans la mine », des sentinelles dont la fatigue annonce celle des autres métiers.

L’explication précède l’IA générative de quarante ans. Dès 1983, l’ergonome Lisanne Bainbridge décrivait les « ironies de l’automatisation ». Quand on confie les tâches faciles à la machine, il ne reste à l’humain que les plus difficiles, plus la surveillance de l’ensemble.

Les chercheurs Marie-Laure Cahier et Pierre Quesson le retrouvent dans le conseil. Une médecin du travail qu’ils citent l’explique simplement. Les tâches simples étaient des moments de repos pour le cerveau. Quand ces outils s’en chargent, il ne reste que l’effort, sans répit. Un consultant parle d’un « exosquelette mental » qui décuple les forces tant qu’on le porte. Reste à savoir ce qu’il en demeure quand on l’enlève.

La chercheuse en data marketing & IA Kathleen Desveaud décrit un risque voisin ; à force de déléguer, certains perdent leurs compétences. Les forums décrivent le phénomène symétrique. Chez ceux qui gardent les commandes, les compétences s’usent d’être sollicitées en continu ; le geste technique passe à la machine, et l’arbitrage comme la coordination occupent désormais tout le terrain.

Trois garde-fous

Face à ces tensions, les développeurs les plus en pointe inventent des parades, dont trois reviennent avec insistance.

Faire un brouillon

Avant de lancer l’outil d’IA, ils écrivent en mots simples ce qu’ils veulent obtenir. Un développeur le résume ainsi :

« Tu installes l’IA en face de toi. Tu lui dis : on va travailler cette spécification fonctionnelle. Je donne l’idée, tu poses les questions, et tu rédiges. »

Ce détour répond à un trait de ces systèmes, qui produisent d’abord ce qui sonne bien. Sans cadre fixé à l’avance, on prend le plausible pour du juste. Un journaliste peut faire de même avant de commander une synthèse ; un juriste, avant un projet de contrat.

Se réapproprier le travail

Une fois la production faite, ils ne se contentent pas d’un « ça marche ». Ils vérifient qu’ils sauraient la défendre devant un collègue, sans notes. Un développeur de vingt ans d’expérience explique :

« Je relis et je comprends chaque ligne produite. Pas pour vérifier que ça marche, pour comprendre ce qui a changé ».

L’exigence est ancienne, mais elle oblige désormais à ralentir contre la cadence de la machine, et ce ralentissement a un coût.

Refuser certaines tâches

Les développeurs tracent des lignes rouges. Ils gardent trois domaines pour eux : les choix d’architecture qui engagent l’avenir d’un système, les zones à risque (paiements, données médicales, fichiers clients), et les tâches qui donnent du sens à leur métier. L’un d’eux le dit crûment :

« Je passe la moitié de mon temps à dire à l’IA ce qu’elle ne doit pas faire. Ne lis pas ce fichier. Ne refactorise pas. Reste à ta place. »

Ces refus relèvent du jugement professionnel, et les entreprises qui voudront les codifier se heurteront à une règle bien connue : plus une contrainte est rigide, plus elle se contourne.

Observer les professionnels chevronnés

Le sociologue Hartmut Rosa l’avait pressenti. Chaque technique qui accélère remplit davantage les minutes qu’elle promettait de libérer. Cette pression s’exerce d’abord sur les métiers du langage, à commencer par celui où l’IA a envahi le quotidien.

Les trois parades ont un point commun ; elles réinstallent après coup les freins que la machine a supprimés d’entrée.

Ces réflexes demandent ensuite à être transmis. Un repère pour qui débute pourrait être d’observer où les professionnels chevronnés refusent d’utiliser l’IA. Leurs refus indiquent, mieux que tout référentiel, ce qu’il faut encore apprendre à faire soi-même.

Morgan Blangeois, Doctorant en sciences de gestion, Université Clermont Auvergne (UCA)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

L’essor de l’intelligence artificielle, des Big Tech et des technologies de surveillance bouleverse les rapports entre États, entreprises et citoyens. La convergence entre capitalisme de surveillance et dérives autoritaires pourrait conduire à un technofascisme ou à un totalitarisme numérique, comme l’illustrent les exemples de la Chine, des États-Unis et de la Russie. Face à ces risques, un encadrement démocratique des technologies apparaît indispensable pour préserver les libertés publiques et le pluralisme.

L’année 2026 regorge d’actualités sur le renforcement des mesures de contrôle numérique de la population. D’un côté, la Chine continue de moderniser son réseau de vidéosurveillance en intégrant l’IA pour faciliter la recherche et l’analyse des données par la police et développe des systèmes de prédiction du comportement des citoyens afin d’identifier des futurs criminels et opposants au régime, à l’instar du film Minority Report, adaptation d’une nouvelle de Philip K. Dick.

D’un autre côté, l’entreprise américaine Palantir, spécialisée dans le développement de logiciels pour l’armée et la police de certains pays, a publié sur le réseau social X un résumé du livre The Technological Republic : Hard Power, Soft Belief, and the Future of the West, écrit par son PDG Alexander C. Karp. Il s’agit d’une sorte de manifeste de la future société numérique, telle que la conçoit un développeur de logiciels pour structures militaires : utilisation de la « force brute » (hard power) pour maintenir l’ordre dans le pays et dans le monde ; conscription universelle ; développement de robots militaires et d’armements basés sur l’IA par la Silicon Valley pour l’État ; hégémonie des États-Unis sur les autres pays, en particulier sur les civilisations qualifiées de « médiocres, régressives et nuisibles » ; et lutte contre le pluralisme.

S’agit-il d’une description crédible de notre avenir numérique, déjà en train d’être façonné par les grandes corporations technologiques avec le soutien des États, tant à l’Ouest qu’à l’Est ?

Utopisme et capitalisme de surveillance

Un certain nombre de transhumanistes influents, tels que Nick Bostrom et Ray Kurzweil, dépeignent un paradis terrestre futuriste, contribuant ainsi à promouvoir les narratifs des entreprises de la Big Tech. Le philosophe Nick Bostrom, tout en mettant en garde contre les risques existentiels liés au développement des technologies, a déjà imaginé ce qu’il ferait dans un monde futur entièrement résolu (solved world).

Dans ce monde, l’intelligence artificielle surpasserait l’homme dans tous les domaines, tant physiques qu’intellectuels, et les robots, la réalité virtuelle ainsi que d’autres technologies atteindraient un tel niveau de développement que l’être humain n’aurait plus du tout besoin de travailler pour produire les objets du quotidien. Un monde semblable à celui des vieux contes de fées, où la nourriture vous saute presque directement dans la bouche et où les cochons se promènent déjà tout cuits. Ce fameux Âge d’or de l’humanité, dont Hésiode parlait dans l’Antiquité : « Les humains vivaient alors comme les dieux, le cœur libre de soucis, loin du travail et de la douleur ».

Pendant que Nick Bostrom dresse la liste de ce que l’on peut faire quand il n’y a plus rien à faire, d’autres philosophes s’inquiètent vivement qu’un tel avenir nous mène vers un panoptique numérique, transformant cette utopie post-travail en une dystopie de contrôle et de surveillance totale

Nous ne nous séparons plus de nos portables, ordinateurs et tablettes. Certains vont plus loin en se créant une maison connectée truffée d’objets connectés : des ampoules, des bouilloires, des télés, des aspirateurs, des climatiseurs, et bien plus encore. Сes données sont collectées et traitées par quelques grandes corporations technologiques, ce qui rend les propriétaires de celles-ci fabuleusement riches. Ils peuvent nous surveiller, analyser les données et même influencer notre comportement, qu’il s’agisse de nos choix de consommation ou de nos votes.

Google, Facebook, Amazon, Apple, Microsoft et d’autres géants transforment une multitude de clics et de requêtes d’utilisateurs en argent. Depuis mai 2026, le grand réseau social Instagram (Meta) a désactivé le chiffrement de bout en bout de la correspondance privée, ce qui la rend accessible à la multinationale elle-même et aux services secrets. Les informations personnelles des utilisateurs pourraient à l’avenir être utilisées « à des fins publicitaires et pour l’entraînement des chatbots ». C’est ce que la philosophe américaine Shoshana Zuboff a appelé « le capitalisme de surveillance ». Un tel système soumet les individus par le biais du confort, des divertissements et de services utiles, et non par la peur et l’intimidation, comme le faisaient les dictateurs du passé pour prendre le contrôle de leur population.

Entre les mains d’un petit groupe de multinationales se trouvent concentrés le contrôle de la production et de la diffusion de l’information, ainsi que des sommes d’argent colossales, ce qui permet d’influencer le pouvoir politique et la démocratie, de faire du lobbying, d’exercer une influence à travers les médias et de soutenir financièrement les politiciens souhaités. C’est l’une des raisons pour lesquelles l’UE modifie progressivement sa législation, en introduisant certaines restrictions à l’aide des règlements sur les marchés numériques (DMA), sur les services numériques (DSA) et de l’AI Act.

Piège du confort et technofascisme

La situation s’aggrave lorsque les technologies numériques convergent avec des tendances autoritaires, détruisant le pluralisme et rétrécissant l’espace de liberté. Le culte de l’efficacité et de la commodité peut supplanter les « longs » débats démocratiques et normaliser la surveillance de la population sous couvert de services pratiques.

Depuis le début de son second mandat présidentiel, Donald Trump a montré comment les capacités technologiques d’Elon Musk peuvent être utilisées pour diffuser des discours favorables au pouvoir. Cela a également révélé à quel point les entreprises technologiques sont faibles face au pouvoir réel de l’État, même dans les pays occidentaux. En effet, après l’assaut du Capitole du 6 janvier 2021, Trump avait été banni de Facebook, Instagram, Twitter et YouTube ; mais après sa victoire électorale de 2024, les « capitalistes de surveillance », terrifiés par la menace de représailles, lui ont apporté leur argent et leur loyauté.

Mark Zuckerberg (Meta), Sam Altman (OpenAI), Tim Cook (Apple) et Jeff Bezos (Amazon) ont versé chacun 1 million de dollars au fonds d’investiture de Trump, sans compter une diffusion gratuite de la cérémonie d’investiture du 20 janvier 2025 sur Amazon Prime (équivalant à 1 million de dollars supplémentaire), sans oublier des contributions de Google, Microsoft et Adobe. Au total, Trump a levé la somme record de 239 millions de dollars à l’occasion de cette investiture.

Plus tard, en septembre 2025, les dirigeants des Big Tech ont assisté à un dîner avec Trump, au cours duquel ce dernier a demandé à chacun combien ils comptaient investir aux États-Unis. Résultat de l’accord entre la Maison-Blanche et la Big Tech : désormais, les autorités américaines déploient une surveillance de masse, ciblant non seulement les extrémistes numériques réels qui menacent de violences physiques les dirigeants des entreprises informatiques, mais également des partisans d’un développement technologique prudent. Ainsi, des centres régionaux de renseignement américains surveillent des manifestations portant un regard critique sur les technologies, de simples réunions budgétaires municipales et même des conseils scolaires de district, afin d’identifier les opposants à la construction de centres de données.

Progressivement, l’ordre libéral démocratique pourrait être menacé par l’instauration d’un technofascisme, un danger contre lequel met en garde le philosophe et spécialiste de l’IA Mark Coeckelbergh. Une pensée agressive contre certains « autres » — comme les migrants ou tout autre groupe — pourrait de nouveau dominer, s’accompagnant de contrôle de l’information, de mensonges, de surveillance et de l’imposition d’un cadre idéologique.

Les systèmes d’IA peuvent s’adapter au style de chaque individu, exploitant ses faiblesses et ses malheurs pour lui imposer des idées précises, façonner ses opinions et l’appeler à des actions concrètes. Les fonctionnaires et les structures étatiques intègrent de plus en plus l’IA — il existe même déjà, en Albanie, un premier cas de « ministre-IA », ce qui réduit progressivement l’espace accordé à l’esprit critique.

Dans une telle société, on n’effraie pas les citoyens, on les attrape plutôt dans le piège du confort : assistant personnel IA, publicités sur mesure, sélections personnalisées sur les plates-formes de streaming… et voilà que l’homme se retrouve partout entouré d’algorithmes qui le maintiennent enchaîné. Pour paraphraser Rousseau, « l’homme moderne est né libre, mais partout il est dans les fers algorithmiques », des fers dont un pouvoir autoritaire peut se saisir à tout moment pour asservir définitivement la société.

La dystopie du totalitarisme numérique

À cette gouvernance algorithmique cachée peuvent s’ajouter la violence étatique ouverte et la répression. L’exemple de la Russie a montré la vitesse avec laquelle un régime autoritaire peut, grâce à un système de surveillance étendu, passer d’un contrôle discret à une répression ouverte des opinions et à l’intimidation de la population.

Auparavant, le pouvoir russe réprimait les libertés dans la sphère politique tout en tolérant une certaine liberté d’expression dans le domaine culturel, ce qui correspondait tout à fait à la définition d’un régime autoritaire doté d’un certain niveau de pluralisme sociétal en dehors de la politique, donnée au XX^e siècle par le politologue Juan Linz.

Cependant, après le début de la guerre à grande échelle en Ukraine en 2022, l’autoritarisme numérique a progressivement envahi de plus en plus de domaines, avançant sur la voie du totalitarisme numérique. Des chanteurs, des acteurs, des scientifiques et même des philosophes traduisant Aristote auxquels le pouvoir ne touchait pas auparavant, ont été pris pour cibles.

L’État poutinien s’appuie à présent sur une infrastructure technologique de contrôle numérique. Celle-ci prend la forme d’un système d’interception et d’enregistrement continus du trafic (y compris l’enregistrement des appels et des messages) avec un accès à distance direct du FSB aux bases de données des opérateurs (SORM). Elle repose également sur des équipements spéciaux installés sur les réseaux des fournisseurs d’accès, qui permettent au Service de supervision des communications (Roskomnadzor) de bloquer de manière centralisée les ressources Internet (TSPU) ; sur la collecte de données biométriques ; et sur diverses bases de données électroniques, sous prétexte de protéger la sécurité nationale et la souveraineté technologique. Toutes les grandes entreprises technologiques et les créateurs d’IA se sont retrouvés sous le contrôle total du pouvoir. Ils aident à instaurer un monopole d’État sur les médias et, plus largement, sur l’interprétation des événements contemporains et historiques.

Bien entendu, nous parlons aujourd’hui du totalitarisme numérique comme d’une variante négative et hypothétique de l’évolution d’une société numérique. Mais c’est précisément pour cela qu’il faut en parler dès à présent. Le totalitarisme numérique ou le technofascisme ne sont pas des résultats inéluctables du progrès technique. Il est nécessaire de travailler au maintien et à la protection des droits et libertés des citoyens, par opposition au renforcement de la souveraineté numérique de l’État au détriment de la population (comme on le voit en Russie et en Chine). Il faut contrôler le développement des technologies, minimiser les dommages potentiels, interdire des technologies nocives — par exemple, les systèmes de crédit social, les armes autonomes qui tuent sans supervision humaine, l’interception de l’ensemble des messages audio, vidéo et texte des utilisateurs, l’emploi de l’IA pour la création de deepfakes, etc. — et réduire l’influence de l’IA sur les domaines socialement importants que nous voulons préserver, tels que la prise de décision politique, la censure des livres, l’éducation et bien d’autres.

Iurii Trusov, chercheur en philosophie, docteur en sciences politiques, Université Bordeaux Montaigne

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Dans un espace informationnel bouleversé par les plateformes numériques et l’intelligence artificielle, les informations toxiques constituent un défi majeur pour les démocraties. Leur prolifération impose de penser une réponse globale, qui articule régulation, adaptation et renforcement de la culture scientifique.

Qu’elles soient émises par des entreprises pour préserver leurs marchés, par des États cherchant à justifier leurs prétentions territoriales, par des militants promouvant leur agenda ou par des individus en quête de reconnaissance, les informations toxiques saturent aujourd’hui l’espace informationnel. Les informations toxiques sont définies comme tout contenu dégradant la capacité des destinataires à comprendre leur environnement et à agir dans leur intérêt ou dans l’intérêt général.

Face à ce TsuNumi (tsunami numérique) d’informations douteuses ou sorties de leur contexte, d’opinions présentées comme des faits, de vérités alternatives, il est difficile de savoir qui croire et que penser. Sombrer dans un relativisme consistant à mettre toutes les informations sur le même plan devient tentant, avec des effets délétères sur la démocratie.

Car celle-ci ne repose pas seulement sur le suffrage universel et sur l’État de droit. Elle s’appuie aussi sur la pratique du débat public, fondé sur l’accès de chacun à des informations fiables. Or comment aujourd’hui garantir cet accès, dans un espace informationnel et cognitif vicié, entretenu par un modèle économique reposant sur la captation de l’attention ? Quelles mesures prendre pour lutter efficacement contre les informations toxiques ?

La réglementation européenne à la peine

À l’exception de X (anciennement Twitter), les grandes plateformes numériques se sont engagées à respecter un code de conduite sur la désinformation dans tous les pays de l’Espace économique européen. Il contient plusieurs mesures utiles : mettre en place des réseaux de fact checking, partager des informations sur les sources et techniques de désinformation, réduire voire éliminer le financement publicitaire des relais d’infox. En février 2025, la Commission a officialisé ce code de conduite au titre du règlement sur les services numériques (DSA) mais son efficacité, qui repose sur un esprit de co-régulation entre la Commission et les acteurs, reste incertaine.

Après deux ans de mise en œuvre du DSA, sur la dizaine de procédures qui ont été initiées au titre de sa violation, seules quatre ont été clôturées. Trois d’entre elles ont donné lieu à des engagements des entreprises incriminées. Pour Ali Express, le renforcement des systèmes de détection des produits illégaux. Pour Tik Tok, d’une part le retrait de son programme de récompenses jugé trop addictif, d’autre part la transparence de son répertoire publicitaire. La quatrième procédure a débouché sur la condamnation d’X/Twitter à 120 M€ d’amende. Ce montant, dérisoire par rapport aux profits tirés des comportements délictueux, est intégré au cost of doing business et n’a donc aucun réel effet incitatif.

Le cadre européen ne pèche donc pas tant par son architecture, certes perfectible, que par la timidité de sa mise en application, d’une part due à la complexité du dispositif, d’autre part à la crainte de représailles de la part de la gouvernance nord-américaine : aux États-Unis, particulièrement depuis la réélection de Donald Trump en 2024, la régulation de l’espace numérique est perçue comme une entrave inadmissible à la liberté d’expression.

Mais la régulation, pour importante qu’elle soit, n’est qu’une des composantes d’un vaste dispositif de lutte contre les informations toxiques.

D’après nos travaux, qui ont conduit aux conclusions d’un rapport de l’Académie des technologies paru en juin 2026, trois types de lutte doivent être simultanément menés.

• des mesures d’atténuation des émissions toxiques et de leurs effets ;

• des modalités d’adaptation à un contexte dans lequel le faux et le manipulatoire ne pourront être totalement éradiqués ;

• des initiatives de contre-offensive visant à donner l’envie et les moyens de faire valoir le vrai.

Atténuer la désinformation

En amont de la chaîne de l’infox, de multiples actions sont envisageables, venant renforcer le cadre réglementaire. Nous recommandons notamment que ce cadre :

• exige des plateformes une chasse aux faux comptes et une meilleure détection d’agents non humains coordonnés entre eux pour diffuser de l’infox ;

• confère aux algorithmes de recommandation des plateformes et aux systèmes d’IA génératives un statut de responsabilité éditoriale, analogue à celui de la presse et des médias audiovisuels ;

• impose un principe de pluralisme dans la présentation des réponses fournies par ces outils numériques, lorsqu’il s’agit de sujets se rattachant à un débat d’intérêt général.

Autre instrument, et non le moindre, pour tarir l’infox : couper son financement publicitaire, qui se chiffre en dizaines de milliards de dollars. Le non-respect des engagements de démonétisation figurant dans le règlement DSA devrait être lourdement sanctionné. L’Arcom devrait être habilitée à contrôler le montant des recettes publicitaires lié aux campagnes de désinformation visant le public français. Des mécanismes devraient être instaurés afin que des annonceurs de bonne foi ne financent pas l’infox à leur insu. Des taxes devraient être levées sur la revente de listes d’abonnés et de données personnelles.

Se tournant maintenant vers l’aval de la chaîne, selon le psychiatre Serge Tisseron, l’information toxique exploite les fragilités psychologiques et sociales, qu’elle contribue à renforcer. Ainsi, les « infoxiqués » sont-ils pour une grande part des personnes en manque de respect, d’écoute et de visibilité. Afin de réduire leur appétence pour les vérités alternatives, il faudrait donc alléger leur colère et leur frustration, les considérer avec bienveillance, prendre le temps d’aller à leur rencontre et de les entendre. C’est une tâche immense à laquelle des agents conversationnels peuvent contribuer.

Prendre en compte la désinformation et s’y adapter

S’agissant ensuite d’adaptation, il est préalablement nécessaire de mieux comprendre la nuisance à combattre. L’effort de recherche sur les pathologies de l’information doit être poursuivi en l’étendant à l’ensemble des domaines où sévissent le faux ou le manipulatoire : quelle est la genèse des informations toxiques, comment prolifèrent-elles, quelles sont leur nature, leur volumétrie et leurs impacts, quelle est l’efficacité des remèdes envisageables ?

Ensuite, l’éducation aux médias et à l’information, animée en France par le CLEMI, à l’école au collège et au lycée, est indispensable. D’une part, pour stimuler la prise de conscience de nos biais cognitifs, comme celui de confirmation, par lequel nous accordons plus de foi aux informations confortant nos croyances a priori. D’autre part, pour développer l’esprit critique : non pas se méfier de tout, mais doser les degrés de confiance accordés à diverses sources. Notons que les faussaires informationnels dévoient l’esprit critique, dont souvent ils se réclament.

Concomitamment, les médias audiovisuels et leurs déclinaisons en ligne, ainsi que les sources en amont (AFP) doivent contribuer à améliorer la qualité de l’information : notamment, en accroissant l’espace réservé aux documentaires et débats sur la science, la technologie et l’industrie.

Le fact checking et les investigations sur les opérations de désinformation, ainsi que l’encyclopédie collective Wikipédia, globalement très fiable à défaut d’être infaillible, doivent être considérés comme des missions d’intérêt général et bénéficier de financements adéquats.

Par souci de transparence, les grandes plateformes en ligne (réseaux sociaux, YouTube, Amazon…) devraient avoir l’obligation de calculer et d’afficher un score d’artificialité pour leurs contenus les plus viraux. Ce score combinerait deux composantes : d’une part la probabilité que le contenu soit créé par l’IA, d’autre part celle que la viralité soit poussée par un réseau de faux comptes coordonnés.

Par ailleurs, à l’approche de l’élection présidentielle de 2027, il apparaît nécessaire de renforcer la capacité nationale en matière de lutte contre les ingérences numériques étrangères.

Préparer la contre-offensive

S’agissant enfin de contre-offensive du vrai contre le faux, une action prioritaire mais de longue haleine consiste à construire un socle de savoir scientifique de base au sein de la population dans son ensemble. Il nous apparait qu’un effort particulier doit cibler les grands dirigeants et le personnel politique, afin qu’ils disposent des connaissances nécessaires pour effectuer des choix éclairés sur les questions sociétales à forte composante technologique.

Les experts, les enseignants, les éducateurs, les scientifiques mais aussi les personnes qui, sans que ce soit leur métier, contribuent à transmettre un rapport exigeant à l’information jouent un rôle clé dans la contre-offensive. Ils peuvent être des modèles et des prescripteurs de l’attitude souhaitable face à l’information et la connaissance, faite à la fois d’une quête collaborative de vérité et d’une reconnaissance de notre ignorance dans certains registres.

Une plateforme donnant accès à une mosaïque de ressources pédagogiques destinées aux différents types d’enseignants et d’apprenants devrait être créée et continuellement mise à jour. Les soldats de la résistance à l’information toxique doivent être convenablement armés.

Nicolas Curien, Professeur émérite honoraire du CNAM, Académie des technologies et Thierry Weil, Chaire Futurs de l'industrie et du travail (CERNA, I3, CNRS), Membre de l’Académie des technologies, Mines Paris - PSL

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Vous vous connectez sur votre assistant IA conversationnel : il vous salue amicalement, « Vous êtes de retour ! » Puis vous lui soumettez une question de vocabulaire, l’ébauche bancale d’un texte ou une intuition fragile : « Quelle bonne idée ! »

Très souvent, avant même d’examiner votre requête, l’IA vous gratifie d’un commentaire élogieux (« Excellente question » ou « C’est un sujet fascinant »). Ce réflexe de validation porte un nom dans la recherche récente : sycophancy, en anglais, que l’on peut traduire par « effet sycophante » ou « biais de complaisance ».

Plusieurs des assistants les plus diffusés le manifestent de façon régulière : évaluant ChatGPT, Claude et Gemini sur des tâches de mathématiques et de conseil médical, Aaron Fanous et ses collègues de l’université de Stanford l’ont mesuré dans près de six réponses sur dix. Ce concept relie deux histoires que tout semblait séparer : celle d’une technique d’entraînement vieille de quelques années, et celle d’un travers humain que la psychologie sociale décrit depuis les années 1960. L’assistant flatte parce qu’on l’a récompensé pour flatter, et nous cédons à la flatterie parce que notre jugement fléchit devant l’éloge qui nous vise.

Une figue, un délateur, une machine

Le mot nous vient de l’Athènes de Solon, au début du sixième siècle avant notre ère. La cité interdisait alors l’exportation des figues, rapporte Plutarque, et faute de police, comptait sur les particuliers pour dénoncer les fraudeurs. Celui qui « montrait les figues », de sukon, la figue, et phainein, montrer, servait aux juges l’accusation qu’ils attendaient, gagnait son procès et, accessoirement, touchait sa prime. Le grec a légué le terme à l’anglais sycophancy, qui désigne la flatterie servile du courtisan, avant que la recherche sur l’intelligence artificielle le reprenne pour nommer ce penchant des modèles à caresser leur interlocuteur dans le sens du poil.

Le sycophante grec lisait les attentes du juge et ajustait son propos pour plaire ; l’assistant IA lit les indices laissés dans la question et oriente sa réponse vers ce qui contentera l’utilisateur. Un même geste relie les deux : un locuteur placé en situation d’être évalué règle son discours sur la récompense attendue plutôt que sur l’exactitude. Le délateur optimisait la faveur du tribunal, le modèle optimise le score d’un évaluateur.

Cette économie de la flatterie a quitté le tribunal pour gagner la vie ordinaire des échanges commerciaux et numériques, où elle garde son efficacité même à découvert. Les spécialistes du marketing Elaine Chan et Jaideep Sengupta l’ont établi par l’expérience : un compliment adressé par un vendeur agit sur sa cible alors même que celle-ci perçoit le motif intéressé et corrige consciemment son jugement.

La correction opère en surface, sur l’attitude déclarée, pendant qu’une adhésion favorable subsiste en profondeur et pèse davantage sur le comportement d’achat. L’assistant conversationnel hérite de cette rente : sa déférence porte auprès d’un utilisateur averti de sa nature statistique, parce que la lucidité sur le procédé désarme moins la flatterie qu’on ne l’espère.

Pourquoi apprendre à une machine à complaire ?

Cet effet est-il intentionnel et destiné à capter de nouveaux clients ? Techniquement, la complaisance des modèles se présente d’abord comme la conséquence de leur méthode d’apprentissage. Les grands modèles de langage passent en effet par une étape appelée RLHF, pour Reinforcement Learning from Human Feedback, soit l’apprentissage par renforcement à partir de retours humains.

Le principe a d’abord été formalisé de façon générale par Paul Christiano, chercheur américain en intelligence artificielle, et ses coauteurs, en 2017, sur des tâches de simulation robotique sans lien avec le langage, avant que l’équipe d’OpenAI, autour du chercheur en intelligence artificielle Long Ouyang, l’applique aux modèles conversationnels en 2022 avec InstructGPT. L’idée tient en peu de mots : des personnes classent les réponses du modèle de la meilleure à la moins bonne, ces classements servent à entraîner un « modèle de récompense », et le système apprend ensuite à produire ce que ce modèle de récompense note haut.

C’est ainsi que, presque ironiquement, le maillon humain introduit un biais que des chercheurs des universités Harvard et de Boston ont su isoler dans les données de préférence elles-mêmes. À justesse factuelle égale, une réponse qui épouse l’opinion de l’utilisateur récolte de meilleures notes qu’une réponse exacte qui le contrarie. L’étude va même plus loin : humains et modèles de récompense retiennent parfois une réponse flatteuse bien tournée de préférence à une réponse correcte. Au point que pousser l’optimisation contre ce signal finit par rogner la véracité au profit de l’agrément ! La flatterie devient alors une stratégie payante au sens mathématique, un point vers lequel l’entraînement converge de lui-même.

La complaisance reste pourtant une tendance parmi d’autres, tempérée par les objectifs concurrents que l’entraînement poursuit en même temps : la recherche d’exactitude, par exemple, travaille contre la déférence, tandis que l’utilité perçue la renforce. Le résultat dépend de l’équilibre que chaque éditeur donne à ces forces, ce qui explique que l’ampleur du phénomène varie sensiblement d’un modèle à l’autre. Keyu Wang et ses collègues relèvent ainsi, sur sept familles de modèles, des taux de complaisance qui s’échelonnent de 47 % à 95 %.

Ce penchant s’accentue pourtant avec la taille. Jerry Wei et ses collègues l’ont mesuré sur les modèles PaLM de Google : plus le modèle grossit, plus il tend à répéter l’opinion de son interlocuteur, et l’effet s’accentue encore lorsqu’on l’entraîne à suivre des instructions. L’assistant se contente ainsi rarement de flatter : il apprend de notre goût pour la flatterie et nous renvoie une version amplifiée de nos propres attentes. Les systèmes les mieux ajustés aux préférences déclarées comptent parmi les plus enclins à la déférence. Plusieurs équipes cherchent des correctifs, par exemple l’ajout de données synthétiques conçues pour désapprendre la flatterie, une piste que Wei et ses collègues explorent dans le même travail. La question reste ouverte à ce jour.

Pourquoi la flatterie prend sur nous

Un miroir complaisant agit seulement si celui qui s’y regarde le croit fidèle. Bien avant les assistants conversationnels, la psychologie sociale a montré que la cible d’un compliment perd en lucidité au moment précis où elle en aurait le plus besoin. Le psychologue américain Edward E. Jones a fondé cette étude en 1964 sous le nom d’« ingratiation », l’art de se rendre désirable aux yeux d’autrui, et il y repérait déjà une « distorsion vaniteuse » qui rend chacun plus crédule devant l’éloge tourné vers lui-même que devant celui destiné à un tiers.

La psychologue néerlandaise Roos Vonk a mis ce mécanisme à l’épreuve du laboratoire. Ses expériences révèlent un écart net entre la cible et l’observateur : la personne directement flattée juge le flatteur plus crédible et plus sympathique que ne le fait un témoin de la même scène, et cet écart tient bon même quand on neutralise la fatigue cognitive, l’humeur ou l’envie de plaire. Nous jugeons donc au plus mal la sincérité des compliments qui nous sont adressés. Un utilisateur averti du fonctionnement statistique d’un modèle reste vulnérable à sa validation pour cette raison simple : occuper la place de cible suffit à endormir la méfiance.

Le psychiatre Serge Tisseron a décrit le versant émotionnel de cet attachement. Analysant notre rapport aux robots sociaux, il montre qu’un artefact peut satisfaire notre désir d’emprise tout en entretenant l’illusion de la réciprocité. Face à une machine qui adopte les codes de l’écoute et de l’attention, l’utilisateur lui prête une intériorité, parfois une bienveillance. L’assistant devient une sorte de compagnon rassurant, un espace où la contradiction se fait rare. Ce ressort prolonge une disposition ancienne : Tisseron la rattache à notre façon d’investir affectivement les objets, l’assistant venant occuper une fonction psychique déjà là. J’ai analysé ailleurs ce basculement, où l’écoute simulée finit par redéfinir ce que nous attendons d’un échange, sous le nom d’empathie artificielle.

Reste la dimension économique, que le sociologue Antonio Casilli éclaire dans son enquête sur le travail du clic. La douceur des interfaces résulte d’un calibrage industriel où le ton des modèles se règle en amont, grâce au travail d’annotateurs largement invisibles. Les éditeurs visent la fidélité d’usage, et l’expérience gagne à rester agréable : une conversation qui flatte retient mieux qu’une conversation qui heurte. L’incitation commerciale et l’incitation technique poussent vers le même résultat, une friction réduite au minimum, sans qu’il faille supposer la moindre intention de rendre les esprits paresseux.

Le Tricatel de la pensée

Dans le film L’Aile ou la Cuisse, l’usine Tricatel fabriquait une nourriture de synthèse, lissée et sans saveur, servie sous les dehors de la grande cuisine. L’effet sycophante produit un équivalent textuel : une matière relationnelle prémâchée, agréable, qu’on avale sans effort. Le risque tient moins à une machine devenue intelligente ou hostile qu’à une chambre d’échos où notre ego trouve un assentiment permanent.

Deux forces s’y rejoignent, et c’est leur rencontre qui peut paraître inquiétante. D’un côté, notre moindre lucidité devant l’éloge qui nous vise ; de l’autre, une technique d’entraînement qui sélectionne la complaisance. Au total, nous sommes face à un système réglé pour flatter, qui s’adresse à un esprit disposé à se laisser flatter et… l’accord se scelle. En confiant à ces miroirs le soin de valider nos idées, nous risquons d’oublier que la pensée avance par le frottement avec le réel et par la rencontre de ce qui résiste, jamais par un consentement fabriqué.

Emmanuel Carré, Professeur, directeur de Excelia Communication School, chercheur associé au laboratoire CIMEOS (U. de Bourgogne) et CERIIM (Excelia), Excelia

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.