Technomedia

Numérique · médias · sciences · intelligence artificielle

Comment s’explique le succès des théories complotistes ?

 

terre plate

Par Pascal Lardellier, Université Bourgogne Europe

Le complotisme fait un étonnant retour dans l’actualité depuis plusieurs années, tout à la fois objet de débat public et catégorie d’accusation. Pas une polémique, pas une affaire dans l’actualité sans que l’assignation ne surgisse, comme explication du problème et ostracisme disqualifiant. Car le terme « complotiste » fonctionne comme une disqualification, qui exclut du champ de la parole légitime. Comment expliquer sa récurrence ?

Nous vous proposons aujourd’hui de lire un extrait de l’essai de Pascal Lardellier, le Nouvel Âge du complotisme. Post-vérité : quand le réel vacille (éditions de l’Aube, 2026).


Pendant une large partie du XXe siècle, l’hypothèse selon laquelle des groupes influents orientaient les destinées collectives ne relevait pas de la pensée marginale. Elle constituait au contraire une grille de lecture nourrie par l’observation de certaines structures de pouvoir. L’existence de cercles d’influence comme le Groupe Bilderberg, fondé en 1954, ou le Forum économique mondial de Davos, créé en 1971, a longtemps alimenté l’idée selon laquelle des élites transnationales se concertaient à l’abri des regards. Ces institutions fonctionnent entourées d’une certaine opacité, ce qui pouvait légitimer l’inquiétude citoyenne quant à leur rôle effectif dans l’orientation des politiques publiques.

De même, certaines organisations comme la franc-maçonnerie, par leur caractère initiatique et leur culture du secret ont historiquement suscité des interrogations sur leur influence politique et sociale. L’histoire politique française, notamment sous la IIIᵉ République, témoigne de l’imbrication entre appartenance maçonnique et exercice du pouvoir. Dans ce contexte, suspecter l’existence d’influences discrètes constituait une forme de vigilance politique. Mais vigilance ne signifie pas paranoïa. Entre s’interroger sur des réseaux d’influence et imaginer un complot mondial, il y a un fossé à ne pas franchir.

À cela s’ajoute une dimension antisémite récurrente qui transforme l’observation de réalités économiques en fantasme complotiste. La figure des Rothschild a ainsi été instrumentalisée pour alimenter le mythe d’une « finance juive mondiale » contrôlant les États. Ce glissement vers le fantasmatique illustre comment des schémas idéologiques antisémites préexistaient aux faits qu’ils prétendaient expliquer. L’antisémitisme n’est jamais une lecture de la réalité, c’est toujours une grille projective plaquée sur elle – ce qui est mis en scène dans le film Borat (2006) de Sacha Baron Cohen, un film « déjanté » édifiant pour comprendre les ressorts profonds des imaginaires antisémites.

Le fait est que l’évolution du capitalisme contemporain a validé certaines interrogations relatives à la concentration du pouvoir. Les travaux économiques ont documenté l’accroissement des inégalités et la constitution d’une « hyperclasse mondiale » disposant d’une influence considérable sur les orientations politiques. Le Monde diplomatique consacre de fréquents dossiers à ces institutions transnationales au pouvoir décisionnaire élargi, dont le FMI.

En France, la possession de la quasi-totalité des grands médias par une poignée de milliardaires ou de multimillionnaires – Vincent Bolloré, Xavier Niel, Patrick Drahi, Bernard Arnault, la famille Dassault et Mathieu Pigasse – interroge légitimement sur la pluralité de l’information. Et cette réalité tangible de la concentration médiatique nourrit un soupçon : si l’information est détenue par quelques-uns ayant des intérêts économiques et politiques convergents, comment garantir son objectivité ? Cette question n’est pas déraisonnable en soi.

Fantasme du complot orchestré

Le problème surgit lorsque ce constat factuel se transforme en la certitude d’une manipulation intentionnelle, glissant de la critique raisonnée vers le fantasme du complot orchestré. Entre dire « les médias appartiennent à des milliardaires » et affirmer « les médias mentent systématiquement sur ordre », il y a un pas que les complotistes franchissent allègrement.

L’avènement des réseaux sociaux a profondément reconfiguré la circulation de l’information et, avec elle, la diffusion des théories du complot. Les plateformes numériques, par leur modèle économique fondé sur la captation de l’attention, privilégient les contenus suscitant l’engagement émotionnel, parmi lesquels les récits complotistes occupent une place de choix.

Les algorithmes, en proposant des contenus similaires à ceux déjà consultés, créent des « bulles de filtres » qui enferment les utilisateurs dans des univers informationnels homogènes. Ces mécanismes algorithmiques amplifient des biais cognitifs bien documentés par la psychologie sociale : le biais de confirmation, qui nous conduit à privilégier les informations confortant nos croyances préexistantes, et le biais de conformité, qui nous pousse à aligner nos opinions sur celles de notre groupe d’appartenance. Les réseaux sociaux ne les créent pas, mais ils en démultiplient les effets en accélérant la circulation des rumeurs et en créant l’illusion d’un consensus autour d’interprétations marginales.

Les rumeurs et légendes urbaines, phénomènes anthropologiques anciens, trouvent dans cet environnement numérique un terrain propice à leur recyclage et à leur hybridation. Des narrations autrefois cantonnées à des cercles restreints accèdent désormais à une diffusion massive et peuvent se cristalliser en fake news, terme devenu omniprésent dans le débat public depuis une dizaine d’années. La pandémie de Covid-19 a constitué un moment paroxystique dans cette dynamique. L’incertitude scientifique initiale, inhérente à toute crise sanitaire émergente, a été interprétée par certains comme la preuve d’une dissimulation délibérée.

L’hypothèse controversée de l’origine du virus, notamment la théorie de l’accident de laboratoire à Wuhan initialement écartée puis partiellement réhabilitée dans le débat scientifique, a alimenté le soupçon d’un mensonge d’État. Précisons : que l’hypothèse ait été écartée prématurément par certains ne signifie pas qu’il y a eu complot, mais cela illustre comment l’absence de transparence et la gestion maladroite de l’incertitude scientifique nourrissent la défiance.

De même, l’affaire de l’étude frauduleuse sur l’hydroxychloroquine publiée dans The Lancet puis rétractée a semblé valider l’idée que les autorités scientifiques et sanitaires pouvaient manipuler les données. Ces épisodes, en dépit de leur résolution par les mécanismes habituels de la science (rétractation, débat contradictoire), ont durablement entamé la confiance d’une partie de la population. Ils ont également fourni un argumentaire à ceux qui dénonçaient une « vérité officielle » imposée contre l’évidence. Le sentiment diffus « qu’on nous cache des choses » s’est ainsi cristallisé, trouvant dans ces controverses scientifiques une apparente légitimation.

Le « fact-checking » comme nouvelle ligne de front

Face à cette prolifération des fausses informations, les médias traditionnels ont développé des cellules de fact-checking destinées à vérifier la véracité des énoncés circulant dans l’espace public. Ces dispositifs, inspirés notamment du modèle anglo-saxon, se sont multipliés en France avec des initiatives comme celles des Décodeurs du Monde, de Libération CheckNews, ou encore de l’Agence France Presse. Leur objectif affiché est de restaurer un rapport factuel à l’information en distinguant le vrai du faux par un travail méthodique de vérification. Cependant, cette entreprise de vérification s’est rapidement heurtée à une difficulté majeure : elle a été perçue par une partie du public comme une nouvelle forme de censure exercée par les élites médiatiques. Les nombreuses critiques exprimées à leur encontre sur les réseaux sociaux vont largement en ce sens. La figure du journaliste « vérificateur » s’est vue contestée dans son autorité même, accusée de servir les intérêts des puissants plutôt que la vérité. Cette contestation a trouvé une expression particulièrement virulente dans les milieux se revendiquant de la « réinformation », où le fact-checking est systématiquement interprété comme une tentative de contrôle de la pensée.

La création d’instances d’analyse du complotisme (cf. l’Observatoire Conspiracy Watch) a accentué cette polarisation. En établissant des listes de personnalités ou de contenus « complotistes », ces initiatives ont contribué, malgré leur intention louable, à créer une frontière binaire entre pensée légitime et pensée illégitime. Cette classification manichéenne a paradoxalement renforcé le sentiment d’être persécuté chez ceux qu’elle désignait, validant à leurs yeux la thèse d’un pouvoir occulte cherchant à faire taire les dissidents. Il faut le reconnaître : le fact-checking, pour nécessaire qu’il soit, ne suffit pas à restaurer la confiance. Pire, perçu comme partial, il peut l’éroder davantage.

Cette dynamique d’opposition entre « vérité officielle » et « vérité alternative » a produit un effet pervers : l’aplatissement des controverses. Dans l’espace numérique, des affirmations de nature radicalement différente se retrouvent placées sur un même plan, agrégées sous l’étiquette unificatrice de « complotisme ». Ainsi peut-on voir juxtaposées des théories aussi hétérogènes que le platisme (la Terre serait plate), des rumeurs sur l’identité de genre de Brigitte Macron, le mythe antisémite d’une domination juive mondiale, la contestation de la sécurité des vaccins ou l’exagération des dangers de l’hydroxychloroquine.

Disparition des nuances

Cette mise en équivalence pose un problème majeur. Ces différentes affirmations ne relèvent ni des mêmes régimes de vérité, ni des mêmes enjeux, ni des mêmes degrés de dangerosité sociale. Le platisme, pour absurde qu’il soit, ne menace directement personne ; l’antisémitisme structurel a produit des génocides ; la défiance vaccinale peut avoir des conséquences sanitaires mesurables. En les agrégeant sous une même catégorie accusatoire, on brouille les lignes et on prive le débat public des nuances nécessaires à une réponse appropriée.

Voilà précisément ce que l’on reproche ordinairement aux « anti-conspi » : leur tendance à mêler des choses disparates, par facilité ou par stratégie. Cette horizontalisation du complotisme est contre-productive. Elle empêche de distinguer les questions légitimes des délires pathologiques, les inquiétudes fondées des paranoïas collectives. Cette situation configure un cercle vicieux où chaque tentative de restaurer une autorité légitime produit, chez ceux qui s’en méfient, un renforcement de leur conviction d’être les victimes d’une manipulation.

Plus les institutions s’efforcent de « lutter contre les fake news, plus elles apparaissent suspectes aux yeux de ceux qui doutent déjà d’elles. Plus les scientifiques expliquent, plus ils semblent « faire de la propagande ». Plus les médias vérifient, plus ils paraissent « au service du Système ».

Cette dynamique s’autoentretient d’autant plus que certaines des inquiétudes exprimées par les complotistes ne sont pas entièrement dénuées de fondement factuel. Car il existe effectivement une concentration oligarchique du pouvoir économique et médiatique. Et puis les institutions ont effectivement menti par le passé (on pense à l’affaire du sang contaminé en France, aux armes de destruction massive irakiennes inventées, aux révélations Snowden sur la surveillance de masse). Et les scandales sanitaires sont une réalité récurrente (Mediator, Dépakine, glyphosate).

Dès lors, comment distinguer la vigilance légitime de la paranoïa ? C’est toute la difficulté. Et c’est précisément pour cela qu’il ne faut pas disqualifier d’emblée toute question, tout doute, toute remise en cause. Le complotisme prospère sur les zones d’ombre que nous refusons collectivement d’éclairer.

Une irrationalité hyperrationalisée

Le complotisme contemporain ne peut donc se comprendre comme une simple irrationalité cognitive ni comme un phénomène uniquement imputable aux « réseaux sociaux » ou à la « post-vérité ». Il s’enracine dans une crise plus profonde de l’autorité scientifique et politique, crise elle-même liée à des transformations structurelles du capitalisme, des médias et des modes de circulation de l’information.

Il se nourrit de faits réels – la concentration du pouvoir, les mensonges avérés, les scandales documentés – qu’il surdétermine et réinterprète selon une grille paranoïaque. Le complotisme est toujours un mixte de vrai et de faux, de légitime et de délirant. C’est ce qui le rend si difficile à combattre.

Paradoxalement, la lutte contre le complotisme, telle qu’elle s’est organisée ces dernières années, participe de cette même dynamique qu’elle prétend combattre. En traçant une frontière nette entre vérité et mensonge, entre raison et déraison, entre légitimité et illégitimité, elle produit les conditions de sa propre contestation. Elle oublie que la confiance ne se décrète pas, qu’elle se construit dans la transparence et la reconnaissance des erreurs passées, et qu’elle suppose de prendre au sérieux – sans les valider – les inquiétudes de ceux que l’on prétend « éclairer ».

C’est à partir de ce constat qu’il devient possible de penser autrement la question complotiste, non plus comme un problème de « désinformation » à éradiquer par des campagnes de fact-checking, mais comme un symptôme de transformations plus profondes, qui appellent une réponse citoyenne autant qu’intellectuelle.

Le complotisme est aussi le prix que nous payons collectivement pour nos mensonges passés, silences coupables et cécités volontaires (cf. l’affaire Epstein), et notre incapacité à créer un espace de débat où la critique légitime ne soit pas immédiatement assimilée à la déraison. Tant que nous n’aurons pas compris cela, nous continuerons à alimenter le monstre que nous prétendons combattre.


Pascal Lardellier vient de publier Le Nouvel Âge du complotisme. Post-vérité : quand le réel vacille (L’Aube, 2026).The Conversation

Pascal Lardellier, Professeur, chercheur au laboratoire CIMEOS et à IGENSIA-Education, Université Bourgogne Europe

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Fake news : 89 % des Français sont dépassés face à la désinformation selon une étude Ifop

 

fakenews

Avec une moyenne de 5,4/20 à un quiz dédié, les Français peinent à identifier les mécanismes de la désinformation. Une étude Ifop pour Cision met en évidence une vulnérabilité massive des Français aux fake news.

Voilà un pourcentage qui a de quoi effrayer et donne une idée de l’ampleur du phénomène : 89 % des Français se disent démunis face à la désinformation, selon une étude réalisée par l’Ifop pour Cision. L’institut a utilisé un « Quiz anti-fake news » qui met ainsi en évidence une faiblesse généralisée des Français dans leur capacité à décrypter les contenus trompeurs. La moyenne nationale s’établit à 5,4 sur 20 et seuls 1 % des répondants dépassent la note de 15/20.

Aucun segment de la population n’échappe à cette vulnérabilité : ni les catégories sociales, ni les territoires, ni les orientations politiques. L’étude souligne ainsi le caractère systémique de la désinformation, alimentée par la multiplication des sources – réseaux sociaux, contenus produits par intelligence artificielle, influenceurs – et par une circulation accélérée de l’information.

Des écarts apparaissent toutefois selon les profils. Contrairement à certaines représentations, la Gen Z enregistre les résultats les moins faibles, avec une moyenne oscillant entre 6,3 et 6,7/20. À mesure que l’âge augmente, les scores diminuent, jusqu’à 4,8/20 pour les 65 ans et plus. Une performance relative qui ne doit pas masquer un niveau globalement insuffisant.

L’impact du temps passé sur les réseaux sociaux

Le temps passé sur les réseaux sociaux constitue un facteur déterminant. Les individus y consacrant moins de deux heures par jour obtiennent une moyenne de 5,6, contre 4,9 pour ceux dépassant cinq heures quotidiennes. L’exposition prolongée semble ainsi corrélée à une moindre capacité de discernement.

Le niveau d’étude renforce ces écarts. Les titulaires d’un diplôme de deuxième ou troisième cycle atteignent 7,6/20, contre 5,3 pour les bacheliers et 4,4 pour les non-diplômés. Les cadres et professions intermédiaires supérieures obtiennent également des scores plus élevés, à 7,3/20.

fakenews

La géographie sociale joue un rôle comparable. Les habitants de l’agglomération parisienne affichent une moyenne de 6,2/20, supérieure à celle des villes de province (5,3) et des zones rurales (5,1). Le niveau culmine dans les banlieues aisées (6,5), confirmant l’influence des environnements socio-économiques.

Sur le plan politique, les différences sont marquées. Les sympathisants écologistes obtiennent les meilleurs résultats (8,1/20), suivis par ceux de La France insoumise (6,3/20), tandis que les sympathisants du Rassemblement national se situent en bas de classement (4,3/20).

Les mieux notés lisent la presse

Les pratiques informationnelles apparaissent enfin comme un levier central. « S’informer sur internet et dans la presse quotidienne nationale synonyme de notes plus élevées ». Ceux qui obtiennent les meilleurs scores privilégient ces deux canaux, avec des moyennes respectives de 6,3/20 pour internet et 6/20 pour la presse écrite nationale.

L’étude met également en lumière une difficulté spécifique : l’identification des contenus générés par intelligence artificielle. Une des questions du quiz enregistre ainsi 97 % de réponses erronées ou incomplètes, révélant un niveau de confusion particulièrement élevé face aux images synthétiques.

« Ce que montre ce sondage, c’est que lutter contre la désinformation, ça s’apprend, et qu’on devrait tous s’y mettre. Personne n’est prémuni par avance », analyse Thomas Huchon, journaliste spécialiste des infox et des théories du complot. Il y a « urgence à élever les barrières de l’esprit critique pour se protéger du fléau de la désinformation », rajoute Cyndie Bettant, cheffe du projet Anti-fake news pour Cision, qui veut aussi alerte les entreprises sur le coût de la désinformation, 400 milliards dans le monde.

À quelques jours de la Semaine de la presse et des médias organisée par le CLEMI, ces résultats prennent une résonance particulière car ils soulignent l’écart persistant entre l’exposition à l’information et la capacité à l’évaluer, dans un environnement où les outils de désinformation gagnent en sophistication.

Deepfake, décryptage d’une arnaque

deepfake

Par Thomas Mannierre, Directeur EMEA Sud de BeyondTrust

L’IA a fait entrer les braquages dans une nouvelle dimension. Plus besoin d’une cagoule noire désormais. En améliorant les attaques d'ingénierie sociale modernes, l’IA a donné naissance à un autre type de menaces : les deepfakes. Bienvenue dans ce qui pourrait être un épisode de Black Mirror !

Le faux CFO de Hong Kong

En début d’année, une entreprise à Hong Kong s’est vue escroquée de 25,6 millions de dollars par un hacker utilisant l’IA et la technologie deepfake pour usurper l’identité d’un directeur financier. Si l'on en croit les rapports d’enquête, l'attaque a simulé un environnement de vidéoconférence complet et utilisé une fausse identité d'un important directeur financier de Hong Kong et d'autres participants à la réunion. La victime ciblée du département financier s'est d'abord méfiée d'un e-mail de phishing prétendant provenir du directeur financier. Cependant, la victime a rejoint une conférence Web au cours de laquelle les attaquants ont reproduit de manière convaincante la voix et l'apparence du directeur financier, et se sont fait passer pour d'autres participants en exploitant une intelligence artificielle (IA) avancée. La victime a ainsi été manipulée socialement par les participants à l'appel vidéo falsifié pour transférer 25,6 millions de dollars sur cinq comptes bancaires différents à Hong Kong.

Deepfake, la menace grandit 

Une attaque de type deepfake exploite la technologie pour créer de nouvelles identités, voler l’identité de personnes réelles ou se faire passer pour de vraies personnes, souvent dans le but d’accéder à des actifs, notamment des informations privilégiées ou de l’argent. Si cette pratique était autrefois observée dans la création d’images, de documents et de vidéos falsifiés, elle est désormais plus fréquemment utilisée pour créer des appels vidéo en temps réel, et même pour usurper l’identité de personnes dans des opérations de vishing élaborées. En 2022 déjà, 66 % des professionnels de la cybersécurité ont déclaré avoir vu des deepfakes exploités lors d’une cyberattaque. La plupart de ces attaques ont pris la forme de vidéos (58 %) plutôt que d’audio (42 %), ciblant les employés principalement par courrier électronique et messagerie mobile. 

Si les deepfakes sont créés à l’aide de diverses méthodes, l’IA porte ce phénomène à un tout autre niveau. Les applications deepfake peuvent utiliser des encodeurs automatiques pour transférer des images et des mouvements d’une image à une autre. Cela permet aux attaquants de créer facilement du contenu audio et vidéo hyperréaliste en temps réel. Des études récentes ont montré que les deepfakes sont de plus en plus difficiles à détecter pour les humains. Ces attaques gagnent en succès, tant en termes économiques que de notoriété.

Les conséquences d'une attaque deepfake

Les pertes financières

L'intelligence artificielle morphing et les menaces de deepfake contribuent à une augmentation générale de l'espionnage d'entreprise. Les attaques de phishing et de spear phishing par deepfake font partie des premières menaces connues utilisant l’IA. Une technique de plus en plus répandue de vol d’identité, connue sous le nom de « compromission d’email professionnel » (BEC), consiste pour un acteur malveillant à se faire passer pour un employé, un fournisseur ou une autre partie de confiance dans une communication par email pour inciter l’employé à envoyer des actifs précieux, comme de l’argent ou des informations privilégiées. Les deepfakes rendent ces attaques plus adaptées à leur cible et plus difficiles à détecter. Dans une note publique, le FBI a classé le BEC comme l’un des crimes en ligne les plus dommageables financièrement et a souligné le fait qu’il exploite la dépendance des organisations aux emails, et désormais aux appels vidéo, pour mener des affaires, tant personnelles que professionnelles. Le BEC a été responsable de 50,8 milliards de dollars de pertes entre octobre 2013 et décembre 2022, selon le Centre de plaintes pour la criminalité sur Internet (IC3) du FBI.

L’exposition ou vol d’actifs privilégiés

Les deepfakes peuvent également servir à obtenir l'authentification d'une identité non autorisée en utilisant une confirmation visuelle ou auditive. Si l'identité piratée fournit un accès privilégié, elle pourrait permettre à l'acteur malveillant de se déplacer latéralement et de prendre le contrôle ou la visibilité des données et systèmes sensibles. Les acteurs malveillants ciblent les équipes du service support via des attaques d’ingénierie sociale. Dans certaines violations, ils ont réussi à persuader les techniciens du ervice support de réinitialiser l’authentification sur des comptes. Cela peut permettre aux cybercriminels de détourner des comptes avec des privilèges et donc de traverser un environnement pour réaliser leurs activités illicites.

Le vol d’identité personnelle et l’atteinte à la réputation

Les deepfakes peuvent également être utilisés pour commettre des vols d'identité et du harcèlement. Les créations médiatiques malveillantes peuvent être d'un réalisme alarmant et peuvent nuire considérablement à la réputation d'une personne ou d'une organisation. Les deepfakes de personnalités, de clients ou d'employés importants peuvent être utilisés pour nuire à la marque ou créer un scandale.

La propagation de la désinformation

Les deepfakes relèvent de la catégorie plus large des médias synthétiques et sont souvent utilisés pour créer des vidéos, des images, des fichiers audio et des textes crédibles et réalistes sur des événements qui n'ont jamais eu lieu. Les reportages falsifiés, par exemple ceux d'une autorité respectée ou d'un présentateur de nouvelles, peuvent exploiter la tendance naturelle des gens à croire ce qu'ils voient et sont très efficaces pour diffuser de la désinformation. Cela peut constituer une menace claire, actuelle et évolutive pour le public dans les domaines de la sécurité nationale, de l'application de la loi, de la finance et de la société.

Mais les entreprises ne sont pas complètement démunies face à l’essor des menaces par deepfake.  Différentes stratégies leur permettent de se protéger contre les menaces modernes basées sur l’identité, telles que les deepfakes. En voici six dont l’efficacité n’est plus à prouver : adopter une stratégie Zero Trust, utiliser soi-même des deepfakes lors de tests de pénétration et d’exercices de formation pour évaluer les vulnérabilités et éduquer les salariés à reconnaître et contrecarrer de telles tactiques de manipulation, mettre en place des authentifications multifacteur (MFA) résistantes au phishing telles que FIDO2, veiller à la gestion des accès privilégiés (PAM), et adopter des technologies et des stratégies modernes, telles que la détection et la réponse aux menaces d’identité (ITDR), qui peuvent détecter de manière intelligente les menaces ou les risques liés à l’identité. 

Le cas du deepfake CFO à Hong Kong sert d'avertissement aux organisations pour qu'elles réévaluent leurs mesures de cybersécurité et leurs processus internes, car de plus en plus de ces types d'attaques modernes sont à venir. Il met en lumière les vulnérabilités émergentes auxquelles nous serons confrontés. Dans ce contexte de menaces, il est devenu primordial de se concentrer sur le zero trust et la sécurité des identités pour parer aux nouvelles attaques qui utilisent des techniques sophistiquées pour manipuler et exploiter les informations personnelles.

Deepfakes, vidéos truquées, n’en croyez ni vos yeux ni vos oreilles !

deepfakes


Par Divina Frau-Meigs, Auteurs historiques The Conversation France

Les spécialistes en fact-checking et en éducation aux médias pensaient avoir trouvé les moyens de lutter contre les « deepfakes », ou hypertrucages, ces manipulations de vidéos fondées sur l’intelligence artificielle, avec des outils de vérification comme Invid-Werify et le travail des compétences d’analyse d’images (littératie visuelle), avec des programmes comme Youverify.eu.

Mais quelques cas récents montrent qu’une nouvelle forme de cyberattaque vient de s’ajouter à la panoplie des acteurs de la désinformation, le deepfake audio.

Aux États-Unis, en janvier 2024, un robocall généré par une intelligence artificielle et prétendant être la voix de Joe Biden a touché les habitants du New Hampshire, les exhortant à ne pas voter, et ce, quelques jours avant les primaires démocrates dans cet État. Derrière l’attaque, Steve Kramer, un consultant travaillant pour un adversaire de Biden, Dean Phillips.

En Slovaquie, en mars 2024, une fausse conversation générée par IA mettait en scène la journaliste Monika Tódová et le dirigeant du parti progressiste slovaque Michal Semecka fomentant une fraude électorale. Les enregistrements diffusés sur les réseaux sociaux pourraient avoir influencé le résultat de l’élection.

Le même mois, en Angleterre, une soi-disant fuite sur X fait entendre Keir Starmer, le leader de l’opposition travailliste, insultant des membres de son équipe. Et ce, le jour même de l’ouverture de la conférence de son parti. Un hypertrucage vu plus d’un million de fois en ligne en quelques jours.

Un seul « deepfake » peut causer de multiples dégâts, en toute impunité. Les implications de l’utilisation de cette technologie affectent l’intégrité de l’information et du processus électoral. Analyser comment les hypertrucages sont générés, interpréter pourquoi ils sont insérés dans les campagnes de déstabilisation et réagir pour s’en prémunir relève de l’Éducation aux médias et à l’information.

Analyser : un phénomène lié à la nouvelle ère des médias synthétiques

Le deepfake audio est une composante des médias synthétiques, à savoir des médias synthétisés par l’intelligence artificielle, de plus en plus éloignés de sources réelles et authentiques. La manipulation audio synthétisée par l’IA est un type d’imitation profonde qui peut cloner la voix d’une personne et lui faire dire des propos qu’elle n’a jamais tenus.

C’est possible grâce aux progrès des algorithmes de synthèse vocale et de clonage de voix qui permettent de produire une fausse voix, difficile à distinguer de la parole authentique d’une personne, sur la base de bribes d’énoncés pour lesquels quelques minutes, voire secondes, suffisent.

L’évolution rapide des méthodes d’apprentissage profond (Deep Learning), en particulier les réseaux antagonistes génératifs (GAN) a contribué à son perfectionnement. La mise à disposition publique de ces technologies à bas coût, accessibles et performantes, ont permis, soit de convertir du texte en son, soit de procéder à une conversion vocale profonde. Les vocodeurs neuronaux actuels sont capables de produire des voix synthétiques qui imitent la voix humaine, tant par le timbre (phonation) que la prosodie (accentuation, amplitude…)

Comment repérer les « deepfakes » ? (France 24, mars 2023).

Les deepfakes sonores sont redoutablement efficaces et piégeants parce qu’ils s’appuient également sur les avancées révolutionnaires de la psycho-acoustique – l’étude de la perception des sons par l’être humain, notamment en matière de cognition. Du signal auditif au sens, en passant par la transformation de ce stimulus en influx nerveux, l’audition est une activité d’attention volontaire et sélective. S’y rajoutent des opérations sociocognitives et interprétatives comme l’écoute et la compréhension de la parole de l’autre, pour nous faire extraire de l’information de notre environnement.

Sans compter le rôle de l’oralité dans nos cultures numériques, appuyée sur des usages en ligne et en mobilité, comme en témoigne la vogue des podcasts. Les médias sociaux se sont emparés de cette réalité humaine pour construire des outils artificiels qui instrumentent la voix comme outil narratif, avec des applications comme FakeYou. La voix et la parole relèvent du registre de l’intime, du privé, de la confidence… et la dernière frontière de la confiance en l’autre. Par exemple, la radio est le média en qui les gens ont le plus confiance, selon le dernier baromètre de confiance Kantar publié par La Croix !

Interpréter : des opérations d’influence facilitées par l’intelligence artificielle

Le clonage vocal présente un énorme potentiel pour détruire la confiance du public et permettre à des acteurs mal intentionnés de manipuler les appels téléphoniques privés. Les deepfakes audio peuvent être utilisés pour générer des falsifications sonores et diffuser de la désinformation et du discours de haine, afin de perturber le bon fonctionnement de divers secteurs de la société, des finances à la politique. Ils peuvent aussi porter atteinte à la réputation des personnes pour les diffamer et les faire chuter dans les sondages.

Le déploiement de deepfakes audio présente de multiples risques, notamment la propagation de fausses informations et de « fake news », l’usurpation d’identité, l’atteinte à la vie privée et l’altération malveillante de contenus. Les risques ne sont pas particulièrement nouveaux mais néanmoins réels, contribuant à dégrader le climat politique, selon le Alan Turing Institute au Royaume-Uni.

Le deepfake, expliqué (Brut, 2021)

Il ne faut donc pas sous-estimer cette amplification à échelle industrielle. Les deepfakes audio sont plus difficiles à détecter que les deepfakes vidéo tout en étant moins chers et plus rapides à produire : ils se greffent facilement sur une actualité récente et sur les peurs de certains secteurs de la population, bien identifiés. En outre, ils s’insèrent avantageusement dans l’arsenal des extrémistes, lors de campagnes d’ingérence en temps de paix comme les élections.

Réagir : de la détection des fraudes à la régulation et à l’éducation

Il existe plusieurs approches pour identifier les différents types d’usurpation audio. Certaines mesurent les segments silencieux de chaque signal de parole et relèvent les fréquences plus ou moins élevées, pour filtrer et localiser les manipulations. D’autres entraînent des IA pour qu’elles distinguent des échantillons authentiques naturels d’échantillons synthétiques. Toutefois, les solutions techniques existantes ne parviennent pas à résoudre complètement la question de la détection de la parole synthétique.

Cette détection reste un défi car les manipulateurs tentent de supprimer leurs traces de contrefaçon (par des filtres, des bruits…), avec des générateurs de deepfake audio qui sont de plus en plus sophistiqués. Face à ces vulnérabilités démocratiques restent donc des solutions humaines diverses, qui vont de l’autorégulation à la régulation et impliquent divers types d’acteurs.

Les journalistes et les fact-checkeurs ont augmenté leurs techniques de recherche contradictoire, pour tenir compte de cette nouvelle donne. Ils s’en remettent à leurs stratégies de vérification des sources et de validation du contexte d’émission. Mais ils font aussi appel, via Reporters sans Frontières, au corps juridique, pour la protection des journalistes, afin qu’ils créent un « délit de deepfake » capable de dissuader les manipulateurs.

Les plates-formes de médias sociaux (Google, Meta, Twitter et TikTok) qui les véhiculent et les amplifient par leurs algorithmes de recommandation sont soumises au nouveau Code de pratique de l’UE en matière de désinformation. Renforcé en juin 2022, il interdit les Deepfakes et enjoint les plates-formes à utiliser leurs outils (modération, déplatformisation…) pour s’en assurer.

Les enseignants et les formateurs en Éducation aux Médias et à l’Information se doivent à leur tour d’être informés, voire formés, pour pouvoir alerter leurs étudiants sur ce type de risque. Ce sont les plus jeunes qui sont les plus visés. A leurs compétences en littératie visuelle, ils doivent désormais ajouter des compétences en littératie sonore.

Les ressources manquent à cet égard et réclament de la préparation. C’est possible en choisissant de bons exemples comme ceux liés à des personnalités politiques et en faisant attention aux 5D de la désinformation (discréditer, déformer, distraire, dévier, dissuader). S’appuyer sur le contexte et le timing de ces cyberattaques est aussi fructueux.

[Déjà plus de 120 000 abonnements aux newsletters The Conversation. Et vous ? Abonnez-vous aujourd’hui pour mieux comprendre les grands enjeux du monde.]

Aux personnalités politiques, somme toute concernées mais très peu formées, le Alan Turing Institute propose une stratégie partageable par tous, les 3I : informer, intercepter, insulariser. En phase de pré-élection, cela consiste à informer sur les risques des deepfakes audio ; en phase de campagne, cela implique d’intercepter les deepfakes et de démonter les scénarios de menace sous-jacents ; en phase post-électorale, cela oblige à renforcer les stratégies d’atténuation des incidents relevés et à les faire connaître auprès du public.

Toutes ces approches doivent se cumuler pour pouvoir assurer l’intégrité de l’information et des élections. Dans tous les cas, soignez votre écoute et prenez de l’AIR : analysez, interprétez, réagissez !The Conversation

Divina Frau-Meigs, Professeur des sciences de l'information et de la communication, Auteurs historiques The Conversation France

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Élections européennes 2024 : un scrutin ciblé comme jamais par la désinformation

 

europe

Rarement une élection aura à ce point été ciblée par des ingérences étrangères et des tentatives de désinformation. « Des institutions, autorités, acteurs de la société civile et vérificateurs de faits tels que l’Observatoire européen des médias numériques, le Réseau européen des normes de vérification des faits et EUvsDisinfo ont détecté et révélé de nombreuses tentatives de tromper les électeurs avec des informations manipulées ces derniers mois », assurait mercredi le Parlement européen.

« Les acteurs de la désinformation ont diffusé de fausses informations sur la façon de voter, cherché à décourager les citoyens de voter ou encore cherché à semer la division et la polarisation avant le vote en détournant des sujets de grande envergure ou controversés. Parfois, ces tentatives de tromper consistent à inonder l’espace informationnel avec une abondance d’informations fausses et trompeuses, dans le but de détourner le débat public. Souvent, des dirigeants et leaders politiques sont ciblés par des campagnes de manipulation de l’information. Plusieurs politiques européennes sont souvent ciblées par la désinformation : le soutien à l’Ukraine, le Pacte vert pour l’Europe et la migration », détaille le Parlement.

Une boîte à outils dédiée pour contrer la manipulation de l’information et l’ingérence étrangère

« Bien que les menaces soient présentes, les réponses collectives de l’UE sont réelles » veut rassurer l’institution. « Pour renforcer la résilience face aux tentatives d’ingérence externe, l’UE a développé une boîte à outils dédiée pour contrer la manipulation de l’information et l’ingérence étrangère. » Une boîte qui comprend plusieurs dispositifs allant de la sensibilisation situationnelle et du renforcement de la résilience à la législation et aux leviers diplomatiques en passant par l’éducation aux médias ou la vérification des faits.

Outre la loi sur les services numériques (DSA) qui encadre les réseaux sociaux, la loi sur l’IA et la loi sur la transparence et le ciblage de la publicité politique, du côté préventif, la Commission a adopté en mars des directives électorales, rappelant les mesures que les plateformes doivent adopter pour assurer la conformité. En avril, la Commission a aussi organisé un test de résistance volontaire avec ces plateformes désignées, la société civile et les autorités nationales.

TikTok a d’ailleurs échoué à ce test. La plateforme a autorisé la mise en ligne de publicités contenant de la désinformation liée aux élections européennes, selon un rapport publié mardi, contrevenant ainsi à ses propres conditions d’utilisation et mettant en doute sa capacité à détecter les fausses informations à quelques jours du scrutin.

(Article publié dans La Dépêche du Dimanche 9 juin 2024)

Élections : pourquoi 7 Français sur 10 craignent la désinformation

fakenews

À moins de deux mois des élections européennes, les Français s’inquiètent de l’impact de la désinformation sur les élections selon une nouvelle étude d’Adobe, intitulée « Future of Trust » et menée aux États-Unis, au Royaume-Uni, en Allemagne et en France.

Concernant les résultats pour notre pays, l’étude « révèle que la population française est de plus en plus préoccupée par les fausses informations relayées au sein de la société et ne sait pas vraiment où trouver des faits et informations dignes de confiance sur Internet. Près des trois quarts (73 %) des personnes interrogées estiment qu’il est difficile de contrôler la véracité du contenu numérique (vidéos, images) et 67 % craignent que de fausses informations et autres deepfakes ne perturbent les prochaines élections. »

Interdire l’intelligence artificielle aux candidats

Dans le détail, une personne sur six (16 %) a vu du contenu généré par l’intelligence artificielle (IA) concernant des personnalités politiques au cours des six derniers mois. Sans outils répandus pour les aider à discerner le vrai du faux, 78 % affirment qu’il devrait être interdit aux candidates et candidats à une élection de faire appel à l’IA.

La difficulté de vérifier les informations est imputable, selon les personnes interrogées, au manque de formation sur ces nouveaux outils. Car 85 % estiment qu’il est important de disposer d’outils permettant de s’assurer de la véracité du contenu ; or, la moitié de l’échantillon (51 %) juge aujourd’hui impossible d’authentifier un contenu généré par l’IA, relève l’étude, qui note que seules 40 % des personnes ont utilisé des outils de recherche en ligne pour les aider à repérer les fausses informations, 19 % ont regardé des tutoriels vidéo.

Faut-il quitter les réseaux sociaux ?

Cette inquiétude concerne d’ailleurs toutes les tranches d’âge. « Si la génération Z forme le groupe démographique le plus confiant en sa capacité à détecter les fausses informations, plus d’un de ses membres sur trois (36 %) admet avoir échangé des informations trompeuses au cours des six derniers mois (soit plus que toute autre tranche d’âge). Les deux tiers des jeunes de la génération Z interrogés (65 %) reconnaissent avoir du mal à vérifier la fiabilité du contenu publié sur Internet », souligne l’étude.

Pour lutter contre la désinformation, si 41 % des personnes interrogées estiment que la responsabilité incombe en premier lieu à celui ou celle qui a créé le contenu en question, 84 % préconisent une collaboration entre pouvoirs publics et entreprises technologiques pour réguler l’IA générative et empêcher son utilisation pour influencer les élections.

Cette régulation est toutefois en train de se mettre en place avec l’adoption de l’AI Act par l’Union européenne. Par ailleurs fin février, le Parlement européen a adopté de nouvelles règles de transparence pour la publicité à caractère politique, notamment en interdisant les techniques de ciblage et d’amplification sans consentement des personnes.

Face aux fake news, certains décident d’adopter une solution radicale, selon l’étude d’Adobe : 37 % des Français ont cessé d’utiliser ou réduit leur utilisation de certains réseaux sociaux en raison de la quantité de fausses informations rencontrées.

(Article publié dans La Dépêche du Midi du dimanche 21 avril 2024)

Face aux fake news, les techniques de veille peuvent vous aider

factchecking


Avis d'expert d'Arnaud Marquant, directeur des opérations chez KB Crawl SAS

Les fake news n’ont de cesse de se développer : selon un récent sondage, 2/3 des Français y seraient sensibles. Face à ce phénomène, les techniques propres à la veille stratégique peuvent servir de grille d’analyse.

Il y a quatre ans, l’immersion de la pandémie de Covid-19 s’est caractérisée par un vaste mouvement de désinformation sur les réseaux sociaux. Loin d’avoir disparu, celui-ci perdure en 2024, comme l’indique notamment l’étude récemment réalisée par Ipsos sur la désinformation qui touche actuellement la campagne électorale européenne. Selon cette dernière, 74 % des personnes interrogées estiment être capables de réaliser un tri entre vraies et fausses informations. Dans le même temps, 2/3 des personnes interrogées (66%) adhèrent à au moins l’une des fake news qui leur ont été présentées…

Comment les Françaises et les Français peuvent-ils s’armer face aux phénomènes de désinformation qui frappent notre société, surtout au moment où l’IA générative est en capacité de générer des sons et des images semblant réels ? Sans doute en adoptant certaines des techniques que la communauté des veilleurs stratégiques applique au quotidien. Trois éléments sont ici à avoir en tête.

Posez un regard critique sur toute information

Un veilleur qui prend connaissance d’une information la considère avec distance. À l’image d’un fruit dans lequel il s’apprête à croquer, il pose préalablement un regard critique dessus, considère son enveloppe, sa forme, ses aspérités… Cette approche distanciée lui permet de considérer par exemple qu’une « information » émise sur un réseau social tel que X (anciennement Twitter), Instagram ou Tik Tok est très largement susceptible de s’apparenter à de la propagande. Il sait également que certains sujets sont sur-investis par la désinformation. C’est le cas des guerres et des conflits (Ukraine, Israël-Hamas…) ou du climat, thèmes éminemment sensibles. Le veilleur a également conscience du fait qu’un titre racoleur, sans nuance, peut être un signe de fausse information. Bref, il se méfie de la forme de l’information avant même de l’avoir « consommée ».

Qui me parle ? La question de la source

L’action majeure que réalise un veilleur consiste à vérifier la source de l’information qui lui est donnée et dont il vient de prendre connaissance. Il effectue souvent une recherche sur trois points essentiels : qui est l’auteur (du texte, du post, du podcast, de la vidéo…) ? Sur quel site l’information est-elle donnée ? À quel moment est-elle promue ? Prenons le cas d’un article rédigé par un éminent spécialiste, c’est-à-dire par une personne qui se présente comme un expert. Il convient d’en savoir plus sur lui, de taper son nom sur un moteur de recherches, d’identifier le laboratoire ou l’entreprise auquel il est rattaché, de vérifier si les publications de cet auteur sont reconnues par des agences d’Etat. Vous pouvez également effectuer des recherches rapides sur l’établissement auquel se réfère cet auteur. Celui-ci est-il véritablement sérieux, c’est-à-dire reconnu par des institutions ? Tout élément faisant figure d’autorité doit être ainsi soupesé. Il est également important de remonter à la source originelle de l’information relayée. Si aucune source n’est donnée, là encore votre moteur de recherche pourra vous être utile. En copiant-collant le contenu de l’information, vous trouverez cette source… voire aurez la confirmation du fait qu’il s’agit d’une rumeur.

Observez et maîtrisez vos émotions ainsi que vos propres biais

Dans la plupart des cas, la croyance ou la propagation d’une fake news sont encouragées par des personnes qui se trouvent saisies par leurs propres émotions. Peur, colère, sentiment d’injustice, espoir… Ces éléments constituent des leviers puissants, surtout lorsqu’ils croisent nos propres convictions. Ici, gare à ce que l’on appelle le « biais de confirmation », cette tendance naturelle que nous avons tous à croire des informations qui confortent nos propres préjugés, nos hypothèses ou nos idées. Il convient toujours d’avoir à l’esprit que ces mécanismes cognitifs existent, et que nous en sommes nous-mêmes porteurs…

Le monde dans lequel nous vivons actuellement est en proie à des transitions multiples qui, synonymes d’incertitudes, permettent à de nombreuses théories d’être avancées. Celles-ci peuvent s’avérer fausses, soit par méconnaissance du sujet abordé, soit par volonté de propagande marketing, soit parce que certains acteurs ont un intérêt plus politique à déstabiliser les opinions publiques. Face à de tels phénomènes, nous devons tous comprendre que l’information est un bien commun à préserver. L’éducation aux médias se révèle ici d’une nécessité absolue et mérite d’être consolidée à l’école, au collège, dans les lycées, et même au sein des établissements d’enseignement supérieur. Elle constitue un prérequis si nous souhaitons continuer de vivre dans une société stable.


Pour en savoir plus / Quelques sites repérant les fake news :
AFP Factuel
Les Décodeurs / Journal Le Monde
Conspiracy Watch, service de presse en ligne dédié au conspirationnisme et au négationnisme


Les trois principaux scénarios de deepfake dont il faut se méfier 2023

photo


Analyse de Kaspersky

Le nombre de deepfake publiés en ligne explose de 900 % par an, selon le Forum économique mondial (WEF). De nombreuses actualités liées à des deepfakes ont fait les gros titres, faisant état de récits de vengeance, de harcèlement, d’arnaques à la crypto-monnaie, etc. Aujourd'hui, les chercheurs de Kaspersky mettent en lumière les trois principaux schémas de recours aux deepfakes, face auxquels nous nous devons tous d’être vigilants.

L'utilisation de réseaux de neurones artificiels et du deep learning (d'où est tiré le terme "deep fake") a permis à des internautes du monde entier d’exploiter des images, des vidéos et des sources audio pour créer des vidéos réalistes d'une personne dont le visage ou le corps ont été numériquement modifié, afin de lui faire faire ou dire des choses qui n’ont pas réellement été dites ou faites. Ces vidéos et ces images détournées sont fréquemment utilisées à des fins malveillantes pour propager de fausses informations et pervertir la réalité.

Fraude financière

Les deepfakes peuvent être utilisés comme levier d'ingénierie sociale, les cybercriminels ayant recours à la manipulation d’images afin de se faire passer pour des célébrités et de piéger leurs victimes. L’année dernière, par exemple, une vidéo artificielle d'Elon Musk promettant des rendements élevés dans le cadre d'un plan d'investissement douteux dans les crypto-monnaies est devenue virale, faisant perdre de l'argent aux utilisateurs crédules. Pour créer des deepfakes comme celui-ci, les criminels utilisent des enregistrements où apparaît la célébrité imitée, ou assemblent de vieilles vidéos entre elles pour produire du contenu de  flux diffusé en direct sur les plateformes de réseaux sociaux, dans lequel on leur promet de doubler tout paiement en crypto-monnaie envoyé à l’émetteur de la vidéo. 

Les deepfakes pornographiques

Les deepfakes servent également à porter atteinte à la vie privée d'une personne donnée. De fausses vidéos peuvent être créées en  accolant le visage d'une victime sur une vidéo pornographique préexistante, ce qui peut causer du tort à la personne visée, ainsi que de la détresse émotionnelle. Dans certains cas, il arrive qu’on appose des images de célébrités à des corps d'actrices porno, dans des scènes explicites. Dans de tels cas, les victimes de deepfakes voient leur réputation entachée et leurs droits bafoués.

Les entreprises dans le viseur 

Bien souvent, les deepfakes sont utilisés pour cibler des entreprises à des fins d'extorsion de fonds, de chantage et d'espionnage industriel. Par exemple, dans un cas bien connu des médias, des cybercriminels ont réussi à tromper un directeur de banque aux Émirats arabes unis et à lui voler 35 millions de dollars en utilisant un deepfake vocal. Dans ce cas, un petit enregistrement de la voix du patron d'un employé a suffi pour générer un deepfake convaincant. Dans un autre cas, des escrocs ont tenté de se faire passer pour la plus grande plateforme de crypto-monnaies, Binance. Le directeur exécutif de Binance s’est étonné de recevoir des messages de remerciement au sujet d’une réunion Zoom à laquelle il n'avait jamais assisté. À l'aide des différentes images et vidéos de ce dernier publiées en ligne, accessibles au public, les attaquants ont réussi à générer un deepfake et à le faire participer avec succès lors d'une réunion en ligne, s'exprimant ainsi au nom du dirigeant.
En général, les cybercriminels qui utilisent les deepfakes comme outil ont pour objectif la désinformation et la manipulation de l'opinion publique, le chantage ou même l'espionnage. Selon un communiqué du FBI, les responsables des ressources humaines seraient déjà en alerte concernant l'utilisation de deepfakes par des candidats qui postulent pour un travail à distance. Dans le cas de Binance, les attaquants ont utilisé des images de personnes provenant d'Internet pour créer des deepfakes et ont même pu ajouter les photos de ces personnes à des CV. S'ils parviennent ainsi à tromper les responsables des ressources humaines et qu'ils reçoivent ensuite une offre, ils peuvent récupérer les données de l'employeur. 

Selon le Forum économique mondial (WEF), le nombre de vidéos "deepfake" en ligne augmente de 900 % par an. Cependant, il est également important de prendre en compte le fait que les deepfakes sont un type de fraude très coûteux qui nécessite des investissements importants. Des recherches antérieures menées par Kaspersky ont révélé les types de deepfakes vendus sur le darknet et leurs coûts. Si un utilisateur lambda trouve un logiciel sur internet et tente de créer un deepfake par lui-même, le résultat sera irréaliste, et repérable très facilement à l'œil nu. Peu de gens se laissent berner par des deepfakes de mauvaise qualité : les décalages dans l'expression du visage ou un flou dans la forme du menton sont en effet faciles à remarquer.

Lorsque les cybercriminels préparent une attaque, ils ont besoin d'une grande quantité de données : de photos, de vidéos et d'enregistrements audio de la personne dont ils veulent usurper l'identité. Disposer de contenus les mettant en scène dans différents angles, avec différents niveaux de luminosité, et des expressions faciales variées, joue un rôle important dans la qualité finale de la vidéo produite. Pour que le résultat soit réaliste, il est nécessaire de disposer d'un ordinateur et de logiciels de pointe. Tout cela demande énormément de ressources et n'est accessible qu'à un petit nombre de cybercriminels. Par conséquent, malgré tous les dangers associés au deepfake, il faut bien comprendre qu’il s'agit toujours d'une menace extrêmement rare, que seul un petit nombre d'acheteurs peut s’offrir. En effet, produire une minute de vidéo deepfake peut coûter 20 000 dollars et plus! 

« Parmi tous les risques que les deepfakes peuvent faire courir aux entreprises, le vol de données n’est pas nécessairement le plus grave. Parfois, les atteintes à la réputation peuvent avoir des conséquences bien plus graves. Imaginez qu'une vidéo dans laquelle votre patron fait (en apparence) des déclarations polarisantes sur des questions sensibles soit publiée. Pour les entreprises, cela peut rapidement entraîner une chute du cours des actions. Cependant, bien que les risques associés à ce type de menace soient extrêmement élevés, la probabilité que vous soyez attaqué de cette manière reste extrêmement faible en raison du coût de création des deepfakes et du fait que peu d'attaquants sont capables de créer un deepfake de haute qualité », commente Dmitry Anikin, expert senior en sécurité chez Kaspersky.

« Ce que vous pouvez faire dès aujourd’hui, c'est connaître les principales caractéristiques des deepfakes et garder une attitude sceptique face aux messages vocaux et aux vidéos que vous recevez. Assurez-vous également que vos employés comprennent ce qu'est un deepfake et comment ils peuvent le reconnaître : en scrutant, par exemple, des mouvements saccadés, des changements dans le teint de la peau, des clignements étranges ou l'absence totale de clignements, etc. »

La surveillance continue des ressources du dark web fournit des informations précieuses sur l'industrie du deepfake, permettant aux chercheurs de suivre les dernières tendances et activités des acteurs de la menace dans le web souterrain. En surveillant le darknet, les chercheurs peuvent découvrir de nouveaux outils, services et marchés utilisés pour la création et la distribution de deepfakes. Ce type de surveillance est un élément essentiel de la recherche sur les deepfakes qui contribue à améliorer notre compréhension de l'évolution du paysage des menaces. Le service Digital Footprint Intelligence de Kaspersky intègre ce type de surveillance afin d'aider ses clients à garder une longueur d'avance sur les menaces liées aux deepfakes.

Pour se protéger des menaces liées aux deepfakes, Kaspersky recommande

  • Vérifiez les pratiques de cybersécurité en place dans votre organisation, non seulement en termes de logiciels de sécurité utilisés, mais aussi en termes de compétences informatiques des employés. Utilisez Kaspersky Threat Intelligence pour prendre une longueur d'avance sur le paysage actuel des menaces.
  • Renforcez le « pare-feu humain » de l'entreprise : assurez-vous que les employés comprennent ce que sont les deepfakes, comment ils fonctionnent et les défis qu'ils peuvent poser. Organisez des campagnes de sensibilisation et d'éducation continues pour apprendre aux employés à repérer les deepfakes. Kaspersky Automated Security Awareness Platform aide les employés à se tenir au courant des menaces les plus récentes et améliore leur niveau de culture numérique. 
  • Utilisez des sources d'information de bonne qualité. Le manque de connaissance en matière de fact-checking reste un facteur essentiel permettant la prolifération des deepfakes.
  • Adoptez de bons protocoles, « faites confiance mais vérifiez ». Une attitude sceptique à l'égard des messages vocaux et des vidéos ne garantit pas que les gens ne seront jamais trompés, mais elle permet d'éviter la plupart des pièges les plus courants.
  • Sachez reconnaître les principales caractéristiques des vidéos truquées pour éviter d'en être victime : mouvements saccadés, variations d'éclairage d'une image à l'autre, variations du teint de la peau, clignements étranges ou absence totale de clignements, lèvres mal synchronisées avec la parole, artefacts numériques sur l'image, vidéo intentionnellement encodée en qualité inférieure et mal éclairée.

Pour contrer infox et propagande, le fact-checking ne suffit pas

 infox

L'expansion du storytelling nourrit une méfiance généralisée.
Par Laurent Petit, Sorbonne Université

La rencontre avec des individus tenant des discours complotistes ou relayant des « infox » est toujours chose étonnante. De même que les Parisiens de Montesquieu, rencontrant pour la première fois des personnes venues d’ailleurs, s’exclamaient « Comment peut-on être persan ? », la tentation est grande de réagir par la stupéfaction et de se demander « Comment est-ce possible ? »

Lorsqu’il s’agit de personnes relativement proches et que l’on estime capables d’esprit critique, une autre question fuse : « Comment en sont-ils arrivés là ? » Quels sont les biais cognitifs – ou les ratés de l’insertion dans une société qui reste, quoi qu’on en dise, démocratique – susceptibles d’apporter un début d’explication ? À moins qu’il ne s’agisse, dans un temps prompt à accuser l’école de tous les maux, d’une défaillance du système scolaire, incapable de s’adapter au régime nouveau de la « post-vérité » ?

Quoi qu’il en soit, nous avons tous fait le constat que, lorsque nous subissons pareille confrontation, il est bien tard pour opposer à notre interlocuteur des arguments rationnels ou des faits que nous estimons établis. Le dialogue semble alors dresser l’un contre l’autre deux récits et, à ce jeu, il n’est pas sûr que les critères pour choisir le « meilleur » aient forcément à voir avec la vérité. Le récit plausible, le discours le plus en rapport avec les angoisses des intervenants sont ceux qui risquent le plus souvent d’emporter l’adhésion.

Une injonction à « faire récit »

Il serait dommage cependant de s’en tenir à des explications psychologisantes. Le souci est qu’il y a derrière ces informations fausses, intentionnellement ou pas, une « part de vérité » comme on dit. De la part de vérité à la vérité « à dévoiler », il n’y a qu’un pas, que la méfiance (envers les institutions, les médias alors qualifiés d’« officiels », etc.) aide à franchir.

Il faut y voir ici une raison profonde : tout est désormais mis en récit, qu’il s’agisse du marketing, du jeu, de la politique, voire de la science elle-même. Christian Salmon invite « à se méfier d’une pensée narrative de plus en plus instrumentalisée par les spin doctors de la communication politique, les stratèges du marketing ou de l’art de la guerre. »

Il est vrai qu’aucune activité sociale ne semble aujourd’hui épargnée et il serait fâcheux de confondre le phénomène et le thermomètre. Les racines d’une méfiance aujourd’hui largement distribuée ne sont pas à rechercher dans une expression ou une mise en scène de soi plus faciles via le « numérique » ou les réseaux sociaux mais davantage dans une injonction généralisée à faire récit qui clôture l’expression publique. L’interprétation des faits semble en effet de plus en plus bornée par des récits qui se présentent comme des commentaires autorisés. Sans vouloir les excuser, les réactions épidermiques (trop souvent de bas niveau) que l’on constate sur les réseaux sociaux (accentuées il est vrai par un anonymat déresponsabilisant) découlent certainement en partie de ce verrouillage.

Ajoutons que ces récits ne s’embarrassent pas toujours de vérité, voire la manipulent. Il n’y a qu’à souligner ici la puissance de récits alternatifs véhiculés, avec une ampleur de moyens souvent insoupçonnée, par des groupes de pression ou des États illibéraux, l’invasion de l’Ukraine par la Russie en fournissant des exemples quotidiens, le plus énorme étant certainement la prétendue russophobie des Ukrainiens, « un premier pas vers un génocide » selon Poutine.

Russie – Ukraine : la désinformation comme arme de guerre • FRANCE 24 (février 2022).

D’autres récits, sans vouloir induire sciemment en erreur, ont davantage, dans le cas du marketing par exemple, la vraisemblance comme horizon. Ils s’apparentent alors à des discours fictionnels auxquels il est possible d’adhérer. Citons ici les discours promotionnels sur l’intelligence artificielle, censée faire advenir un monde meilleur. Cet état généralisé laisse penser que les discours les plus relayés, car portés par des institutions, y compris démocratiques, ou par des médias à forte audience, ou bien encore correspondant à une opinion majoritaire, sont nécessairement suspects.

Face à ces récits « mainstream », il est plus payant de s’afficher comme un récit alternatif qui cherche, en bravant les obstacles, à faire émerger la vérité face à un récit plus puissant. Les relais de la propagande russe dans les pays occidentaux se présentent souvent ainsi.

Cultiver le doute constructif

On prend la mesure, jour après jour, des ravages d’une méfiance généralisée. Il faut reconnaître qu’elle peut être parfois fondée lorsqu’il y a collusion d’intérêts entre les multinationales et les scientifiques, lorsque les scientifiques sortent dans les médias de leur domaine de compétences, lorsque les médias et les politiques affichent une proximité suspecte, etc.

Comment y remédier ? Les outils de « fact-checking » ne manquent pas. Tous les grands journaux et les agences de presse ont désormais un service dédié : en France, citons celui du journal Le Monde, de Libération ou de l’AFP. De nombreux sites spécialisés dans la lutte contre la désinformation ont été créés. À l’École, l’éducation aux médias et à l’information (EMI), quoiqu’on en dise et quelles que soient ses insuffisances, existe et dans les établissements scolaires les professeurs-documentalistes font un travail remarquable : en témoigne la 33e édition de la « semaine de la presse et des médias dans l’École » organisée par le CLEMI.

La semaine de la presse dans les écoles en 2015, reportage en collège (France 3 Nouvelle-Aquitaine).

Il faut évidemment accentuer l’effort mais je ne m’intéresse pas principalement dans cet article aux personnes qui sauront utiliser toutes les ressources mises à disposition lorsqu’un doute sur une information surgit. Il y a une réflexion à mener sur les gestes à inculquer en amont d’une éducation spécifique mobilisant une riche panoplie d’outils.

La piste mise en avant ici pourra paraître paradoxale et susceptible d’aggraver le mal : il s’agirait d’apprendre à douter ! Mais pas n’importe comment. Il ne s’agit pas d’introduire le doute nihiliste qui s’applique à tout, sans discernement, et qui essaie de faire passer l’ignorance des faits et des mécanismes de la communication pour la manifestation la plus aboutie de l’esprit critique. Mais le doute constructif, celui qui amène à une suspension provisoire du jugement, dans l’attente d’investigations plus poussées menées de manière méthodique.

L’esprit de la démarche scientifique

Ce doute-là, qui pousse dans une démarche rationnelle à poser les « bonnes » questions pour trouver ensuite des éléments de réponse plausibles, n’est autre que celui qui est pratique dans la recherche. Ces réponses sont certainement provisoires, dans tous les cas discutables, mais dans le respect des règles collectives de la discussion.

Une objection peut alors être faite : pourquoi vouloir introduire les méthodes de la recherche dans un plus large public alors que la science s’établit dans un dialogue pointu et spécialisé entre pairs ? Parce que nous partons d’un fait établi : la science, ses résultats comme ses méthodes, sont présents dans le domaine public, par la figure de l’expert, aujourd’hui omnipotente. La pandémie de Covid-19 n’a rien inventé mais a exacerbé cette tendance lourde.

Or, il serait tout à fait irresponsable de contribuer à cette exposition médiatique sans donner les moyens aux publics d’accueillir ces informations. Il s’agit de leur permettre de les soumettre à un questionnement fécond, pas à une remise en question indifférenciée et systématique, la nuance est d’importance.

Vouloir être à la hauteur de cette ambition suppose une autre approche du rôle de la recherche dans l’enseignement et donc en amont dans la formation des enseignants. La recherche y est encore trop souvent convoquée pour présenter les dernières avancées scientifiques dans une discipline, plus rarement pour faire comprendre les méthodes. Lorsque l’apprentissage de celles-ci est mis en avant dans l’enseignement scolaire, c’est encore trop exclusivement dans le spectre limité des disciplines expérimentales.

Il faudrait y mettre sur le même plan les sciences humaines et sociales et leurs méthodes, parfois jugées « molles », mais infiniment mieux armées pour rendre compte de l’humain en société dont les ressorts comportementaux ne sont pas que biologiques ni psychologiques. En bref, c’est à un art du questionnement que nous appelons, fondé sur les méthodes de la recherche et à inculquer dès le plus jeune âge.The Conversation

Laurent Petit, Professeur en sciences de l'information et de la communication, Sorbonne Université

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.