Accéder au contenu principal

Deepfake, décryptage d’une arnaque

Par Thomas Mannierre, Directeur EMEA Sud de BeyondTrust L’IA a fait entrer les braquages dans une nouvelle dimension. Plus besoin d’une cagoule noire désormais. En améliorant les attaques d'ingénierie sociale modernes, l’IA a donné naissance à un autre type de menaces : les deepfakes. Bienvenue dans ce qui pourrait être un épisode de Black Mirror ! Le faux CFO de Hong Kong En début d’année, une entreprise à Hong Kong s’est vue escroquée de 25,6 millions de dollars par un hacker utilisant l’IA et la technologie deepfake pour usurper l’identité d’un directeur financier. Si l'on en croit les rapports d’enquête, l'attaque a simulé un environnement de vidéoconférence complet et utilisé une fausse identité d'un important directeur financier de Hong Kong et d'autres participants à la réunion. La victime ciblée du département financier s'est d'abord méfiée d'un e-mail de phishing prétendant provenir du directeur financier. Cependant, la victime a rejoint une con

Face aux fake news, les techniques de veille peuvent vous aider

factchecking


Avis d'expert d'Arnaud Marquant, directeur des opérations chez KB Crawl SAS

Les fake news n’ont de cesse de se développer : selon un récent sondage, 2/3 des Français y seraient sensibles. Face à ce phénomène, les techniques propres à la veille stratégique peuvent servir de grille d’analyse.

Il y a quatre ans, l’immersion de la pandémie de Covid-19 s’est caractérisée par un vaste mouvement de désinformation sur les réseaux sociaux. Loin d’avoir disparu, celui-ci perdure en 2024, comme l’indique notamment l’étude récemment réalisée par Ipsos sur la désinformation qui touche actuellement la campagne électorale européenne. Selon cette dernière, 74 % des personnes interrogées estiment être capables de réaliser un tri entre vraies et fausses informations. Dans le même temps, 2/3 des personnes interrogées (66%) adhèrent à au moins l’une des fake news qui leur ont été présentées…

Comment les Françaises et les Français peuvent-ils s’armer face aux phénomènes de désinformation qui frappent notre société, surtout au moment où l’IA générative est en capacité de générer des sons et des images semblant réels ? Sans doute en adoptant certaines des techniques que la communauté des veilleurs stratégiques applique au quotidien. Trois éléments sont ici à avoir en tête.

Posez un regard critique sur toute information

Un veilleur qui prend connaissance d’une information la considère avec distance. À l’image d’un fruit dans lequel il s’apprête à croquer, il pose préalablement un regard critique dessus, considère son enveloppe, sa forme, ses aspérités… Cette approche distanciée lui permet de considérer par exemple qu’une « information » émise sur un réseau social tel que X (anciennement Twitter), Instagram ou Tik Tok est très largement susceptible de s’apparenter à de la propagande. Il sait également que certains sujets sont sur-investis par la désinformation. C’est le cas des guerres et des conflits (Ukraine, Israël-Hamas…) ou du climat, thèmes éminemment sensibles. Le veilleur a également conscience du fait qu’un titre racoleur, sans nuance, peut être un signe de fausse information. Bref, il se méfie de la forme de l’information avant même de l’avoir « consommée ».

Qui me parle ? La question de la source

L’action majeure que réalise un veilleur consiste à vérifier la source de l’information qui lui est donnée et dont il vient de prendre connaissance. Il effectue souvent une recherche sur trois points essentiels : qui est l’auteur (du texte, du post, du podcast, de la vidéo…) ? Sur quel site l’information est-elle donnée ? À quel moment est-elle promue ? Prenons le cas d’un article rédigé par un éminent spécialiste, c’est-à-dire par une personne qui se présente comme un expert. Il convient d’en savoir plus sur lui, de taper son nom sur un moteur de recherches, d’identifier le laboratoire ou l’entreprise auquel il est rattaché, de vérifier si les publications de cet auteur sont reconnues par des agences d’Etat. Vous pouvez également effectuer des recherches rapides sur l’établissement auquel se réfère cet auteur. Celui-ci est-il véritablement sérieux, c’est-à-dire reconnu par des institutions ? Tout élément faisant figure d’autorité doit être ainsi soupesé. Il est également important de remonter à la source originelle de l’information relayée. Si aucune source n’est donnée, là encore votre moteur de recherche pourra vous être utile. En copiant-collant le contenu de l’information, vous trouverez cette source… voire aurez la confirmation du fait qu’il s’agit d’une rumeur.

Observez et maîtrisez vos émotions ainsi que vos propres biais

Dans la plupart des cas, la croyance ou la propagation d’une fake news sont encouragées par des personnes qui se trouvent saisies par leurs propres émotions. Peur, colère, sentiment d’injustice, espoir… Ces éléments constituent des leviers puissants, surtout lorsqu’ils croisent nos propres convictions. Ici, gare à ce que l’on appelle le « biais de confirmation », cette tendance naturelle que nous avons tous à croire des informations qui confortent nos propres préjugés, nos hypothèses ou nos idées. Il convient toujours d’avoir à l’esprit que ces mécanismes cognitifs existent, et que nous en sommes nous-mêmes porteurs…

Le monde dans lequel nous vivons actuellement est en proie à des transitions multiples qui, synonymes d’incertitudes, permettent à de nombreuses théories d’être avancées. Celles-ci peuvent s’avérer fausses, soit par méconnaissance du sujet abordé, soit par volonté de propagande marketing, soit parce que certains acteurs ont un intérêt plus politique à déstabiliser les opinions publiques. Face à de tels phénomènes, nous devons tous comprendre que l’information est un bien commun à préserver. L’éducation aux médias se révèle ici d’une nécessité absolue et mérite d’être consolidée à l’école, au collège, dans les lycées, et même au sein des établissements d’enseignement supérieur. Elle constitue un prérequis si nous souhaitons continuer de vivre dans une société stable.


Pour en savoir plus / Quelques sites repérant les fake news :
AFP Factuel
Les Décodeurs / Journal Le Monde
Conspiracy Watch, service de presse en ligne dédié au conspirationnisme et au négationnisme


Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté

Comment les machines succombent à la chaleur, des voitures aux ordinateurs

  La chaleur extrême peut affecter le fonctionnement des machines, et le fait que de nombreuses machines dégagent de la chaleur n’arrange pas les choses. Afif Ramdhasuma/Unsplash , CC BY-SA Par  Srinivas Garimella , Georgia Institute of Technology et Matthew T. Hughes , Massachusetts Institute of Technology (MIT) Les humains ne sont pas les seuls à devoir rester au frais, en cette fin d’été marquée par les records de chaleur . De nombreuses machines, allant des téléphones portables aux voitures et avions, en passant par les serveurs et ordinateurs des data center , perdent ainsi en efficacité et se dégradent plus rapidement en cas de chaleur extrême . Les machines génèrent de plus leur propre chaleur, ce qui augmente encore la température ambiante autour d’elles. Nous sommes chercheurs en ingénierie et nous étudions comment les dispositifs mécaniques, électriques et électroniques sont affectés par la chaleur, et s’il est possible de r

De quoi l’inclusion numérique est-elle le nom ?

Les professionnels de l'inclusion numérique ont pour leitmotiv la transmission de savoirs, de savoir-faire et de compétences en lien avec la culture numérique. Pexels , CC BY-NC Par  Matthieu Demory , Aix-Marseille Université (AMU) Dans le cadre du Conseil National de la Refondation , le gouvernement français a proposé au printemps 2023 une feuille de route pour l’inclusion numérique intitulée « France Numérique Ensemble » . Ce programme, structuré autour de 15 engagements se veut opérationnel jusqu’en 2027. Il conduit les acteurs de terrain de l’inclusion numérique, notamment les Hubs territoriaux pour un numérique inclusif (les structures intermédiaires ayant pour objectif la mise en relation de l’État avec les structures locales), à se rapprocher des préfectures, des conseils départementaux et régionaux, afin de mettre en place des feuilles de route territoriales. Ces documents permettront d’organiser une gouvernance locale et dé

La fin du VHS

La bonne vieille cassette VHS vient de fêter ses 30 ans le mois dernier. Certes, il y avait bien eu des enregistreurs audiovisuels avant septembre 1976, mais c’est en lançant le massif HR-3300 que JVC remporta la bataille des formats face au Betamax de Sony, pourtant de meilleure qualité. Ironie du sort, les deux géants de l’électronique se retrouvent encore aujourd’hui face à face pour déterminer le format qui doit succéder au DVD (lire encadré). Chassée par les DVD ou cantonnée au mieux à une petite étagère dans les vidéoclubs depuis déjà quatre ans, la cassette a vu sa mort programmée par les studios hollywoodiens qui ont décidé d’arrêter de commercialiser leurs films sur ce support fin 2006. Restait un atout à la cassette VHS: l’enregistrement des programmes télé chez soi. Las, l’apparition des lecteurs-enregistreurs de DVD et, surtout, ceux dotés d’un disque dur, ont sonné le glas de la cassette VHS, encombrante et offrant une piètre qualité à l’heure de la TNT et des écrans pl

Des conseils d'administration inquiets et mal préparés face à la menace cyber

Alors que les Assises de la Sécurité ouvrent leurs portes ce mercredi 11 octobre, pour trois jours de réflexion sur l’état de la cybersécurité en France, la société de cybersécurité Proofpoint f ait le point sur le niveau de préparation des organisations face à l’avancée de la menace.  Cette année encore, les résultats montrent que la menace cyber reste omniprésente en France et de plus en plus sophistiquée. Si les organisations en ont bien conscience,  augmentant leur budget et leurs compétences en interne pour y faire face, la grande majorité d’entre elles ne se sont pour autant, pas suffisamment préparées pour l’affronter réellement, estime Proofpoint. En France, 80 % des membres de conseils d’administration interrogés estiment que leur organisation court un risque de cyberattaque d’envergure, contre 78 % en 2022 – 36 % d’entre eux jugent même ce risque très probable. Et si 92 % d’entre eux pensent que leur budget lié à la cybersécurité augmentera au cours des 12 prochains mois, ces

L’Europe veut s’armer contre la cybercriminalité avec le Cyber Resilience Act

  Par  Patricia Mouy , Commissariat à l’énergie atomique et aux énergies alternatives (CEA) et Sébastien Bardin , Commissariat à l’énergie atomique et aux énergies alternatives (CEA) Assez des cyberattaques  ? La loi sur la cyberrésilience, ou Cyber Resilience Act a été adoptée par les députés européens le 12 mars dernier et arrive en application dans les mois à venir, avec l’ambition de changer la donne en termes de sécurité des systèmes numériques en Europe. Alors que les systèmes numériques sont littéralement au cœur des sociétés modernes, leurs potentielles faiblesses face aux attaques informatiques deviennent des sources de risques majeurs – vol de données privées, espionnage entre états ou encore guerre économique. Citons par exemple le cas de Mirai , attaque à grande échelle en 2016, utilisant le détournement de dispositifs grand public comme des caméras connectées pour surcharger des domaines Internet d’entreprise, attaque de type DDoS (déni de service distribué)