Accéder au contenu principal

300 grandes entreprises, administrations et start-up lancent un manifeste pour la souveraineté technologique et l’autonomie stratégique du numérique en France et en Europe

En lançant son Manifeste pour la souveraineté technologique et l’autonomie stratégique du numérique, l’ Innovation Makers Alliance (IMA) , qui fédère depuis 2015 les directions technologiques de 150 grands groupes, ETI et administrations françaises, livre une feuille de route ambitieuse. Le manifeste, intitulé "Pour la souveraineté technologique et l’autonomie stratégique du numérique en France et en Europe" est le fruit d’une consultation inédite impliquant France 2030, La French Tech, Station F ou encore Hexatrust et le Hub France IA. Parmi les signataires figurent Airbus, Orange, OVH, Mistral AI ou encore la Région Occitanie. Le contexte géopolitique et économique, marqué par la domination des technologies américaines et chinoises, confère à ce document un poids particulier. « La souveraineté technologique n’est pas un repli, c’est un choix stratégique », résume Christophe Grosbost, directeur de la stratégie de l’IMA. IA, cloud, cybersécurité, quantique, data, low-code...

Voir mais ne pas croire : l’impact des deepfakes sur notre perception de la réalité

deepfake


Par Stéphanie Gauttier, Grenoble École de Management (GEM) et Sylvie Blanco, Grenoble École de Management (GEM)

Les trucages réalisés grâce aux intelligences artificielles déforment notre vision de la réalité, affectant nos comportements de consommateurs et de citoyens.


En 2022, la télévision ukrainienne, hackée, a diffusé un hypertrucage (ou deepfake) du président ukrainien Zelensky annonçant qu’il rendait les armes, ce qui aurait pu transformer la réalité du champ de bataille. En mai 2023, une image représentant Le Pentagone avec un nuage de fumée a provoqué une chute de 0,29 % des cours de bourse du S&P500, nécessitant un démenti officiel du ministre de la Défense américain. À Hongkong, un employé a transféré 25 millions de dollars en pensant suivre des ordres des directeurs de son entreprise avec qui il avait eu un appel en visioconférence. En réalité, il n’avait jamais eu le moindre humain face à lui.

Ces images sont des deepfakes, c’est-à-dire des contenus ultraréalistes mais qui ne représentent pas la réalité, voire l’altèrent, et qui peuvent donc déformer notre vision du monde.

Ces hypertrucages — images, vidéos et même contenus interactifs — mobilisent notre ouïe, notre vue, notre participation. Ils sont créés en superposant à des images réelles des données qui ne le sont pas grâce à des algorithmes de machine learning combinés à des logiciels de cartographie faciale, et peuvent être rendus encore plus performants grâce à l’intelligence artificielle générative.

Ainsi, certains outils tels que Speechify, démocratisés en ligne, permettent de faire dire n’importe quoi à quelqu’un si l’on dispose d’un enregistrement de 30 secondes de sa voix. Les contenus créés sont si réalistes qu’ils peuvent tromper même ceux qui estiment pouvoir les détecter, rendant difficile la distinction entre le vrai et le faux.

En somme, aujourd’hui, voir n’est plus croire : les images, vidéos et autres contenus fabriqués peuvent être indiscernables des contenus authentiques. Ce phénomène pose de sérieux défis pour la société.

Manipuler les consommateurs : des canons de beauté à l’hégémonie culturelle

Les images de mannequins utilisées dans les campagnes publicitaires de certaines grandes marques sont générées par des systèmes d’intelligence artificielle. Elles véhiculent une certaine idée de la beauté et des normes esthétiques souvent inatteignables dans le monde réel.

Au-delà d’une esthétique qui pourrait simplement caractériser les contenus générés et modifiés par intelligence artificielle, les mannequins et influenceurs articifiels créés par hypertrucages cherchent à s’insérer dans le monde réel comme s’ils étaient des humains. Incognito Influencer, un influenceur virtuel hypertruqué, est apparu sur les images de toutes les fashion weeks en 2023 alors que personne ne l’y a rencontré. Aitana Lopez, mannequin hypertruqué, possède ses propres réseaux sociaux.

Dans ces cas-ci, il ne s’agit pas de générer ponctuellement une image « lisse » pour vendre un produit, mais de mettre en scène une personnalité virtuelle pour qu’elle influence les humains dans le monde physique.

Il n’y a pas de limite à ce que l’on peut faire faire à ces agents hypertruqués, puisqu’ils n’existent pas. En ce sens, les hypertrucages peuvent véhiculer des modèles de vie quotidienne irréalistes, qui peuvent accentuer le mal-être de ceux qui chercheraient les mêmes modes de vie.

En cela, la recherche en marketing considère que les hypertrucages sont différents des mécanismes de publicité traditionnels. Les images hypertruquées peuvent être tellement inspirantes que les individus peuvent y croire directement sans chercher à trop les comprendre. Plus les hypertrucages sont riches (par exemple en véhiculant de l’information au-delà d’une simple photographie mais par l’intermédiaire d’un contenu vidéo), plus les consommateurs sont enclins à vouloir acheter les produits liés. Pour autant, cela ne signifie pas que les marques ne doivent pas y mettre des limites : les consommateurs qui n’ont pas détecté l’hypertrucage mais apprennent qu’ils ont été trompés ont ensuite moins envie d’acheter des produits de cette marque.

Enfin, les outils d’intelligence artificielle utilisés pour générer les hypertrucages reflètent et amplifient les biais de nos sociétés. Par exemple, il y a huit ans, une IA invitée à juger un concours de beauté a discriminé les personnes à la peau noire. Aujourd’hui encore, le moteur de recherche Bing montre presque exclusivement des bébés caucasiens aux yeux bleus lorsqu’on recherche des images de « beautiful babies ». Ceci laisse supposer que les influenceurs virtuels hypertruqués puissent présenter uniquement certaines ethnies et visions de la beauté comme « inspirantes » esthétiquement et socialement.

Les hypertrucages peuvent ébranler la vie politique

Les hommes et femmes politiques peuvent faire l’objet de parodies modernes grâce aux hypertrucages. En 2023, Clad 3815 a fait intervenir sur sa chaîne Twitch les leaders politiques français pour une session interactive sous forme d’hypertrucage, à visée divertissante.

Toutefois, le contenu généré par IA, s’il n’est pas annoncé comme tel, peut être manipulateur, puisqu’il laisse à penser qu’il montre la réalité quand ce n’est pas le cas.

Par exemple, pour le Nouvel An 2024, un membre du parti présidentiel français a diffusé un hypertrucage sur X représentant Marine Le Pen souhaitant la bonne année en russe, sans indiquer qu’il s’agissait d’un montage, ce qui peut affecter la vision que l’on a de Marine Le Pen, et, ou, sembler divertissant eu égard aux débats sur la position de son parti politique vis-à-vis de la Russie.

Les hypertrucages politiques affectent effectivement notre vision du monde : des expérimentations ont montré que les deepfakes peuvent convaincre jusqu’à 50 % du public américain de scandales qui n’ont jamais eu lieu.

Mais nous ne sommes pas tous égaux face à ces manipulations. Par exemple, les individus les plus intéressés par la politique seront mieux à même de détecter ces hypertrucages que d’autres, ce qui pourrait s’expliquer par leur connaissance générale des informations politiques, leur compétence développée à les analyser, et leur exposition accrue à ce type de contenu.

En revanche, ceux qui ne reconnaissent pas ces hypertrucages peuvent voir leurs opinions politiques affectées. En effet, une fois qu’un individu est confronté à un deepfake qui représente un homme ou une femme politique, l’opinion qu’a cet individu du politique en question tend à se détériorer, alors que son opinion du parti politique représenté ne change pas. Si l’hypertrucage est présenté à des individus qui ont déjà une mauvaise opinion du parti politique représenté, leur avis devient plus négatif tant concernant le parti que l’homme ou la femme politique en question après avoir vu l’hypertrucage. Ceci signifie que les hypertrucages peuvent être utilisés pour manipuler les opinions avec des campagnes d’affichage ciblé des hypertrucages.

L’intelligence artificielle générative : vers des usages responsables

Si l’on est optimiste, on peut penser que l’intelligence artificielle générative permet de créer des contenus éducatifs, comme des vidéos de personnages historiques racontant l’histoire de manière captivante ou de reconstituer des événements historiques.

Elle peut également permettre l’émergence de nouveaux services. Certains explorent l’idée de l’utiliser pour accompagner des personnes dans le deuil. La différence entre un hypertrucage et une simple utilisation de l’intelligence artificielle générative est faite en fonction de l’objectif de la génération du contenu : l’hypertrucage est lié à l’idée de tromper et de manipuler. Si des usages responsables de l’intelligence artificielle générative sont possibles, il est important de les promouvoir, et d’encadrer les déviances possibles.

Dans ce sens, la réflexion sur l’encadrement des hypertrucages a été soulevée dès 2019 à l’Assemblée nationale française, et les parties prenantes se responsabilisent : les images générées par IA sur Google sont tatouées depuis 2023, une technique que la firme a appliquée en 2024 à ses contenus vidéos, notamment ceux créés sur Gemini et via ses chatbots. En 2023, Twitch a annoncé l’interdiction de la diffusion de deepfakes à caractère pornographique. En 2024, la Californie s’est dotée d’une loi contre la génération d’hypertrucages dans le cadre des élections.

Cet article fait suite à la publication du livre blanc « IA générative et hypertrucages » pour la région Auvergne Rhône Alpes. Le livre blanc a été coordonné par P. Wieczorek et S. Blanco. Il a reçu les contributions de L. Bisognin, S. Blanco T. Fournel, D. Gal-Regniez, S. Gauttier, S. Guicherd, A. Habrard, E. Heidsieck, E. Jouseau, S. Miguet, I. Tkachenko, K. Wang, et P. Wieczorek.The Conversation

Stéphanie Gauttier, Professeur Associée en Systèmes d'Information, Responsable de l'équipe de recherche 'Systèmes d'Information pour la société' Chaire Digital Organization & Society, Grenoble École de Management (GEM) et Sylvie Blanco, Professeur de Management de la Technologie et de l’Innovation à GEM, Co-directrice Programme Formation de l'Institut de Recherche Technologique Nanoelec, Grenoble École de Management (GEM)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté...

Quelle technologie choisir pour connecter les objets ?

Par Frédéric Salles, Président et co-fondateur de Matooma   En 2021, le nombre total d'objets connectés utilisés atteindra les 25 milliards selon Gartner. Il est ainsi légitime de se demander quelles sont les technologies principales permettant de connecter les objets, et quelle pourrait être celle la plus adaptée pour sa solution. Un projet de vidéosurveillance par exemple n'aura absolument pas les mêmes besoins qu'un projet basé sur le relevé de température au milieu du désert. Ainsi pour trouver la meilleure connectivité pour son objet, de nombreuses questions peuvent se poser : mon objet fonctionne-t-il sur batterie ou est-il alimenté ? Mon objet restera-t-il statique ou sera-t-il mobile ?  Mon objet est-il susceptible d'être dans un endroit difficile d'accès ou enterré ? A quelle fréquence mes données doivent-elles remonter ? Etc. Voici les différentes solutions actuellement disponibles sur le marché. Courte distance : RFID/Bluetooth/WiFi La RFID (Ra...

La fin du VHS

La bonne vieille cassette VHS vient de fêter ses 30 ans le mois dernier. Certes, il y avait bien eu des enregistreurs audiovisuels avant septembre 1976, mais c’est en lançant le massif HR-3300 que JVC remporta la bataille des formats face au Betamax de Sony, pourtant de meilleure qualité. Ironie du sort, les deux géants de l’électronique se retrouvent encore aujourd’hui face à face pour déterminer le format qui doit succéder au DVD (lire encadré). Chassée par les DVD ou cantonnée au mieux à une petite étagère dans les vidéoclubs depuis déjà quatre ans, la cassette a vu sa mort programmée par les studios hollywoodiens qui ont décidé d’arrêter de commercialiser leurs films sur ce support fin 2006. Restait un atout à la cassette VHS: l’enregistrement des programmes télé chez soi. Las, l’apparition des lecteurs-enregistreurs de DVD et, surtout, ceux dotés d’un disque dur, ont sonné le glas de la cassette VHS, encombrante et offrant une piètre qualité à l’heure de la TNT et des écrans pl...

6 questions sur Zone-telechargement

Quel était ce site ? Zone-telechargement.com était jusqu'à lundi soir l'un des plus gros sites web français proposant de télécharger des contenus numériques illégaux. En grande majorité des films parfois très récents ; des séries télé notamment américaines qui n'étaient pas diffusées en France ; de la musique ; des logiciels et des jeux vidéo. Les séries et les films étaient disponibles en différentes qualités et ceux en langue anglaise étaient sous-titrés grâce à des communautés d'utilisateurs capables de sous-titrer des épisodes de série 24 heures après leur diffusion aux États-Unis. Le site comptabilisait, selon la gendarmerie, en moyenne 140 millions de pages vues par mois et 11 000 téléchargements par jour. La société Alexa affichait Zone-Telechargement à la 11e place des sites les plus visités de France… devant Twitter ! Zone-Telechargement proposait 18 000 films, 2 500 séries télé ; 11 000 documentaires ; 20 943 émissions télé ; plus de 150 000 MP3 mais aus...

Deepfakes, vidéos truquées, n’en croyez ni vos yeux ni vos oreilles !

Par  Divina Frau-Meigs , Auteurs historiques The Conversation France Les spécialistes en fact-checking et en éducation aux médias pensaient avoir trouvé les moyens de lutter contre les « deepfakes » , ou hypertrucages , ces manipulations de vidéos fondées sur l’intelligence artificielle, avec des outils de vérification comme Invid-Werify et le travail des compétences d’analyse d’images (littératie visuelle), avec des programmes comme Youverify.eu . Mais quelques cas récents montrent qu’une nouvelle forme de cyberattaque vient de s’ajouter à la panoplie des acteurs de la désinformation, le deepfake audio. Aux États-Unis, en janvier 2024, un robocall généré par une intelligence artificielle et prétendant être la voix de Joe Biden a touché les habitants du New Hampshire, les exhortant à ne pas voter, et ce, quelques jours avant les primaires démocrates dans cet État. Derrière l’attaque, Steve Kramer, un consultant travaillant pour un adversaire de Biden, Dean ...

D’IBM à OpenAI : 50 ans de stratégies gagnantes (et ratées) chez Microsoft

  Paul Allen et Bill Gates en 1970 à Lakeside School (Seattle). Microsoft naîtra cinq ans plus tard. Auteur inconnu/Wikimedia Par  Frédéric Fréry , ESCP Business School Insubmersible. Même la vague des Gafa n’a pas vraiment atteint Microsoft. Cinquante ans après sa création, soit une éternité dans le monde de la tech, la firme de Bill Gates et Paul Allen est toujours là et bien là. Retour sur ce qu’on appelle outre-Atlantique, une success-story avec quelques échecs. Cette semaine, Microsoft fête ses 50 ans. Cet article a été écrit sur Microsoft Word, à partir d’un ordinateur équipé de Microsoft Windows, et il sera vraisemblablement publié sur des plateformes hébergées par Microsoft Azure, notamment LinkedIn, une filiale de Microsoft qui compte plus d’un milliard d’utilisateurs. C’est dire l’influence de cette entreprise qui, en 2024, a dégagé un bénéfice net de 88 milliards de dollars po...