Par Thomas Mannierre, Directeur EMEA Sud de BeyondTrust L’IA a fait entrer les braquages dans une nouvelle dimension. Plus besoin d’une cagoule noire désormais. En améliorant les attaques d'ingénierie sociale modernes, l’IA a donné naissance à un autre type de menaces : les deepfakes. Bienvenue dans ce qui pourrait être un épisode de Black Mirror ! Le faux CFO de Hong Kong En début d’année, une entreprise à Hong Kong s’est vue escroquée de 25,6 millions de dollars par un hacker utilisant l’IA et la technologie deepfake pour usurper l’identité d’un directeur financier. Si l'on en croit les rapports d’enquête, l'attaque a simulé un environnement de vidéoconférence complet et utilisé une fausse identité d'un important directeur financier de Hong Kong et d'autres participants à la réunion. La victime ciblée du département financier s'est d'abord méfiée d'un e-mail de phishing prétendant provenir du directeur financier. Cependant, la victime a rejoint une con
_(8765031426).jpg "musk") |
| Elon Musk devant une Tesla Model S en 2011. Photo Maurizio Pesce from Milan, Italia — Elon Musk, Tesla Factory, Fremont (CA, USA). |
Elon Musk, la personne la plus riche du monde, a acquis Twitter pour 44 milliards de dollars américains le 25 avril 2022, 11 jours après avoir fait son offre. Twitter a annoncé que l’entreprise, côtée à la bourse de New York depuis 2013, passerait entièrement sous la propriété d’Elon Musk.
Dans son dépôt auprès de la Securities and Exchange Commission (SEC) des États-Unis, Elon Musk a expliqué :
« J’ai investi dans Twitter car je crois en son potentiel d’être la plate – forme de la liberté d’expression dans le monde entier, et je pense que la liberté d’expression est un impératif sociétal pour une démocratie en bonne santé. »
En tant que chercheuse spécialiste des réseaux sociaux, je trouve que l’acquisition de Twitter par Elon Musk et les raisons qu’il a invoquées pour ce rachat soulèvent des questions importantes. Ces questions sont liées à la nature même des plates-formes de médias sociaux, qui se distinguent des plates-formes classiques.
Ce qui rend Twitter unique
Twitter occupe une place unique. Ses messages courts et ses fils de discussion favorisent les conversations en temps réel entre des milliers de personnes, ce qui le rend populaire auprès des célébrités, du monde des médias et des politiques.
Les analystes des médias sociaux prennent en compte la demi-vie du contenu sur ces plates-formes, c’est-à-dire le temps nécessaire pour qu’un contenu atteigne 50 % de l’engagement qu’il aura totalisé à la fin de sa durée de vie, généralement mesuré en nombre de vues ou d’autres mesures de popularité. La demi-vie moyenne d’un tweet est d’environ 20 minutes, contre cinq heures pour les publications Facebook, 20 heures pour les publications Instagram, 24 heures pour les publications LinkedIn et 20 jours pour les vidéos YouTube. Cette demi-vie beaucoup plus courte illustre le rôle central qu’occupe désormais Twitter en suscitant des conversations en temps réel, à mesure que se déroulent les évènements.
La capacité de Twitter à façonner le discours en temps réel, ainsi que la facilité avec laquelle les données, y compris les données géomarquées, peuvent être recueillies sur Twitter, en ont fait une mine d’or pour les chercheurs qui souhaitent analyser une variété de phénomènes sociétaux, allant de la santé publique à la politique. Les données issues de Twitter ont été utilisées pour prédire les visites aux urgences liées à l’asthme, mesurer la sensibilisation du public aux épidémies et modéliser la dispersion de la fumée des feux de forêt.
Les tweets qui constituent une discussion sont affichés par ordre chronologique et, même si une grande partie de l’engagement d’un tweet se fait en amont, les archives de Twitter offrent un accès instantané et complet à tout tweet public. Twitter permet ainsi d’enregistrer les évènements, ce qui en fait, de facto, un outil pour « fact-checker » ce qui s’est réellement passé.
Les projets d’Elon Musk
Il est donc crucial de comprendre comment l’acquisition par Elon Musk de Twitter, ou plus généralement le contrôle privé de plates-formes de médias sociaux affectent le bien-être collectif. Dans une série de tweets supprimés, Elon Musk a fait plusieurs suggestions sur la façon de changer Twitter, notamment en ajoutant un bouton d’édition pour les tweets et en accordant aux utilisateurs premium des badges distinctifs sur leur profil.
Il n’existe aucune preuve expérimentale de la manière dont un bouton d’édition modifierait la transmission des informations sur Twitter. Cependant, il est possible d’extrapoler les analyses de recherches antérieures sur les tweets supprimés.
Il existe de nombreux moyens de récupérer les tweets supprimés, ce qui permet aux chercheurs de les étudier. Alors que certaines études montrent des différences de personnalité significatives entre les utilisateurs qui suppriment leurs tweets et ceux qui ne le font pas, ces résultats suggèrent que la suppression de tweets est un moyen pour les gens de gérer leur identité en ligne.
L’analyse du comportement menant à ces suppressions de tweets peut fournir des indices précieux sur la crédibilité et la désinformation en ligne. De la même façon, si Twitter ajoutait un bouton d’édition, l’analyse des comportements menant à l’édition des tweets pourrait fournir des informations sur les intentions des utilisateurs de Twitter et l’image qu’ils donnent d’eux-mêmes.
Des études sur l’activité des robots informatiques sur Twitter ont montré que près de la moitié des comptes qui publient des tweets à propos du Covid-19 sont probablement des robots. Étant donné les clivages partisans et la polarisation politique dans les espaces en ligne, permettre aux utilisateurs – qu’il s’agisse de robots informatiques ou de personnes réelles – de modifier leurs tweets pourrait devenir une nouvelle arme dans l’arsenal de désinformation utilisé par ces robots et les propagandistes. L’édition des tweets permettrait aux utilisateurs de déformer ce qu’ils ont dit, de manière sélective, ou de nier certains de leur propos, y compris les plus controversés, ce qui pourrait compliquer le traçage de la désinformation.
Elon Musk a également indiqué vouloir lutter contre les robots sur Twitter, ces comptes automatisés qui tweetent rapidement et de façon répétitive tout en se faisant passer pour de vrais utilisateurs. Il a appelé à authentifier les utilisateurs comme de véritables êtres humains.
Compte tenu des défis posés par les atteintes malveillantes à la vie privée en ligne, comme la pratique dite du « doxxing » – la divulgation de données personnelles pour nuire à un individu –, il est nécessaire que les méthodes d’authentification respectent la vie privée des utilisateurs. Cela est particulièrement important pour les activistes, les dissidents et les lanceurs d’alerte qui sont menacés à cause de leurs activités en ligne. Des mécanismes tels que les protocoles décentralisés permettraient l’authentification tout en garantissant l’anonymat.
La modération du contenu sur Twitter et son business model
Pour comprendre les intentions d’Elon Musk et ce qui attend les plates-formes de médias sociaux telles que Twitter, il est important de prendre en compte le gargantuesque – et opaque – écosystème de la publicité en ligne, qui comprend une variété de technologies utilisées par les réseaux publicitaires, les médias sociaux et les éditeurs qui proposent des espaces publicitaires. La publicité est la principale source de revenus pour Twitter.
Elon Musk a pour projet de générer les revenus de Twitter à partir des abonnements plutôt qu’à partir de la publicité. En s’épargnant le souci d’attirer et de retenir les annonceurs, Twitter aurait moins besoin de se concentrer sur la modération du contenu. Twitter deviendrait ainsi une sorte de site d’opinion, pour des abonnés payants, dénué de contrôle. À l’inverse, Twitter s’est montré jusqu’à présent très actif dans sa modération du contenu afin de lutter contre la désinformation.
La description faite par Elon Musk d’une plateforme qui ne se préoccupe plus de modérer le contenu est inquiétante en considération des préjudices causés par les algorithmes des médias sociaux. Des recherches en ont mis en évidence un grand nombre, comme les algorithmes qui attribuent un sexe aux utilisateurs, les inexactitudes et biais potentiels des algorithmes utilisés pour récolter des informations sur ces plates-formes, et les conséquences pour la santé de ceux qui s’informent en ligne sur ce sujet.
Le témoignage de la lanceuse d’alerte Frances Haugen, ancienne employée de Facebook, et les récents efforts de réglementation, tels que le projet de loi sur la sécurité en ligne dévoilé au Royaume-Uni ou les futures législations de l’Union européenne, montrent que le public est largement préoccupé par le rôle joué par les plates-formes technologiques dans la formation des idées de société et de l’opinion publique. L’acquisition de Twitter par Elon Musk met en lumière toute une série de préoccupations réglementaires.
En raison des autres activités d’Elon Musk, la capacité de Twitter à influencer l’opinion publique dans les secteurs sensibles de l’aviation et de l’automobile provoque automatiquement un conflit d’intérêts, sans compter les implications quant à la divulgation des informations importantes nécessaires aux actionnaires. En ce sens, Elon Musk a déjà été accusé de retarder la divulgation de sa participation dans Twitter.
Le challenge lancé par Twitter aux hackers pour détecter les biais existants dans ses propres algorithmes a montré qu’une approche communautaire était nécessaire pour créer de meilleurs algorithmes. Ainsi, le MIT Media Lab a imaginé un exercice très créatif consistant à demander aux collégiens de réimaginer la plate-forme YouTube en tenant compte de l’éthique. Il est peut-être temps de demander à Elon Musk de faire de même avec Twitter.
Anjana Susarla, Professor of Information Systems, Michigan State University
Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.