Par Thomas Mannierre, Directeur EMEA Sud de BeyondTrust L’IA a fait entrer les braquages dans une nouvelle dimension. Plus besoin d’une cagoule noire désormais. En améliorant les attaques d'ingénierie sociale modernes, l’IA a donné naissance à un autre type de menaces : les deepfakes. Bienvenue dans ce qui pourrait être un épisode de Black Mirror ! Le faux CFO de Hong Kong En début d’année, une entreprise à Hong Kong s’est vue escroquée de 25,6 millions de dollars par un hacker utilisant l’IA et la technologie deepfake pour usurper l’identité d’un directeur financier. Si l'on en croit les rapports d’enquête, l'attaque a simulé un environnement de vidéoconférence complet et utilisé une fausse identité d'un important directeur financier de Hong Kong et d'autres participants à la réunion. La victime ciblée du département financier s'est d'abord méfiée d'un e-mail de phishing prétendant provenir du directeur financier. Cependant, la victime a rejoint une con
Tiktok : ne nous alignons pas sur les Etats-Unis mais faisons appliquer la réglementation européenne
Avis d'expert de Constantin Pavléas, avocat spécialisé en droit des technologies, fondateur et dirigeant du cabinet Pavléas Avocats et responsable d'enseignements à l'école des Hautes Études Appliquées du Droit (HEAD).
TikTok est-il un cheval de Troie au service des autorités chinoises ? Est-ce que la plateforme chinoise permet la captation massive des données personnelles des internautes, et sert-elle à influencer, voire à manipuler les jeunes générations occidentales ?
Il est important de distinguer les questions de sécurité nationale qui sont l’apanage de chaque gouvernement, de celles concernant la protection des données personnelles, la lutte contre la désinformation et la manipulation de l’opinion et des comportements, qui doivent relever d’un contrôle réglementaire et démocratique.
Soupçonnant les autorités chinoises d’espionnage par l’intermédiaire de TikTok, la Maison Blanche a ordonné aux institutions fédérales de s'assurer que TikTok disparaisse de leurs smartphones sous trente jours, en application d'une loi ratifiée début janvier par Joe Biden. La Commission européenne et le gouvernement canadien ont récemment pris des décisions similaires pour les téléphones portables de leurs fonctionnaires, et le parlement danois a annoncé avoir demandé aux députés et au personnel de supprimer l'application de leurs appareils. La France réfléchit à une interdiction similaire pour les portables de ses fonctionnaires. Ces réactions des gouvernements occidentaux nous rappellent les mesures prises à l’encontre de Huawei, le géant chinois des télécoms, sur la base des mêmes suspicions d’espionnage au travers des infrastructures 5G.
Influence sur les jeunes générations
Au-delà de l’argumentation liée à la sécurité nationale, une autre menace, plus insidieuse celle-là, est mise en avant. C’est celle selon laquelle les algorithmes de recommandation des contenus de la plateforme auraient pour objectif - et pour résultat - d’exercer de façon délibérée une influence sur les jeunes générations. Ainsi, deux sénateurs américains ont déposé ce mardi 7 mars 2023 un projet de loi visant à permettre au gouvernement d'interdire les produits technologiques étrangers, y compris TikTok. Il est rappelé que la Chine elle même limite à quelques heures par semaine l’accès de ses adolescents aux jeux vidéo et aux applications tels que TikTok
A minima, nous savons que TikTok est une plateforme opérant en Chine et est soumise à la censure d’un régime non démocratique. Est-ce que cela nous autorise à interdire cette plateforme dans nos démocraties ? Une telle interdiction soulèverait des objections sérieuses car une chose est d’interdire à des agents publics d’utiliser les services de la plateforme en se prévalant d’impératifs de sécurité nationale, une autre chose serait d’étendre cette interdiction à l’ensemble des citoyens. Rien qu’aux Etats-Unis, TikTok revendique plus d'une centaine de millions d’utilisateurs, et la plateforme estime à juste titre qu’interdire l'application reviendrait à "censurer" des millions d’Américains. Elle est rejointe en cela par l’Association de défense des droits civiques (ACLU), opposée à un projet de loi qui aurait pour résultat de priver les Américains de leur droit constitutionnel à la liberté d’expression.
Par ailleurs, ces inquiétudes légitimes ne sont pas le fait des seules plateformes « étrangères ». On se rappelle les révélations de Mme Haugen et des Facebook files qui avaient mis en lumière les pratiques de la plateforme américaine et la conscience de leurs effets nocifs sur la santé mentale des adolescents.
Méfions-nous de ces appels aux Etats-Unis d’interdire des plateformes étrangères.
Ces appels peuvent être motivés par des considérations économiques ou politiques. Par exemple, l’Inde avait décrété dès 2020 l’interdiction totale de TikTok - parmi 60 autres applications proposées par la Chine, au nom de la sécurité nationale. Or, cette mesure s’apparentait à des représailles dans le contexte de graves incidents frontaliers entre les deux pays.
En Europe, le Règlement sur la protection des données personnelles (RGPD) et le Digital Services Act entré en vigueur en novembre 2022 (DSA) s’appliquent à TikTok. La plateforme chinoise est une Très Grande Plateforme au sens du DSA et devra rendre des comptes sur la modération, l’usage des algorithmes de recommandation et les risques systémiques posés par l’utilisation de ses services. Si les règles européennes sont transgressées, TikTok devra rendre des comptes et devra être sanctionnée (amendes pouvant aller jusqu’à 6% du chiffre d’affaires mondial et possibilité de suspension administrative du service).
Soyons vigilants sur le respect du DSA par la plateforme chinoise et saluons l’existence d’une réglementation européenne dont l’application devrait nous permettre à la fois de protéger l’internaute européen, et de préserver nos valeurs démocratiques.