Alors qu'Europol vient de publier un rapport sur les dangers de ChatGPT et s'inquiète de son utilisation par des criminels, Kunal Anand , CTO d’ Imperva , spécialiste de la sécurité, réagit face à la situation actuelle Les chatbots posent-ils un problème de protection de la vie privée plus important que les moteurs de recherche, et pourquoi ? "Le problème des chatbots par rapport aux moteurs de recherche n'est pas seulement lié aux conditions générales ou à la manière dont ils utilisent les données, mais aussi à la manière dont nous interagissons avec eux. Par rapport à une recherche Google ou Bing, les LLM comme Bard deviennent plus utiles à mesure que nous leur donnons plus d'informations (en informatique, cela s'appelle l'apprentissage par renforcement). Et surtout avec un chatbot, il est facile de traiter les interactions comme une conversation et de laisser échapper plus d'informations que nous ne le ferions normalement en tapant simplement dans
Tiktok : ne nous alignons pas sur les Etats-Unis mais faisons appliquer la réglementation européenne
Avis d'expert de Constantin Pavléas, avocat spécialisé en droit des technologies, fondateur et dirigeant du cabinet Pavléas Avocats et responsable d'enseignements à l'école des Hautes Études Appliquées du Droit (HEAD).
TikTok est-il un cheval de Troie au service des autorités chinoises ? Est-ce que la plateforme chinoise permet la captation massive des données personnelles des internautes, et sert-elle à influencer, voire à manipuler les jeunes générations occidentales ?
Il est important de distinguer les questions de sécurité nationale qui sont l’apanage de chaque gouvernement, de celles concernant la protection des données personnelles, la lutte contre la désinformation et la manipulation de l’opinion et des comportements, qui doivent relever d’un contrôle réglementaire et démocratique.
Soupçonnant les autorités chinoises d’espionnage par l’intermédiaire de TikTok, la Maison Blanche a ordonné aux institutions fédérales de s'assurer que TikTok disparaisse de leurs smartphones sous trente jours, en application d'une loi ratifiée début janvier par Joe Biden. La Commission européenne et le gouvernement canadien ont récemment pris des décisions similaires pour les téléphones portables de leurs fonctionnaires, et le parlement danois a annoncé avoir demandé aux députés et au personnel de supprimer l'application de leurs appareils. La France réfléchit à une interdiction similaire pour les portables de ses fonctionnaires. Ces réactions des gouvernements occidentaux nous rappellent les mesures prises à l’encontre de Huawei, le géant chinois des télécoms, sur la base des mêmes suspicions d’espionnage au travers des infrastructures 5G.
Influence sur les jeunes générations
Au-delà de l’argumentation liée à la sécurité nationale, une autre menace, plus insidieuse celle-là, est mise en avant. C’est celle selon laquelle les algorithmes de recommandation des contenus de la plateforme auraient pour objectif - et pour résultat - d’exercer de façon délibérée une influence sur les jeunes générations. Ainsi, deux sénateurs américains ont déposé ce mardi 7 mars 2023 un projet de loi visant à permettre au gouvernement d'interdire les produits technologiques étrangers, y compris TikTok. Il est rappelé que la Chine elle même limite à quelques heures par semaine l’accès de ses adolescents aux jeux vidéo et aux applications tels que TikTok
A minima, nous savons que TikTok est une plateforme opérant en Chine et est soumise à la censure d’un régime non démocratique. Est-ce que cela nous autorise à interdire cette plateforme dans nos démocraties ? Une telle interdiction soulèverait des objections sérieuses car une chose est d’interdire à des agents publics d’utiliser les services de la plateforme en se prévalant d’impératifs de sécurité nationale, une autre chose serait d’étendre cette interdiction à l’ensemble des citoyens. Rien qu’aux Etats-Unis, TikTok revendique plus d'une centaine de millions d’utilisateurs, et la plateforme estime à juste titre qu’interdire l'application reviendrait à "censurer" des millions d’Américains. Elle est rejointe en cela par l’Association de défense des droits civiques (ACLU), opposée à un projet de loi qui aurait pour résultat de priver les Américains de leur droit constitutionnel à la liberté d’expression.
Par ailleurs, ces inquiétudes légitimes ne sont pas le fait des seules plateformes « étrangères ». On se rappelle les révélations de Mme Haugen et des Facebook files qui avaient mis en lumière les pratiques de la plateforme américaine et la conscience de leurs effets nocifs sur la santé mentale des adolescents.
Méfions-nous de ces appels aux Etats-Unis d’interdire des plateformes étrangères.
Ces appels peuvent être motivés par des considérations économiques ou politiques. Par exemple, l’Inde avait décrété dès 2020 l’interdiction totale de TikTok - parmi 60 autres applications proposées par la Chine, au nom de la sécurité nationale. Or, cette mesure s’apparentait à des représailles dans le contexte de graves incidents frontaliers entre les deux pays.
En Europe, le Règlement sur la protection des données personnelles (RGPD) et le Digital Services Act entré en vigueur en novembre 2022 (DSA) s’appliquent à TikTok. La plateforme chinoise est une Très Grande Plateforme au sens du DSA et devra rendre des comptes sur la modération, l’usage des algorithmes de recommandation et les risques systémiques posés par l’utilisation de ses services. Si les règles européennes sont transgressées, TikTok devra rendre des comptes et devra être sanctionnée (amendes pouvant aller jusqu’à 6% du chiffre d’affaires mondial et possibilité de suspension administrative du service).
Soyons vigilants sur le respect du DSA par la plateforme chinoise et saluons l’existence d’une réglementation européenne dont l’application devrait nous permettre à la fois de protéger l’internaute européen, et de préserver nos valeurs démocratiques.