Accéder au contenu principal

Inquiétude de voir des criminels utiliser ChatGPT

Alors qu'Europol vient de publier un rapport sur les dangers de ChatGPT et s'inquiète de son utilisation par des criminels,  Kunal Anand , CTO d’ Imperva , spécialiste de la sécurité, réagit face à la situation actuelle Les chatbots posent-ils un problème de protection de la vie privée plus important que les moteurs de recherche, et pourquoi ? "Le problème des chatbots par rapport aux moteurs de recherche n'est pas seulement lié aux conditions générales ou à la manière dont ils utilisent les données, mais aussi à la manière dont nous interagissons avec eux. Par rapport à une recherche Google ou Bing, les LLM comme Bard deviennent plus utiles à mesure que nous leur donnons plus d'informations (en informatique, cela s'appelle l'apprentissage par renforcement). Et surtout avec un chatbot, il est facile de traiter les interactions comme une conversation et de laisser échapper plus d'informations que nous ne le ferions normalement en tapant simplement dans

TikTok : piratage de données ou piratage des cerveaux ?

 

TikTok est largement en tête des applications les plus utilisées par les jeunes du monde entier. Ti Via/Shutterstock
Par Yannick Chatelain, Grenoble École de Management (GEM)

TikTok est une application de médias sociaux, propriété de l’entreprise chinoise ByteDance. Le principe de TikTok, née en septembre 2016 sous le nom de Douyin (nom qu’elle a conservé à ce jour en Chine) repose sur le partage de courtes vidéos. Elle définit sa mission de façon très sympathique : « TikTok est la meilleure destination pour les vidéos mobiles au format court. Notre mission est d’inspirer la créativité et d’apporter la joie. »

Aujourd’hui, du fait des récentes révélations sur son fonctionnement exact, elle inspire plutôt l’inquiétude : les États-Unis et l’UE ont déjà interdit à leurs fonctionnaires de s’en servir, et d’autres mesures pourraient suivre.

1,7 milliard d’utilisateurs

Il faut garder à l’esprit que, comme toute entreprise chinoise, TikTok, apparue sur les smartphones des habitants des pays occidentaux en 2017, est tenue de servir les intérêts de la Chine et de répondre aux desiderata gouvernementaux.

Si l’usage de TikTok est illimité pour les utilisateurs étrangers, en Chine, Douyin, sa version chinoise, est limitée à quarante minutes par jour pour les moins de quatorze ans. Cela n’est pas anodin. Nous y reviendrons.

Autre particularité : c’est le gouvernement chinois qui décide des contenus qui seront mis en avant. Certains contenus sont pour le moins troublants et ciblent un public très jeune : en décembre 2022, le Centre de lutte contre la haine en ligne (CCDH), a démontré dans une étude que « l’algorithme du réseau social TikTok favorise la diffusion de contenus relatifs aux troubles alimentaires et à l’automutilation pour certains comptes ». Et ce, en fonction des publications vues et « likées » par les utilisateurs cherchant des contenus relatifs à « l’image de soi et à la santé mentale ». Est-ce le fait d’une modération insuffisante de la plate-forme au regard de ses règles ? La question peut se poser !

[Près de 80 000 lecteurs font confiance à la newsletter de The Conversation pour mieux comprendre les grands enjeux du monde. Abonnez-vous aujourd’hui]

Dans un tout autre domaine, la guerre en Ukraine, la propagande des mercenaires russes de Wagner sur TikTok et la désinformation afférente ont été récemment dénoncées dans un rapport de NewsGuard. Ici encore, au regard du positionnement du gouvernement chinois dans ce conflit, la question d’une véritable volonté de modération peut se poser.

Comme le pointe Fabrice Ebelpoin, entrepreneur, professeur à Sciences Po et spécialiste des réseaux sociaux, autant la version chinoise propose massivement à ses utilisateurs « des vidéos sur le sens de la nation, l’unité, l’ambition personnelle mise au service du collectif, tout un tas de valeurs qui font la spécificité chinoise », autant aux États-Unis comme en Europe, « la plate-forme est dédiée exclusivement à de l’entertainment niais ou alors des choses qui peuvent prêter à confusion ». Et le professeur d’ajouter : « On est sur quelque chose qui peut s’apparenter à une destruction de l’état d’esprit de la jeunesse occidentale. »

En 2022, TikTok comptait pas moins de 1,7 milliard d’utilisateurs actifs dans le monde.

Pays comptant le plus d’utilisateurs de TikTok. Cliquer pour zoomer. Statista

« Un cheval de Troie » à retardement ? Pas si sûr !

En termes de confidentialité, si TikTok, comme d’autres réseaux sociaux, a accès à de nombreuses informations « traditionnelles » des utilisateurs – navigations, visionnages, conversations, listes de contacts, localisation, accès à leur appareil photo et au micro du mobile –, l’entreprise a précisé, dans la mise à jour de sa politique de confidentialité, que les données des utilisateurs français (entre autres) étaient accessibles aux employés de la plate-forme. C’est ce qu’a indiqué dans un billet de blog publié le 2 novembre 2022, Elaine Fox, « Head of Privacy Europe » pour la firme.

Nous l’avons évoqué : aux États-Unis, depuis décembre 2022 le réseau social est banni des téléphones professionnels des membres la Chambre des représentants et des agences fédérales. Dans la même dynamique, le 23 février 2023, la Commission européenne a annoncé l’interdiction d’installer l’application sur tous les appareils professionnels de son personnel. Le 27 février, c’était au tour de la présidente du Conseil du Trésor canadien Monat Fortier d’annoncer l’interdiction d’utiliser TikTok sur les appareils mobiles du gouvernement du Canada, précisant que l’application disparaîtrait automatiquement de tous les appareils gouvernementaux et qu’il sera impossible de la réinstaller. La plupart des gouvernements qui, en Occident, « contraignent » ainsi leurs fonctionnaires mettent en avant « la protection des données ou encore une menace pour la sécurité nationale ».

Dans certains pays, ce sont les usages de TikTok qui, selon les lois locales, peuvent amener des utilisateurs devant les tribunaux. Exemples parmi d’autres : en 2022 une Égyptienne se voyait condamnée à trois ans de prison pour ses vidéos sur TikTok. En février 2023, un couple iranien a été condamné à 10 ans de prison pour une vidéo de danse devenue virale.

La France, où le réseau social fait l’objet d’une commission d’enquête au Sénat qui devrait bientôt rendre un rapport sur son fonctionnement, qualifié d’« addictif et d’opaque », ne fait pas exception : un influenceur a été condamné après sa vidéo de danse en crop top dans une église. D’autres pays restreignent l’usage de TikTok, jusqu’à des décisions plus radicales : l’application est ainsi interdite en Inde, au Pakistan ou encore en Afghanistan, et avait été interdite un temps au Bangladesh et en Indonésie… qui jugeaient le contenu diffusé « inapproprié et blasphématoire », le temps que TikTok revienne avec une version hautement censurée.

Par ailleurs il existe de nombreux moyens de contourner les interdictions et les blocages : en Inde, deux ans apres l’interdiction gouvernementale de la plate-forme chinoise en juin 2020, les applications « copy-cat » se sont multipliées : citons Josh, Chingari, MX TakaTak

Piratage « traditionnel » : l’arbre qui cache la forêt ?

Certes, les risques de piratage existent, et des mises à jour peuvent intégrer des failles de sécurité volontaires, comme un programme backdoor. Toutefois, il convient à ce stade de faire plusieurs remarques.

Nous pouvons raisonnablement nous interroger sur le caractère symbolique des décisions des administrations occidentales évoquées ci-dessus. D’une part, les fonctionnaires concernés possèdent des téléphones personnels – à moins qu’ils n’en soient dépossédés lorsqu’ils accèdent à ces institutions – et des échanges sensibles peuvent être effectués via ces téléphones privés. Donc, à première vue, un piratage massif à ciel ouvert pouvant bénéficier de l’aide des utilisateurs pourrait être possible lors d’une mise à jour, et rendre ces derniers complices de leur propre espionnage !

La ficelle semble un peu grossière. Les services de renseignements disposent probablement d’autres méthodes, et la véritable prudence dans les domaines sensibles va au-delà de la vigilance à l’égard d’une simple application pouvant potentiellement être utilisée à des fins d’espionnage.

Quand on connaît, par exemple, le [potentiel de Pegasus], un puissant logiciel espion commercialisé par la société israélienne NSO, et qui était utilisé en 2022 par pas moins de 22 services de sécurité dans douze pays européens, l’intérêt premier de TikTok pour la Chine semble se situer ailleurs… et le gouvernement chinois paraît être intéressé par d’autres potentialités de l’application, à savoir celles liées à sa couverture mondiale démesurée. Par ailleurs les smartphones sont déjà en soi des outils d’espionnage de leurs utilisateurs, ce n’est pas une application, quelle qu’elle soit, qui change la donne.

« Un cheval de Troie » visant… le « brain hacking » ?

Les statistiques concernant les usagers en 2023 dans le monde sont les suivantes :

  • 56 % sont des femmes, 44 % des hommes.

  • 51,3 % de l’audience sont des femmes entre 13 et 24 ans.

  • 23,6 % des utilisateurs sont âgés entre 13 et 24 ans.

  • 40 % des visiteurs quotidiens se situent dans la tranche 15-24 ans.

Les chiffres relevés par l’étude annuelle de Qustodio – un fournisseur de logiciels de contrôle parental – indiquent qu’en 2022, dans le monde, les enfants (4-18 ans) ont passé en moyenne près de deux heures par jour sur TikTok (1h47).

Par-delà les contenus qui peuvent s’avérer inappropriés – sans l’activation et le paramétrage d’une fonctionnalité mise en place par TikTok en 2020 sous le nom de « Family Pairing », qui permet aux parents d’avoir le contrôle sur les activités de leurs enfants –, un autre risque pernicieux existe, qui semble plus réaliste que les piratages de données évoqués par les institutions précitées, un risque qui concerne une population majoritairement jeune au travers de campagnes de manipulation des opinions publiques. Une sorte de « brain-hacking » déclenchable à l’envi…

Le 2 décembre 2022, le directeur du FBI, Chris Wray, se préoccupait ainsi des possibilités offertes au gouvernement chinois de « manipuler le contenu et, s’ils le souhaitent, de l’utiliser pour des opérations d’influence », c’est-à-dire d’engager des campagnes d’astroturfing à très grande échelle.

Dans l’attente d’un réseau de substitution qui serait, lui, maîtrisé, l’Europe prépare peut-être son opinion publique à une interdiction pure et simple – une interdiction que Donald Trump appelait de ses vœux en 2020 pour les États-Unis. Par les mesures prises dernièrement, les Occidentaux adressent de façon concomitante au gouvernement chinois une exigence pour ne pas arriver à une telle issue : l’abrogation du contrôle par Pékin des contenus mis en avant. Une exigence qui s’apparente à un vœu pieux. C’était là, d’ailleurs ce qui expliquait la volonté de Donald Trump de contraindre TikTok à se faire racheter aux États-Unis par les groupes américains Oracle et Walmart, projet auquel Washington à finalement renoncé. Ce qui est plus réaliste, c’est un stockage de données respectueux de la souveraineté numérique des États de l’UE. Mais que les usagers se rassurent : Cormac Keenan, Head of Trust and Safety, chez TikTok le promet : la lutte contre la désinformation est une priorité de la firme !The Conversation

Yannick Chatelain, Professeur Associé. Digital I IT. GEMinsights Content Manager, Grenoble École de Management (GEM)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté

Univers parallèles et mondes virtuels : la guerre des métavers est commencée

  Une partie de poker dans le métavers (capture d'écran de la vidéo “Le métavers et comment nous allons le construire ensemble” sur YouTube) Par  Oihab Allal-Chérif , Neoma Business School Le 17 octobre 2021, Mark Zuckerberg a lancé les hostilités de manière assez théâtrale, comme s’il défiait ses concurrents d’en faire autant. Afin de concrétiser son rêve d’enfant, le métavers, il a décidé de mettre en œuvre des moyens colossaux : 10 000 ingénieurs hautement qualifiés seront recrutés en Europe dans les 5 prochaines années. Cette annonce a été faite quelques jours avant celle du changement de nom du groupe Facebook en Meta , le 28 octobre, démontrant ainsi l’engagement total du fournisseur de réseaux sociaux dans la transition vers le métavers. Le 22 juillet 2021, dans une interview à The Verge , le créateur de Facebook racontait : « Je pense à certains de ces trucs depuis le collège quand je commençais tout juste à coder. […] J’écrivais du code

Sans Sauvegarde, pas de cyber-résilience

Par Alexandra Lemarigny, directrice commercial Europe du Sud Opentext Security Solutions Les études diverses sur les habitudes de sauvegarde des entreprises et leurs collaborateurs sont sans équivoque : très majoritairement, elles ne s’attardent vraiment sur ces questions de sauvegarde ou de récupération qu’en cas d’incidents. Pourtant la sauvegarde est l’élément majeur des dispositifs de cyber-résilience, à savoir la capacité à rester opérationnel, même face aux cyberattaques et à la perte de données. La sauvegarde n’est pas suffisamment considérée Dans les faits, force est de constater que la sauvegarde n’est pas envisagée dans son entièreté par les entreprises qui n’ont pas eu à subir d’accidents et il est fréquent qu’elles ne sauvegardent pas les éléments les plus pertinents. A titre d’exemples une entreprise peut ne sauvegarder qu’un ou deux serveurs, ou un élément qu’elle a identifié comme critique quelques années auparavant. Certaines ne tiennent pas compte de l’évolution de leu

Implants cérébraux : la délicate question de la responsabilité juridique des interfaces homme-machine

Dans le film Transcendance , de Wally Pfister, sorti en 2014, le héros mourant transfère son esprit dans un ordinateur quantique. Wally Pfister, 2014 Par  Elise Roumeau , Université Clermont Auvergne (UCA) Depuis quelques années, Elon Musk ne cesse de faire des annonces relatives à des avancées technologiques. Voitures autonomes , voyages interplanétaires , interface homme-machine , achat du réseau social Twitter… rien ne semble arrêter l’homme d’affaires. Aucun obstacle technique, géographique, physiologique ne lui semble infranchissable. Pourtant, ses projets pourraient, à court terme, poser de véritables difficultés du point de vue juridique. La recherche d’une fusion entre le cerveau et l’intelligence artificielle Avec Neuralink, l’un des objectifs visés par Elon Musk est de créer une interface entre l’humain et la machine . À plus ou moins court terme, le projet porte sur le développement d’implants cérébraux pour pallier des troubles neur

ChatGPT et cybersécurité : quels risques pour les entreprises ?

Analyse de Proofpoint Les plateformes de génération de texte tel que ChatGPT permettent de créer du contenu de qualité, instantanément, gratuitement, et sur n’importe quel sujet. Comme le confirme le lancement de Bard par Google, nous sommes désormais entrés dans une course à l’IA, ou chaque géant du web cherche à posséder la meilleure solution possible. Si l’avancée technologique est majeure, le risque notamment pour la cybersécurité des entreprises est indéniable. Comment lutter contre des campagnes de phishing de plus en plus ciblées et sophistiquées, maintenant alimentées par des technologies capables de parfaire encore plus la forme et la teneur d’un email malveillant ? En quelques mots, ChatGPT offre une ingénierie sociale très performante, mais une automatisation encore limitée. Concernant la détection de la menace par rançongiciels, comme l’explique Loïc Guézo, Directeur de la stratégie Cybersécurité chez Proofpoint, « Bien que les chatbots puissent générer du texte pour le cor

Sondage : quatre Français sur dix craignent le vol d'identité

Selon un sondage représentatif commandé par le fournisseur de messagerie GMX , de nombreux internautes français sont préoccupés (31%), voire très inquiets (9%), d'être victimes d'un vol d'identité. La majorité craint que des inconnus puissent faire des achats (52%) avec leur argent. Dans le cas d'une usurpation d'identité, les criminels accèdent aux comptes en ligne et agissent au nom de leurs victimes. De nombreuses personnes interrogées craignent que des inconnus signent des contrats en leur nom (37 %), que des escrocs utilisent l'identité volée pour ouvrir de nouveaux comptes (36 %) et que des informations les plus privées tombent entre des mains étrangères ou soient rendues publiques (28 %). Besoin de rattrapage en matière de sécurité des mots de passe Il est urgent de rattraper le retard en matière d'utilisation de mots de passe sûrs selon GMX : 34 % des utilisateurs d'Internet en France utilisent dans leurs mots de passe des informations personnell