Accéder au contenu principal

Inquiétude de voir des criminels utiliser ChatGPT

Alors qu'Europol vient de publier un rapport sur les dangers de ChatGPT et s'inquiète de son utilisation par des criminels,  Kunal Anand , CTO d’ Imperva , spécialiste de la sécurité, réagit face à la situation actuelle Les chatbots posent-ils un problème de protection de la vie privée plus important que les moteurs de recherche, et pourquoi ? "Le problème des chatbots par rapport aux moteurs de recherche n'est pas seulement lié aux conditions générales ou à la manière dont ils utilisent les données, mais aussi à la manière dont nous interagissons avec eux. Par rapport à une recherche Google ou Bing, les LLM comme Bard deviennent plus utiles à mesure que nous leur donnons plus d'informations (en informatique, cela s'appelle l'apprentissage par renforcement). Et surtout avec un chatbot, il est facile de traiter les interactions comme une conversation et de laisser échapper plus d'informations que nous ne le ferions normalement en tapant simplement dans

Souveraineté numérique : l’Internet russe peut-il se couper du reste du monde ?

File 20190318 28487 17euj98.jpg?ixlib=rb 1.1
Quel contrôle des frontières numériques en Russie ? Wikimedia, CC BY-SA

Par Francesca Musiani, Sorbonne Université; Benjamin Loveluck, Télécom ParisTech – Institut Mines-Télécom, Université Paris-Saclay; Françoise Daucé, École des hautes études en sciences sociales (EHESS) et Ksenia Ermoshina, Centre national de la recherche scientifique (CNRS)


L’infrastructure Internet obéit à un principe d’internationalisation des équipements et des flux de données et d’information. Les parties d’Internet qui se trouvent physiquement sur chaque territoire national ont besoin de ressources physiques et informationnelles hébergées sur d’autres territoires pour pouvoir fonctionner. Cependant, dans ce contexte mondialisé, la Russie œuvre depuis 2012 à l’augmentation progressive des contrôles nationaux sur les flux d’information et les infrastructures, dans une atmosphère de méfiance politique croissante à l’égard des mouvements protestataires à l’intérieur du pays et de ses partenaires internationaux à l’extérieur. De nombreuses lois ont déjà été votées en ce sens, comme celle en vigueur depuis 2016 obligeant les entreprises traitant des données de citoyens russes à les stocker sur le territoire national, ou encore celle encadrant l’utilisation des réseaux privés virtuels (VPN), proxys et outils d’anonymisation depuis 2017.
En février 2019, un projet de loi dit « sur l’isolement du segment russe de l’Internet » a été adopté en première lecture à la Douma (334 voix pour contre 47 contre) à l’initiative des sénateurs Klichas et Bokova et du député Lugovoï. Dans la note d’intention qui accompagne ce texte, il est précisé qu’il répond au « caractère agressif de la stratégie pour la cybersécurité nationale des États-Unis » adoptée en septembre 2018. Le projet porte principalement sur deux points : le contrôle du système de noms de domaine (DNS, le système d’adressage de l’Internet) et le routage du trafic, le mécanisme qui sélectionne des chemins dans le réseau Internet pour que les données soient envoyées d’un expéditeur à un ou plusieurs destinataires.

La Russie veut se libérer des contraintes étrangères

Parmi ses préconisations, figurent notamment deux mesures clés. La première est la création par la Russie de sa propre version du DNS, pour pouvoir fonctionner si les liens vers les serveurs situés à l’international sont coupés – aucune des douze entités actuellement responsables des serveurs racines du DNS n’étant située sur le territoire russe. La deuxième consiste, pour les fournisseurs d’accès Internet (FAI), à montrer qu’ils sont en mesure de diriger les flux d’information exclusivement vers des points de routage contrôlés par le gouvernement, qui devraient filtrer le trafic pour que seules les données échangées entre les Russes atteignent leur destination.
Cette législation est la pierre angulaire des efforts du gouvernement russe visant à promouvoir leur « souveraineté numérique » ; selon les législateurs russes, il est souhaitable de développer une façon d’isoler l’Internet russe sur commande, qui permettrait de répondre par l’autosuffisance aux agissements de puissances étrangères et de garantir la continuité de son fonctionnement. Inversement, une telle configuration faciliterait aussi les possibilités de blocage de tout ou partie des communications.
L’état russe n’est évidemment pas le seul à viser une plus grande capacité de contrôle sur le réseau. L’Iran essaie de faire de même depuis des années, et la Chine bien sûr avec le « Great Firewall of China ». De nombreux états cherchent à renforcer leur autorité sur « leur » Internet, au point dans certains cas de couper partiellement voire totalement le réseau (des mesures connues en anglais comme « shutdowns » ou « kill switch »). Ce fut le cas en Égypte lors de la révolution de 2011, au Congo récemment à l’occasion des élections, et c’est aussi régulièrement le cas dans certaines régions de l’Inde.
Dans le prolongement de ces projets législatifs, une initiative récente, rendue publique le 12 février dernier par l’agence de presse russe TASS, a suscité une attention particulière. Sous l’impulsion de l’état russe, un groupe qui réunit les principaux opérateurs télécom publics et privés (piloté par Natalya Kasperskaya, la co-fondatrice de la célèbre entreprise de sécurité Kaspersky), a décidé de conduire un test afin de couper temporairement l’Internet russe du reste du réseau mondialisé et notamment du World Wide Web. Cela arrivera en principe avant le 1er avril, date limite pour présenter des amendements au projet de loi, qui demanderait aux FAIs russes d’être en mesure de garantir leur capacité à fonctionner de façon autonome du reste du réseau.

Des implications techniques, économiques et politiques

Cependant, et au-delà de la charge symbolique que peut revêtir une autonomisation par la déconnexion d’un pays aussi important, de nombreuses raisons d’ordre technique, économique mais aussi social et politique, plaident en défaveur de telles tentatives, à la fois pour l’Internet mondial et russe.
D’un point de vue technique, même si la Russie essaie d’anticiper un maximum cette déconnexion, des effets inattendus se produiront inévitablement si elle cherche à se séparer du reste du réseau mondial, en raison du degré d’interdépendance de ce dernier au-delà des frontières nationales et à tous les niveaux de protocoles. Il faut préciser ici que, contrairement à la Chine qui a pensé et conçu son réseau avec un projet bien précis de gouvernance centralisée en interne, la Russie compte plus de 3 000 FAIs, et une infrastructure ramifiée et complexe, avec de nombreuses connexions physiques et économiques avec l’étranger. Dans ce contexte, il est très difficile pour les FAI et les autres opérateurs Internet de savoir précisément à quel degré et comment ils dépendent d’autres composantes infrastructurelles (points d’échange de trafic, réseaux de distribution de contenu, data centers, etc.) au-delà de leurs frontières. Cela pourrait conduire à des problèmes très importants – non seulement pour la Russie elle-même mais également pour le reste du monde.
Le test pourrait notamment poser des difficultés pour les autres pays qui acheminent le trafic à travers la Russie et ses infrastructures – quelque chose qu’il est difficile de connaître a priori. Les effets du test seront certes suffisamment étudiés et anticipés pour ne pas mener à une véritable catastrophe (par exemple, compromettre pendant longtemps le fonctionnement d’une importante infrastructure de transport ou autre). Mais les conséquences probables seraient plutôt le dysfonctionnement ou le ralentissement de sites Web fréquemment utilisés par l’utilisateur lambda. La plupart d’entre eux fonctionnent en effet à partir de multiples serveurs situés de façon distribuée sur la surface du globe. Le magazine Wired prend l’exemple d’un site d’information qui pourrait dépendre « d’un serveur cloud d’Amazon Web Services, un logiciel de traçage de Google, et un plug-in Facebook pour laisser des commentaires », tous les trois opérant en dehors de la Russie.
Sur le plan économique, en raison de l’infrastructure complexe de l’Internet russe et de ses liens très forts avec le reste de la toile, un tel essai serait difficile et coûteux à mettre en œuvre. La Cour des comptes russe s’est très récemment opposée à cette législation au motif que cela entraînerait une augmentation des dépenses publiques, nécessaires pour aider les opérateurs à mettre en œuvre la technologie et à engager du personnel supplémentaire au sein de Roskomnadzor, l’agence de surveillance des communications, qui ouvrira un centre pour la supervision et l’administration du réseau de communication. Le ministère des Finances s’inquiète aussi des coûts entraînés par ce projet. La mise en œuvre de la loi pourrait coûter cher aux entreprises et favoriser la corruption.
Enfin, du point de vue des libertés politiques, la nouvelle initiative suscite la mobilisation des mouvements citoyens. La « souverainisation » porte des risques de censure encore accrus. Le système devrait être supervisé et coordonné par l’agence de surveillance des communications de l’État, Roskomnadzor, qui centralise déjà le blocage de milliers de sites web – et notamment des sites d’information critiques. La mise en œuvre de ce projet élargirait les possibilités d’inspection et de censure du trafic en Russie, affirme l’association Roskomsvoboda. Comme évoqué plus haut, il pourrait faciliter la possibilité de couper l’Internet ou de contrôler certaines de ses applications, comme Telegram (que le gouvernement russe a cherché à bloquer sans succès au printemps 2018). Un essai d’une telle coupure ou « Internet black-out » a eu lieu en République d’Ingouchie, dans le cadre d’une mobilisation de masse en octobre 2018 où le gouvernement avait réussi à couper presque totalement le trafic. Une manifestation « contre l’isolation du runet » a rassemblé 15 000 personnes à Moscou le 10 mars 2019 à l’initiative de nombreux mouvements et partis de défense des libertés en ligne, témoignant des inquiétudes qui s’expriment dans la société.
Est-il possible de divorcer de l’Internet mondial aujourd’hui, et avec quelles conséquences ? Il est difficile d’anticiper toutes les implications de changements aussi importants sur l’architecture globale d’Internet. Lors de la discussion du projet de loi à la Douma, le député Oleg Nilov, du parti Russie juste, a qualifié l’initiative de « Brexit numérique » dont souffriront d’abord les simples utilisateurs en Russie. Comme on a pu le voir (et étudier) à nombre d’occasions dans un passé récent, les infrastructures des réseaux d’information et de communication sont devenus des leviers décisifs dans l’exercice du pouvoir, sur lesquels les gouvernements comptent bien peser de tout leur poids. Mais comme ailleurs, l’espace numérique russe est de plus en plus complexe, et les résultats des expérimentations isolationnistes en cours y sont plus que jamais imprévisibles.The Conversation

Francesca Musiani, Chargée de recherche, CNRS, Institut des sciences de la communication, ISCC, Sorbonne Université; Benjamin Loveluck, Maître de conférences, Télécom ParisTech – Institut Mines-Télécom, Université Paris-Saclay; Françoise Daucé, Directrice d'études, École des hautes études en sciences sociales (EHESS) et Ksenia Ermoshina, Docteure en socio-économie de l’innovation, Centre national de la recherche scientifique (CNRS)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté

Univers parallèles et mondes virtuels : la guerre des métavers est commencée

  Une partie de poker dans le métavers (capture d'écran de la vidéo “Le métavers et comment nous allons le construire ensemble” sur YouTube) Par  Oihab Allal-Chérif , Neoma Business School Le 17 octobre 2021, Mark Zuckerberg a lancé les hostilités de manière assez théâtrale, comme s’il défiait ses concurrents d’en faire autant. Afin de concrétiser son rêve d’enfant, le métavers, il a décidé de mettre en œuvre des moyens colossaux : 10 000 ingénieurs hautement qualifiés seront recrutés en Europe dans les 5 prochaines années. Cette annonce a été faite quelques jours avant celle du changement de nom du groupe Facebook en Meta , le 28 octobre, démontrant ainsi l’engagement total du fournisseur de réseaux sociaux dans la transition vers le métavers. Le 22 juillet 2021, dans une interview à The Verge , le créateur de Facebook racontait : « Je pense à certains de ces trucs depuis le collège quand je commençais tout juste à coder. […] J’écrivais du code

Sans Sauvegarde, pas de cyber-résilience

Par Alexandra Lemarigny, directrice commercial Europe du Sud Opentext Security Solutions Les études diverses sur les habitudes de sauvegarde des entreprises et leurs collaborateurs sont sans équivoque : très majoritairement, elles ne s’attardent vraiment sur ces questions de sauvegarde ou de récupération qu’en cas d’incidents. Pourtant la sauvegarde est l’élément majeur des dispositifs de cyber-résilience, à savoir la capacité à rester opérationnel, même face aux cyberattaques et à la perte de données. La sauvegarde n’est pas suffisamment considérée Dans les faits, force est de constater que la sauvegarde n’est pas envisagée dans son entièreté par les entreprises qui n’ont pas eu à subir d’accidents et il est fréquent qu’elles ne sauvegardent pas les éléments les plus pertinents. A titre d’exemples une entreprise peut ne sauvegarder qu’un ou deux serveurs, ou un élément qu’elle a identifié comme critique quelques années auparavant. Certaines ne tiennent pas compte de l’évolution de leu

Implants cérébraux : la délicate question de la responsabilité juridique des interfaces homme-machine

Dans le film Transcendance , de Wally Pfister, sorti en 2014, le héros mourant transfère son esprit dans un ordinateur quantique. Wally Pfister, 2014 Par  Elise Roumeau , Université Clermont Auvergne (UCA) Depuis quelques années, Elon Musk ne cesse de faire des annonces relatives à des avancées technologiques. Voitures autonomes , voyages interplanétaires , interface homme-machine , achat du réseau social Twitter… rien ne semble arrêter l’homme d’affaires. Aucun obstacle technique, géographique, physiologique ne lui semble infranchissable. Pourtant, ses projets pourraient, à court terme, poser de véritables difficultés du point de vue juridique. La recherche d’une fusion entre le cerveau et l’intelligence artificielle Avec Neuralink, l’un des objectifs visés par Elon Musk est de créer une interface entre l’humain et la machine . À plus ou moins court terme, le projet porte sur le développement d’implants cérébraux pour pallier des troubles neur

ChatGPT et cybersécurité : quels risques pour les entreprises ?

Analyse de Proofpoint Les plateformes de génération de texte tel que ChatGPT permettent de créer du contenu de qualité, instantanément, gratuitement, et sur n’importe quel sujet. Comme le confirme le lancement de Bard par Google, nous sommes désormais entrés dans une course à l’IA, ou chaque géant du web cherche à posséder la meilleure solution possible. Si l’avancée technologique est majeure, le risque notamment pour la cybersécurité des entreprises est indéniable. Comment lutter contre des campagnes de phishing de plus en plus ciblées et sophistiquées, maintenant alimentées par des technologies capables de parfaire encore plus la forme et la teneur d’un email malveillant ? En quelques mots, ChatGPT offre une ingénierie sociale très performante, mais une automatisation encore limitée. Concernant la détection de la menace par rançongiciels, comme l’explique Loïc Guézo, Directeur de la stratégie Cybersécurité chez Proofpoint, « Bien que les chatbots puissent générer du texte pour le cor

Sondage : quatre Français sur dix craignent le vol d'identité

Selon un sondage représentatif commandé par le fournisseur de messagerie GMX , de nombreux internautes français sont préoccupés (31%), voire très inquiets (9%), d'être victimes d'un vol d'identité. La majorité craint que des inconnus puissent faire des achats (52%) avec leur argent. Dans le cas d'une usurpation d'identité, les criminels accèdent aux comptes en ligne et agissent au nom de leurs victimes. De nombreuses personnes interrogées craignent que des inconnus signent des contrats en leur nom (37 %), que des escrocs utilisent l'identité volée pour ouvrir de nouveaux comptes (36 %) et que des informations les plus privées tombent entre des mains étrangères ou soient rendues publiques (28 %). Besoin de rattrapage en matière de sécurité des mots de passe Il est urgent de rattraper le retard en matière d'utilisation de mots de passe sûrs selon GMX : 34 % des utilisateurs d'Internet en France utilisent dans leurs mots de passe des informations personnell