Accéder au contenu principal

Inquiétude de voir des criminels utiliser ChatGPT

Alors qu'Europol vient de publier un rapport sur les dangers de ChatGPT et s'inquiète de son utilisation par des criminels,  Kunal Anand , CTO d’ Imperva , spécialiste de la sécurité, réagit face à la situation actuelle Les chatbots posent-ils un problème de protection de la vie privée plus important que les moteurs de recherche, et pourquoi ? "Le problème des chatbots par rapport aux moteurs de recherche n'est pas seulement lié aux conditions générales ou à la manière dont ils utilisent les données, mais aussi à la manière dont nous interagissons avec eux. Par rapport à une recherche Google ou Bing, les LLM comme Bard deviennent plus utiles à mesure que nous leur donnons plus d'informations (en informatique, cela s'appelle l'apprentissage par renforcement). Et surtout avec un chatbot, il est facile de traiter les interactions comme une conversation et de laisser échapper plus d'informations que nous ne le ferions normalement en tapant simplement dans

Réseaux sociaux : pourquoi ceux qui veulent fuir Twitter se dirigent vers Mastodon

 

mastodon

Depuis que Twitter a été racheté pour 44 milliards de dollars par le fantasque milliardaire Elon Musk, PDG entre autres de Tesla et de Space X, des inquiétudes se font jour sur le devenir du réseau social et particulièrement sur la façon dont la modération des contenus qui y sont postés sera réalisée. Après avoir affirmé que "l'oiseau bleu" (logo de Twitter) a été libéré, expliqué qu'il était pour une liberté d'expression sans limite et qu'il libérerait de la "prison Twitter" les comptes d'utilisateurs bannis de la plateforme - au premier rang desquels celui de Donald Trump - Musk a licencié de nombreux cadres dirigeants de l'entreprise dont Vijae Gadde, responsable du service juridique, de la politique et de la confiance de Twitter - qui avait pris la décision finale de bannir l’ancien président des États-Unis - et décidé de créer un conseil de modération de contenu avec "des points de vue très divers". Le risque de voir l'explosion de contenus haineux ou complotistes est dès lors bien réel.

"Il va falloir être très prudent sur cette plateforme dans les jours qui viennent… Sur ce que vous retweetez, à quel compte vous vous abonnez et par rapport à votre propre perception de qui se passe", a expliqué Kate Starbird, chercheuse en désinformation de l’université de Washington. Et si Yoel Roth, responsable de la sûreté du réseau, a voulu rassurer en expliquant que l’équipe "Confiance et sécurité" a seulement subi 15% de départs - Musk ayant licencié la moitié des 7500 employés - l'inquiétude grandit au point que certains décident de quitter Twitter. Toute la question est de savoir quelles sont les alternatives au réseau social qui est devenu un espace majeur du débat public.

mastodon

Mastodon, alternative décentralisée mais plus complexe que Twitter

Pour l'heure, la plateforme qui se rapproche le plus de Twitter est Mastodon, qui ne permet pas la publication de Tweets mais de... pouets (toots en anglais). Ce réseau social créé en 2016 a indiqué qu'il compte désormais plus de 655 000 utilisateurs, dont plus de 230 000 l'ont rejoint la semaine dernière. "Nous présentons une vision des médias sociaux qui ne peut être achetée et détenue par aucun milliardaire. Votre capacité à communiquer en ligne ne doit pas dépendre d’une seule société commerciale !" a d'ailleurs souligné Mastodon... sur Twitter.

Mastodon a l'avantage d'être un réseau auto-hébergé, libre et décentralisé, c'est-à-dire ne dépendant pas d'une entreprise avec ses propres serveurs. Mastodon fonctionne en fait sur différents serveurs interconnectés (des instances) : lorsque l'on veut créer un compte, il faut donc choisir son serveur (par exemple mastodon.ie, mostodon.top, mastodon.social, etc.) administré par des bénévoles, des associations, voire des administrations. La liste de tous les serveurs est disponible ici. Une fois son serveur choisi, il faudra bien retenir son adresse car c'est à partir de lui que l'on se connectera sur le web ou via des applications Mastodon disponibles pour les iPhone et les smartphones Android.

Une modération très différente 

Ensuite il suffit de créer son compte comme sur Twitter avec son nom ou pseudonyme (le compte se présentera sous la forme @votrenom@instance). On peut ajouter sa photo de profil, indiquer ses centres d'intérêt, etc. Comme sur Twitter, on peut alors explorer les publications, échanger des messages directs avec d'autres utilisateurs, mettre des "Pouets" en favoris, créer des listes, etc. Différence notable avec Twitter : là où les tweets sont limités à 280 caractères, les pouets vont jusqu'à 500. Réseau social sans publicité ni algorithme, les publications s'affichent dans l'ordre chronologique.

Quant à la modération des contenus, elle dépend en fait de l'instance sur laquelle on se connecte. Là où Twitter a une modération générale quoique obscure, sur Mastodon, chaque instance fait sa modération selon des règles plus ou moins strictes. Une instance A peut décider d'interdire le partage de publication à un ou plusieurs membres de l'instance B. À cet effet, des listes noires peuvent exister.

Le choix de départ de l'instance est donc important. En cas de problème, on peut transférer son compte vers une autre instance : la procédure est complexe mais réalisable.

La confidentialité et la sécurité en question

Parmi les lacunes de Mastodon on peut souligner que les échanges ne sont pas chiffrés de bout en bout. Il faut donc être prudent sur ce que l'on échange, d'autant que les administrateurs des instances peuvent avoir accès aux messages privés.

"Les nouvelles plates-formes s'accompagnent inévitablement de nouveaux risques et toute personne migrant vers celles-ci doit idéalement faire preuve de prudence et de diligence raisonnable avant de divulguer ou de diffuser des informations", rappelle Benoît Grunemwald, Expert Cyber Sécurité chez ESET France. "Les acteurs de la menace savent très bien tirer parti des nouveaux utilisateurs, soit en se faisant passer pour des responsables de la plate-forme afin d'obtenir des informations d'identification, soit en se faisant passer pour des contacts afin d'obtenir d'autres données. À une époque où les utilisateurs certifiés sont potentiellement plus difficiles à repérer, les fausses informations peuvent davantage se propager, ce qui peut causer de gros problèmes. Il est donc vital d'adopter le réflexe de vérifier toute information sur les utilisateurs", poursuit l'expert.

En attendant le futur réseau social BlueSky

Si Mastodon a le vent en poupe, rien ne dit toutefois qu'il va décoller. Sa philosophie, son fonctionnement peuvent être déroutants. Dès lors, certains misent beaucoup sur BlueSky, une future plateforme concurrente de Twitter dont le développement est actuellement piloté par Jack Dorsey, l'ancien fondateur et PDG de Twitter.

Le 5 novembre, celui-ci a fait son mea culpa sur la situation que vit Twitter. "Les gens d'hier et d'aujourd'hui sur Twitter sont forts et résilients. Ils trouveront toujours un moyen, peu importe la difficulté du moment. Je me rends compte que beaucoup sont en colère contre moi. Je suis responsable de la raison pour laquelle tout le monde se trouve dans cette situation : j'ai augmenté la taille de l'entreprise trop rapidement. Je m'excuse pour cela. Je suis reconnaissant et j'aime tous ceux qui ont déjà travaillé sur Twitter. Je ne m'attends pas à ce que ce soit réciproque en ce moment... ou jamais... et je comprends.

Sur la page de BlueSky, les développeurs expliquent "Nous construisons le protocole AT, une nouvelle base pour les réseaux sociaux qui donne aux créateurs une indépendance vis-à-vis des plateformes, aux développeurs la liberté de construire et aux utilisateurs un choix dans leur expérience."

La future plateforme suscite en tout cas de la curiosité puisqu'en quelques jours près de 30000 personnes se sont inscrites sur la liste d'attente pour pouvoir la tester.

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté

Univers parallèles et mondes virtuels : la guerre des métavers est commencée

  Une partie de poker dans le métavers (capture d'écran de la vidéo “Le métavers et comment nous allons le construire ensemble” sur YouTube) Par  Oihab Allal-Chérif , Neoma Business School Le 17 octobre 2021, Mark Zuckerberg a lancé les hostilités de manière assez théâtrale, comme s’il défiait ses concurrents d’en faire autant. Afin de concrétiser son rêve d’enfant, le métavers, il a décidé de mettre en œuvre des moyens colossaux : 10 000 ingénieurs hautement qualifiés seront recrutés en Europe dans les 5 prochaines années. Cette annonce a été faite quelques jours avant celle du changement de nom du groupe Facebook en Meta , le 28 octobre, démontrant ainsi l’engagement total du fournisseur de réseaux sociaux dans la transition vers le métavers. Le 22 juillet 2021, dans une interview à The Verge , le créateur de Facebook racontait : « Je pense à certains de ces trucs depuis le collège quand je commençais tout juste à coder. […] J’écrivais du code

Sans Sauvegarde, pas de cyber-résilience

Par Alexandra Lemarigny, directrice commercial Europe du Sud Opentext Security Solutions Les études diverses sur les habitudes de sauvegarde des entreprises et leurs collaborateurs sont sans équivoque : très majoritairement, elles ne s’attardent vraiment sur ces questions de sauvegarde ou de récupération qu’en cas d’incidents. Pourtant la sauvegarde est l’élément majeur des dispositifs de cyber-résilience, à savoir la capacité à rester opérationnel, même face aux cyberattaques et à la perte de données. La sauvegarde n’est pas suffisamment considérée Dans les faits, force est de constater que la sauvegarde n’est pas envisagée dans son entièreté par les entreprises qui n’ont pas eu à subir d’accidents et il est fréquent qu’elles ne sauvegardent pas les éléments les plus pertinents. A titre d’exemples une entreprise peut ne sauvegarder qu’un ou deux serveurs, ou un élément qu’elle a identifié comme critique quelques années auparavant. Certaines ne tiennent pas compte de l’évolution de leu

Implants cérébraux : la délicate question de la responsabilité juridique des interfaces homme-machine

Dans le film Transcendance , de Wally Pfister, sorti en 2014, le héros mourant transfère son esprit dans un ordinateur quantique. Wally Pfister, 2014 Par  Elise Roumeau , Université Clermont Auvergne (UCA) Depuis quelques années, Elon Musk ne cesse de faire des annonces relatives à des avancées technologiques. Voitures autonomes , voyages interplanétaires , interface homme-machine , achat du réseau social Twitter… rien ne semble arrêter l’homme d’affaires. Aucun obstacle technique, géographique, physiologique ne lui semble infranchissable. Pourtant, ses projets pourraient, à court terme, poser de véritables difficultés du point de vue juridique. La recherche d’une fusion entre le cerveau et l’intelligence artificielle Avec Neuralink, l’un des objectifs visés par Elon Musk est de créer une interface entre l’humain et la machine . À plus ou moins court terme, le projet porte sur le développement d’implants cérébraux pour pallier des troubles neur

ChatGPT et cybersécurité : quels risques pour les entreprises ?

Analyse de Proofpoint Les plateformes de génération de texte tel que ChatGPT permettent de créer du contenu de qualité, instantanément, gratuitement, et sur n’importe quel sujet. Comme le confirme le lancement de Bard par Google, nous sommes désormais entrés dans une course à l’IA, ou chaque géant du web cherche à posséder la meilleure solution possible. Si l’avancée technologique est majeure, le risque notamment pour la cybersécurité des entreprises est indéniable. Comment lutter contre des campagnes de phishing de plus en plus ciblées et sophistiquées, maintenant alimentées par des technologies capables de parfaire encore plus la forme et la teneur d’un email malveillant ? En quelques mots, ChatGPT offre une ingénierie sociale très performante, mais une automatisation encore limitée. Concernant la détection de la menace par rançongiciels, comme l’explique Loïc Guézo, Directeur de la stratégie Cybersécurité chez Proofpoint, « Bien que les chatbots puissent générer du texte pour le cor

Sondage : quatre Français sur dix craignent le vol d'identité

Selon un sondage représentatif commandé par le fournisseur de messagerie GMX , de nombreux internautes français sont préoccupés (31%), voire très inquiets (9%), d'être victimes d'un vol d'identité. La majorité craint que des inconnus puissent faire des achats (52%) avec leur argent. Dans le cas d'une usurpation d'identité, les criminels accèdent aux comptes en ligne et agissent au nom de leurs victimes. De nombreuses personnes interrogées craignent que des inconnus signent des contrats en leur nom (37 %), que des escrocs utilisent l'identité volée pour ouvrir de nouveaux comptes (36 %) et que des informations les plus privées tombent entre des mains étrangères ou soient rendues publiques (28 %). Besoin de rattrapage en matière de sécurité des mots de passe Il est urgent de rattraper le retard en matière d'utilisation de mots de passe sûrs selon GMX : 34 % des utilisateurs d'Internet en France utilisent dans leurs mots de passe des informations personnell