Accéder au contenu principal

Inquiétude de voir des criminels utiliser ChatGPT

Alors qu'Europol vient de publier un rapport sur les dangers de ChatGPT et s'inquiète de son utilisation par des criminels,  Kunal Anand , CTO d’ Imperva , spécialiste de la sécurité, réagit face à la situation actuelle Les chatbots posent-ils un problème de protection de la vie privée plus important que les moteurs de recherche, et pourquoi ? "Le problème des chatbots par rapport aux moteurs de recherche n'est pas seulement lié aux conditions générales ou à la manière dont ils utilisent les données, mais aussi à la manière dont nous interagissons avec eux. Par rapport à une recherche Google ou Bing, les LLM comme Bard deviennent plus utiles à mesure que nous leur donnons plus d'informations (en informatique, cela s'appelle l'apprentissage par renforcement). Et surtout avec un chatbot, il est facile de traiter les interactions comme une conversation et de laisser échapper plus d'informations que nous ne le ferions normalement en tapant simplement dans

Technologies digitales : qu'en pensent vraiment les jeunes ?

Les jeunes face à leur téléphone. DisobeyAr/ShutterstockCC BY-SA

Dr Mike Cooray, Hult International Business School et Dr Rikke Duus, UCL


Alors que les technologies digitales facilitent la croissance à la fois des organisations établies et émergentes, les facettes plus sombres de l'économie digitale commencent à émerger. Au cours des dernières années plusieurs pratiques peu éthiques ont été révélées, y compris la saisie et l'utilisation des données des consommateurs, des activités anticoncurrentielles, et des expériences sociales secrètes.
Mais que pensent de ce développement les jeunes qui ont grandi avec internet? Notre projet de recherche auprès de 400 natifs numériques de 19 à 24 ans, montre que cette génération aussi appelée _GenTech_pourrait bien être celle qui renverse la révolution digitale. Les résultats de notre recherche pointent vers une frustration et une désillusion sur la façon dont les organisations ont accumulé des informations consommateurs en temps réel, sans que ceux-ci n'en aient connaissance, et parfois même sans leur consentement.
Nombreux sont ceux qui comprennent que leur vie digitale a une valeur commerciale pour une variété d'organisations qui utilisent cette information pour le ciblage et la personnalisation des produits, des services et des expériences.
Cette ère d'accumulation en temps réel et de commercialisation de données sur les usagers a été baptisée le capitalisme de surveillance et est une nouvelle ère pour les systèmes économiques

L'intelligence artificielle

Un pilier central de la nouvelle économie digitale est notre interaction avec l'intelligence artificielle (IA) et les algorithmes d'apprentissage. Nos résultats montrent que 47% de la “GenTech” ne veulent pas que l'IA surveille leur mode de vie, leurs achats et leur situation financière afin de leur recommander des achats.
En fait, seulement 29% voient cela comme une interaction positive. Au contraire la plupart veulent garder l'autonomie dans leurs décisions et avoir la possibilité d'explorer de nouveaux produits, services et expériences, en toute liberté.

Le pendule de l'agence oscille entre l'individu et la technologie. Qui prendra le contrôle ?               boykung/Shutterstock


En tant qu'individus de l'ère digitale, nous négocions constamment avec la technologie afin qu'elle prenne ou donne le contrôle. Cet effet de pendule reflète la bataille constante entre l'humain et la technologie.

Ma vie, mes données?

Nos résultats révèlent aussi que 54% de la “GenTech” s'inquiètent quant à l'accès qu'ont les organisations à leurs données, tandis que seuls 19% n'ont pas d'inquiétude sur ce point. Malgré le règlement Européen sur la protection des données introduit en mai 2018, ceci les concerne toujours, basé sur la croyance que trop de données personnelles sont dans la possession d'un petit groupe d'entreprises mondiales comme Google, Amazon ou Facebook. Environ 70% ressentent cela.
Récemment, Facebook et Google ont annoncé que la politique de confidentialité est une priorité dans leur interaction avec les usagers. Les deux entreprises ont dû faire face à une révolte publique envers leur manque de transparence en ce qui concerne la façon dont ils recueillent et stockent les données de consommateurs. Ça ne fait pas si longtemps qu'un microphone caché a été trouvé dans un des systèmes d'alarme de Google.
Google prévoie de proposer une fonction d’effacement des données historiques de localisation géographiques des usagers, des historiques de navigation et d'utilisation des apps, et d'étendre son “mode incognito” à Google maps et à l'instrument de recherche. Ceci permettra aux usagers de couper tout suivi.
Chez Facebook, il tient à cœur au PDG Mark Zuckerberg de repositionner la plate-forme afin d'en faire une plate-forme de communication dédiée à la protection de la vie privée, construite sur des principes comme les interactions privées, le cryptage, la sécurité, l'interopérabilité (la communication entre les App et les plates-formes qui appartiennent à Facebook) et le stockage de données sécurisé. Ceci va être un retournement difficile pour une entreprise qui compte sur son agilité à convertir ses informations sur les usagers en opportunités pour des publicités très personnalisées.

Facebook essaie de rétablir la confiance. PK Studio/Shuttestock


La confidentialité et la transparence sont un sujet d'importance critique pour les organismes d'aujourd'hui – à la fois pour ceux qui ont grandi en ligne, et ceux établis. Alors que les GenTech veulent que les organismes soient plus transparents et responsables, 64% pensent aussi qu'ils ne peuvent pas faire grand-chose afin de protéger leurs données. Le suivi en ligne est vu comme une part intégrale de la consommation digitale.
Malgré cela, de plus en plus, la révolte se prépare en dessous de la surface. Les Gentech veulent s'approprier leurs données. Ils les voient comme une marchandise de valeur, qu'ils pensent pouvoir utiliser dans les négociations avec les organisations. 50% d'entre eux partageraient volontiers leurs données avec les entreprises, s'ils obtenaient quelque chose en retour, par exemple une motivation financière.

Réorganiser la balance des pouvoirs

Les GenTech cherchent une relation transactionnelle avec les organisations. Ceci reflète un important changement d'attitude, d'un point ou l'accès gratuit aux plates-formes digitales constituait le “produit” (en échange de données), à maintenant vouloir échanger ces données pour des bénéfices spécifiques.
Ceci a créé une opportunité pour les sociétés qui cherche à donner le pouvoir aux consommateurs et à leur redonner le contrôle de leurs données. Plusieurs sociétés offrent maintenant aux consommateurs la possibilité de vendre les données qu'ils acceptent de partager ou de prendre part dans de la recherche rémunérée. Un nombre grandissant de compagnies rejoignent ce groupe, y compris People.io, Killi et Ocean Protocol.
Sir Tim Berners Lee, le créateur du web, a lui aussi recherché un moyen de déplacer le pouvoir, des organisations et institutions vers les consommateurs et les citoyens. La plate-forme Solid offre aux usagers la possibilité de prendre charge de l'endroit de stockage de leurs données, et de qui peut y avoir accès. C'est une forme de re-décentralisation.
Le Solid POD (Personal Online Data storage – stockage personnel de données en ligne) est un lieu sécurisé sur un serveur sécurisé, ou sur serveur personnel privé. Etant donné que les données sont stockées de façon centrale et non par le développeur d'une App ou sur le serveur d'une organisation, les usagers peuvent choisir de donner à un App l'accès à leurs données personnelles. Nous considérons que ceci est potentiellement un moyen de laisser les individus reprendre le contrôle à la fois de la technologie et des entreprises.
Les GenTech se sont rendu compte que la réalité de la vie branchée a d'importantes conséquences sur leur vie privée et commencent à se rebeller, tout en questionnant les organisations qui ont montré peu de préoccupations et continuent à appliquer des pratiques exploitantes.
Ces signes de révolte ne sont pas surprenants. GenTech est la génération qui a le plus à perdre. Ils font face à un futur entrelacé de technologie digitale, à la fois dans leur vie personnelle et privée. Avec de plus en plus de pression sur les organisations afin qu'elles deviennent plus transparentes, il est temps pour les jeunes de faire un pas en avant.The Conversation

Dr Mike Cooray, Professor of Practice, Hult International Business School et Dr Rikke Duus, Research Associate and Senior Teaching Fellow, UCLCet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté

Univers parallèles et mondes virtuels : la guerre des métavers est commencée

  Une partie de poker dans le métavers (capture d'écran de la vidéo “Le métavers et comment nous allons le construire ensemble” sur YouTube) Par  Oihab Allal-Chérif , Neoma Business School Le 17 octobre 2021, Mark Zuckerberg a lancé les hostilités de manière assez théâtrale, comme s’il défiait ses concurrents d’en faire autant. Afin de concrétiser son rêve d’enfant, le métavers, il a décidé de mettre en œuvre des moyens colossaux : 10 000 ingénieurs hautement qualifiés seront recrutés en Europe dans les 5 prochaines années. Cette annonce a été faite quelques jours avant celle du changement de nom du groupe Facebook en Meta , le 28 octobre, démontrant ainsi l’engagement total du fournisseur de réseaux sociaux dans la transition vers le métavers. Le 22 juillet 2021, dans une interview à The Verge , le créateur de Facebook racontait : « Je pense à certains de ces trucs depuis le collège quand je commençais tout juste à coder. […] J’écrivais du code

Sans Sauvegarde, pas de cyber-résilience

Par Alexandra Lemarigny, directrice commercial Europe du Sud Opentext Security Solutions Les études diverses sur les habitudes de sauvegarde des entreprises et leurs collaborateurs sont sans équivoque : très majoritairement, elles ne s’attardent vraiment sur ces questions de sauvegarde ou de récupération qu’en cas d’incidents. Pourtant la sauvegarde est l’élément majeur des dispositifs de cyber-résilience, à savoir la capacité à rester opérationnel, même face aux cyberattaques et à la perte de données. La sauvegarde n’est pas suffisamment considérée Dans les faits, force est de constater que la sauvegarde n’est pas envisagée dans son entièreté par les entreprises qui n’ont pas eu à subir d’accidents et il est fréquent qu’elles ne sauvegardent pas les éléments les plus pertinents. A titre d’exemples une entreprise peut ne sauvegarder qu’un ou deux serveurs, ou un élément qu’elle a identifié comme critique quelques années auparavant. Certaines ne tiennent pas compte de l’évolution de leu

Implants cérébraux : la délicate question de la responsabilité juridique des interfaces homme-machine

Dans le film Transcendance , de Wally Pfister, sorti en 2014, le héros mourant transfère son esprit dans un ordinateur quantique. Wally Pfister, 2014 Par  Elise Roumeau , Université Clermont Auvergne (UCA) Depuis quelques années, Elon Musk ne cesse de faire des annonces relatives à des avancées technologiques. Voitures autonomes , voyages interplanétaires , interface homme-machine , achat du réseau social Twitter… rien ne semble arrêter l’homme d’affaires. Aucun obstacle technique, géographique, physiologique ne lui semble infranchissable. Pourtant, ses projets pourraient, à court terme, poser de véritables difficultés du point de vue juridique. La recherche d’une fusion entre le cerveau et l’intelligence artificielle Avec Neuralink, l’un des objectifs visés par Elon Musk est de créer une interface entre l’humain et la machine . À plus ou moins court terme, le projet porte sur le développement d’implants cérébraux pour pallier des troubles neur

ChatGPT et cybersécurité : quels risques pour les entreprises ?

Analyse de Proofpoint Les plateformes de génération de texte tel que ChatGPT permettent de créer du contenu de qualité, instantanément, gratuitement, et sur n’importe quel sujet. Comme le confirme le lancement de Bard par Google, nous sommes désormais entrés dans une course à l’IA, ou chaque géant du web cherche à posséder la meilleure solution possible. Si l’avancée technologique est majeure, le risque notamment pour la cybersécurité des entreprises est indéniable. Comment lutter contre des campagnes de phishing de plus en plus ciblées et sophistiquées, maintenant alimentées par des technologies capables de parfaire encore plus la forme et la teneur d’un email malveillant ? En quelques mots, ChatGPT offre une ingénierie sociale très performante, mais une automatisation encore limitée. Concernant la détection de la menace par rançongiciels, comme l’explique Loïc Guézo, Directeur de la stratégie Cybersécurité chez Proofpoint, « Bien que les chatbots puissent générer du texte pour le cor

Sondage : quatre Français sur dix craignent le vol d'identité

Selon un sondage représentatif commandé par le fournisseur de messagerie GMX , de nombreux internautes français sont préoccupés (31%), voire très inquiets (9%), d'être victimes d'un vol d'identité. La majorité craint que des inconnus puissent faire des achats (52%) avec leur argent. Dans le cas d'une usurpation d'identité, les criminels accèdent aux comptes en ligne et agissent au nom de leurs victimes. De nombreuses personnes interrogées craignent que des inconnus signent des contrats en leur nom (37 %), que des escrocs utilisent l'identité volée pour ouvrir de nouveaux comptes (36 %) et que des informations les plus privées tombent entre des mains étrangères ou soient rendues publiques (28 %). Besoin de rattrapage en matière de sécurité des mots de passe Il est urgent de rattraper le retard en matière d'utilisation de mots de passe sûrs selon GMX : 34 % des utilisateurs d'Internet en France utilisent dans leurs mots de passe des informations personnell