Accéder au contenu principal

Inquiétude de voir des criminels utiliser ChatGPT

Alors qu'Europol vient de publier un rapport sur les dangers de ChatGPT et s'inquiète de son utilisation par des criminels,  Kunal Anand , CTO d’ Imperva , spécialiste de la sécurité, réagit face à la situation actuelle Les chatbots posent-ils un problème de protection de la vie privée plus important que les moteurs de recherche, et pourquoi ? "Le problème des chatbots par rapport aux moteurs de recherche n'est pas seulement lié aux conditions générales ou à la manière dont ils utilisent les données, mais aussi à la manière dont nous interagissons avec eux. Par rapport à une recherche Google ou Bing, les LLM comme Bard deviennent plus utiles à mesure que nous leur donnons plus d'informations (en informatique, cela s'appelle l'apprentissage par renforcement). Et surtout avec un chatbot, il est facile de traiter les interactions comme une conversation et de laisser échapper plus d'informations que nous ne le ferions normalement en tapant simplement dans

Le débat sur StopCovid aurait pu être posé différemment, pour le président d'Occitanie Data

monthubert
Bertrand Monthubert est président d’Occitanie Data et conseiller régional d’Occitanie, ancien président de l’université Toulouse III Paul-Sabatier. A la veille du débat à l'Assemblée nationale sur l'application de traçage StopCovid, il apporte son éclairage sur les enjeux et ses propositions.

Ce mardi l’Assemblée nationale débat et vote sur la future application de traçage des malades StopCovid. Comprenez-vous la vivacité du débat et les inquiétudes qu’elle a suscitées ?
Bertrand Monthubert - Je le comprends parfaitement parce que cela vient étayer ce qu’on dit depuis deux ans qui était le constat suivant : on ne bénéficie pas d’un réel cadre de confiance pour le développement des usages des données. Et cela est un véritable handicap parce que cela conduit à faire des choses parfois négative – et on a vu dans le monde un certain nombre de scandales comme Cambridge Analytica – et à l’inverse pour ceux qui essaient d’agir de manière responsable, il leur manque une forme de cadre clair fait de concertation avec les citoyens qui permette d’avancer. Si on regarde le sondage que nous avions publié en octobre dernier, on observait une population partagée en deux entre d’une part ceux qui pensaient que l’usage des données allait apporter des choses positives et les autres le contraire ; et d’autre part entre ceux qui étaient inquiets par rapport au développement et ceux qui étaient confiants. Ce qu’il nous manque aujourd’hui sur la question StopCovid, c’est qu’on n’a pas encore eu de débats plus généraux sur le cadre éthique, le cadre de confiance. C’est ce à quoi s’emploie Occitanie Data et c’est pourquoi nous avons sorti il y a quelques jours notre charte éthique pour apporter des éléments de réflexion, de cadre pour que ces débats ne partent pas dans tous les sens et qu’on se pose les bonnes questions par rapport à ce type d’application.

On est souvent beaucoup resté à un niveau de débat entre spécialistes de la technologie.  Il n’y a pas eu de vrais débats politiques comme on peut en avoir sur d’autres sujets.

La députée Paula Fortezza déplorait qu’on ne traite pas les problématiques numériques comme les autres sujets. Partagez-vous son opinion ?
Ce qui est vrai, c’est qu’on est souvent beaucoup resté à un niveau de débat entre spécialistes de la technologie, même si des questions éthiques sont posées depuis longtemps. Il n’y a pas eu de vrais débats politiques comme on peut en avoir sur d’autres sujets. La question de la souveraineté numérique n’a finalement pas été suffisamment sur le devant la scène politique. Pour que ce sujet soit traité politiquement avec ce que cela suppose de débat démocratique, de décisions, encore faut-il que ce soit dans la sphère de ce pour quoi on peut prendre des décisions. Or depuis de nombreuses années, il y a eu une forme de fatalisme du fait que le développement des technologies numériques effaçait nos possibilités de contrôle, car il était conduit par des acteurs internationaux (Google, Samsung…) qui prennent leurs décisions sans consulter qui que ce soit. L’approche que nous avons à Occitanie Data est à l’inverse : la question du numérique pose aussi la question de notre souveraineté, c’est pourquoi nous ne travaillons qu’avec des acteurs français et européens. C’est un choix car nous avions le sentiment que c’était indispensable pour pouvoir développer une économie de la donnée conforme à nos valeurs. Ce choix, singulier, montre que nous avons eu raison. D’autres ont essayé d’ouvrir des antennes des labos de Google ou Facebook en France ; pourquoi pas mais il faut savoir ce qu’on fait.

Si on avait laissé les acteurs de la science s’organiser et proposer quelque chose, peut-être que cela aurait été différent.

On paie là l’absence de géant du numérique européen ?
Il faut que l’Union européenne évolue pour passer d’une logique où finalement elle a empêché souvent l’éclosion d’un certain nombre d’acteurs majeurs sous prétexte de concurrence non faussée, à une logique de favoriser des acteurs qui peuvent peser par rapport aux géants mondiaux. Mais on peut agir sans attendre d’avoir des géants européens, en favorisant certains choix techniques et en étant attentif à la confiance que génèrent les acteurs.

Au-delà de StopCovid, il y a plein d’autres usages qui vont se développer et ce n’est pas la même chose, notamment vis-à-vis du citoyen, si le traitement de données est réalisé par un Etat, une multinationale ou un laboratoire de recherche qui ne cherche ni à faire de l’argent ni à faire de la surveillance. Si c’était l’Inria qui avait annoncé travailler sur StopCovid plutôt que le gouvernement au plus haut niveau, tout aurait été différent.

Si on avait laissé les acteurs de la science s’organiser et proposer quelque chose, peut-être que cela aurait été différent. Tout cela montre qu’il y a une maturité que nous devons acquérir rapidement si on veut que demain des outils numériques bénéfiques pour la population puissent se déployer, parce que la plus grande crainte est que sans ce cadre de confiance on se prive d’outils qui pourraient nous être nécessaires.

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté

Univers parallèles et mondes virtuels : la guerre des métavers est commencée

  Une partie de poker dans le métavers (capture d'écran de la vidéo “Le métavers et comment nous allons le construire ensemble” sur YouTube) Par  Oihab Allal-Chérif , Neoma Business School Le 17 octobre 2021, Mark Zuckerberg a lancé les hostilités de manière assez théâtrale, comme s’il défiait ses concurrents d’en faire autant. Afin de concrétiser son rêve d’enfant, le métavers, il a décidé de mettre en œuvre des moyens colossaux : 10 000 ingénieurs hautement qualifiés seront recrutés en Europe dans les 5 prochaines années. Cette annonce a été faite quelques jours avant celle du changement de nom du groupe Facebook en Meta , le 28 octobre, démontrant ainsi l’engagement total du fournisseur de réseaux sociaux dans la transition vers le métavers. Le 22 juillet 2021, dans une interview à The Verge , le créateur de Facebook racontait : « Je pense à certains de ces trucs depuis le collège quand je commençais tout juste à coder. […] J’écrivais du code

Sans Sauvegarde, pas de cyber-résilience

Par Alexandra Lemarigny, directrice commercial Europe du Sud Opentext Security Solutions Les études diverses sur les habitudes de sauvegarde des entreprises et leurs collaborateurs sont sans équivoque : très majoritairement, elles ne s’attardent vraiment sur ces questions de sauvegarde ou de récupération qu’en cas d’incidents. Pourtant la sauvegarde est l’élément majeur des dispositifs de cyber-résilience, à savoir la capacité à rester opérationnel, même face aux cyberattaques et à la perte de données. La sauvegarde n’est pas suffisamment considérée Dans les faits, force est de constater que la sauvegarde n’est pas envisagée dans son entièreté par les entreprises qui n’ont pas eu à subir d’accidents et il est fréquent qu’elles ne sauvegardent pas les éléments les plus pertinents. A titre d’exemples une entreprise peut ne sauvegarder qu’un ou deux serveurs, ou un élément qu’elle a identifié comme critique quelques années auparavant. Certaines ne tiennent pas compte de l’évolution de leu

Implants cérébraux : la délicate question de la responsabilité juridique des interfaces homme-machine

Dans le film Transcendance , de Wally Pfister, sorti en 2014, le héros mourant transfère son esprit dans un ordinateur quantique. Wally Pfister, 2014 Par  Elise Roumeau , Université Clermont Auvergne (UCA) Depuis quelques années, Elon Musk ne cesse de faire des annonces relatives à des avancées technologiques. Voitures autonomes , voyages interplanétaires , interface homme-machine , achat du réseau social Twitter… rien ne semble arrêter l’homme d’affaires. Aucun obstacle technique, géographique, physiologique ne lui semble infranchissable. Pourtant, ses projets pourraient, à court terme, poser de véritables difficultés du point de vue juridique. La recherche d’une fusion entre le cerveau et l’intelligence artificielle Avec Neuralink, l’un des objectifs visés par Elon Musk est de créer une interface entre l’humain et la machine . À plus ou moins court terme, le projet porte sur le développement d’implants cérébraux pour pallier des troubles neur

ChatGPT et cybersécurité : quels risques pour les entreprises ?

Analyse de Proofpoint Les plateformes de génération de texte tel que ChatGPT permettent de créer du contenu de qualité, instantanément, gratuitement, et sur n’importe quel sujet. Comme le confirme le lancement de Bard par Google, nous sommes désormais entrés dans une course à l’IA, ou chaque géant du web cherche à posséder la meilleure solution possible. Si l’avancée technologique est majeure, le risque notamment pour la cybersécurité des entreprises est indéniable. Comment lutter contre des campagnes de phishing de plus en plus ciblées et sophistiquées, maintenant alimentées par des technologies capables de parfaire encore plus la forme et la teneur d’un email malveillant ? En quelques mots, ChatGPT offre une ingénierie sociale très performante, mais une automatisation encore limitée. Concernant la détection de la menace par rançongiciels, comme l’explique Loïc Guézo, Directeur de la stratégie Cybersécurité chez Proofpoint, « Bien que les chatbots puissent générer du texte pour le cor

Sondage : quatre Français sur dix craignent le vol d'identité

Selon un sondage représentatif commandé par le fournisseur de messagerie GMX , de nombreux internautes français sont préoccupés (31%), voire très inquiets (9%), d'être victimes d'un vol d'identité. La majorité craint que des inconnus puissent faire des achats (52%) avec leur argent. Dans le cas d'une usurpation d'identité, les criminels accèdent aux comptes en ligne et agissent au nom de leurs victimes. De nombreuses personnes interrogées craignent que des inconnus signent des contrats en leur nom (37 %), que des escrocs utilisent l'identité volée pour ouvrir de nouveaux comptes (36 %) et que des informations les plus privées tombent entre des mains étrangères ou soient rendues publiques (28 %). Besoin de rattrapage en matière de sécurité des mots de passe Il est urgent de rattraper le retard en matière d'utilisation de mots de passe sûrs selon GMX : 34 % des utilisateurs d'Internet en France utilisent dans leurs mots de passe des informations personnell