Alors qu'Europol vient de publier un rapport sur les dangers de ChatGPT et s'inquiète de son utilisation par des criminels, Kunal Anand , CTO d’ Imperva , spécialiste de la sécurité, réagit face à la situation actuelle Les chatbots posent-ils un problème de protection de la vie privée plus important que les moteurs de recherche, et pourquoi ? "Le problème des chatbots par rapport aux moteurs de recherche n'est pas seulement lié aux conditions générales ou à la manière dont ils utilisent les données, mais aussi à la manière dont nous interagissons avec eux. Par rapport à une recherche Google ou Bing, les LLM comme Bard deviennent plus utiles à mesure que nous leur donnons plus d'informations (en informatique, cela s'appelle l'apprentissage par renforcement). Et surtout avec un chatbot, il est facile de traiter les interactions comme une conversation et de laisser échapper plus d'informations que nous ne le ferions normalement en tapant simplement dans
Ce mardi l’Assemblée nationale débat et vote sur la future application de traçage des malades StopCovid. Comprenez-vous la vivacité du débat et les inquiétudes qu’elle a suscitées ?
Bertrand Monthubert - Je le comprends parfaitement parce que cela vient étayer ce qu’on dit depuis deux ans qui était le constat suivant : on ne bénéficie pas d’un réel cadre de confiance pour le développement des usages des données. Et cela est un véritable handicap parce que cela conduit à faire des choses parfois négative – et on a vu dans le monde un certain nombre de scandales comme Cambridge Analytica – et à l’inverse pour ceux qui essaient d’agir de manière responsable, il leur manque une forme de cadre clair fait de concertation avec les citoyens qui permette d’avancer. Si on regarde le sondage que nous avions publié en octobre dernier, on observait une population partagée en deux entre d’une part ceux qui pensaient que l’usage des données allait apporter des choses positives et les autres le contraire ; et d’autre part entre ceux qui étaient inquiets par rapport au développement et ceux qui étaient confiants. Ce qu’il nous manque aujourd’hui sur la question StopCovid, c’est qu’on n’a pas encore eu de débats plus généraux sur le cadre éthique, le cadre de confiance. C’est ce à quoi s’emploie Occitanie Data et c’est pourquoi nous avons sorti il y a quelques jours notre charte éthique pour apporter des éléments de réflexion, de cadre pour que ces débats ne partent pas dans tous les sens et qu’on se pose les bonnes questions par rapport à ce type d’application.
On est souvent beaucoup resté à un niveau de débat entre spécialistes de la technologie. Il n’y a pas eu de vrais débats politiques comme on peut en avoir sur d’autres sujets.
La députée Paula Fortezza déplorait qu’on ne traite pas les problématiques numériques comme les autres sujets. Partagez-vous son opinion ?
Ce qui est vrai, c’est qu’on est souvent beaucoup resté à un niveau de débat entre spécialistes de la technologie, même si des questions éthiques sont posées depuis longtemps. Il n’y a pas eu de vrais débats politiques comme on peut en avoir sur d’autres sujets. La question de la souveraineté numérique n’a finalement pas été suffisamment sur le devant la scène politique. Pour que ce sujet soit traité politiquement avec ce que cela suppose de débat démocratique, de décisions, encore faut-il que ce soit dans la sphère de ce pour quoi on peut prendre des décisions. Or depuis de nombreuses années, il y a eu une forme de fatalisme du fait que le développement des technologies numériques effaçait nos possibilités de contrôle, car il était conduit par des acteurs internationaux (Google, Samsung…) qui prennent leurs décisions sans consulter qui que ce soit. L’approche que nous avons à Occitanie Data est à l’inverse : la question du numérique pose aussi la question de notre souveraineté, c’est pourquoi nous ne travaillons qu’avec des acteurs français et européens. C’est un choix car nous avions le sentiment que c’était indispensable pour pouvoir développer une économie de la donnée conforme à nos valeurs. Ce choix, singulier, montre que nous avons eu raison. D’autres ont essayé d’ouvrir des antennes des labos de Google ou Facebook en France ; pourquoi pas mais il faut savoir ce qu’on fait.
Si on avait laissé les acteurs de la science s’organiser et proposer quelque chose, peut-être que cela aurait été différent.
On paie là l’absence de géant du numérique européen ?
Il faut que l’Union européenne évolue pour passer d’une logique où finalement elle a empêché souvent l’éclosion d’un certain nombre d’acteurs majeurs sous prétexte de concurrence non faussée, à une logique de favoriser des acteurs qui peuvent peser par rapport aux géants mondiaux. Mais on peut agir sans attendre d’avoir des géants européens, en favorisant certains choix techniques et en étant attentif à la confiance que génèrent les acteurs.
Au-delà de StopCovid, il y a plein d’autres usages qui vont se développer et ce n’est pas la même chose, notamment vis-à-vis du citoyen, si le traitement de données est réalisé par un Etat, une multinationale ou un laboratoire de recherche qui ne cherche ni à faire de l’argent ni à faire de la surveillance. Si c’était l’Inria qui avait annoncé travailler sur StopCovid plutôt que le gouvernement au plus haut niveau, tout aurait été différent.
Si on avait laissé les acteurs de la science s’organiser et proposer quelque chose, peut-être que cela aurait été différent. Tout cela montre qu’il y a une maturité que nous devons acquérir rapidement si on veut que demain des outils numériques bénéfiques pour la population puissent se déployer, parce que la plus grande crainte est que sans ce cadre de confiance on se prive d’outils qui pourraient nous être nécessaires.