Alors qu'Europol vient de publier un rapport sur les dangers de ChatGPT et s'inquiète de son utilisation par des criminels, Kunal Anand , CTO d’ Imperva , spécialiste de la sécurité, réagit face à la situation actuelle Les chatbots posent-ils un problème de protection de la vie privée plus important que les moteurs de recherche, et pourquoi ? "Le problème des chatbots par rapport aux moteurs de recherche n'est pas seulement lié aux conditions générales ou à la manière dont ils utilisent les données, mais aussi à la manière dont nous interagissons avec eux. Par rapport à une recherche Google ou Bing, les LLM comme Bard deviennent plus utiles à mesure que nous leur donnons plus d'informations (en informatique, cela s'appelle l'apprentissage par renforcement). Et surtout avec un chatbot, il est facile de traiter les interactions comme une conversation et de laisser échapper plus d'informations que nous ne le ferions normalement en tapant simplement dans
Chaque jour, les SAMU de France reçoivent environ 85 000 appels. Ce chiffre a presque doublé aux pires moments de la crise de la Covid-19. Le contenu de chaque appel fait l’objet d’un compte rendu informatisé au fur et à mesure des informations collectées par les différents intervenants : l’assistant de régulation médical lors de la prise d’appel, le médecin régulateur et l’assistant de régulation médical dédié à l’envoi des moyens et au suivi des bilans.
Se donner les moyens de suivre les évolutions des motifs de tous ces appels, c’est se doter d’un outil puissant et réactif d’observation de la santé de la population.
Mais en pratique, nous disposons de centaines de milliers de comptes rendus qui ressemblent par exemple à ça :
Pour savoir si l’appel correspondant à ce compte rendu est à classer plutôt dans la catégorie « suspicion de Covid-19 » ou « accident domestique », il suffit de le lire.
Mais lorsqu’il s’agit de classer les 85 000 appels du jour, la relecture est impossible. On pourrait bien sûr demander aux répondants de classer eux-mêmes ces appels, mais cela pose deux problèmes : d’abord, ils ont autre chose à faire, occupés qu’ils sont à prodiguer leurs conseils aux appelants ou à envoyer les secours les plus appropriés. L’autre raison est que, dans le feu de l’action, ils ne disposent pas toujours du recul suffisant pour faire cette classification sans être influencés par divers facteurs : pression de l’urgence, situation épidémique, priorité donnée à d’autres dossiers, sensibilité individuelle à tel ou tel dossier par exemple. C’est pour ces raisons que les tentatives faites jusque-là ont échoué à mettre en place un système de codage satisfaisant.
Un outil récent de l’intelligence artificielle à la rescousse
Nous développons une solution utilisant l’intelligence artificielle pour effectuer ce travail de classification, car elle possède deux qualités bien utiles : elle opère quasi instantanément et de manière totalement indépendante du contexte.
Pour construire un outil permettant de réaliser cette tâche, nous avons fait appel à une technologie issue d’une avancée très récente dans le domaine de l’intelligence artificielle qui porte un nom de blockbuster : le « Transformer ». Cette technologie est construite en deux phases : la première consiste à montrer au Transformer un nombre aussi grand que possible d’exemples de comptes rendus pour lui apprendre à écrire « à la manière » de ces comptes rendus. La deuxième étape consiste à entraîner le Transformer à réaliser la tâche de classification en lui « montrant » des exemples de comptes rendus avec la bonne classification, réalisée pour cette phase d’apprentissage par un humain. Plus on lui montre d’exemples, meilleur sera le Transformer lorsqu’il aura à faire la classification lui-même.
Nous avons appliqué notre Transformer aux données issues du centre 15 du SAMU de la Gironde, avant, pendant et après la période de confinement pour observer les tendances dans le motif des appels.
Ceci nous a appris que le nombre d’appels pour symptômes grippaux a connu un pic très important trois jours avant le début du confinement, deux semaines avant l’arrivée de patients présentant des symptômes évocateurs de Covid-19 aux urgences. On constate aussi des pics d’appels, plus tardifs, pour douleur thoracique et stress et anxiété (non représentés sur la figure), contemporains des admissions aux urgences. Les appels pour douleur thoracique correspondent en fait à des patients qui présentent des difficultés ou des détresses respiratoires, signant pour ceux atteints de la Covid-19 un stade plus grave de la maladie. Le pic des appels pour stress et anxiété témoigne pour sa part de l’inquiétude que génère ce début d’épidémie.
Il ne s’agit là que de résultats préliminaires. Nous travaillons par exemple aujourd’hui à construire des indicateurs qui permettraient de mieux distinguer les signes d’épidémie, de façon par exemple à différencier le plus tôt possible une poussée de Covid-19 de celle de la grippe saisonnière.
Comment les « Transformers » ont révolutionné les outils de lecture de texte automatiques
Le Transformer est le dernier rejeton des techniques d’analyse du langage, qui évoluent très vite.
Les applications les plus connues sont sans doute les outils de traduction automatique, par exemple l’impressionnant DeepL, mais ces techniques sont aussi mises en œuvre pour « comprendre » les textes. C’est ce qui est utilisé par exemple lorsque vous faites une recherche en langage naturel sur un moteur de recherche.
Elles peuvent aussi être utilisées pour des tâches de classification. À partir d’un texte, on peut par exemple demander à la machine de produire un résumé ou de répondre à des questions le concernant.
Pourtant, à la fin des années 80, ça semblait mal parti pour la communauté scientifique de l’apprentissage automatique : les ordinateurs d’alors, dotés des algorithmes d’alors, ne réussissaient pas à assimiler la grammaire et la structure sémantique du langage humain.
Plusieurs stratégies apparaissent dans les années suivantes. Elles sont basées sur des modèles statistiques dont les paramètres s’affinent au fur et à mesure de l’apprentissage et elles ne fournissent pas des résultats, mais seulement des probabilités de résultats : dans notre exemple, le Transformer ne dirait pas qu’un compte rendu doit être classé comme un syndrome grippal. Il dira que la probabilité que ce soit le cas est de 90 %.
Dans les années 2010, l’utilisation d’algorithmes informatiques qui singent de manière grossière le fonctionnement des réseaux de neurones renouvelle le domaine, en permettant enfin de réaliser des « apprentissages profonds », avec de nouvelles performances.
Parmi ces réseaux de neurones dits « artificiels », la famille dont fait partie le Transformer se caractérise par des modèles qui permettent de traiter les données dites « séquentielles », comme les données météo ou les suites de mots qui forment des phrases. Le Transformer apparaît en 2018, et ses performances étonnantes révolutionnent aujourd’hui la discipline.
Pourquoi Transformer est-il aussi puissant ?
Pour faire court, le Transformer est construit pour tirer des leçons des interrelations entre les différents morceaux d’une phrase (par exemple des mots ou des morceaux de mots) à partir de la lecture d’une grande quantité de textes.
Dans une première phase, dite d’« apprentissage non supervisé », le Transformer est rendu capable de produire des textes artificiels indistinguables de textes produits par des humains. On lui montre pour cela le plus grand nombre de textes possible – dans notre cas, environ 300 000 comptes rendus. À la fin de cette phase, le modèle est capable de prédire le mot qui suit une série de mots donnés. Par exemple, si on entre la phase « le petit chat s’approche du chien avec », le système proposera comme mot suivant « précaution », ou encore le mot « son ». On peut ainsi construire de manière itérative un texte artificiel en répétant le processus avec comme nouvelle phrase d’amorce « le petit chat s’approche du chien avec son ».
Le Transformer devient ainsi une machine à produire du texte synthétique. Si le résultat peut être tour à tour surprenant, abscons, amusant ou pertinent, produire du texte artificiel n’a pas beaucoup d’utilité en soi. Mais il permet, et c’est là toute sa puissance, de construire un système dédié à une tâche à moindre effort. Pour nous, il permet de classer ces comptes rendus grâce à la deuxième phase d’apprentissage, dite supervisée.
Cette deuxième phase d’apprentissage change de nature : on montre cette fois au modèle des couples formés du texte à classer et de la bonne classe, déterminée par un codeur humain. Grâce à la première phase d’apprentissage au cours de laquelle le modèle a appris à construire des phrases intelligibles, dans laquelle des notions sémantiques ont été intégrées, les exemples nécessaires pour apprendre une tâche utile deviennent très peu nombreux. Un peu comme un enfant à qui il n’est pas utile de montrer 10 000 fois comment fonctionne un biberon, un jouet ou un téléphone pour qu’il en maîtrise l’usage.
C’est ce Transformer, entraîné cette fois-ci de manière « supervisée » – c’est-à-dire avec des exemples de résultats attendus, qui nous permet pour chaque appel de déterminer automatiquement quels sont les symptômes évoqués, ou quel est la nature de l’événement concerné, un accident de la route, une chute, une toux inquiétante ou un malaise.
Emmanuel Lagarde, Directeur de recherche INSERM, Université de Bordeaux Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.Cet article a été co-écrit par la Dr Catherine Pradeau du service SAMU-SMUR et par le Dr Cédric Gil-Jardine du service des Urgences du Centre Hospitalier Universitaire de Bordeaux.