Accéder au contenu principal

Inquiétude de voir des criminels utiliser ChatGPT

Alors qu'Europol vient de publier un rapport sur les dangers de ChatGPT et s'inquiète de son utilisation par des criminels,  Kunal Anand , CTO d’ Imperva , spécialiste de la sécurité, réagit face à la situation actuelle Les chatbots posent-ils un problème de protection de la vie privée plus important que les moteurs de recherche, et pourquoi ? "Le problème des chatbots par rapport aux moteurs de recherche n'est pas seulement lié aux conditions générales ou à la manière dont ils utilisent les données, mais aussi à la manière dont nous interagissons avec eux. Par rapport à une recherche Google ou Bing, les LLM comme Bard deviennent plus utiles à mesure que nous leur donnons plus d'informations (en informatique, cela s'appelle l'apprentissage par renforcement). Et surtout avec un chatbot, il est facile de traiter les interactions comme une conversation et de laisser échapper plus d'informations que nous ne le ferions normalement en tapant simplement dans

Pour éduquer à l’information, être un « digital native » ne suffit pas


Si les nouveaux profs ont une pratique courante du numérique, il ne sont pas si partants qu’on l’imagine pour guider leurs élèves dans les méandres du web. Shutterstock




Par Anne Lehmans, Université de Bordeaux


Ce lundi 18 mars 2019 débute la trentième semaine de la presse à l’école, sur le thème de « l’information sans frontière ». Accompagnés de leurs enseignants, les élèves s’apprêtent à découvrir les coulisses des rédactions, à monter leur propre journal, à manier micros et caméras. Un point d’orgue dans leur formation à la culture de l’information ?
Inscrite dans les programmes scolaires et, depuis 2015, dans le décret fixant le socle commun de connaissances, de compétences et de culture que doivent maîtriser les jeunes en fin de collège, l’éducation aux médias et à l’information est censée s’échelonner tout au long de l’année scolaire. Les enjeux sont considérables, et ils ont surgi avec violence au moment de l’attentat de Charlie Hebdo.
Pourtant, si théories du complot et « fake news » sont au cœur des discours, et font l’objet de réflexions pédagogiques, les enseignants se sentent en général désarmés pour accompagner leurs élèves dans les méandres de l’information, de la communication et des réseaux sociaux.

Un terrain complexe

Dans les textes, l’éducation aux médias et à l’information (EMI) est intégrée dans le parcours de formation des enseignants. Sur le terrain, elle est abordée très inégalement. Ainsi, il n’est pas impossible qu’un enseignant qui entre dans son métier ne sache pas vraiment que l’EMI fait partie de ses missions. Et même lorsque c’est le cas, la grande majorité des nouveaux enseignants ne se sentent pas armés pour former les élèves.
Naviguer dans une masse d’informations pour construire des connaissances, s’assurer du pluralisme des points de vue possibles, faire de l’information un moyen de comprendre l’autre et le monde, savoir douter et critiquer sans remettre en cause la possibilité même de connaissance, voilà qui est compliqué.
Comment utiliser des techniques sans introduire de confusion entre information et numérique ? Quels gestes pédagogiques privilégier pour faire entrer les élèves dans une démarche et une pensée complexes ? Ce sont deux pierres d’achoppement pour les enseignants qui s’engagent dans un métier exigeant.
Ainsi, si l’inscription de l’EMI dans les programmes est indubitable, rien n’assure que tous les élèves trouvent l’occasion, dans leur parcours scolaire, de travailler sur des questions d’information et de communication. Au sortir de l’école, les représentations et les pratiques médiatiques des jeunes risquent donc de dépendre beaucoup plus de l’environnement social et culturel de leur famille et de leurs amis que de l’action du système scolaire. Ce constat n’est pas celui d’une défaite mais une invitation à travailler plus activement à la formation des futurs enseignants.

Des outils familiers

Menée par une équipe de recherche en sciences de l’information et de la communication et financée par la Fondation MAIF, une enquête autour de la perception des risques numériques par les nouveaux enseignants permet d’approfondir cette question. Les jeunes enseignants se perçoivent désormais comme des « digital natives », ils ont toujours connu les outils numériques, les réseaux sociaux, ils ont grandi avec des consoles de jeux et des téléphones portables, consulté Wikipédia sans le dire et les vidéos de YouTube pour apprendre.
La presque totalité des répondants (3 132 dont on a isolé 724 néo-titulaires) à l’enquête, réalisée en 2017 dans les académies de Bordeaux et Créteil, se considèrent comme compétents, performants ou experts avec le numérique, quelle que soit leur discipline de référence. Leur rapport au numérique est essentiellement utilitaire, lié à l’usage d’équipements techniques et de logiciels performants pour faire la classe.
Ils passent également un temps important en ligne, plus d’une heure et demie par jour pour 86 % d’entre eux. Presque tous font quotidiennement des recherches d’informations, et ils sont très nombreux à déclarer communiquer (92,2 %), lire en ligne (86,7 %), utiliser les réseaux sociaux (83,7 %), écouter de la musique (80,9 %), regarder des vidéos (72,1 %). Le numérique est aussi pour une grande majorité d’entre eux un moyen de préparer leurs enseignements (93,9 %), de communiquer par messagerie avec leurs collègues (90,3 %) et d’illustrer leurs cours (85,5 %).

Des risques surévalués

Malgré ce sentiment d’expertise et la diversité de ces pratiques numériques, les entretiens qui suivent l’enquête montrent que le rapport de ces enseignants à l’éducation à l’information est plus complexe qu’il n’y paraît. Tout se passe comme si l’usage de dispositifs numériques les prédisposait plutôt au cloisonnement entre leurs usages personnels et la classe. Ils ne sont plus que 50 % à déclarer former leurs élèves au numérique – avec une différence entre hommes et femmes, ces dernières plus sensibles aux risques numériques pour leurs élèves.
Sur cette question des risques numériques, la protection des données personnelles et de la vie privée est majoritairement citée comme une préoccupation importante (89,2 %), suivie par le droit à l’image cité par 67,3 %. L’éducation aux médias n’est citée que par la moitié des enseignants. Leur expérience personnelle ou celle qu’ils ont avec leurs propres enfants les invite à surévaluer les risques et notamment celui de perdre le contrôle des situations. Par voie de conséquence, ils n’abordent l’éducation à l’information qu’avec la plus grande prudence.
Ils sont pourtant bien conscients que les risques informationnels (manipulation, évaluation de l’information et lisibilité des controverses, enfermement dans des bulles de filtres) sont importants pour leurs élèves, qu’ils voient comme plus vulnérables qu’eux-mêmes. Et, pourtant, ils se considèrent insuffisamment (ou pas du tout) formés aux usages numériques en situation pédagogique, leur principale demande visant la formation plus que l’information.

Une posture à repenser

Plusieurs obstacles bloquent la route de l’EMI. Le premier est celui de l’identification des compétences en jeu. Les formateurs entendent souvent des groupes d’enseignants stagiaires demander des boîtes à outils numériques dans les formations à l’EMI, alors que celle-ci ne peut évidemment pas se limiter à des dispositifs techniques.
Un second obstacle est celui de la perception de la norme enseignante. Cette question de la normativité est centrale dans l’école. Or le numérique bouscule les frontières entre le personnel et le professionnel, l’affectif et le cognitif. Il complique infiniment la représentation du monde portée par les élèves. La norme d’un espace scolaire fermé et protégé perd son sens.
Pour les enseignants, ces conflits de normativité exigent une capacité d’adaptation, la construction de critères d’autorité qui ne vont plus de soi, une capacité d’écoute et d’attention peu compatible avec la lourdeur des programmes, une acceptation de l’incertitude et de la complexité contradictoire avec l’image de l’enseignant, incarnation de savoirs et de valeurs solides, dans l’école de la République.
Les professeurs documentalistes, parce que ces questions sont au cœur de leur formation et de leur mission, sont susceptibles de donner l’impulsion, avec les partenaires de l’école. Ainsi, l’exigence de considérer l’EMI comme une priorité s’impose, mais sa mise en œuvre nécessite une réflexion de fond sur les priorités pédagogiques, les parcours de formation des enseignants, et la place faite à l’apprentissage de la critique.
Au-delà des textes d’intention, l’école doit créer des dispositifs en complément des disciplines traditionnelles, instiller l’ambition éducative, sociale et politique d’inclure l’analyse compréhensive et critique de l’information tant en matière de production, que de diffusion et de réception.
L’enjeu est bien celui d’apprendre à déconstruire et à décrypter l’information tout en évitant la seule réaction affective et sporadique aux évènements. Aucune formule magique n’est à notre disposition, aucun acteur plus légitime ou plus efficace que les autres, aucune ressource suffisante, la responsabilité est collective et culturelle.The Conversation

Anne Lehmans, Maître de conférences HDR, Université de Bordeaux

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté

Univers parallèles et mondes virtuels : la guerre des métavers est commencée

  Une partie de poker dans le métavers (capture d'écran de la vidéo “Le métavers et comment nous allons le construire ensemble” sur YouTube) Par  Oihab Allal-Chérif , Neoma Business School Le 17 octobre 2021, Mark Zuckerberg a lancé les hostilités de manière assez théâtrale, comme s’il défiait ses concurrents d’en faire autant. Afin de concrétiser son rêve d’enfant, le métavers, il a décidé de mettre en œuvre des moyens colossaux : 10 000 ingénieurs hautement qualifiés seront recrutés en Europe dans les 5 prochaines années. Cette annonce a été faite quelques jours avant celle du changement de nom du groupe Facebook en Meta , le 28 octobre, démontrant ainsi l’engagement total du fournisseur de réseaux sociaux dans la transition vers le métavers. Le 22 juillet 2021, dans une interview à The Verge , le créateur de Facebook racontait : « Je pense à certains de ces trucs depuis le collège quand je commençais tout juste à coder. […] J’écrivais du code

Sans Sauvegarde, pas de cyber-résilience

Par Alexandra Lemarigny, directrice commercial Europe du Sud Opentext Security Solutions Les études diverses sur les habitudes de sauvegarde des entreprises et leurs collaborateurs sont sans équivoque : très majoritairement, elles ne s’attardent vraiment sur ces questions de sauvegarde ou de récupération qu’en cas d’incidents. Pourtant la sauvegarde est l’élément majeur des dispositifs de cyber-résilience, à savoir la capacité à rester opérationnel, même face aux cyberattaques et à la perte de données. La sauvegarde n’est pas suffisamment considérée Dans les faits, force est de constater que la sauvegarde n’est pas envisagée dans son entièreté par les entreprises qui n’ont pas eu à subir d’accidents et il est fréquent qu’elles ne sauvegardent pas les éléments les plus pertinents. A titre d’exemples une entreprise peut ne sauvegarder qu’un ou deux serveurs, ou un élément qu’elle a identifié comme critique quelques années auparavant. Certaines ne tiennent pas compte de l’évolution de leu

Implants cérébraux : la délicate question de la responsabilité juridique des interfaces homme-machine

Dans le film Transcendance , de Wally Pfister, sorti en 2014, le héros mourant transfère son esprit dans un ordinateur quantique. Wally Pfister, 2014 Par  Elise Roumeau , Université Clermont Auvergne (UCA) Depuis quelques années, Elon Musk ne cesse de faire des annonces relatives à des avancées technologiques. Voitures autonomes , voyages interplanétaires , interface homme-machine , achat du réseau social Twitter… rien ne semble arrêter l’homme d’affaires. Aucun obstacle technique, géographique, physiologique ne lui semble infranchissable. Pourtant, ses projets pourraient, à court terme, poser de véritables difficultés du point de vue juridique. La recherche d’une fusion entre le cerveau et l’intelligence artificielle Avec Neuralink, l’un des objectifs visés par Elon Musk est de créer une interface entre l’humain et la machine . À plus ou moins court terme, le projet porte sur le développement d’implants cérébraux pour pallier des troubles neur

ChatGPT et cybersécurité : quels risques pour les entreprises ?

Analyse de Proofpoint Les plateformes de génération de texte tel que ChatGPT permettent de créer du contenu de qualité, instantanément, gratuitement, et sur n’importe quel sujet. Comme le confirme le lancement de Bard par Google, nous sommes désormais entrés dans une course à l’IA, ou chaque géant du web cherche à posséder la meilleure solution possible. Si l’avancée technologique est majeure, le risque notamment pour la cybersécurité des entreprises est indéniable. Comment lutter contre des campagnes de phishing de plus en plus ciblées et sophistiquées, maintenant alimentées par des technologies capables de parfaire encore plus la forme et la teneur d’un email malveillant ? En quelques mots, ChatGPT offre une ingénierie sociale très performante, mais une automatisation encore limitée. Concernant la détection de la menace par rançongiciels, comme l’explique Loïc Guézo, Directeur de la stratégie Cybersécurité chez Proofpoint, « Bien que les chatbots puissent générer du texte pour le cor

Sondage : quatre Français sur dix craignent le vol d'identité

Selon un sondage représentatif commandé par le fournisseur de messagerie GMX , de nombreux internautes français sont préoccupés (31%), voire très inquiets (9%), d'être victimes d'un vol d'identité. La majorité craint que des inconnus puissent faire des achats (52%) avec leur argent. Dans le cas d'une usurpation d'identité, les criminels accèdent aux comptes en ligne et agissent au nom de leurs victimes. De nombreuses personnes interrogées craignent que des inconnus signent des contrats en leur nom (37 %), que des escrocs utilisent l'identité volée pour ouvrir de nouveaux comptes (36 %) et que des informations les plus privées tombent entre des mains étrangères ou soient rendues publiques (28 %). Besoin de rattrapage en matière de sécurité des mots de passe Il est urgent de rattraper le retard en matière d'utilisation de mots de passe sûrs selon GMX : 34 % des utilisateurs d'Internet en France utilisent dans leurs mots de passe des informations personnell