Accéder au contenu principal

Sur Internet, des adolescents confrontés de plus en plus jeunes à des images pornographiques

Par  Laurence Corroy , Université de Lorraine Si les adolescentes et adolescents se retrouvent confrontés de plus en plus précocement à de la pornographie en ligne, il leur est très difficile d’aborder le sujet avec des adultes. Retour sur une enquête de terrain alors que les éditeurs de sites sont sommés d’instaurer un contrôle d’âge pour l’accès à ces contenus sensibles. Dès que l’on parle des adolescents et de leurs relations au numérique, les débats se polarisent, sans qu’il y ait nécessairement le réflexe de recueillir leur témoignage. En recherche, il est pourtant extrêmement important de leur donner la parole, ce qui permet de mieux mesurer leur capacité d’analyse et de distance vis-à-vis des messages médiatiques. Dans le cadre de l’étude Sexteens , menée en Grand Est, nous avons rencontré plus d’une soixantaine d’adolescents pour évoquer avec eux les représentations de la sexualité et de l’amour dans les séries pour ados qu’ils regardent. Ces séries on...

Assassinat de Samuel Paty et haine en ligne : ce qui a changé dans la loi depuis 2020

 

samuelpaty

Par Nathalie Devillier, Auteurs historiques The Conversation France

Le procès de l’assassinat de Samuel Paty se poursuit devant la cours d’assise spéciale de Paris. Un certain nombre d’accusés comparaissent pour avoir mené une campagne de haine sur les réseaux sociaux avant le meurtre. Depuis 2020, de nouvelles lois – européennes et françaises – sont entrées en vigueur pour lutter contre les violences en ligne. Que retenir de ces législations ? Sont-elles efficaces ?


Le procès de l’assassinat de Samuel Paty a débuté lundi 4 novembre. Sur le banc des accusés se trouvent notamment ceux qui ont créé la polémique et intentionnellement faussé la réalité d’un des cours de l’enseignant portant sur la liberté d’expression. Dans une vidéo, le père d’une élève qui sera jugé durant le procès avait appelé à écrire à la direction de l’établissement « pour virer ce malade » et livrait publiquement le nom du professeur, son numéro de téléphone portable et l’adresse du collège.

Les insultes, menaces et commentaires haineux contre l’enseignant et la directrice du collège inondèrent les réseaux sociaux Facebook, WhatsApp, Instagram, Twitter, Snapchat, YouTube, TikTok, Google… devenus de véritables tribunaux virtuels.

Suite à l’émoi suscité par ces événements, la France a adopté en 2021 plusieurs lois pour contrer la haine en ligne, notamment l’article surnommé « Samuel Paty » de la loi sur le respect des principes de la République qui criminalise les actes d’intimidation et d’entrave au travail des enseignants par la diffusion de messages haineux.

Plus largement, ces dernières années, de multiples initiatives législatives, à l’échelle française et européenne ont cherché à responsabiliser les plates-formes de contenus, les réseaux sociaux mais aussi les utilisateurs pour limiter les impacts de la violence en ligne.

Des mesures pour obliger les plates-formes à plus de transparence

Entré en vigueur en 2023, le Règlement européen sur les services numériques (Digital Services Act, DSA) a notamment pour objectif d’endiguer la viralité de contenus violents pour éviter d’y exposer les utilisateurs. Il exige aussi la publication de rapports de transparence par les réseaux sociaux et plates-formes de partage tels que Facebook, Google Search, Instagram, LinkedIn, Pinterest, Snapchat, TikTok, X (anciennement Twitter) et YouTube.

En vertu de ce texte, les réseaux sociaux doivent aussi donner des informations sur leurs équipes de modération de contenu, mettre en place des mécanismes de signalement des contenus illicites et fournir des informations sur le fonctionnement de leurs algorithmes de recommandation.

Ce partage d’informations sur le fonctionnement des algorithmes devrait permettre aux utilisateurs de mieux comprendre et contrôler ce qu’ils voient en ligne. Il est surtout utile pour le Centre européen pour la transparence algorithmique qui contrôle l’application du règlement.

Les plates-formes doivent également évaluer et réduire les risques systémiques pour la sécurité publique et les droits fondamentaux liés à leurs algorithmes comme la propagation de la haine en ligne. Ces éléments doivent figurer dans les rapports émis à la disposition de la Commission européenne. Dans le cas contraire, ou si les actions des plates-formes ne reflètent pas suffisamment les attentes du DSA, c’est la Commission européenne qui prendra l’attache de l’entreprise et procédera en cas d’inertie de celle-ci à un rappel à la loi public. C’est précisément ce qu’a fait Thierry Breton en août dernier en s’adressant à Elon Musk.

Un outil de dénonciation permettant aux employés ou autres lanceurs d’alerte de signaler les pratiques nuisibles des très grandes plates-formes en ligne et des moteurs de recherche a été mis en place.

Avant ces nouvelles mesures, ces entreprises n’étaient soumises qu’à un code de conduite non juridiquement contraignant et dont les résultats avaient atteints leurs limites.

Comment évaluer l’efficacité de ces mesures ? Nous le saurons bientôt, la Commission européenne a ouvert, le 18 décembre 2023 une procédure contre X (ex-Twitter) après avoir mené une enquête préliminaire pour non respect de l’obligation de transparence et des défaillances dans la modération de contenus. X interdit aussi aux chercheurs éligibles d’accéder de manière indépendante à ses données conformément au règlement. La société encourt une amende pouvant aller jusqu’à 6 % de son chiffre d’affaires mondial et, en cas de manquements répétés, elle peut voire l’accès à son service restreint dans l’Union européenne.

Aujourd’hui, l’épée de Damoclès des sanctions financières et surtout le blocage du service sur le territoire européen font peser un risque économique et réputationnel que les plates-formes souhaitent éviter. Plusieurs procédures formelles ont été lancées par la Commission européenne contre le réseau social X en 2023, TikTok, AliExpress et Meta cette année.

Des mesures pour lutter contre le cyberharcèlement

En France, la loi « Sécuriser et Réguler l’Espace Numérique » (SREN) promulguée en mai 2024 sanctionne les plates-formes qui échouent à retirer les contenus illicites dans un délai rapide (75 000 euros d’amende) et met aussi en place des mécanismes pour mieux sensibiliser et protéger les utilisateurs contre les dangers en ligne.

Cela se traduit par l’information des collégiens en milieu scolaire et des parents en début d’année. Une réserve citoyenne du numérique (rattachée à la réserve civique) est également instaurée avec pour but lutter contre la haine dans l’espace numérique et à des missions d’éducation, d’inclusion et d’amélioration de l’information en ligne. Ce dispositif qui constitue un moyen officiel d’alerte auprès du procureur de la République aurait été le bienvenu il y a 4 ans, au moment de l’affaire Paty. À l’époque, seuls la médiation scolaire et le référent laïcité du rectorat avaient été actionnés, sans effet.

Les plates-formes en ligne ont des obligations légales croissantes issues du règlement européen et de la loi SREN pour prévenir et réagir au cyberharcèlement et aux contenus illicites, avec une responsabilité à plusieurs niveaux.

L’obligation de modération proactive signifie que les plates-formes doivent mettre en place des systèmes pour détecter, signaler et retirer rapidement les contenus haineux, violents, ou incitant au cyberharcèlement. C’est l’ARCOM (Autorité de régulation de la communication audiovisuelle et numérique) qui veille à ce que les éditeurs et fournisseurs de services d’hébergement de sites retirent effectivement ces contenus et conduit des audits pour vérifier la conformité aux règles. Cette obligation, issue du règlement européen sur les services numériques et de la loi SREN, sera mise en œuvre grâce à la publication d’un rapport annuel le nombre de signalements effectués. À ce jour, le premier rapport n’a pas été publié.

Les hébergeurs qui ont connaissance du caractère illicite du contenu et qui n’informent pas les autorités compétentes, par exemple, le procureur de la République, ni bloqué l’accès à cette publication, encourent des sanctions allant jusqu’à 250 000 euros d’amende et un an d’emprisonnement pour le dirigeant.

Les plates-formes doivent également sensibiliser leurs utilisateurs aux risques de cyberharcèlement et fournir des outils pour signaler facilement les contenus et comportements nuisibles. C’est le cas par exemple sur X, Facebook, Instagram.

En France, le cyberharcèlement est un délit sévèrement puni par des lois visant à lutter contre le harcèlement moral et les actes répétés de violence en ligne, notamment sur les réseaux sociaux. Une personne coupable de harcèlement moral encourt jusqu’à deux ans d’emprisonnement et 30 000 € d’amende. Si la victime est mineure, ces peines sont alourdies à trois ans de prison et 45 000 € d’amende. Des peines plus graves peuvent s’appliquer en cas d’incapacité de travail de la victime ou si les actes conduisent au suicide ou à la tentative de suicide, avec une sanction maximale de dix ans d’emprisonnement et 150 000 € d’amende.

Pour protéger les victimes de harcèlement groupé, en 2018 la loi Schiappa avait introduit un délit de « harcèlement en meute » ou raid numérique, visant à pénaliser les attaques concertées de multiples internautes contre une victime, même si chaque participant n’a pas agi de façon répétée.

La loi SREN prévoit également que les personnes reconnues coupables de cyberharcèlement peuvent se voir interdites de réseaux sociaux pendant six mois ou un an en cas de récidive. Ce bannissement inclut la création de nouveaux comptes durant la période d’interdiction. Les plates-formes risquent des amendes allant jusqu’à 75 000 € si elles ne bannissent pas les utilisateurs condamnés pour cyberharcèlement ou ne bloquent pas la création de nouveaux comptes pour les récidivistes.The Conversation

Nathalie Devillier, Docteur en droit international, Auteurs historiques The Conversation France

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté...

Quelle technologie choisir pour connecter les objets ?

Par Frédéric Salles, Président et co-fondateur de Matooma   En 2021, le nombre total d'objets connectés utilisés atteindra les 25 milliards selon Gartner. Il est ainsi légitime de se demander quelles sont les technologies principales permettant de connecter les objets, et quelle pourrait être celle la plus adaptée pour sa solution. Un projet de vidéosurveillance par exemple n'aura absolument pas les mêmes besoins qu'un projet basé sur le relevé de température au milieu du désert. Ainsi pour trouver la meilleure connectivité pour son objet, de nombreuses questions peuvent se poser : mon objet fonctionne-t-il sur batterie ou est-il alimenté ? Mon objet restera-t-il statique ou sera-t-il mobile ?  Mon objet est-il susceptible d'être dans un endroit difficile d'accès ou enterré ? A quelle fréquence mes données doivent-elles remonter ? Etc. Voici les différentes solutions actuellement disponibles sur le marché. Courte distance : RFID/Bluetooth/WiFi La RFID (Ra...

La fin du VHS

La bonne vieille cassette VHS vient de fêter ses 30 ans le mois dernier. Certes, il y avait bien eu des enregistreurs audiovisuels avant septembre 1976, mais c’est en lançant le massif HR-3300 que JVC remporta la bataille des formats face au Betamax de Sony, pourtant de meilleure qualité. Ironie du sort, les deux géants de l’électronique se retrouvent encore aujourd’hui face à face pour déterminer le format qui doit succéder au DVD (lire encadré). Chassée par les DVD ou cantonnée au mieux à une petite étagère dans les vidéoclubs depuis déjà quatre ans, la cassette a vu sa mort programmée par les studios hollywoodiens qui ont décidé d’arrêter de commercialiser leurs films sur ce support fin 2006. Restait un atout à la cassette VHS: l’enregistrement des programmes télé chez soi. Las, l’apparition des lecteurs-enregistreurs de DVD et, surtout, ceux dotés d’un disque dur, ont sonné le glas de la cassette VHS, encombrante et offrant une piètre qualité à l’heure de la TNT et des écrans pl...

6 questions sur Zone-telechargement

Quel était ce site ? Zone-telechargement.com était jusqu'à lundi soir l'un des plus gros sites web français proposant de télécharger des contenus numériques illégaux. En grande majorité des films parfois très récents ; des séries télé notamment américaines qui n'étaient pas diffusées en France ; de la musique ; des logiciels et des jeux vidéo. Les séries et les films étaient disponibles en différentes qualités et ceux en langue anglaise étaient sous-titrés grâce à des communautés d'utilisateurs capables de sous-titrer des épisodes de série 24 heures après leur diffusion aux États-Unis. Le site comptabilisait, selon la gendarmerie, en moyenne 140 millions de pages vues par mois et 11 000 téléchargements par jour. La société Alexa affichait Zone-Telechargement à la 11e place des sites les plus visités de France… devant Twitter ! Zone-Telechargement proposait 18 000 films, 2 500 séries télé ; 11 000 documentaires ; 20 943 émissions télé ; plus de 150 000 MP3 mais aus...

Deepfakes, vidéos truquées, n’en croyez ni vos yeux ni vos oreilles !

Par  Divina Frau-Meigs , Auteurs historiques The Conversation France Les spécialistes en fact-checking et en éducation aux médias pensaient avoir trouvé les moyens de lutter contre les « deepfakes » , ou hypertrucages , ces manipulations de vidéos fondées sur l’intelligence artificielle, avec des outils de vérification comme Invid-Werify et le travail des compétences d’analyse d’images (littératie visuelle), avec des programmes comme Youverify.eu . Mais quelques cas récents montrent qu’une nouvelle forme de cyberattaque vient de s’ajouter à la panoplie des acteurs de la désinformation, le deepfake audio. Aux États-Unis, en janvier 2024, un robocall généré par une intelligence artificielle et prétendant être la voix de Joe Biden a touché les habitants du New Hampshire, les exhortant à ne pas voter, et ce, quelques jours avant les primaires démocrates dans cet État. Derrière l’attaque, Steve Kramer, un consultant travaillant pour un adversaire de Biden, Dean ...

D’IBM à OpenAI : 50 ans de stratégies gagnantes (et ratées) chez Microsoft

  Paul Allen et Bill Gates en 1970 à Lakeside School (Seattle). Microsoft naîtra cinq ans plus tard. Auteur inconnu/Wikimedia Par  Frédéric Fréry , ESCP Business School Insubmersible. Même la vague des Gafa n’a pas vraiment atteint Microsoft. Cinquante ans après sa création, soit une éternité dans le monde de la tech, la firme de Bill Gates et Paul Allen est toujours là et bien là. Retour sur ce qu’on appelle outre-Atlantique, une success-story avec quelques échecs. Cette semaine, Microsoft fête ses 50 ans. Cet article a été écrit sur Microsoft Word, à partir d’un ordinateur équipé de Microsoft Windows, et il sera vraisemblablement publié sur des plateformes hébergées par Microsoft Azure, notamment LinkedIn, une filiale de Microsoft qui compte plus d’un milliard d’utilisateurs. C’est dire l’influence de cette entreprise qui, en 2024, a dégagé un bénéfice net de 88 milliards de dollars po...