Technomedia

Numérique · médias · sciences · intelligence artificielle

Les fuites de données de Bercy et de l’éducation nationale auraient‑elles pu être techniquement évitées ?

 

data

Pae Charles Cuvelliez, Université Libre de Bruxelles (ULB) et Gaël Hachez, Université Libre de Bruxelles (ULB)

Le mois d’août a révélé plusieurs attaques informatiques ayant provoqué des fuites de données officielles dans différents services publics et administrations : impôts, cadastre, succession, ministère de l’éducation nationale… La méthode employée par les hackers est tristement simple : ils ont usurpé les identifiants de connexion d’utilisateurs autorisés pour entrer sur les réseaux puis télécharger les données sans éveiller l’attention. Des solutions techniques qui limitent la portée de ce type d’attaque existent. Comment les mettre en œuvre à l’échelle gigantesque de services étatiques ?

La première fuite de données, connue le 12 août, concernait les données fiscales de 350 000 particuliers et l’accès à des listes de messages échangés avec l’administration. La deuxième fuite, révélée le 13 août, concerne les données cadastrales, au maximum 433 485 particuliers et 1 082 professionnels. Une troisième fuite de données a été révélée, presque en direct, lors de la conférence de presse du ministre de l’action et des comptes publics David Amiel, le 18 août, et rapidement « coupée ». Il s’agissait cette fois de données de successions. Enfin, le groupe Zerobytes, qui avait revendiqué les deux premières attaques, a revendiqué un accès et un vol de données au ministère de l’éducation nationale, qui concernerait encore plus de données, accumulées sur deux décennies.

Voilà donc des hackers en possession d’une somme de données officielles d’identification dont ils n’avaient jamais osé rêver.

Ces fuites sont le résultat d’attaques peu sophistiquées, sur lesquelles on peut poser un diagnostic – et donc réfléchir à un remède et à des mesures de prévention. Dans ce cas, ce n’est pas comme si l’intelligence artificielle (IA) avait de nouveau fait preuve de capacités cyber inouïes…

Un type d’attaques commun et facile à mettre en œuvre

Au-delà de la revendication de ces attaques par un même acteur (Zerobytes), qui pourrait n’être qu’un intermédiaire chargé de commercialiser les données dérobées, une question se pose : qu’ont en commun les compromissions ayant touché les systèmes fiscaux, le cadastre, les données de succession ou encore celles du ministère de l’éducation nationale, qu’on imagine pourtant hébergées et administrées par des services distincts de l’État ?

La réponse est simple et inquiétante. Nul besoin de recourir à une intelligence artificielle sophistiquée ni d’exploiter une vulnérabilité inconnue. Dans chacun de ces cas, la compromission a reposé sur l’usurpation d’un même accès légitime. Une fois ce point d’entrée obtenu, les attaquants ont pu progresser d’un système à l’autre, qu’ils soient physiquement séparés ou simplement isolés de manière logique au sein d’infrastructures partagées, en procédant méthodiquement, sans précipitation.

L’attaquant serait parvenu à contourner ou à neutraliser l’« authentification multifacteur » qui permet, dans ce cas précis, aux agents de l’État d’accéder à leurs comptes informatiques. Cette méthode d’authentification est considérée comme l’un des mécanismes de protection les plus efficaces. Son principe est simple : un mot de passe ne suffit pas et une seconde preuve d’identité, telle qu’un code temporaire reçu sur un téléphone mobile, est également requise.

Dans son courrier aux contribuables, les autorités affirment qu’il s’agit de la compromission de l’identité numérique d’un agent, utilisée sur un point d’accès légitime à distance, un réseau privé virtuel (VPN). Il s’agit donc bien, dit ce courrier, de la combinaison de deux identités distinctes : celle d’un agent de la Direction générale des finances publiques et celle d’un tiers disposant d’une autorisation d’accès aux systèmes.

Ce n’est pas tout : une fois à l’intérieur, l’auteur de l’intrusion a semblé bénéficier de droits d’accès nettement plus étendus que ce qu’exigeait la fonction apparente de l’agent dont l’accès a été usurpé. Cette situation s’explique sans doute par l’existence de relations de confiance numériques entre systèmes et par le recours à des mécanismes d’« authentification fédérée ».

Ces dispositifs, utilisés dans les grandes organisations, permettent aux usagers d’accéder à plusieurs systèmes sans avoir à se réauthentifier continuellement. Leur objectif est d’améliorer la fluidité des usages qui, si le système est mal conçu, peut se traduire par une ouverture excessive des droits d’accès. C’est comme si un visiteur admis dans les galeries du Louvre pouvait aussi accéder aux œuvres des réserves, et même les toucher, sans contrôle supplémentaire.

Vers le déploiement de réseaux plus segmentés, dits « zéro confiance »

Même lorsqu’un utilisateur a été authentifié et est dans le réseau d’une organisation, la confiance qui lui est accordée ne devrait jamais être considérée comme acquise.

C’est le principe des architectures dites de « zéro confiance » (zero trust), un concept développé depuis plusieurs années. La légitimité d’un utilisateur est évaluée en permanence à partir de multiples critères : ses habitudes d’utilisation, sa localisation, l’heure de connexion ou encore les ressources auxquelles il cherche à accéder. La confiance n’est donc plus accordée une fois pour toutes ; elle évolue en fonction du caractère attendu ou inhabituel des actions réalisées.

Dans un tel modèle, un attaquant utilisant des identifiants valides aurait davantage de risques d’être repéré lorsqu’il s’écarte des comportements habituels du compte compromis. Mais ces architectures restent encore peu déployées à grande échelle.

Elles exigent de sortir de l’idée que tout ce qui est à l’intérieur du réseau, puisqu’il y a été dûment authentifié, est digne de confiance, un employé, un collègue qu’on connaît bien. Or, les systèmes d’information contemporains sont aussi devenus particulièrement complexes, ouverts sur Internet et interconnectés avec un vaste écosystème de fournisseurs, de sous-traitants et de prestataires techniques. Dans cet environnement, les points d’accès se multiplient et les frontières traditionnelles du réseau perdent de leur pertinence.

On ne peut plus continuer à raisonner selon une logique binaire opposant, d’un côté, les utilisateurs authentifiés auxquels une confiance quasi totale serait accordée et, de l’autre, ceux qui demeurent à l’extérieur. Considérer qu’un utilisateur peut accéder librement à l’ensemble des ressources dès lors qu’il a franchi la première étape d’authentification constitue aujourd’hui une faiblesse. La question n’est plus seulement de contrôler qui entre dans le réseau, mais aussi de vérifier en permanence ce qu’il est autorisé à y faire.

Néanmoins, il faut bien comprendre que déployer une architecture « zéro confiance » à l’échelle d’une administration publique, composée d’une multitude de réseaux anciens et de centaines de milliers de comptes d’accès, est un objectif plus complexe qu’il n’y paraît.

À court terme, la priorité doit être le renforcement des capacités de détection et la gestion rigoureuse des habilitations, strictement alignées sur les fonctions exercées. Lorsqu’un agent change de poste, les droits associés à ses responsabilités précédentes devraient être systématiquement révoqués. S’il les cumule à chaque changement de poste, il aura à la fin de sa carrière plus d’accès que le président de la République !

Extraire les données discrètement, encore plus simple que de pénétrer dans le réseau

L’attaquant est parvenu à consulter les données puis à les extraire sans déclencher d’alerte apparente. Il est probable qu’il a d’abord testé les mécanismes de surveillance. Une fois ce repérage effectué, l’exfiltration a pu commencer de manière progressive, en distribuant les requêtes dans le temps et entre les systèmes et en s’appuyant sur des commandes tout à fait ordinaires. Ainsi, l’exfiltration a permis de se fondre dans l’activité habituelle d’un réseau.

Ainsi, même si le point d’entrée utilisé par l’attaquant a fini par être identifié et neutralisé, il n’est pas étonnant que l’exfiltration ait pu se produire sans être détectée : on se méfie moins de ce qui est à l’intérieur que de ce qui vient de l’extérieur.

L’attaquant, une fois à l’intérieur, n’a pas déployé de rançongiciel (les systèmes d’où ont été volées les données n’ont pas été bloqués ni chiffrés pour exiger une rançon), ce qui suggère que des compétences techniques limitées ont suffi à vaincre rien de moins que les systèmes d’information de l’État qu’on aurait pu imaginer imprenables (et gare à la relance de l’attaque).

Et maintenant ? Comment les données peuvent être exploitées par des acteurs malveillants

Ce sont surtout les usages potentiels de ces données qui doivent susciter aujourd’hui les inquiétudes.

Le risque le plus immédiat est la fraude financière : faux avis d’imposition, ordres de virement frauduleux ou factures falsifiées. Les données cadastrales exposées pourraient également servir à cibler des propriétaires immobiliers dans le cadre d’escroqueries liées à la propriété ou à la location, voire de menaces physiques. L’expérience récente des entrepreneurs de cryptomonnaies a montré à quel point la divulgation d’informations relatives au domicile pouvait accroître les risques de sécurité personnelle.

Il faut aussi s’attendre à une recrudescence des attaques d’hameçonnage : courriels, appels téléphoniques ou messages texte pourront se présenter sous les traits de l’administration fiscale, d’un employeur, d’un fournisseur ou d’un établissement bancaire. La précision des données compromises permettra certainement aux fraudeurs de personnaliser leurs approches, de gagner plus facilement la confiance de leurs victimes et, par conséquent, d’augmenter l’efficacité de leurs campagnes.

À plus long terme, l’exploitation de ces informations est du pain béni pour la guerre hybride. À l’approche d’échéances électorales – et non des moindres – en France, des acteurs étatiques hostiles pourraient utiliser ces données pour alimenter des opérations d’influence et fragiliser la confiance du public.

On ne manquera pas de rapprocher cet incident de la procédure engagée par la Commission européenne contre la France pour la transposition tardive de la directive européenne NIS2. Celle-ci impose aux secteurs critiques (réseaux de transport d’énergie, chemins de fer…) et aux services essentiels de renforcer leur cybersécurité, leurs capacités de détection et leur résilience précisément pour réduire la probabilité et l’impact de ce type d’événements.

Si vous êtes une organisation et que vous n’avez ni d’authentification multifacteur ni de gestion des accès (ou « habilitation ») en fonction du poste occupé, la même mésaventure risque de vous arriver très vite. Commencez par cela !The Conversation

Charles Cuvelliez, Ecole Polytechnique de Bruxelles, Université Libre de Bruxelles, Université Libre de Bruxelles (ULB) et Gaël Hachez, Professeur en cyber-sécurité, Université Libre de Bruxelles (ULB)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Réseaux sociaux : quand les plateformes facilitent les violences sexuelles contre les enfants

 

reseaux

Vingt millions d’enfants de 12 à 17 ans auraient subi en un an une forme d’exploitation ou d’atteinte sexuelle facilitée par le numérique dans 21 pays. Une vaste étude de l’Unicef, ECPAT International et Interpol montre surtout que le problème ne vient pas seulement des usages : il tient aussi à la manière dont les plateformes sont conçues.

On leur répète de ne pas parler aux inconnus, de ne pas envoyer de photos, de bloquer les comptes suspects ou d’alerter un adulte. Mais à force de demander aux enfants de se protéger d’Internet, n’a-t-on pas oublié de demander à Internet de protéger les enfants ?

C’est tout l’intérêt du rapport "À hauteur d’enfant : comment les technologies numériques facilitent les atteintes sexuelles contre les enfants" publié par l’Unicef, ECPAT International et Interpol. Menée dans 21 pays auprès d’environ 21 000 jeunes de 12 à 17 ans, l’étude estime que 20 millions d’entre eux ont subi, en l’espace d’un an, une forme d’exploitation ou d’atteinte sexuelle facilitée par les technologies numériques.

15 millions d’enfants ont été exposés à des contenus sexuels non désirés

Les chiffres sont vertigineux : 15 millions d’enfants ont été exposés à des contenus sexuels non désirés, 9 millions poussés contre leur gré vers des conversations sexuelles ou le partage d’images, et 4 millions ont vu des images sexuelles les représentant diffusées sans leur consentement. Près de 60 % de ces faits se sont produits sur les réseaux sociaux.

Mais le plus important n’est peut-être pas là, car le rapport montre que les auteurs exploitent les fonctionnalités mêmes des plateformes : demandes de contact, messageries privées, faux profils, repartage des contenus ou possibilité de revenir après avoir été bloqué. Dans 57 % des cas, l’enfant connaissait déjà l’auteur des faits. Mais 38 % l’avaient rencontré pour la première fois en ligne.

Le numérique n’est donc pas seulement le lieu où survient l’abus. Il peut devenir l’outil qui le facilite, le prolonge ou l’amplifie. Avec des conséquences dramatiques. Les jeunes victimes sont quatre fois plus susceptibles d’avoir des pensées ou comportements suicidaires ou de recourir à l’automutilation. Leur niveau d’anxiété est également nettement supérieur à celui des autres adolescents.

Des enfants victimes qui restent seuls face à ce qu'ils subissent

Et pourtant, la plupart restent seules face à ce qu’elles subissent. Plus de quatre victimes sur dix n’en parlent à personne. Moins de 1 % se tournent vers la police, les services sociaux ou une ligne d’assistance. Un quart expliquent qu’elles ne savaient tout simplement pas à qui s’adresser. Certaines se taisent même par peur que leurs parents leur retirent leur téléphone ou leur interdisent les réseaux sociaux.

Les plateformes et les États interpellés

Le rapport prend dès lors une dimension politique. Il ne réclame pas seulement davantage de prévention auprès des jeunes mais demande aux plateformes - près de 60 % des atteintes ont lieu sur les réseaux sociaux - de privilégier "la sécurité et non pas l’engagement maximum", de limiter les sollicitations d’adultes, de mieux protéger la vie privée des mineurs et de détecter les contenus d’abus sexuels, y compris ceux générés par l’intelligence artificielle.

Il demande aussi aux États de renforcer la réglementation et les dispositifs de signalement. Car interdire simplement certains sites ou retirer les téléphones ne suffit pas et peut même renforcer le silence des victimes.

Pendant des années, on a fait de la prudence des enfants la première ligne de défense. Le rapport renverse la perspective : face à des plateformes pensées pour maximiser l’attention et les interactions, la protection des mineurs ne peut plus reposer d’abord sur eux.

Philippe Rioux
 

ChatGPT entre dans la cour des géants du Web... et doit se soumettre aux règles de l'Europe

 

IA

La Commission européenne vient de classer ChatGPT parmi les "très grands moteurs de recherche en ligne", au même titre que les services numériques capables d’exercer une influence systémique. Une décision qui marque un changement d’époque : l’intelligence artificielle devient à son tour une porte d’entrée majeure vers l’information.

ChatGPT n’est plus seulement un agent conversationnel : pour la Commission européenne, il est désormais aussi un moteur de recherche, et pas n’importe lequel. Bruxelles vient, en effet, de le faire entrer dans la catégorie des "très grands moteurs de recherche en ligne" prévue par le Digital Services Act, le DSA, qui impose les règles les plus strictes aux géants du numérique. La décision tient d’abord à son poids. OpenAI a déclaré quelque 159 millions d’utilisateurs mensuels dans l’Union européenne pour les fonctions de recherche de ChatGPT, très au-delà du seuil de 45 millions à partir duquel un service est considéré comme systémique.

Mais derrière les chiffres, c’est surtout un changement de nature qui se dessine. Pendant vingt ans, chercher une information sur Internet signifiait taper quelques mots dans Google, parcourir une liste de liens puis choisir une source. Avec ChatGPT, l’utilisateur pose une question et obtient directement une réponse, éventuellement construite à partir de recherches effectuées sur le Web.

C’est précisément cette fonction qui conduit Bruxelles à considérer le service comme un moteur de recherche. Et la nuance est capitale. Google hiérarchise des liens ; ChatGPT sélectionne, synthétise et reformule l’information avant de la restituer sous la forme d’une réponse unique. La question n’est donc plus seulement de savoir pourquoi un site apparaît en première position, mais pourquoi une intelligence artificielle donne cette réponse plutôt qu’une autre.

Quatre mois pour se conformer aux obligations renforcées du DSA

OpenAI disposera de quatre mois pour se conformer aux obligations renforcées du DSA. L’entreprise devra notamment évaluer les risques systémiques liés à son service et prendre des mesures contre la diffusion de contenus illégaux, les atteintes aux droits fondamentaux, les manipulations électorales ou les risques pour les mineurs. Des audits indépendants et des obligations supplémentaires de transparence sont également prévus.

Après avoir réglementé les réseaux sociaux qui choisissaient ce que nous regardions, l’Europe commence ainsi à réglementer les intelligences artificielles qui choisissent de plus en plus ce que nous lisons…

Philippe Rioux