À l’image de l’Australie, qui a fixé une majorité numérique à 16 ans, Emmanuel Macron a récemment évoqué la possibilité d’interdire l’accès aux plateformes sociales aux moins de 15 ans. En attendant une éventuelle évolution législative, la Commission nationale de l’informatique et des libertés (CNIL) a dévoilé ce mois-ci FantomApp, une application gratuite destinée aux 10-15 ans, déjà disponible sur les magasins d’applications et en version web . Son objectif est de permettre aux plus jeunes de mieux protéger leurs comptes, leurs données personnelles et d’identifier les bons réflexes en cas de difficulté en ligne. Conçue à partir d’ateliers menés dans plusieurs collèges, FantomApp a été développée en associant directement des adolescents au projet. Cette démarche collaborative a permis d’identifier des attentes fortes : comprendre les paramètres de visibilité, sécuriser ses comptes sans expertise technique et savoir vers qui se tourner en cas de problème. Selon une étude ...
Cinq questions à Achraf Hamid, Data Scientist chez Mailinblack
1. Qu’entend-on par intelligence artificielle et quand a-t-elle fait son apparition dans le secteur de la cybersécurité ?
L'intelligence artificielle (IA) est la simulation des mécanismes de l'intelligence humaine par des systèmes informatiques. Les applications spécifiques de l'IA comprennent les systèmes experts, le traitement du langage naturel, la reconnaissance vocale et la vision par ordinateur.
La communauté scientifique a commencé à traiter “théoriquement” la cybersécurité depuis les années 80 mais la pratique n’a commencé à suivre qu’à partir du début des années 2000 avec l’émergence du Big Data. Ce dernier a permis d’entraîner les algorithmes de Machine Learning à grande échelle, et donc de tester et d’améliorer les différentes théories.
2. Est-elle autant utilisée par les hackers que par les entreprises qui tentent de s’en protéger ?
Absolument, cette technologie est développée par les organisations comme par les cybercriminels. Les hackers peuvent l’utiliser pour :
- Créer de meilleurs algorithmes permettant de deviner des mots de passe ;
- Créer des algorithmes de remplissage automatique des Captcha ;
- Automatiser l’identification de l’état de tous les ports ouverts d’un serveur cible et sa pénétration en utilisant le “reinforcement learning” dans un environnement réel.
Les entreprises peuvent également utiliser l’IA pour :
- Détecter si un email a été réellement envoyé par le directeur au comptable ou bien s’il s’agit de quelqu’un qui se fait passer pour le directeur, en se basant sur le style d’écriture comme une empreinte ;
- Créer des algorithmes qui détectent les comportements inhabituels afin de déceler des virus dans le système informatique ;
- Sécuriser les réseaux en améliorant leur sécurité par l’apprentissage des schémas du trafic réseau et en recommandant à la fois des politiques de sécurité et un regroupement fonctionnel des charges de travail.
3. De quelle manière améliore-t-elle la sécurité des systèmes d’informations ?
L'IA utilise des techniques statistiques pour donner aux systèmes d’information la capacité d'apprendre (c'est-à-dire d'améliorer progressivement leurs performances) en utilisant des données plutôt qu'en étant explicitement programmés.
Quelques points fort de l’IA sont la capacité de :
- Détecter de nouvelles formes d’attaques méconnues aux systèmes experts à travers des techniques de détection d’anomalies, et donc aider à prévenir de nouvelles formes de cyberattaques, comme par exemple celles de phishing qui évoluent régulièrement ;
- Détecter les bots, qui sont des algorithmes qui vont réaliser des actions en essayant de suivre un parcours qui ressemble à celui d’un humain, dans le but de remplir des Captcha, envoyer des emails en masse, ou encore essayer de se connecter à un compte utilisateur en testant toutes les combinaisons de mots de passe possibles ; il est possible d'entraîner des modèles de machine learning afin de distinguer un parcours humain d’un parcours robot.
- Prendre des décisions rapides sur de grands volumes de transactions en temps réel, très utile pour, par exemple, l’analyse de nombre important d’emails.
4. Comment s’intègre-t-elle aux technologies existantes ?
Les modèles d’IA s’intègrent de façon transparente aux technologies existantes, comme une brique d’aide à la décision supplémentaire qui ingère des données et restitue un score, ou une décision. Une fois qu’un algorithme est entraîné sur des clusters (un cluster d'ordinateurs est un groupe de deux ou plusieurs ordinateurs, ou nœuds, qui fonctionnent en parallèle pour atteindre un objectif commun), il est rapidement possible de l'intégrer dans des pipelines (ensemble d'éléments de traitement de données connectés en série, où la sortie d'un élément est l'entrée du suivant ; les éléments d'un pipeline sont souvent exécutés en parallèle ou en tranches temporelles), à travers des appels API ou des systèmes d’automatisation de production de modèles de machine learning dédiés.
5. Comment va-t-elle évoluer dans les prochaines années ?
L’IA est en constante évolution. Elle est capable d’auto-apprendre et se développe sur de meilleures méthodes de modélisation du langage qui seront très utiles dans la prévention des cyberattaques. Elle est amenée à se déployer non seulement dans la cybercriminalité avec l’émergence des objets connectés dans notre quotidien, mais aussi dans l’art à travers la création de vidéos, de musique, de peintures ou encore la réalité augmentée.