Par Thomas Mannierre, Directeur EMEA Sud de BeyondTrust L’IA a fait entrer les braquages dans une nouvelle dimension. Plus besoin d’une cagoule noire désormais. En améliorant les attaques d'ingénierie sociale modernes, l’IA a donné naissance à un autre type de menaces : les deepfakes. Bienvenue dans ce qui pourrait être un épisode de Black Mirror ! Le faux CFO de Hong Kong En début d’année, une entreprise à Hong Kong s’est vue escroquée de 25,6 millions de dollars par un hacker utilisant l’IA et la technologie deepfake pour usurper l’identité d’un directeur financier. Si l'on en croit les rapports d’enquête, l'attaque a simulé un environnement de vidéoconférence complet et utilisé une fausse identité d'un important directeur financier de Hong Kong et d'autres participants à la réunion. La victime ciblée du département financier s'est d'abord méfiée d'un e-mail de phishing prétendant provenir du directeur financier. Cependant, la victime a rejoint une con
Cinq questions à Achraf Hamid, Data Scientist chez Mailinblack
1. Qu’entend-on par intelligence artificielle et quand a-t-elle fait son apparition dans le secteur de la cybersécurité ?
L'intelligence artificielle (IA) est la simulation des mécanismes de l'intelligence humaine par des systèmes informatiques. Les applications spécifiques de l'IA comprennent les systèmes experts, le traitement du langage naturel, la reconnaissance vocale et la vision par ordinateur.
La communauté scientifique a commencé à traiter “théoriquement” la cybersécurité depuis les années 80 mais la pratique n’a commencé à suivre qu’à partir du début des années 2000 avec l’émergence du Big Data. Ce dernier a permis d’entraîner les algorithmes de Machine Learning à grande échelle, et donc de tester et d’améliorer les différentes théories.
2. Est-elle autant utilisée par les hackers que par les entreprises qui tentent de s’en protéger ?
Absolument, cette technologie est développée par les organisations comme par les cybercriminels. Les hackers peuvent l’utiliser pour :
- Créer de meilleurs algorithmes permettant de deviner des mots de passe ;
- Créer des algorithmes de remplissage automatique des Captcha ;
- Automatiser l’identification de l’état de tous les ports ouverts d’un serveur cible et sa pénétration en utilisant le “reinforcement learning” dans un environnement réel.
Les entreprises peuvent également utiliser l’IA pour :
- Détecter si un email a été réellement envoyé par le directeur au comptable ou bien s’il s’agit de quelqu’un qui se fait passer pour le directeur, en se basant sur le style d’écriture comme une empreinte ;
- Créer des algorithmes qui détectent les comportements inhabituels afin de déceler des virus dans le système informatique ;
- Sécuriser les réseaux en améliorant leur sécurité par l’apprentissage des schémas du trafic réseau et en recommandant à la fois des politiques de sécurité et un regroupement fonctionnel des charges de travail.
3. De quelle manière améliore-t-elle la sécurité des systèmes d’informations ?
L'IA utilise des techniques statistiques pour donner aux systèmes d’information la capacité d'apprendre (c'est-à-dire d'améliorer progressivement leurs performances) en utilisant des données plutôt qu'en étant explicitement programmés.
Quelques points fort de l’IA sont la capacité de :
- Détecter de nouvelles formes d’attaques méconnues aux systèmes experts à travers des techniques de détection d’anomalies, et donc aider à prévenir de nouvelles formes de cyberattaques, comme par exemple celles de phishing qui évoluent régulièrement ;
- Détecter les bots, qui sont des algorithmes qui vont réaliser des actions en essayant de suivre un parcours qui ressemble à celui d’un humain, dans le but de remplir des Captcha, envoyer des emails en masse, ou encore essayer de se connecter à un compte utilisateur en testant toutes les combinaisons de mots de passe possibles ; il est possible d'entraîner des modèles de machine learning afin de distinguer un parcours humain d’un parcours robot.
- Prendre des décisions rapides sur de grands volumes de transactions en temps réel, très utile pour, par exemple, l’analyse de nombre important d’emails.
4. Comment s’intègre-t-elle aux technologies existantes ?
Les modèles d’IA s’intègrent de façon transparente aux technologies existantes, comme une brique d’aide à la décision supplémentaire qui ingère des données et restitue un score, ou une décision. Une fois qu’un algorithme est entraîné sur des clusters (un cluster d'ordinateurs est un groupe de deux ou plusieurs ordinateurs, ou nœuds, qui fonctionnent en parallèle pour atteindre un objectif commun), il est rapidement possible de l'intégrer dans des pipelines (ensemble d'éléments de traitement de données connectés en série, où la sortie d'un élément est l'entrée du suivant ; les éléments d'un pipeline sont souvent exécutés en parallèle ou en tranches temporelles), à travers des appels API ou des systèmes d’automatisation de production de modèles de machine learning dédiés.
5. Comment va-t-elle évoluer dans les prochaines années ?
L’IA est en constante évolution. Elle est capable d’auto-apprendre et se développe sur de meilleures méthodes de modélisation du langage qui seront très utiles dans la prévention des cyberattaques. Elle est amenée à se déployer non seulement dans la cybercriminalité avec l’émergence des objets connectés dans notre quotidien, mais aussi dans l’art à travers la création de vidéos, de musique, de peintures ou encore la réalité augmentée.