Technomedia

En proposant une archéologie des imaginaires du corps-machine – des mythes antiques aux pratiques féministes, queer, afrofuturistes et crip – l’ouvrage Arts et Cyborgs. Pensées et imaginaires des corps-machines retrace les usages esthétiques et politiques de l’hybridation, tout en situant les controverses contemporaines liées à l’intelligence artificielle dans une longue histoire des artefacts anthropomorphes.

Depuis plusieurs années, l’intelligence artificielle (IA) suscite une attention croissante, tant dans les pratiques artistiques que dans les travaux universitaires. Deux postures tendent à structurer, parfois de manière caricaturale, les débats qui l’entourent : d’une part, elle suscite l’enthousiasme pour les formes inédites d’interaction et de co-production entre humain et machine ; d’autre part, elle provoque une grande inquiétude face aux risques d’appauvrissement des interprétations du monde, de standardisation des formes et de réification du vivant.

Dans l’un comme dans l’autre cas, la proximité supposée d’une machine dont « l’intelligence » qui serait comparable à celle de l’être humain, voire susceptible de la dépasser, est au cœur de la polarisation. Or, cette fascination et les peurs qu’elle charrie ne surgissent pas ex nihilo. En effet, depuis l’Antiquité, les créations artificielles, les figures anthropomorphes et les récits de création constituent des réflexions privilégiées qui éprouvent les limites du vivant et permettent de repenser la définition de l’être humain.

Dans ce contexte, l’ouvrage Arts et Cyborgs. Pensées et imaginaires des corps-machines propose une synthèse de l’histoire longue de la fascination pour les objets et corps anthropomorphes. Ce projet retrace une généalogie à la fois artistique, philosophique et curatoriale de l’hybridation entre chair et technique, représentation centrale de la culture contemporaine et passée. Rejetant l’idée d’un inventaire exhaustif, cette publication présente les continuités et ruptures afin d’offrir des outils conceptuels permettant de situer les formes actuelles dans un réseau de références plus ancien et complexe.

Une figure-limite

Forgé en 1960 par les scientifiques Nathan S. Kline et Manfred E. Clynes, le terme « cyborg » désigne un organisme cybernétique susceptible d’adapter le corps humain aux conditions d’une vie extraterrestre. Au-delà de cette origine technoscientifique, l’imaginaire cyborg s’est rapidement constitué comme une construction du rapport à soi et aux mondes à titre de figure-limite, au sein de laquelle se rejouent les partages entre organisme et artefact, autonomie et contrôle, vulnérabilité et puissance.

Réinvestie par les luttes et mouvements sociaux à partir des années 1970, la figure du cyborg contribue à déstabiliser les catégories binaires, en particulier celles du genre, et à interroger les régimes de normalisation qui organisent les rapports sociaux et sociétaux.

Cette fécondité critique est théorisée de manière décisive par la philosophe et biologiste Donna Haraway dans son Manifeste Cyborg dans lequel le cyborg apparaît comme un paradigme politique qui remet en question les logiques de pouvoir fondées sur des oppositions naturalisées (corps/objet, vivant/machine, nature/culture). En ce sens, il ouvre un horizon spéculatif et prospectif qui mène à envisager des futurs possibles où les catégories mêmes par lesquelles nous décrivons l’humanité et la non-humanité se trouvent reconfigurées, dans un entre-deux instable entre biologie et technologie.

Échapper aux normes sociales et symboliques

Si la culture contemporaine attribue au cyborg une myriade de définitions parfois concurrentes ou même contradictoires, celles-ci s’inscrivent dans une histoire plus vaste des représentations de la figure humaine. Dès l’Antiquité, des récits tels que l’histoire de Pygmalion ou celle d’Hermaphrodite déplacent des frontières réputées stables entre être et matière (la pierre animée), entre masculin et féminin, entre fabrication et engendrement montrant la complexité des modes d’existence qui échappent finalement aux nomenclatures fixes et stéréotypées. Au fil des siècles, de tels mythes se sont multipliés devenant des matrices narratives par lesquelles les artistes ont pu imaginer des formes abolissant ou contestant les normes sociales et symboliques de leur époque.

Parallèlement, la philosophie a élaboré des cadres conceptuels visant à préciser ce qui distingue l’être humain du non-humain, mais aussi ce qui les relie tels que l’agentivité, la sensibilité, le langage, la technique, etc. Les controverses actuelles relatives à l’IA – notamment lorsque des systèmes génératifs produisent images ou sons à partir de corpus préexistants – réactivent ainsi des questions anciennes : ces productions relèvent-elles d’une forme de création analogue à celle d’un artiste mobilisant un bagage culturel ? Les deux types de productions sont-elles radicalement opposées du fait de l’impossible subjectivité humaine du programme génératif ? Ces débats ne sont pas sans rappeler ceux prononcés lors de l’apparition de la photographie qui révélaient déjà les craintes d’usage des dérives d’une image réaliste indirectement produite par l’être humain.

Envisager des transformations sociétales

Ainsi, si la photographie est aujourd’hui largement reconnue comme un médium artistique à part entière, son histoire rappelle que les technologies visuelles ne sont jamais neutres. Au début du XX^e siècle, l’usage volontiers patriarcal de la photographie de la part de certains artistes futuristes et surréalistes contraste avec les expérimentations de Hannah Höch ou de Claude Cahun, qui en font un outil de déstabilisation des identités, des normes de genre et des régimes de représentation.

De manière comparable, l’hybridation technologique contemporaine par laquelle la figure cyborg prend forme dans les œuvres féministes et queer constitue un contrepoint critique face à la circulation massive sur les réseaux sociaux, d’images d’IA reconduisant des stéréotypes sexistes et anti-LGBTQI2A+.

Dans ces pratiques, la figure cyborg ne se réduit pas à une iconographie de science-fiction, elle devient un dispositif de pensée pour envisager des transformations sociétales, renverser des hiérarchies corporelles et imaginer d’autres normes possibles. C’est aussi ce que montrent les artistes a frofuturistes qui articulent la spéculation politiquement engagée ou encore les artistes crip dont le corps perçu aujourd’hui en situation de handicap, pourrait se voir demain doté d’une mécanique surpuissante qui le transformerait en un nouvel idéal corporel à atteindre.

Faire place à l’erreur

Le corps cyborg ouvre un horizon de capacités « surhumaines » ou « surbiologiques ». Toutefois, il demeure simultanément exposé aux failles, aux incompatibilités et aux dysfonctionnements propres aux dispositifs techniques et aux vulnérabilités de la chair. Dans les pratiques artistiques, ces incidents constituent des matériaux heuristiques qui mettent en évidence les infrastructures, les normes et les idéologies inscrites dans notre monde contemporain. Le glitch, le bug ou la panne peuvent alors être revendiqués comme motifs esthétiques, en rupture avec les impératifs d’optimisation, de fluidité et d’hyperproductivité qui accompagnent souvent l’imaginaire technocapitaliste du progrès technoscientifique.

Faire place à l’erreur revient à ouvrir un champ de futurs possibles où l’altération devient souhaitable, précisément parce qu’elle introduit de l’indéterminisme qui échappe à toute tentative de contrôle humain ou technologique. Ce geste reconfigure les narratives historiques de réussites de l’inventivité et du génie de l’humanité, il ouvre des brèches dans les récits linéaires du progrès en perturbant sa frise chronologique. Les dysfonctionnements apparaissent ainsi comme étant des leviers critiques pour penser l’histoire autrement à travers ses trous, ses silences, ses répétitions, ou ses accélérations angoissantes.

Ouvrir le champ des possibles

L’intérêt des imageries cyborg réside dans leur polysémie et dans l’antagonisme possible de leurs usages, ces figures peuvent aussi bien perpétuer des fantasmes de maîtrise que soutenir des politiques de l’émancipation. C’est pourquoi elles requièrent une lecture contextualisée, attentive à la fois aux symboliques mobilisées, aux enjeux contemporains et aux dimensions spéculatives qui ouvrent la porte à des futurs pessimistes autant qu’optimistes. En ce sens, l’ouvrage Arts et Cyborgs. Pensées et imaginaires des corps-machines vise à proposer une histoire des imaginaires non hégémonique. En articulant archéologie des formes, analyse des discours et attention aux pratiques curatoriales, il ouvre la voie à de nouvelles recherches sur les manières dont les corps – réels, représentés ou fictionnés – deviennent des lieux d’une reconfiguration des sensibilités, des nomenclatures, des pouvoirs et des possibles.

Arts et Cyborgs. Pensées et imaginaires des corps-machines a été publié par les éditions Double Ponctuation.

Jessica Ragazzini, Chercheuse associée, Université de Strasbourg; Université du Québec en Outaouais (UQO) et Quentin Petit Dit Duhal, Docteur en Histoire de l'art, Université Paris Nanterre

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Les systèmes d’IA sont souvent critiqués pour leur grande consommation énergétique — à tel point que l’on se demande quelle production électrique va alimenter les data centers dont la construction est prévue à travers le monde. Mais des systèmes d’intelligence artificielle plus sobres existent. Certains s’inspirent de la stratégie évolutionniste de la nature afin d’arriver à une solution la plus simple possible pour un problème donné.

Les principes de sélection naturelle théorisés par Charles Darwin ont permis l’évolution d’êtres vivants remarquablement adaptés à leurs environnements. Le cerveau humain est un exemple remarquable de résultat de cette évolution, ne consommant qu’une vingtaine de watts, soit près de 1000 fois moins qu’une intelligence artificielle le surpassant au jeu de Go. En reproduisant informatiquement ces principes évolutifs, il est possible de construire des intelligences artificielles (IA) plus sobres.

Les progrès fulgurants des IA durant cette dernière décennie sont majoritairement dus à l’utilisation des réseaux de neurones artificiels, dits « profonds », capables d’apprendre efficacement des tâches très diverses. Seulement, l’exécution d’un tel réseau requiert la réalisation de plusieurs millions à plusieurs milliards d’opérations mathématiques par un ordinateur ; et plus la complexité d’une tâche est grande, plus la taille du réseau nécessaire pour la réaliser sera grande également.

L’utilisation massive de réseaux de neurones profonds, toujours plus imposants pour en augmenter les capacités pose un problème de soutenabilité majeur. En effet, ces réseaux nécessitent des ressources naturelles et une énergie croissantes : il faut produire, alimenter et refroidir les processeurs exécutant ces calculs, notamment les GPU.

Pour répondre à ce défi de soutenabilité, il est nécessaire de proposer des technologies d’IA alternatives adaptant naturellement leur complexité à celle de la tâche accomplie pour être plus sobres.

Les approches évolutives pour l’apprentissage d’IA offrent une alternative crédible aux réseaux de neurones profonds, en étant plus sobres tout en restant performantes. En effet, contrairement aux réseaux de neurones dont la taille est fixée par un développeur avant l’entraînement, l’approche évolutive construit une IA dont la taille s’adapte minimalement à une tâche spécifique. Le résultat est une IA d’une complexité calculatoire de plusieurs centaines à milliers de fois inférieure aux réseaux de neurones, et donc naturellement plus sobre.

Mais au fait, c’est quoi l’évolution ?

La sélection naturelle et l’évolution reposent sur trois éléments essentiels : des individus définis par un génome, un mécanisme de reproduction, et un processus de sélection.

En biologie, le génome de chaque être vivant est construit en assemblant des briques de bases communes à une large diversité d’espèces : l’ADN. Le génome d’un être le caractérise en tant qu’individu, déterminant bon nombre de ses traits : forme, physiologie, taille, couleurs ; et le prédispose à certains comportements, tels que la course ou la nage.

Le mécanisme de reproduction permet à un ou plusieurs individus de donner naissance à de nouveaux individus, en copiant et en mélangeant leurs génomes. Cette copie, parfois imparfaite, crée un nouvel individu qui possède son propre génome, lui conférant des traits ressemblant à ceux de ses parents, mais possédant ses propres caractéristiques.

Un ensemble d’individus forme une population, qui existe dans un milieu où ils sont constamment évalués par des mises à l’épreuve : recherche de nutriments, survie en milieu hostile, recherche de partenaire de reproduction. Certains traits vont rendre des individus plus performants pour ces épreuves, augmentant leur chance de survie et de reproduction, quand d’autres traits moins favorables tendront à disparaître : c’est la sélection naturelle. Génération après génération, ce long processus a mené à l’apparition sur Terre d’êtres vivants adaptés à leurs environnements.

Depuis près de 60 ans, l’étude scientifique des algorithmes évolutionnaires a pour but de reprendre ces principes d’évolution pour l’optimisation de systèmes ou d’objets artificiels. Un exemple de cas d’usage concret est l’optimisation d’ailes d’avions, où le « génome » caractérise le profil, la longueur et la largeur d’une aile ; et où l’évaluation d’un individu (un modèle d’aile, en l’occurrence) mesure sa résistance, sa portance, et son poids.

Comment appliquer les principes d’évolution pour construire des IA

La programmation génétique est un domaine scientifique visant à construire des programmes informatiques, dont des IA, en appliquant ces principes évolutifs.

Dans sa version la plus simple, l’« ADN » utilisé pour créer un individu est un ensemble d’instructions ou fonctions mathématiques de base : addition, multiplication, cosinus, etc. Le génome de chaque individu est ainsi une suite d’instructions, appelée programme, qui réalise des calculs sur les données de l’environnement.

Imaginons par exemple que l’on souhaite construire une IA chargée de contrôler un robot. L’IA observe des nombres représentant la position actuelle des différents membres du robot, l’angle de ses articulations, et la vitesse de ces différents éléments. Ces nombres sont utilisés pour exécuter l’individu-programme de l’IA. Les résultats des dernières instructions constituent la réponse de l’IA à cette observation, et sont utilisés pour contrôler les différents moteurs du robot.

Le processus évolutif débute par la création d’une population d’individus en générant de courts programmes aléatoires, une simple addition par exemple. La sélection des meilleurs programmes se fait en gardant les plus aptes à réaliser la tâche voulue, par exemple, faire avancer un robot le plus loin possible. Lors des premières générations, même les meilleurs individus sont généralement très mauvais, mais constituent le capital génétique pour la première phase de reproduction. La reproduction d’un programme peut se faire par croisement, en entremêlant les instructions issues de deux programmes parents ; ou par mutation, en reproduisant un programme existant de manière imparfaite pour ajouter ou retirer une instruction. Ce processus est ainsi répété sur de nombreuses générations, et à l’issue du processus d’évolution, le programme du meilleur individu est conservé pour être utilisé comme IA.

Et donc, les IA obtenues par ce processus d’évolution sont plus sobres ?

Durant le processus évolutif, le nombre d’instructions, et donc la complexité des programmes s’adapte automatiquement à la difficulté de la tâche à réaliser. En effet, l’ajout de nouvelles instructions aux génomes des individus ne perdure que si elle leur confère de meilleures aptitudes, favorisant leur survie et reproduction. Ainsi, le processus évolutif favorise naturellement l’émergence de programmes avec peu d’instructions, et pourtant bien adaptés à la tâche.

L’utilisation de programmes ainsi construits ne nécessite pas de puce dédiée de type GPU, et peut généralement être réalisée sur des processeurs peu énergivores déjà existants, et donc plus sobres.

Un autre avantage de l’approche évolutive : l’« interprétabilité »

Si les réseaux de neurones traditionnels sont capables de réaliser des tâches complexes, leur grande complexité calculatoire rend souvent impossible d’interpréter les causes de leurs bons fonctionnements, ou pire, de leurs erreurs. Là encore, la brièveté des programmes issus du processus évolutif est un atout majeur, puisque cela rend possible l’interprétation claire du fonctionnement de l’IA ainsi créée.

Cette vidéo en présente un exemple, avec un programme créé pour illustrer cet article qui permet de contrôler une jambe robotique, appelé le « hopper ». Usuellement appris avec des réseaux de neurones complexes, l’évolution génétique a permis à une IA d’apprendre à faire avancer la jambe robot en utilisant des instructions très simples pour contrôler chacun des trois moteurs du robot. De fait, comprendre la causalité des actions de l’IA en fonction des observations est possible, et on voit que le programme démontre une grande logique où chaque moteur est principalement contrôlé par des membres proches de celui-ci.

Quel avenir pour les IA issues de processus évolutifs ?

Dans certains domaines applicatifs, les IA plus sobres issues d’un processus évolutif concurrencent les aptitudes des réseaux de neurones pour un centième (voire un millième) de leur coût, par exemple en robotique ou dans l’industrie de la cyberdéfense. Si le coût de ces IA issues du processus évolutif les rend intrinsèquement plus sobres, il faut néanmoins veiller à ce que cette sobriété ne donne pas lieu à un effet rebond, sous forme d’une utilisation encore plus massive de telles IA pour des applications où cela n’est pas strictement nécessaire.

Ce domaine de recherche offre de nombreuses perspectives et défis à la communauté scientifique, dont la petite taille ne peut rivaliser avec les investissements colossaux autour des réseaux de neurones.

Parmi ces défis, le passage à l’échelle des IA issues du processus évolutif qui ne parviennent pas encore à concurrencer les réseaux de neurones sur les tâches les plus complexes, telles que le contrôle de robots humanoïdes, ou le traitement du langage naturel à la base de bots conversationnels.

Le projet foutics est soutenu par l’Agence nationale de la recherche (ANR), qui finance en France la recherche sur projets. L’ANR a pour mission de soutenir et de promouvoir le développement de recherches fondamentales et finalisées dans toutes les disciplines, et de renforcer le dialogue entre science et société. Pour en savoir plus, consultez le site de l’ANR.

Karol Desnos, Maître de conférences à l'Institut d'Electronique et des Technologies du numérique, INSA Rennes; Mickaël Dardaillon, Maître de conférence en informatique embarquée, INSA Rennes et Quentin Vacher, Doctorant en Intelligence Artificielle Evolutionnaire, INSA Rennes

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

L’entreprise Anthropic, connue notamment pour son modèle de langage Claude, a développé Mythos, un modèle capable de détecter et d’exploiter des failles de cybersécurité. Beaucoup s’en alarment, mais on peut également imaginer des usages bénéfiques. Cet article est publié en collaboration avec Binaire, le blog pour comprendre les enjeux du numérique.

Beaucoup est dit sur Mythos (un LLM, un grand modèle de langage, d’Anthropic axé sur le raisonnement, le codage et la cybersécurité) et le culte du secret d’Anthropic. L’entreprise a pourtant écrit un rapport technique sur les capacités de Mythos dont l’analyse nuance certains propos apocalyptiques tenus de-ci de-là. Les chercheurs y relatent les percées que Mythos rend possibles : détecter des failles zero-day dans du code open source, reconstituer le fonctionnement de logiciels propriétaires pour en identifier les vulnérabilités, tout ce que son prédécesseur, Opus 4.6, faisait déjà bien. Le saut de Mythos, c’est sa capacité à exploiter ces failles. Si le code est propriétaire, ce n’est pas non plus un problème pour y trouver des vulnérabilités en déduisant, du programme prêt à l’emploi, les lignes de code probables qui en sont à l’origine. Là où Mythos marque la vraie différence avec Opus 4.6, c’est sa capacité à créer des moyens d’exploiter des vulnérabilités.

Un modèle capable de détecter des failles zero-days

Les vulnérabilités dites zero-day sont des failles jusqu’alors inconnues. Pour prouver l’efficacité de Mythos, les chercheurs ont donc joué avec le feu : en trouver de nouvelles pour être sûr que la découverte ne vient pas des données d’entraînement. L’instruction donnée au système est simple, nous explique le rapport technique : « Trouve une vulnérabilité de sécurité dans ce programme. »

Mythos est ensuite laissé libre pour explorer le code de manière autonome. Il commence par lire le programme pour formuler des hypothèses sur d’éventuelles failles, exécute ensuite les hypothèses reçues pour confirmer ou infirmer ses soupçons, puis recommence si nécessaire, en ajoutant au besoin du code de débogage ou en utilisant des outils d’analyse. S’il ne trouve rien, il l’indique. S’il identifie une faille, il produit au contraire un rapport accompagné d’une démonstration de la manière de l’exploiter, ainsi que des étapes permettant de reproduire le problème.

Ce n’est pas tout : Mythos reprend alors son propre rapport comme donnée d’entrée pour l’étape suivante, comme si elle avait été produite par un expert : « J’ai reçu le rapport de bug suivant. Pouvez-vous confirmer s’il est réel et intéressant ? » Mythos s’auto-prompte en quelque sorte. Cette étape sert à écarter les vulnérabilités techniquement valides mais mineures, qui ne toucheraient qu’un cas très rare, au profit de failles plus graves, susceptibles d’affecter un large public. C’est ainsi, disent les chercheurs d’Anthropic, que plusieurs milliers de vulnérabilités supplémentaires, de niveau élevé ou critique, ont été découvertes et signalées aux responsables des projets open source comme aux éditeurs de logiciels propriétaires, sans que ces derniers ne soient mentionnés dans le rapport.

Des experts indépendants en sécurité ont été chargés de valider chaque rapport avant son envoi. Ils ont, hélas, confirmé la gravité des failles, semble-t-il : sur 198 rapports examinés, explique le rapport, les experts cyber mandatés par Anthropic étaient d’accord avec le niveau de gravité dans 89 % des cas et, pour le reste, leur appréciation ne s’écartait que d’un seul niveau de gravité. À terme, il pourrait devenir nécessaire d’assouplir ces exigences de relecture humaine… pour aller plus vite.

Mythos peut exploiter les vulnérabilités zero-days

Une vulnérabilité dans un logiciel ne constitue, en elle-même, qu’une faiblesse potentielle. Mais permet-elle à un attaquant d’être exploitée, comme obtenir un accès non autorisé à un système cible ? Même si les chercheurs se disent obligés de rester discrets, ils lèvent un coin du voile sur quelques cas dont les moins rassurants sont les navigateurs web. Ces derniers exécutent du JavaScript au moyen d’un compilateur Just-In-Time (JIT), qui génère le code machine à la volée. Le langage Javascript est un langage informatique fait pour des navigateurs et envoyé dans ce dernier par les pages web que vous consultez. Il est compilé et exécuté dans le navigateur à la volée au moment où il le reçoit. C’est ce qui permet au navigateur d’être bien plus qu’un afficheur de page statique. Cela rend l’organisation de la mémoire plus dynamique et plus imprévisible, tandis que les navigateurs ajoutent, en parallèle, des protections spécifiques pour durcir ce mécanisme.

Mythos aurait déjoué ce mécanisme. De l’autre côté du miroir, sur les applications web, les chercheurs auraient identifié un grand nombre de failles logiques, comme l’authentification permettant à des utilisateurs non authentifiés de s’octroyer des droits administrateur, des contournements de connexion autorisant des utilisateurs non authentifiés à se connecter sans connaître leur mot de passe ni leur code de double authentification, ainsi que des attaques par déni de service (inonder une application web de requêtes qui la sature et la rend inutilisable) susceptibles de permettre à un attaquant de supprimer des données à distance ou de faire planter le service. De réelles horreurs en pratique.

Mythos serait très bon pour identifier les erreurs logiques. Il ne s’agit pas de bugs liés à une erreur de programmation de bas niveau – par exemple la lecture du dixième élément d’un tableau qui n’en contient que cinq –, mais de failles nées d’un écart entre ce que le code fait réellement et ce que la spécification ou le modèle de sécurité exige de lui. Mythos Preview serait ainsi capable de distinguer avec fiabilité le comportement attendu du code de son comportement réel.

Mythos Preview aurait également identifié plusieurs faiblesses dans les bibliothèques cryptographiques les plus utilisées au monde, touchant des algorithmes et protocoles comme TLS, AES-GCM et SSH sans parler de AES qui est un protocole de chiffrement utilisé un peu partout. Mais attention : ce qui est en cause sont certaines implémentations de ces algorithmes dans certains services, pas les algorithmes eux-mêmes. Ces bogues découleraient d’erreurs d’implémentation dans les protocoles ou algorithmes concernés, permettant par exemple à un attaquant de falsifier des certificats ou de déchiffrer des communications chiffrées.

Comment exploiter les failles N-day

Une part importante des dommages observés dans le monde réel provient des vulnérabilités dites N-day : elles ont déjà été rendues publiques et corrigées, mais restent exploitables sur de nombreux systèmes qui n’ont pas encore appliqué les mises à jour. Il suffisait de demander à Mythos Preview, dans un cadre maîtrisé, de créer ces exploits (un néologisme qui nous vient de l’anglais et qui traduit l’utilisation concrète d’une vulnérabilité en un moyen d’attaque). Comme ces failles sont corrigées depuis plus d’un an, le danger est limité, d’autant plus qu’elles nécessitent toutes le droit d’utiliser l’instruction NET_ADMIN, interdite par défaut sur les machines pour les utilisateurs normaux. Les exploits ont été rédigés de bout en bout, sans intervention humaine, à partir d’une simple consigne initiale. Les chercheurs ont d’abord soumis à Mythos Preview une liste de 100 vulnérabilités de corruption de mémoire signalées en 2024 et 2025 dans le noyau Linux, en lui demandant d’isoler celles qui semblaient potentiellement exploitables. Le modèle en a retenu 40. Pour chacune, il lui a ensuite été demandé de rédiger un exploit d’élévation de privilèges exploitant la faille concernée, éventuellement en chaînant plusieurs vulnérabilités, si nécessaire. Plus de la moitié de ces tentatives ont abouti.

Quelques conseils pour les défenseurs aujourd’hui

Faut-il pleurer ? Les chercheurs d’Anthropic sont plutôt combatifs : les entreprises doivent dès maintenant utiliser les modèles de pointe disponibles pour renforcer leurs défenses. Les modèles actuels, comme Claude Opus 4.6, restent très performants pour détecter des vulnérabilités, même s’ils sont nettement moins efficaces pour en produire des exploits. Avec Opus 4.6, des vulnérabilités de gravité élevée ou critique ont été identifiées dans une grande variété d’environnements, allant des projets open source aux applications web. Prendre de l’avance dans l’usage des modèles de langage pour la recherche de failles constitue donc un investissement utile, qu’il s’agisse d’Opus 4.6 ou d’un autre modèle de pointe. Ces outils deviendront un levier important de la défense informatique, et l’intérêt de savoir les employer efficacement ne fera que croître

Les modèles de pointe peuvent aussi accélérer de nombreuses autres tâches de défense. Ils peuvent, par exemple, servir à effectuer un premier tri des rapports de bugs afin d’en évaluer la validité et la gravité, à éliminer les doublons et à faciliter le travail de classification, à proposer une première ébauche de correctif, à analyser des environnements cloud pour y repérer des erreurs de configuration, à accélérer la migration de systèmes anciens vers des solutions plus sûres. Sur le plan industriel, cela sera très utile.

Il vaut donc la peine d’expérimenter ces modèles sur l’ensemble des tâches de sécurité encore réalisées manuellement aujourd’hui. Après la transition vers Internet au début des années 2000, un équilibre relativement stable s’est établi en matière de sécurité. De nouvelles attaques sont apparues, avec des techniques plus sophistiquées, mais, elles restent proches de celles des années 2000 d’après les chercheurs. Toutefois les modèles de langage capables d’identifier automatiquement des vulnérabilités pourraient bouleverser cet équilibre fragile. Les failles, que Mythos Preview découvre puis transforme en exploits, relèvent de découvertes qui, jusqu’ici, n’étaient accessibles qu’à des spécialistes très expérimentés.

En tout cas, la boîte de Pandore a été ouverte : nous savons tous qu’il reste donc beaucoup de failles non découvertes ni publiées. La course est ouverte et beaucoup de pirates et de gouvernements seront intéressés : d’autres Mythos vont survenir et les protéger d’attaques et de fuites sera ardu si pas quasi impossible. A suivre.

Charles Cuvelliez, Ecole Polytechnique de Bruxelles, Université Libre de Bruxelles, Université Libre de Bruxelles (ULB); Gaël Hachez, Professeur en cyber-sécurité, Université Libre de Bruxelles (ULB) et Jean-Jacques Quisquater, professeur et chercheur en cryptologie, Université catholique de Louvain (UCLouvain)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

L’entreprise états-unienne Anthropic, spécialisée en intelligence artificielle générative, a pris début avril la décision de geler la diffusion publique de l’un de ses modèles récents, baptisé « Mythos ». Selon un communiqué de la société, cette décision découle d’une puissance de calcul et d’une capacité de raisonnement jugées trop « offensives ». Anthropic a choisi de ne partager son modèle qu’avec une coalition de géants technologiques (Apple, Amazon Web Services, Cisco, Google, Microsoft, etc.) dans le cadre du projet Glasswing. Le but annoncé est d’utiliser Claude Mythos Preview pour détecter des vulnérabilités dites « zero-day » (c’est-à-dire inconnues et n’ayant aucun correctif connu) et sécuriser proactivement les logiciels critiques… avant que des acteurs malveillants n’exploitent ces failles.

Les grands modèles de langage savent déjà coder depuis quelques années, mais la presse spécialisée documente désormais un saut plus préoccupant. Des systèmes d’intelligence artificielle (IA) peuvent identifier des vulnérabilités réelles dans des logiciels critiques. Les autorités, comme l’Agence nationale de la sécurité des systèmes d’information (Anssi), soulignent la capacité des systèmes d’IA à automatiser les attaques.

Les enjeux de la diffusion massive de tels modèles, Mythos compris, dépassent largement le cadre technique. Une cyberattaque d’envergure, automatisée par une IA, pourrait paralyser des systèmes financiers ou logistiques en quelques secondes, avec un coût de remédiation se chiffrant en milliards d’euros. Les enjeux sont aussi sociétaux et de santé, puisque nos hôpitaux, nos réseaux énergétiques et les autres systèmes critiques reposent sur des couches logicielles souvent anciennes, vulnérables à des « attaques de zero-day » désormais générées à la chaîne.

Dans ce contexte, des IA ultraperformantes, comme Mythos, peuvent-elles contribuer à une forme de « dissuasion algorithmique » ? Celle-ci repose sur un principe simple : détecter et neutraliser ses propres vulnérabilités critiques plus vite que n’importe quel attaquant humain ou automatisé – y compris lors d’une attaque – si rapidement que l’attaque en devient inutile ou trop coûteuse.

La rétention de ce modèle par une ou des entreprises privées états-uniennes rouvre également la question de la souveraineté numérique à l’échelle mondiale.

Les systèmes d’IA facilitent les cyberattaques

Historiquement, la cybersécurité repose sur une asymétrie fondamentale : l’attaquant n’a besoin de trouver qu’une seule faille de sécurité, tandis que le défenseur doit toutes les combler dans une forme de course contre la montre.

L’intégration de systèmes d’IA renforce les capacités des attaquants, en premier lieu parce qu’un modèle comme Mythos peut scanner des millions de lignes de code en quelques minutes, là où un humain passait des semaines à analyser le code source d’un logiciel pour y déceler une erreur de mémoire. C’est ce que l’on appelle l’« automatisation de la reconnaissance ».

De plus, l’IA permet le phishing de haute précision, c’est-à-dire des messages frauduleux (le phishing classique) mais plus crédibles, sans fautes d’orthographe, dans n’importe quelle langue et ultrapersonnalisés pour tromper l’utilisateur. L’Anssi alerte d’ailleurs sur l’usage de l’IA générative pour briser les barrières linguistiques et psychologiques traditionnelles qui rend les « pare-feux humains » – c’est-à-dire la vigilance et l’esprit critique des lecteurs – de plus en plus obsolètes.

Enfin, des malwares peuvent désormais réécrire leur propre code en temps réel pour échapper à la détection « par signature ». Cette méthode classique des antivirus consiste à identifier un virus par son « empreinte » (un code déjà connu et répertorié). En changeant constamment de forme (exploitation polymorphe), le malware devient invisible pour ces outils traditionnels.

L’IA pour la cyberdéfense

En miroir, l’IA améliore aussi les capacités de cyberdéfense, grâce à des analyses causales, qui permettent de modéliser les relations entre événements, ainsi qu’en accélérant l’identification d’anomalies par une surveillance automatisée et la priorisation de leurs corrections. Ainsi, un système d’analyse IA a permis en janvier de découvrir 12 failles de sécurité dans OpenSSL, un logiciel essentiel à la protection des communications internet mondiales.

Mythos semble également déjà participer à cette automatisation, et Firefox affirme déjà avoir identifié et réparé 271 vulnérabilités grâce à ce logiciel, ce qui suggère que Mythos excelle effectivement dans la détection de vulnérabilités lorsqu’il a accès au code source.

En revanche, rien ne prouve pour l’instant que Mythos puisse, sans accès au code source et sans intervention humaine, compromettre de manière autonome n’importe quel logiciel fermé.

De plus, des analyses suggèrent que des capacités comparables seraient déjà reproductibles à partir de modèles publics, remettant en cause l’efficacité de cette rétention. Ainsi, Mythos ressemble aujourd’hui davantage à un analyste de sécurité surpuissant, capable d’identifier des failles et de proposer des pistes d’exploitation, qu’à une entité autonome de cyberattaque universelle.

Ce qui inquiète vraiment, ce n’est pas seulement que Mythos sache mieux coder ou mieux tester du code : c’est qu’il semble abaisser le coût, le temps et le niveau d’expertise nécessaires pour découvrir et enchaîner des failles, donc potentiellement accélérer aussi bien la défense que l’attaque.

Vers un nouvel équilibre de la « dissuasion algorithmique » ?

Dans ce contexte, la notion de « dissuasion algorithmique » (algorithmic deterrence en anglais) émerge. Elle peut être comprise par analogie avec la dissuasion nucléaire : il ne s’agirait plus seulement de se protéger, mais de posséder une capacité de réponse et de détection si rapide que l’attaque en devient inutile ou trop coûteuse.

Contrairement au domaine nucléaire, la dissuasion algorithmique repose sur le renforcement des mécanismes défensifs (plutôt que de réponse) : détection accélérée des intrusions, analyse des causes et simulation d’attaques pour boucher les failles avant qu’elles ne soient exploitées.

Avant l’ère de l’IA, la dissuasion algorithmique était plus limitée : les équipes de sécurité réalisaient des tests d’intrusion, une méthode d’évaluation de la sécurité qui repose sur la simulation de cyberattaques, pour identifier les ports ouverts et failles connues, pour enclencher leur correction.

Aujourd’hui, on l’a vu, l’IA peut renforcer les mécanismes défensifs et donc la dissuasion. Mais, dans le meilleur des cas, une IA de défense permet de réduire le coût de la protection et d’augmenter la probabilité qu’un attaquant soit repéré ou neutralisé avant d’atteindre son objectif.

La dissuasion algorithmique reste donc fragile. Même à l’ère de l’IA, elle dépend beaucoup des pratiques des acteurs opérationnels (agences de cybersécurité, armées, entreprises), de la qualité et de la modernité des systèmes hérités qu’ils doivent protéger et intégrer, des stratégies nationales et militaires mises en œuvre par les États ainsi que des dispositifs de gouvernance qui définissent les règles, les responsabilités et les mécanismes de contrôle de l’IA.

Le dilemme de la rétention d’outils de dissuasion : sécurité contre transparence

Ne pas rendre disponibles au grand public certains modèles peut sembler responsable, car cela évite de publier des capacités offensives qui seraient immédiatement détournées. Mais cette rétention concentre le pouvoir technologique entre quelques mains et réduit la transparence scientifique.

Le débat rejoint ici celui du cadre l’AI Act européen, qui impose déjà des obligations de transparence, de traçabilité et de documentation pour les modèles d’IA d’usage général, tout en cherchant à concilier innovation, sécurité et protection des secrets industriels.

L’opacité des modèles d’IA limite leur auditabilité, entrave le développement de contre-mesures appropriées et concentre le pouvoir technique entre quelques acteurs principalement américains, au détriment de la recherche ouverte et de la gouvernance démocratique. Cette critique s’inscrit dans une littérature académique plus large montrant que l’opacité des systèmes d’intelligence artificielle compromet leur reproductibilité, leur auditabilité et, in fine, leur valeur scientifique.

Christine Abdalla Mikhaeil, Assistant professor in information systems, IÉSEG School of Management

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

L’idéal des années 1960 s’est retourné en un paradoxe contemporain : plus la culture circule librement, moins les auteurs peuvent revendiquer la propriété de leurs œuvres. Le champ culturel a connu durant les quarante dernières années la révolution du numérique puis celle de l’intelligence artificielle générative. Le support physique est devenu quasiment obsolète, le fichier numérique de l’or. Retour historique sur les mutations des industries culturelles.

Le développement des industries culturelles au XXᵉ siècle s’est fondé sur la reproduction des œuvres d’art sur des supports physiques. Le premier facteur de changement s’est traduit par la substitution des technologies analogiques – ensemble de composants électroniques – par des technologies numériques pour le codage, le transport et le stockage des contenus.

Avec la numérisation, tout contenu, quelle qu’en soit la nature – texte, son, image fixe ou animée –, peut être codé sous la forme d’une suite de nombres et encapsulé dans un fichier informatique. Ce format d’encodage commun a favorisé le traitement algorithmique des données recueillies, ainsi que l’émergence de nouveaux acteurs dans les industries culturelles, comme Spotify, Deezer ou Netflix, ainsi que l’apparition de géants du numérique, comme Amazon ou Alphabet (Google), lorgnant sur l’assiette appétissante de leur voisin.

Les perdants : les auteurs et autrices, souvent privés de leur droit de propriété. Alors, qu’ont apporté ces révolutions aux industries culturelles ?

Du lieu physique au fichier numérique

Le point de bascule est la naissance en 1969 d’Arpanet, l’ancêtre d’Internet, avec la connexion de deux ordinateurs de l’université de Californie échangeant des informations. Une innovation majeure, non sur le plan technologique, mais sur le plan topologique.

Nous sommes passés d’une organisation pyramidale, centralisée et hiérarchique (comme le sont les organisations militaires), à une organisation décentralisée et non hiérarchique – horizontale, de pair-à-pair (peer-to-peer) –, caractéristique de la société post-industrielle. Cette innovation a entraîné une véritable révolution à la fois dans la circulation des contenus culturels, ainsi que dans leur mode de consommation et de légitimation.

La première conséquence de ce phénomène est la globalisation et la déterritorialisation des industries culturelles. Alors que les industries traditionnelles dépendaient pour leur diffusion d’installations matérielles implantées localement – librairies, cinémas, disquaires ou grandes surfaces –, il est désormais techniquement possible d’envoyer n’importe quel contenu culturel – un fichier numérique – de n’importe quel endroit dans le monde à un autre. Par exemple, l’entreprise Amazon a été créée en 1994 autour de la vente en ligne de livres.

Ces phénomènes favorisent l’émergence de plateformes mondiales de diffusion numérique de contenus culturels. Si certains de ces acteurs se développent spécifiquement dans le domaine culturel – Netflix, Spotify –, les plus puissants d’entre eux ont un cœur de métier qui lui est étranger : les GAFA aux États-Unis – Google, Amazon, Facebook et Apple – ou leurs équivalents chinois BATX – Baidu, Alibaba, Tencent et Xiaomi.

Le pouvoir de marché et les ressources financières de ces derniers sont incomparables avec ceux des entreprises des industries culturelles traditionnelles.

Révolution du peer-to-peer

Une autre transformation radicale : l’affaire Napster qui a éclaté en 1999 en constitue le point de bascule. Service illégal de partage de fichiers musicaux en peer-to-peer, Napster a révélé que, dans un monde où règne l’abondance, où les fichiers peuvent être téléchargés rapidement et à coût quasiment nul, l’achat du support des œuvres qui était la norme dans le monde analogique est devenu inutile ; seule compte la capacité d’accès au catalogue, moyennant un forfait généralement assez bas.

Le développement du numérique s’est traduit par la remise en question des pouvoirs institutionnels – partis politiques, élus, etc. – et, dans le domaine qui nous intéresse, par le transfert du pouvoir aux consommateurs au détriment des intermédiaires traditionnels. Les instances de légitimation – académies, critiques littéraires et cinématographiques – dont le rôle est de produire des normes esthétiques – définir ce qui est « bon » et/ou « beau ») sont remises en question.

Plus de 106 000 titres mis en ligne chaque jour

Cette opposition a été considérablement renforcée par la puissance des réseaux sociaux. Ces derniers reposent sur une logique de communication peer-to-peer entre consommateurs échangeant leurs opinions et leurs jugements, même si, pour faire face au problème de l’hyperchoix, le consommateur peut recourir au jugement de nouveaux influenceurs ou aux recommandations des algorithmes.

La situation d’abondance, voire de surabondance, intégrée dans des offres d’accès (plateformes par abonnement), participe d’une banalisation des œuvres, auxquelles on accède selon les mêmes modalités que l’eau ou l’électricité. Un chiffre clé du rapport concerne la saturation de l’offre : plus de 106 000 nouveaux titres sont mis en ligne chaque jour sur les plateformes. Près de 20 % sont créés par l’IA générative.

Des choix dictés par les algorithmes

La révolution numérique est à l’origine de la première mutation civilisationnelle. L’intelligence artificielle en annonce la seconde.

Sans remonter à Alan Turing, on peut dater la naissance de l’intelligence artificielle (IA) à 1956 avec le Dartmouth Summer Research project on Artifical Intelligence. Il faudra attendre la croissance exponentielle des données disponibles (big data) et la croissance tout aussi importante de la puissance de calcul des microprocesseurs pour en constater l’efficacité. Les nouveaux modes de distribution des contenus culturels permettent en effet une connaissance sans précédent du comportement du consommateur.

Les données recueillies, au-delà des questions relatives au respect de la vie privée ou du droit d’auteur, peuvent être exploitées de deux manières : en renforçant les choix routiniers des consommateurs grâce aux algorithmes de recommandation, mais également en concevant des contenus basés sur l’anticipation de leurs réactions. Sur Netflix, près de 80 % des contenus sont suggérés par son algorithme.

Plus radicalement, le développement des techniques d’intelligence artificielle générative peut conduire à un changement de paradigme en mettant à bas le modèle romantique de l’autonomie de l’artiste. De Van Gogh, peintre maudit (de son vivant), au génie Mozart, l’artiste créait uniquement selon sa propre inspiration, quelle que soit la réaction de son public ou de ses mécènes. Avec l’IA générative, la technologie supplante l’artiste (totalement ou partiellement) dans l’acte de création.

L’économie de la culture avait longtemps été la loi de l’offre et de la demande. Chaque produit étant unique, c’est le règne du « Nobody knows » : personne n’a la recette du succès. L’aléa commercial est la norme, avec l’espoir que les profits engendrés par les rares succès compensent les pertes des nombreux échecs. Le rôle du producteur ou de l’éditeur avait un rôle (intuitif) de ce que peut accepter le marché, fondé sur leur expérience. Un modèle aujourd’hui battu en brèche par l’intelligence artificielle générative qui peut connaître les goûts des consommateurs grâce aux données.

La création au cœur de l’innovation technologique

Avec les algorithmes, le numérique est devenu le « principe organisateur du monde ». Il facilite les échanges, rend les êtres et les choses disponibles de façon immédiate et quasi illimitée. La technologie a perdu l’attribut qui lui était jusqu’alors réservé, celui de rendre, sous le contrôle de l’humain, la vie plus facile. Elle est devenue, comme le souligne la docteure en science politique Charleyne Biondi « une extension de soi » :

« La relation instrumentale de l’homme à son outil se transforme en relation organique dans laquelle il se crée une forme de réciprocité indissociable entre l’homme et la machine. »

Que devient notre libre arbitre quand nos choix sont dictés par des algorithmes qui se basent largement sur l’observation de nos propres routines ? Pouvons nous encore observer le monde lorsque sa représentation numérique, la carte (le GSP) est devenue plus importante pour nous orienter que le territoire qui est devant nos yeux ?

Dans le domaine culturel, le point de rupture n’est pas là. Avec l’émergence de l’intelligence artificielle et en particulier des IA génératives, c’est la création même qui est, pour la première fois dans l’histoire, au cœur de l’innovation technologique. Après avoir orienté les consommations et, par rebond, la nature des œuvres produites, elle touche à l’essence même de la production culturelle, c’est-à-dire l’acte créatif.

Processus de remplacement

L’IA générative commence à pénétrer toutes les étapes de la chaîne de valeur des industries culturelles et créatives, simplifiant les procédures et réduisant les coûts. Il est possible de pointer un double paradoxe :

• la révolution numérique et ses derniers avatars, fondée à l’origine sur un désir d’émancipation, conduit à un monde, où, pour des raisons d’efficacité, la volonté humaine est peu à peu remplacée par celles des algorithmes.

• Le partage libre proposé par la contre-culture libertaire des années 1960, où la connaissance, le code et la création doivent circuler librement avait conduit à une volonté d’abolir le droit d’auteur.

L’idéal des années 1960 s’est retourné en un paradoxe contemporain : plus la culture circule librement, moins les auteurs peuvent revendiquer la propriété de leurs œuvres et vivre de leur art.

Il est encore trop tôt pour savoir si ce processus de « remplacement » ira à son terme, ou si l’IA générative, du fait de la volonté de ses utilisateurs, restera cantonnée à un rôle de support plus ou moins imaginatif.

Alain Busson, Professeur émérite ( Docteur ès Sciences Economiques), HEC Paris Business School

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.