Technomedia

En janvier 2026, OpenAI a lancé, aux États-Unis, ChatGPT Santé. Ce logiciel est principalement destiné aux patients pour les aider à mieux comprendre et à gérer leurs informations de santé. Il peut aussi être utilisé par les médecins afin de faciliter l’accès aux données médicales et d’améliorer le suivi des patients. Avec une telle utilisation par les médecins et les patients, la protection des patients – que ce soit leur santé ou leurs données – et la préservation du secret médical dépendent des barrières techniques mises en place.

En pratique, ChatGPT Santé permet d’interpréter des résultats d’analyses, de suivre l’évolution de certains indicateurs, de préparer des rendez-vous médicaux ou encore d’obtenir des explications personnalisées à partir de données de santé.

Pour les patients, c’est un outil d’assistance informationnelle visant à les accompagner dans leur parcours de soins, sans se substituer aux professionnels de santé. Pour ces professionnels, ChatGPT peut servir d’aide au diagnostic.

Dans les deux cas, sa légitimité dépend d’un équilibre délicat : il s’agit de transformer des dossiers médicaux éparpillés en une aide au diagnostic fiable, tout en protégeant la vie privée des patients.

En effet, les données de santé, considérées comme sensibles, sont soumises à des réglementations bien précises. Leur confidentialité est essentielle pour garantir le respect du secret médical et limiter les risques d’utilisation abusive. En effet, un accès non consenti par des assureurs ou des banques pourrait entraîner des refus de couverture, des hausses de primes ou des refus de crédit fondés sur l’état de santé d’un individu.

Pour pouvoir garantir la confidentialité des données de santé transmises et traitées par ChatGPT Santé (ou d’autres systèmes équivalents), il faut résoudre des défis techniques majeurs : sécuriser les flux de données, garantir l’anonymisation dans un environnement massivement interconnecté, à la fois lors de la collecte de données, de l’entraînement du modèle et de son utilisation.

Fiabilité algorithmique et risque d’hallucination clinique

En tout premier lieu, la protection du patient repose sur la justesse des informations fournies par l’IA aux utilisateurs, patients comme médecins.

Le phénomène d’hallucination, inhérent aux architectures de type Large Language Model (LLM), prend une dimension critique en milieu clinique : une erreur de conversion d’unité ou une confusion posologique (par exemple, 5 milligrammes contre 50 milligrammes) peut engager le pronostic vital.

Pour neutraliser ce biais, OpenAI déploie des « mécanismes d’ancrage » (grounding) par l’intermédiaire de référentiels tels que HealthBench, un benchmark de 150 000 ressources validées par des pairs. Ce processus transforme l’IA en un moteur de synthèse documentaire où chaque affirmation est corrélée à une source vérifiable (DOI d’études, portails hospitaliers), ce qui permet aux patients de mieux comprendre les résultats de leurs analyses avec un jargon moins technique.

Pour les professionnels de santé, cet ancrage rend l’outil plus fiable, car il repose dès lors sur le concept de garantie humaine : l’interface ne se substitue jamais au décideur final (le médecin, quand il s’agit de poser un diagnostic), mais agit comme un médiateur d’informations dont la traçabilité permet au praticien de valider systématiquement la suggestion du modèle.

Sécuriser les flux de communication

L’architecture de ChatGPT Santé repose sur une organisation claire des différents éléments : les phases de calcul (à distance ou en local) afin de permettre la collecte des données, l’entraînement du modèle et son utilisation ; mais aussi les flux d’information entre différents terminaux (smartphones, laboratoires d’analyses, hôpitaux, data centers, etc.).

La circulation des données est gérée par la plateforme B.Well Connected Health. Cette infrastructure agit comme une interface consacrée au domaine médical, permettant de faire communiquer entre elles différentes sources de données même si elles sont très différentes.

Elle permet ainsi d’harmoniser des données variées, comme celles issues d’applications personnelles (Apple Health, MyFitnessPal) ou celles provenant des dossiers médicaux hospitaliers. En vérifiant que chaque donnée correspond bien au bon patient, et en garantissant que les données respectent les normes et règles en vigueur, la plateforme assure un flux de données déterministe ou associé à un seul utilisateur pour la phase d’inférence du LLM (c’est-à-dire son utilisation grâce à des prompts). L’ensemble de cette chaîne de traitement s’opère dans un environnement maintenu en isolation totale vis-à-vis du réseau public.

Contrairement à l’interface standard de ChatGPT, les informations cliniques des patients sont exclues du processus d’entraînement global du modèle de langage : elles ne modifient jamais les poids synaptiques du réseau de neurones global de ChatGPT. Ces données personnelles sont stockées uniquement dans un espace de recherche spécifique à chaque utilisateur, ce qui garantit que les informations sensibles restent séparées du modèle et de son évolution ultérieure.

De plus, l’architecture de ChatGPT Santé s’appuie sur la méthode RAG (Retrieval-Augmented Generation) : au lieu de mémoriser l’historique médical, le modèle consulte, lors de chaque requête, une base de données privée et isolée. Contrairement à une mémorisation classique, où un modèle pourrait intégrer et retenir directement des informations sensibles dans ses paramètres, ce mécanisme limite le risque que ces données soient apprises ou réutilisées involontairement par le modèle.

Cependant, ces vecteurs restent temporairement stockés sur les serveurs d’OpenAI, notamment pour des raisons de modération, jusqu’à trente jours. Cette conservation, même limitée, représente un point de vulnérabilité potentiel, car elle expose les données à un risque résiduel d’accès non autorisé.

Anonymiser les données pour éviter l’identification des patients

La protection des données dans ChatGPT Santé doit garantir que la nature des informations traitées ne permette pas l’identification du patient.

La première technique de « dés-identification » mise en place par OpenAI est bien sûr de retirer les identifiants directs, par exemple les noms de patients. Mais ceci n’élimine pas le risque de réidentification par corrélation de métadonnées, rendant l’anonymat vulnérable. En effet, une récente étude a démontré que le croisement de seulement trois points de données (une pathologie rare, une géolocalisation précise et un historique de fréquence cardiaque issu d’un wearable) permet une réidentification dans plus de 80 % des cas. Par sa capacité de corrélation, l’IA peut en effet lier des informations anonymes pour isoler un profil unique.

Pour neutraliser ce risque, ChatGPT Santé pourrait se reposer sur la « confidentialité différentielle », qui consiste à ajouter une petite perturbation aléatoire aux données afin qu’aucune analyse ne puisse être rattachée avec certitude à un individu.

L’efficacité du système dépend de la gestion de ce compromis entre bruit et confidentialité : un niveau de confidentialité trop élevé sacrifie l’utilité clinique des informations (qui sont trop bruitées pour être utiles), alors qu’un bruit insuffisant fragilise le secret médical face à la puissance d’analyse croisée des systèmes d’IA.

Garder les données confidentielles lors de la phase d’utilisation du LLM

Si ChatGPT Santé s’appuie sur un chiffrement de bout en bout pour sécuriser les flux de communication, le véritable défi réside dans la protection des données en cours d’utilisation, lors de la phase dite d’« inférence ».

En effet, l’architecture des modèles de type transformer impose à ce jour au système de déchiffrer l’information pour opérer ses calculs d’inférence. Cela implique que, même de manière fugitive, les données de santé résident en clair dans la mémoire vive (RAM) des serveurs de calcul, constituant un point de vulnérabilité face à des vecteurs d’attaque de type « extraction de mémoire ».

L’avenir de la confidentialité des données de santé repose sur des techniques de chiffrement avancées, notamment le chiffrement homomorphe. Cette approche permet d’effectuer des calculs directement sur des données chiffrées, sans avoir besoin de les déchiffrer au préalable. Autrement dit, il est possible de traiter les données tout en les gardant protégées, ce qui garantit que leur contenu reste inaccessible, même pendant leur utilisation.

Pour l’instant, OpenAI adopte une approche hybride : l’utilisation de serveurs spécifiques sur Microsoft Azure doit permettre de garder les données séparées des données des autres utilisateurs (ou celles d’autres applications que ChatGPT Santé). Cette organisation crée un environnement proche d’un système interne (également appelé « sur site »), même s’il repose sur le cloud. Elle permet de mieux protéger les échanges de données, mais n’élimine pas totalement les risques d’exposition temporaire lors de leur traitement.

Le conflit de souveraineté : les données françaises face aux lois états-uniennes

Enfin, le déploiement de ChatGPT Santé en Europe poserait un défi de souveraineté majeur.

En effet, en France, la législation impose l’hébergement des données cliniques chez des prestataires certifiés « Hébergeurs de données de santé ». Bien que Microsoft Azure dispose de centres de données certifiés en France (France Central), le calcul intensif requis par l’IA nécessite des processeurs ultrapuissants qui consomment énormément d’énergie. Pour des raisons de disponibilité électrique, ces moteurs de calcul sont souvent situés dans des fermes de serveurs hors de l’Union européenne.

Or, ce déport de la donnée vers des serveurs états-uniens déclenche l’application du Cloud Act, une loi qui permet aux autorités des États-Unis d’exiger l’accès aux informations gérées par une entreprise états-unienne, indépendamment de leur lieu de stockage physique.

Ce cadre entre en collision directe avec le règlement général sur la protection des données (RGPD) européen, créant un conflit de lois où la protection européenne s’effacerait devant les prérogatives de sécurité américaines.

Nesrine Kaaniche, Associate professor, Télécom SudParis – Institut Mines-Télécom

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Depuis la médiatisation de ChatGPT, les annonces se sont multipliées concernant l’intelligence artificielle, chaque géant du numérique développant sa solution. En apparence, il s’agit d’une concurrence féroce entre des groupes rivaux. La réalité pourrait être bien plus nuancée. Les concurrents ne cherchent peut-être pas tant à dominer les autres qu’à devenir des briques indispensables aux succès de leurs concurrents.

De prime abord, la concurrence dans l’intelligence artificielle (IA) générative ressemble à une bataille économique classique : Google contre Meta, Meta contre Anthropic, OpenAI contre Google… Cette approche succincte a l’avantage de la simplicité, mais elle a également le défaut de masquer ce qui fait la singularité de ce secteur.

La concurrence sur ce marché ne prend pas seulement la forme d’une confrontation directe et la course à l’innovation. Elle passe aussi par la capacité à rendre les adversaires dépendants de soi.

Cœur de la concurrence

Pendant des années, du moins au cours de l’émergence de l’IA et des premières années de sa croissance, le cœur de la concurrence dans ce secteur a semblé évident. Sur ce marché – pour s’imposer – il fallait disposer du meilleur assistant IA, soit un programme informatique conçu pour comprendre les demandes humaines, les traiter et leur répondre, de manière plus ou moins naturelle. Mais cette lecture devient moins suffisante aujourd’hui.

Le Stanford AI Index 2025 indique que près de 90 % des modèles dits « courants » d’assistants IA de 2024 proviennent du secteur privé, contre 60 % en 2023, tandis que le milieu universitaire reste la principale source de recherche. Et surtout que les écarts de performance entre les meilleurs modèles se resserrent de manière progressive : l’écart entre le premier et le dixième est tombé de 11,9 % à 5,4 % en un an, tandis que les deux premiers ne sont plus séparés que par 0,7 point.

Autrement dit, lorsque les modèles deviennent techniquement plus proches, la seule supériorité du modèle devient moins discriminante. Dès lors, l’avantage concurrentiel tend à se déplacer : il va moins au seul producteur du modèle qu’à celui qui contrôle les actifs complémentaires (Adner, 2017, Teece, 1986).

La stratégie judicieuse de Microsoft

C’est ce qui rend dans cet esprit la stratégie de Microsoft particulièrement judicieuse. Avec Azure, Microsoft ne propose pas seulement ses propres offres ou celles d’OpenAI, la plateforme met également à disposition des usagers les modèles d’Anthropic, de Cohere, de DeepSeek, de HuggingFace, de Mistral, de Meta ou de Nvidia. L’enjeu stratégique paraît clair : Microsoft peut gagner même si le modèle qui s’impose n’est pas exclusivement le sien. Son pouvoir tiendrait alors moins à la supériorité d’un modèle particulier qu’à sa position d’intermédiaire.

Amazon suit une logique comparable avec Amazon Bedrock, qui permet d’accéder aux modèles proposés par Anthropic, DeepSeek, Meta, Mistral, OpenAI, Qwen, Stability AI et d’autres entreprises. Là encore, le succès de la stratégie ne provient pas seulement de la possession d’un modèle, mais également de l’organisation de l’accès à plusieurs modèles concurrents. Dans un tel système, un acteur peut monétiser la rivalité de ses propres adversaires, c’est-à-dire utiliser l’affrontement entre ses concurrents comme opportunité pour générer des revenus. Le marché devient dans cette veine moins un marché de produits qu’un marché de points d’entrée.

Cette logique n’est pas entièrement inédite. Elle prolonge un mécanisme déjà observé dans d’autres industries de plateforme : les app stores, les marketplaces ou les écosystèmes logiciels.

Ce qui semble toutefois plus spécifique à l’IA générative tient au fait que la concurrence ne porte pas seulement sur le contrôle de l’accès aux modèles concurrents, mais aussi sur la maîtrise des actifs complémentaires qui permettent de convertir leurs performances techniques en solutions utilisables par les clients : infrastructures cloud, puissances de calcul, semi-conducteurs spécialisés, canaux de distribution, données propriétaires, interfaces d’intégration et écosystèmes logiciels.

Devenir indispensable, même pour ses adversaires

Anthropic offre dans cette perspective un bon exemple de cette concurrence inédite. D’un côté, l’entreprise se mesure frontalement à OpenAI et à Google sur les modèles d’assistants d’IA. De l’autre, elle s’appuie sur plusieurs couches technologiques qui ne lui appartiennent pas entièrement. LeMaGit rapportait, le 22 novembre 2024, que l’entreprise utilise des AWS Trainium, des TPU conçus par Google et des GPU Nvidia (« puces » spécialisées pour l’intelligence artificielle, conçues pour entraîner et faire fonctionner des modèles plus rapidement que des processeurs classiques) afin de développer et mettre en œuvre Claude (un assistant d’IA, similaire à ChatGPT, créé par l’entreprise Anthropic).

Cette dépendance à des infrastructures externes s’est précisée en octobre 2025, lorsque Anthropic a annoncé l’extension de son usage des technologies Google Cloud, comprenant jusqu’à un million de TPU. Dans le même temps, Anthropic a annoncé officiellement avoir signé avec Google et Broadcom un nouvel accord portant sur la production de « plusieurs gigawatts » de capacité de calculs (TPU) de nouvelle génération à partir de 2027.

Être concurrent, ici, ne signifie donc pas s’émanciper des autres, s’éloigner d’eux ; cela laisse entendre, le plus souvent, l’apprentissage de la répartition de ses dépendances.

Oligopoles et interdépendance

La relation entre Microsoft et OpenAI illustre une autre variante de cette logique. Dans leur déclaration commune du 27 février 2026, les deux firmes soulignent que leur partenariat a été conçu pour leur laisser « de l’espace [afin de]… poursuivre de nouvelles opportunités de manière indépendante », tout en continuant de collaborer. Cette phrase résume bien la structure du secteur : l’indépendance proclamée n’abolit pas l’interdépendance ; elle s’y superpose. Nous sommes ainsi loin de la quête de l’indépendance sur les marchés oligopolistiques, comme le soulignait naguère l’économiste Alain Cotta.

Dans l’IA générative, nous ne sommes pas non plus dans une coopétition au sens de Brandenburger et Nalebuff (1996), mais dans une dynamique concurrentielle dans laquelle une firme cherche à accroître sa puissance non seulement en surpassant ses rivales, mais en devenant également indispensable à leur fonctionnement. Il ne s’agit donc pas uniquement de préserver son autonomie face aux rivaux, mais de construire des positions telles que cette autonomie devient elle-même relative, parce que médiatisée par des actifs contrôlés par d’autres.

Demain n’est pas un autre jour

La dynamique concurrentielle relative à l’IA se distingue par un autre trait : elle est de plus en plus un affrontement de « préemption » (Ian McMillan, 1983). Les acteurs ne se battent pas seulement pour vendre aujourd’hui ; ils préparent déjà les conditions de leur puissance de demain.

Le quotidien économique belge l’Écho a révélé, il y a quelques jours, que Broadcom a signé avec Google un accord de long terme pour co-développer et fournir ses puces IA jusqu’en 2031. Quelques jours plus tard, Reuters indiquait que Meta avait renforcé son partenariat avec CoreWeave par un nouvel accord de 21 milliards de dollars (plus de 18 milliards d’euros), venant s’ajouter à un précédent contrat de 14,2 milliards (soit 12,2 milliards d’euros), le tout courant jusqu’en décembre 2032. L’enjeu est loin d’être anecdotique ; ces accords donnent accès à de la capacité cloud future et, pour Meta, aux futures « puces » Vera-Rubin de Nvidia via CoreWeave.

Nous saisissons alors, à partir de ces exemples, pourquoi la concurrence dans l’IA générative ne ressemble pas vraiment à une guerre de marché classique. Dans beaucoup de secteurs, la victoire reposerait sur l’évincement, temporaire ou définitif, du rival. Ici, elle consiste souvent à devenir l’infrastructure, l’intermédiaire ou le fournisseur dont l’adversaire ne peut pas aisément se passer. Le pouvoir se déplace, dans cette perspective, vers le contrôle des « points de passage » : l’accès aux utilisateurs, la capacité de calcul, l’hébergement, les plateformes d’intégration, les « puces ».

Et les régulateurs ?

Cette structure de marché explique parallèlement pourquoi les autorités de concurrence regardent désormais au-delà des seuls modèles économiques de chaque entreprise. Le 24 mars 2026, Reuters rapportait que Teresa Ribera, commissaire européenne à la concurrence, élargissait sa vigilance à l’ensemble de la « pile » IA : les modèles économiques proprement dits, les données d’entraînement (informations utilisées pour apprendre à un modèle de machine learning à faire des prédictions, à reconnaître des schémas ou à générer du contenu) et l’infrastructure cloud.

Ce déplacement du regard est somme toute logique. Si le pouvoir de marché réside désormais dans les dépendances organisées, il ne suffit plus alors de se contenter d’observer qui produit le meilleur assistant IA. Il faut nécessairement regarder qui contrôle les points de passage incontournables du secteur. La bonne question ne consiste peut-être plus à identifier celui qui gagnera à terme la course à l’IA. La question la plus juste serait : qui réussira à se rendre indispensable aux autres ?

Mokhtar Bouzouina, Docteur en sciences de gestion, Université Paris Nanterre et Faouzi Bensebaa, Professeur de sciences de gestion, Université Paris Nanterre

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Hallucinations, empoisonnement des données, monoculture algorithmique : les vulnérabilités de l’IA appliquée à la finance sont réelles. Surtout, il n’est pas certain que tous ces nouveaux risques soient convenablement appréhendés aussi bien par les intervenants directs du secteur que par les autorités de régulation. Comment faire pour mieux prendre en compte ces différentes failles ?

Faut-il faire confiance à l’intelligence artificielle (IA) pour gérer son épargne ? La question ne relève plus de la science-fiction. La grande majorité des acteurs des marchés financiers français utilisent déjà l’IA ou prévoient de le faire, selon l’Autorité des marchés financiers. Pourtant, les vulnérabilités de ces systèmes restent largement sous-estimées. Parmi les régulateurs et les professionnels de la finance, un constat partagé s’impose : avant de confier davantage la finance à l’IA, il faut en mesurer précisément les risques.

L’enthousiasme pour l’IA est compréhensible. Les modèles de langage (LLM) peuvent analyser en quelques secondes des milliers d’articles de presse, de rapports d’analystes et de données de marché. Certains fonds d’investissement dont les équipes ont développé des compétences en IA affichent des performances supérieures à celles de leurs pairs, comme le montrent des analyses récentes.

Mais ce constat doit être nuancé. Les gains observés se concentrent dans les fonds discrétionnaires, c’est-à-dire ceux où l’IA assiste un gérant expérimenté plutôt qu’elle ne le remplace. La formule gagnante semble être « l’humain avec la machine », et non « la machine au lieu de l’humain ».

Des vulnérabilités structurelles

Les failles de l’IA ne sont pas accidentelles, elles sont structurelles. Pour Wassim Bouaziz, spécialiste de la sécurité de l’IA chez Mistral AI, « les modèles de langage sont intrinsèquement instables. Une perturbation minimale dans les données d’entrée, comme l’ajout de quelques espaces dans un texte, par exemple, peut inverser complètement le résultat produit ».

Le phénomène d’hallucination, par lequel un modèle génère des informations entièrement fabriquées, a déjà causé des dégâts mesurables. Plus d’un millier de décisions de justice ont ainsi été influencées par des contenus hallucinés produits par des LLM, selon un site spécialisé qui répertorie ces cas.

Plus inquiétant encore, ces systèmes sont vulnérables à des attaques délibérées. L’injection de prompt consiste à insérer des instructions cachées dans les données que traite le modèle. Exemple marquant : un texte invisible intégré dans un CV peut influencer les recommandations de recrutement faites par ChatGPT. Transposé à la finance, le risque est évident. Un agent IA qui consulte des sites d’information ou des bases de données pourrait voir ses décisions détournées par des contenus malveillants.

L’empoisonnement des données d’entraînement représente une menace plus insidieuse. Une étude de 2024 a montré qu’il était possible de contaminer 1 % des données d’entraînement d’un modèle pour un coût dérisoire en rachetant des noms de domaine expirés dont le contenu était référencé dans les corpus d’apprentissage. Dans un secteur où un biais introduit dans un modèle peut se traduire par des milliards d’euros de transactions orientées, ce type d’attaque constitue un risque systémique.

Le piège de la monoculture algorithmique

Au-delà des attaques ciblées, un risque structurel émerge de l’adoption massive des mêmes technologies. Les modèles de langage sont entraînés sur des corpus largement similaires, issus d’internet, avec les biais que cela comporte. Lorsque l’ensemble des acteurs d’un marché utilise des outils fondés sur les mêmes architectures et les mêmes données, leurs décisions tendent à converger. Cette monoculture algorithmique peut amplifier les mouvements de marché. En effet, si tous les modèles se trompent dans la même direction au même moment, les pertes se propagent à l’échelle du système.

Le précédent existe. Le flash crash de 2010, durant lequel l’indice Dow Jones a perdu 9 % en quelques minutes sous l’effet d’interactions entre algorithmes, illustre ce que produit une défaillance corrélée. Avec la généralisation de l’IA générative, dont les mécanismes internes sont beaucoup plus opaques que ceux des algorithmes de trading classiques, le risque d’un événement systémique d’un type nouveau ne peut être écarté.

Un régulateur face à un défi inédit

L’Autorité des marchés financiers (AMF) observe cette transformation avec attention. Comme le rappelle son secrétaire général Sébastien Raspiller, « l’IA est encore principalement utilisée pour des fonctions internes (recherche, conformité, analyse) et peu pour le conseil direct aux épargnantes et épargnants ».

Mais la frontière se déplace. Un chiffre donne la mesure du problème de fiabilité. Interrogés sur des données financières basiques des entreprises (dette nette, résultats), les différents grands modèle d’IA n’ont produit qu’un faible pourcentage de réponses exactes. Un tel taux d’erreur serait inacceptable pour une conseillère ou un conseiller humain.

La question de la responsabilité reste ouverte, car un algorithme ne peut être sanctionné. Quand un agent IA effectue un virement ou passe un ordre de Bourse sur la base d’une instruction empoisonnée, la chaîne des responsabilités devient difficile à établir. Le règlement européen sur l’IA classe certaines applications financières parmi les systèmes « à haut risque », exigeant transparence, explicabilité et supervision humaine. Reste à savoir si ces exigences peuvent être satisfaites dans la pratique, quand les décisions se prennent en quelques millisecondes.

Explicabilité, un enjeu de confiance

Dans la gestion d’actifs, la capacité à justifier une décision d’investissement n’est pas un luxe, c’est une obligation fiduciaire. Or, les modèles de langage fonctionnent comme des boîtes noires. Ils ne peuvent pas expliquer pourquoi ils recommandent telle action plutôt que telle autre.

Comme l’ont souligné plusieurs intervenantes et intervenants de la conférence, les sociétés de gestion les plus avancées proposent des réponses à cela. Certaines font par exemple tourner des modèles en parallèle pour détecter les biais. D’autres décomposent le processus de décision en dizaines de sous-tâches confiées à des agents spécialisés afin de mieux identifier la source d’éventuelles défaillances. Enfin, certaines empêchent les analystes débutantes et débutants d’utiliser l’IA afin de préserver l’apprentissage par l’expérience.

Ce dernier point souligne un paradoxe. L’IA transforme un métier dont elle pourrait simultanément appauvrir la transmission des compétences. Si les professionnels de demain délèguent d’emblée le processus de décision financière à une machine sans en maîtriser les fondamentaux, ils perdent la capacité critique nécessaire pour détecter ses erreurs. L’enjeu de formation est donc indissociable de la question technologique. Il ne s’agit pas seulement de former à l’IA, mais de former à penser en présence de l’IA.

Investir dans la recherche publique

Alors jusqu’où peut-on confier la finance à l’IA ? La question posée ici n’appelle pas de réponse binaire. L’IA est déjà dans la finance, et elle y restera. Ce qui reste à déterminer, ce sont les conditions de son déploiement. Quels mécanismes de supervision, quelle transparence, quelle place pour le jugement humain ?

Les travaux de recherche menés à l’Université Paris Dauphine – PSL visent précisément à fournir les éléments de preuve nécessaires pour que ce débat ne soit pas confisqué par les seules promesses commerciales.

Cet article fait partie du dossier « IA : la finance fait les comptes  » réalisé par Dauphine Éclairages, le média scientifique en ligne de l’Université Paris Dauphine – PSL.

Serge Darolles, Professeur de Finance, Université Paris Dauphine – PSL et Fabrice Riva, Professeur de Finance, Université Paris Dauphine – PSL

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

En proposant une archéologie des imaginaires du corps-machine – des mythes antiques aux pratiques féministes, queer, afrofuturistes et crip – l’ouvrage Arts et Cyborgs. Pensées et imaginaires des corps-machines retrace les usages esthétiques et politiques de l’hybridation, tout en situant les controverses contemporaines liées à l’intelligence artificielle dans une longue histoire des artefacts anthropomorphes.

Depuis plusieurs années, l’intelligence artificielle (IA) suscite une attention croissante, tant dans les pratiques artistiques que dans les travaux universitaires. Deux postures tendent à structurer, parfois de manière caricaturale, les débats qui l’entourent : d’une part, elle suscite l’enthousiasme pour les formes inédites d’interaction et de co-production entre humain et machine ; d’autre part, elle provoque une grande inquiétude face aux risques d’appauvrissement des interprétations du monde, de standardisation des formes et de réification du vivant.

Dans l’un comme dans l’autre cas, la proximité supposée d’une machine dont « l’intelligence » qui serait comparable à celle de l’être humain, voire susceptible de la dépasser, est au cœur de la polarisation. Or, cette fascination et les peurs qu’elle charrie ne surgissent pas ex nihilo. En effet, depuis l’Antiquité, les créations artificielles, les figures anthropomorphes et les récits de création constituent des réflexions privilégiées qui éprouvent les limites du vivant et permettent de repenser la définition de l’être humain.

Dans ce contexte, l’ouvrage Arts et Cyborgs. Pensées et imaginaires des corps-machines propose une synthèse de l’histoire longue de la fascination pour les objets et corps anthropomorphes. Ce projet retrace une généalogie à la fois artistique, philosophique et curatoriale de l’hybridation entre chair et technique, représentation centrale de la culture contemporaine et passée. Rejetant l’idée d’un inventaire exhaustif, cette publication présente les continuités et ruptures afin d’offrir des outils conceptuels permettant de situer les formes actuelles dans un réseau de références plus ancien et complexe.

Une figure-limite

Forgé en 1960 par les scientifiques Nathan S. Kline et Manfred E. Clynes, le terme « cyborg » désigne un organisme cybernétique susceptible d’adapter le corps humain aux conditions d’une vie extraterrestre. Au-delà de cette origine technoscientifique, l’imaginaire cyborg s’est rapidement constitué comme une construction du rapport à soi et aux mondes à titre de figure-limite, au sein de laquelle se rejouent les partages entre organisme et artefact, autonomie et contrôle, vulnérabilité et puissance.

Réinvestie par les luttes et mouvements sociaux à partir des années 1970, la figure du cyborg contribue à déstabiliser les catégories binaires, en particulier celles du genre, et à interroger les régimes de normalisation qui organisent les rapports sociaux et sociétaux.

Cette fécondité critique est théorisée de manière décisive par la philosophe et biologiste Donna Haraway dans son Manifeste Cyborg dans lequel le cyborg apparaît comme un paradigme politique qui remet en question les logiques de pouvoir fondées sur des oppositions naturalisées (corps/objet, vivant/machine, nature/culture). En ce sens, il ouvre un horizon spéculatif et prospectif qui mène à envisager des futurs possibles où les catégories mêmes par lesquelles nous décrivons l’humanité et la non-humanité se trouvent reconfigurées, dans un entre-deux instable entre biologie et technologie.

Échapper aux normes sociales et symboliques

Si la culture contemporaine attribue au cyborg une myriade de définitions parfois concurrentes ou même contradictoires, celles-ci s’inscrivent dans une histoire plus vaste des représentations de la figure humaine. Dès l’Antiquité, des récits tels que l’histoire de Pygmalion ou celle d’Hermaphrodite déplacent des frontières réputées stables entre être et matière (la pierre animée), entre masculin et féminin, entre fabrication et engendrement montrant la complexité des modes d’existence qui échappent finalement aux nomenclatures fixes et stéréotypées. Au fil des siècles, de tels mythes se sont multipliés devenant des matrices narratives par lesquelles les artistes ont pu imaginer des formes abolissant ou contestant les normes sociales et symboliques de leur époque.

Parallèlement, la philosophie a élaboré des cadres conceptuels visant à préciser ce qui distingue l’être humain du non-humain, mais aussi ce qui les relie tels que l’agentivité, la sensibilité, le langage, la technique, etc. Les controverses actuelles relatives à l’IA – notamment lorsque des systèmes génératifs produisent images ou sons à partir de corpus préexistants – réactivent ainsi des questions anciennes : ces productions relèvent-elles d’une forme de création analogue à celle d’un artiste mobilisant un bagage culturel ? Les deux types de productions sont-elles radicalement opposées du fait de l’impossible subjectivité humaine du programme génératif ? Ces débats ne sont pas sans rappeler ceux prononcés lors de l’apparition de la photographie qui révélaient déjà les craintes d’usage des dérives d’une image réaliste indirectement produite par l’être humain.

Envisager des transformations sociétales

Ainsi, si la photographie est aujourd’hui largement reconnue comme un médium artistique à part entière, son histoire rappelle que les technologies visuelles ne sont jamais neutres. Au début du XX^e siècle, l’usage volontiers patriarcal de la photographie de la part de certains artistes futuristes et surréalistes contraste avec les expérimentations de Hannah Höch ou de Claude Cahun, qui en font un outil de déstabilisation des identités, des normes de genre et des régimes de représentation.

De manière comparable, l’hybridation technologique contemporaine par laquelle la figure cyborg prend forme dans les œuvres féministes et queer constitue un contrepoint critique face à la circulation massive sur les réseaux sociaux, d’images d’IA reconduisant des stéréotypes sexistes et anti-LGBTQI2A+.

Dans ces pratiques, la figure cyborg ne se réduit pas à une iconographie de science-fiction, elle devient un dispositif de pensée pour envisager des transformations sociétales, renverser des hiérarchies corporelles et imaginer d’autres normes possibles. C’est aussi ce que montrent les artistes a frofuturistes qui articulent la spéculation politiquement engagée ou encore les artistes crip dont le corps perçu aujourd’hui en situation de handicap, pourrait se voir demain doté d’une mécanique surpuissante qui le transformerait en un nouvel idéal corporel à atteindre.

Faire place à l’erreur

Le corps cyborg ouvre un horizon de capacités « surhumaines » ou « surbiologiques ». Toutefois, il demeure simultanément exposé aux failles, aux incompatibilités et aux dysfonctionnements propres aux dispositifs techniques et aux vulnérabilités de la chair. Dans les pratiques artistiques, ces incidents constituent des matériaux heuristiques qui mettent en évidence les infrastructures, les normes et les idéologies inscrites dans notre monde contemporain. Le glitch, le bug ou la panne peuvent alors être revendiqués comme motifs esthétiques, en rupture avec les impératifs d’optimisation, de fluidité et d’hyperproductivité qui accompagnent souvent l’imaginaire technocapitaliste du progrès technoscientifique.

Faire place à l’erreur revient à ouvrir un champ de futurs possibles où l’altération devient souhaitable, précisément parce qu’elle introduit de l’indéterminisme qui échappe à toute tentative de contrôle humain ou technologique. Ce geste reconfigure les narratives historiques de réussites de l’inventivité et du génie de l’humanité, il ouvre des brèches dans les récits linéaires du progrès en perturbant sa frise chronologique. Les dysfonctionnements apparaissent ainsi comme étant des leviers critiques pour penser l’histoire autrement à travers ses trous, ses silences, ses répétitions, ou ses accélérations angoissantes.

Ouvrir le champ des possibles

L’intérêt des imageries cyborg réside dans leur polysémie et dans l’antagonisme possible de leurs usages, ces figures peuvent aussi bien perpétuer des fantasmes de maîtrise que soutenir des politiques de l’émancipation. C’est pourquoi elles requièrent une lecture contextualisée, attentive à la fois aux symboliques mobilisées, aux enjeux contemporains et aux dimensions spéculatives qui ouvrent la porte à des futurs pessimistes autant qu’optimistes. En ce sens, l’ouvrage Arts et Cyborgs. Pensées et imaginaires des corps-machines vise à proposer une histoire des imaginaires non hégémonique. En articulant archéologie des formes, analyse des discours et attention aux pratiques curatoriales, il ouvre la voie à de nouvelles recherches sur les manières dont les corps – réels, représentés ou fictionnés – deviennent des lieux d’une reconfiguration des sensibilités, des nomenclatures, des pouvoirs et des possibles.

Arts et Cyborgs. Pensées et imaginaires des corps-machines a été publié par les éditions Double Ponctuation.

Jessica Ragazzini, Chercheuse associée, Université de Strasbourg; Université du Québec en Outaouais (UQO) et Quentin Petit Dit Duhal, Docteur en Histoire de l'art, Université Paris Nanterre

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.