Par Ahmed Azough , Pôle Léonard de Vinci Si, aujourd’hui, nous sommes habitués à surfer sur Internet, partie émergée d’un énorme iceberg de données interconnectées, les évolutions technologiques récentes devraient bientôt nous permettre de nous immerger dans cet océan bouillonnant de big data. L’immersion vise à procurer à l’utilisateur un sentiment de présence en utilisant des technologies de captation et restitution sensorielle : l’utilisateur se sent transporté dans l’environnement digital créé par des technologies numériques, à tel point qu’ il ressent ces objets numériques virtuels comme faisant partie de sa réalité . De leur côté, les systèmes numériques détectent et interprètent de mieux en mieux les comportements et les émotions de leurs interlocuteurs , à tel point que l’humain a l’impression que ce système est conscient de sa présence et interagit volontairement. Les films Matrix et plus récemment Ready Player One reflètent bien cette idée : s’interposer entre
Implants cérébraux : la délicate question de la responsabilité juridique des interfaces homme-machine
Depuis quelques années, Elon Musk ne cesse de faire des annonces relatives à des avancées technologiques. Voitures autonomes, voyages interplanétaires, interface homme-machine, achat du réseau social Twitter… rien ne semble arrêter l’homme d’affaires. Aucun obstacle technique, géographique, physiologique ne lui semble infranchissable. Pourtant, ses projets pourraient, à court terme, poser de véritables difficultés du point de vue juridique.
La recherche d’une fusion entre le cerveau et l’intelligence artificielle
Avec Neuralink, l’un des objectifs visés par Elon Musk est de créer une interface entre l’humain et la machine. À plus ou moins court terme, le projet porte sur le développement d’implants cérébraux pour pallier des troubles neurologiques chez les personnes souffrant de paraplégie ou de tétraplégie. À long terme, il s’agirait de placer le cerveau humain en symbiose avec l’intelligence artificielle.
Ces implants ont fait l’objet de récentes annonces : ils pourraient être expérimentés chez l’humain courant 2022, si la Food and Drug Administration l’autorise. Rappelons que ces promesses ne sont pas inédites : elles avaient déjà été faites à plusieurs reprises ces dernières années. Elles s’inscrivent par ailleurs dans un contexte de recherche particulièrement riche, qui pointe certaines limites de l’utilisation de tels implants.
Des interrogations autour de la notion de « personnalité juridique »
La quête d’une interface entre humains et machines conduit à s’interroger sur ce qui pourrait advenir d’entités qui seraient véritablement en symbiose. La dichotomie entre les personnes et les choses persiste depuis des siècles. Elle structure le droit civil : tout ce qui n’est pas une personne est considéré comme étant une chose. Les premières sont des sujets de droit, c’est-à-dire qu’elles sont titulaires de droits et d’obligations. Les secondes sont soumises à la volonté des premières.
Il faudrait donc déterminer dans quelle catégorie placer ces entités reposant sur la symbiose entre l’homme et la machine. Aujourd’hui déjà, il est acquis que la « personnalité juridique » n’est pas seulement l’apanage des personnes humaines : les sociétés, par exemple, disposent de la personnalité morale. Elles ont ainsi des droits liés à leur personnalité juridique technique.
Certains proposent également de mobiliser cette construction juridique qu’est la « personnalité juridique » pour protéger les animaux.
Cette fiction pourrait-elle à l’avenir permettre d’accorder des droits à ces interfaces homme-machine ? Si oui, il faudrait encore déterminer de quels droits elles pourraient bénéficier. Certains droits visent en effet spécifiquement l’humain qui est en chaque individu. Les accorder à des entités mi-homme mi-machine serait un non-sens. À titre d’exemple, le respect de la dignité humaine impose de préserver l’intégrité génétique des personnes humaines. Une telle protection ne serait pas envisageable dans les mêmes termes pour ces nouvelles entités.
De manière plus générale, certains s’inquiètent de la possible confusion juridique entre personnes et choses.
Le corps, accessoire de la machine
À l’instar de l’hybride entre l’homme et l’animal, l’hybride entre l’homme et la machine serait une sorte de chimère, c’est-à-dire, un être composé de parties disparates formant un ensemble sans unité.
Une telle hybridation interroge les limites de la personnalité juridique. Si la partie technologique de l’entité intervient dans des proportions très importantes, il paraît difficilement concevable de lui attribuer la personnalité juridique dans les mêmes termes qu’à la personne humaine. Surtout, si le corps humain ne devient que le support de la machine, dirigée par l’intelligence artificielle, cette entité disposerait-elle toujours de la personnalité juridique ? Suivant la règle selon laquelle l’accessoire suit le principal, le corps, accessoire de la machine, devrait répondre au même régime : cette entité, même en disposant d’un corps humain, serait une chose, non une personne.
La particularité des implants cérébraux
Les implants cérébraux développés dans le cadre de Neuralink ne peuvent pas être traités comme n’importe quelle prothèse qui serait implantée dans le corps humain. Certes, le projet traite aujourd’hui de l’utilisation d’implants à des fins thérapeutiques.
Mais de tels implants pourraient, à l’avenir, devenir le siège de capacités cognitives nouvelles. La méfiance doit être de mise à l’heure où les voitures autonomes, déjà développées par le multimilliardaire, sont en cause dans des accidents de la circulation induits par des dysfonctionnements de l’intelligence artificielle.
Surtout, si les décisions ne sont pas prises de manière autonome par la personne humaine, mais plutôt supplantées par l’intervention de l’intelligence artificielle, cette dernière ne devrait-elle pas être titulaire de droits et, surtout, d’obligations ? Pourtant, dès lors qu’il ne s’agit que d’une chose, elle n’est qu’objet de droit.
La crainte d’un glissement dans l’usage des implants cérébraux
En somme, l’expérimentation d’implants cérébraux à des fins thérapeutiques est une chose, leur utilisation à des fins de symbiose entre l’homme et la machine en est une autre. Ces deux situations doivent être distinguées car elles ne répondent pas aux mêmes règles de droit.
Dans le premier cas, les implants pourraient être regardés comme des dispositifs médicaux, expérimentables sur l’homme, à des fins d’amélioration de sa santé. Dans le second cas, il s’agirait d’opter pour une augmentation des capacités humaines et donc, de s’inscrire dans le courant transhumaniste auquel Elon Musk semble appartenir. La difficulté qui se pose donc aujourd’hui face aux projets du multimilliardaire est donc de freiner de telles velléités transhumanistes. Menées à bien, ces ambitions poseraient de sérieuses difficultés en termes d’attribution de la personnalité juridique et, par conséquent, de responsabilité s’agissant des actes qui pourraient être réalisés par ces entités mi-homme mi-machine.
La multiplication des risques par l’usage des technologies
Plus encore, qu’adviendrait-il en cas de biohacking de l’implant ? Déjà, la série Biohackers a permis de souligner que les progrès scientifiques pouvaient conduire à des manipulations du génome à des fins criminelles.
Dans le cas de l’implantation cérébrale de puces disposant d’une intelligence artificielle, le hacking pourrait être particulièrement dangereux. Certains estiment d’ailleurs qu’une intelligence artificielle hackée serait une arme, permettant l’essor du cybercrime.
Elise Roumeau, Docteur et ATER en droit privé à l'Université Clermont Auvergne - Centre Michel de l'Hospital, Université Clermont Auvergne (UCA)
Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.