Accéder au contenu principal

Cloud, IA et autonomie stratégique : l’Arcep en première ligne pour une régulation européenne proactive

En matière de cloud et d'intelligence artificielle (IA), la régulation n’est pas un frein : tel est le message que Laure de La Raudière, présidente de l’Arcep, le gendarme français des Télécoms, est allée porter fin juin à Bruxelles devant les parlementaires européens. Alors que la Commission mène une consultation publique sur l’avenir des politiques en matière de cloud et d’IA, le régulateur français des télécoms défend l'idée de doter l’Europe d’un cadre économique pro-investissement, stable et ambitieux, au service de sa souveraineté technologique. Forte de son expérience dans le secteur des télécoms — où la régulation a permis à la France de devenir le premier pays européen en matière d’abonnements très haut débit —, l’Arcep plaide pour une approche transposable aux infrastructures numériques du futur. Car l’enjeu dépasse de loin le simple déploiement de serveurs ou d’algorithmes car il s’agit d’assurer l’autonomie stratégique de l’Union européenne dans un contexte de dépen...

Personnalité juridique pour les robots : l'Europe défavorable



Par Antoine Chéron, avocat associé, www.acbm-avocats.com

Depuis maintenant plusieurs années, le secteur de la technologie robotique a été particulièrement marqué par le développement de l’intelligence artificielle. La société des machines dans laquelle nous vivons aujourd’hui semble être à l’aube d’une nouvelle ère, où les robots ne seraient non plus utilisés à des fins purement techniques,  mais seraient dotés d’une véritable intelligence et autonomie, leur permettant de remplacer l’homme dans l’accomplissement de certaines tâches. Plusieurs applications de l’intelligence artificielle ont déjà été pensées, notamment dans les domaines de la production et le commerce mais également dans le transport, les soins médicaux, l’éducation et l’agriculture, avec pour objectif l’amélioration de la vie des peuples et la croissance économique.

Si ces nouvelles avancées technologiques sont le symbole du progrès et de l’avenir, elles apportent également un lot important de risques et de problématiques auxquels il est impératif d’apporter un encadrement et une protection juridique adaptés. En effet, le développement de l’intelligence artificielle soulève nécessairement des questions, en matière d’éthique, de sécurité, mais aussi de respect, de protection et de garantie de nos valeurs, et de nos droits et libertés fondamentaux.

Dans une proposition de résolution contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103 (INL), le Parlement européen s’est prononcé en faveur de la reconnaissance d’une personnalité juridique spéciale pour les robots, pour « qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques dotées de droits et de devoirs bien précis y compris celui de réparer tout dommage causé à un tiers ».

En revanche, dans un avis publié le 31 mai 2017, le Conseil économique social et européen (CESE) s’y est opposé, préférant plutôt une approche « human in command », de l’intelligence artificielle, dans laquelle « les machines restent des machines que les hommes ne cessent jamais de contrôler » comme l’a déclaré la rapporteur Catelijne Muller, ce pour des raisons compréhensibles de développement responsable, sûr et utile de l’intelligence artificielle.

Le CESE avance comme principal argument pour justifier sa position, le fait que les effets correctifs préventifs du droit de la responsabilité civile seraient mis à mal, ce que le Parlement européen avait d’ailleurs déjà remarqué, en notant que « les règles habituelles ne suffiraient pas à établir la responsabilité du robot, puisqu’elles ne permettraient pas de déterminer quelle est la partie responsable pour le versement des dommages et intérêts ni d’exiger de cette partie qu’elle répare les dégâts causés ». Le CESE soutient par ailleurs que la reconnaissance de la personnalité juridique aux robots créerait des risques d’abus et moraux trop importants.

On peut soulever de nombreuses autres difficultés que poserait la reconnaissance d’une personnalité juridique pour les robots.
En effet, bien que reconnus comme sujets de droits, les robots devront nécessairement être représentés et gérés de façon ultime par un être humain. Dès lors, quel serait le mode de désignation de ce représentant ? De plus, la notion de responsable de l’éducation du robot devrait être définie de façon très précise dans l’hypothèse où le robot serait mis à la disposition d’utilisateurs tiers.
La personnalité juridique impliquera la reconnaissance de droits. Un robot peut-il bénéficier de droits patrimoniaux impliquant qu’ils puissent être rémunérés ? Doit-on reconnaître aux robots des droits fondamentaux, similaires à ceux accordés aux personnes morales, tel que la protection des biens, l’accès à la justice, la liberté d’expression, d’entreprendre, ou encore le principe d’égalité.
Enfin, et surtout, se pose la problématique fondamentale de la sécurité. Le CESE distingue la sécurité interne de la sécurité externe. La sécurité interne conduit à se poser la question de savoir si le système d’intelligence artificielle est suffisamment solide pour (continuer à) fonctionner correctement, si l’algorithme est  fiable, efficace. La sécurité externe quant à elle se rapporte plutôt à l’utilisation du système d’intelligence artificielle au sein de la société, aussi bien dans une situation normale, qu’inconnue, critique ou imprévisible.

Autant de questions et d’incertitudes qui ont mené le CESE à se prononcer contre la reconnaissance de la personnalité juridique aux robots, et à émettre une série de propositions.

Ainsi, le CESE propose la création d’un code de déontologie pour le développement, le déploiement et l’utilisation de l’intelligence artificielle, afin que l’exploitation des robots ne porte pas atteinte à la dignité humaine, l’intégrité personnelle, la liberté, le respect de la vie privée, la diversité culturelle et plus largement aux grands principes protecteurs de l’être humain.

Le CESE propose également la mise en place d’un système paneuropéen de normalisation pour la vérification, la validation et le contrôle des systèmes d’intelligence artificielle, avec des normes en matière de sécurité, de transparence, d’intelligibilité, d’obligation de rendre des comptes et de valeurs éthiques, tel qu’il en existe dans les secteurs de l’alimentation et des appareils ménagers.

Enfin, le CESE souhaite la création d’une infrastructure d’intelligence artificielle européenne, composée de cadres d’apprentissage libres et respectueux de la vie privée, d’environnements d’essai en situation réelle et de séries de données de haute qualité pour que le développement et la formation des systèmes d’intelligence artificielle se fassent dans un cadre sûr et adapté.

Bien qu’un robot doté d’intelligence artificielle puisse prendre des décisions et agir de manière indépendante et autonome, il n’en demeure pas moins que cela résulte d’une programmation développée par l’homme. Dès lors, le robot n’existe pas par lui-même. A cela s’ajoute les risques qu’il représente pour l’être humain et la société en général, justifiant la position de la CESE concernant la reconnaissance d’une personnalité juridique aux robots, aussi spécifique soit-elle.

Posts les plus consultés de ce blog

Le bipeur des années 80 plus efficace que le smartphone ?

Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté...

Quelle technologie choisir pour connecter les objets ?

Par Frédéric Salles, Président et co-fondateur de Matooma   En 2021, le nombre total d'objets connectés utilisés atteindra les 25 milliards selon Gartner. Il est ainsi légitime de se demander quelles sont les technologies principales permettant de connecter les objets, et quelle pourrait être celle la plus adaptée pour sa solution. Un projet de vidéosurveillance par exemple n'aura absolument pas les mêmes besoins qu'un projet basé sur le relevé de température au milieu du désert. Ainsi pour trouver la meilleure connectivité pour son objet, de nombreuses questions peuvent se poser : mon objet fonctionne-t-il sur batterie ou est-il alimenté ? Mon objet restera-t-il statique ou sera-t-il mobile ?  Mon objet est-il susceptible d'être dans un endroit difficile d'accès ou enterré ? A quelle fréquence mes données doivent-elles remonter ? Etc. Voici les différentes solutions actuellement disponibles sur le marché. Courte distance : RFID/Bluetooth/WiFi La RFID (Ra...

La fin du VHS

La bonne vieille cassette VHS vient de fêter ses 30 ans le mois dernier. Certes, il y avait bien eu des enregistreurs audiovisuels avant septembre 1976, mais c’est en lançant le massif HR-3300 que JVC remporta la bataille des formats face au Betamax de Sony, pourtant de meilleure qualité. Ironie du sort, les deux géants de l’électronique se retrouvent encore aujourd’hui face à face pour déterminer le format qui doit succéder au DVD (lire encadré). Chassée par les DVD ou cantonnée au mieux à une petite étagère dans les vidéoclubs depuis déjà quatre ans, la cassette a vu sa mort programmée par les studios hollywoodiens qui ont décidé d’arrêter de commercialiser leurs films sur ce support fin 2006. Restait un atout à la cassette VHS: l’enregistrement des programmes télé chez soi. Las, l’apparition des lecteurs-enregistreurs de DVD et, surtout, ceux dotés d’un disque dur, ont sonné le glas de la cassette VHS, encombrante et offrant une piètre qualité à l’heure de la TNT et des écrans pl...

6 questions sur Zone-telechargement

Quel était ce site ? Zone-telechargement.com était jusqu'à lundi soir l'un des plus gros sites web français proposant de télécharger des contenus numériques illégaux. En grande majorité des films parfois très récents ; des séries télé notamment américaines qui n'étaient pas diffusées en France ; de la musique ; des logiciels et des jeux vidéo. Les séries et les films étaient disponibles en différentes qualités et ceux en langue anglaise étaient sous-titrés grâce à des communautés d'utilisateurs capables de sous-titrer des épisodes de série 24 heures après leur diffusion aux États-Unis. Le site comptabilisait, selon la gendarmerie, en moyenne 140 millions de pages vues par mois et 11 000 téléchargements par jour. La société Alexa affichait Zone-Telechargement à la 11e place des sites les plus visités de France… devant Twitter ! Zone-Telechargement proposait 18 000 films, 2 500 séries télé ; 11 000 documentaires ; 20 943 émissions télé ; plus de 150 000 MP3 mais aus...

D’IBM à OpenAI : 50 ans de stratégies gagnantes (et ratées) chez Microsoft

  Paul Allen et Bill Gates en 1970 à Lakeside School (Seattle). Microsoft naîtra cinq ans plus tard. Auteur inconnu/Wikimedia Par  Frédéric Fréry , ESCP Business School Insubmersible. Même la vague des Gafa n’a pas vraiment atteint Microsoft. Cinquante ans après sa création, soit une éternité dans le monde de la tech, la firme de Bill Gates et Paul Allen est toujours là et bien là. Retour sur ce qu’on appelle outre-Atlantique, une success-story avec quelques échecs. Cette semaine, Microsoft fête ses 50 ans. Cet article a été écrit sur Microsoft Word, à partir d’un ordinateur équipé de Microsoft Windows, et il sera vraisemblablement publié sur des plateformes hébergées par Microsoft Azure, notamment LinkedIn, une filiale de Microsoft qui compte plus d’un milliard d’utilisateurs. C’est dire l’influence de cette entreprise qui, en 2024, a dégagé un bénéfice net de 88 milliards de dollars po...

Écrans et santé oculaire : comment protéger nos yeux à l’ère du numérique ?

Par le Dr Camille Rambaud, co-fondateur de l’Institut Voltaire L’omniprésence des écrans dans nos vies transforme notre manière de travailler, de communiquer et même de nous divertir. Mais ce mode de vie connecté à un coût pour notre santé visuelle. Fatigue oculaire, sécheresse, maux de tête, troubles du sommeil : les symptômes de ce que l’on appelle désormais le syndrome de vision artificielle touchent de plus en plus de personnes, et ce, dès le plus jeune âge. Alors, comment protéger nos yeux sans renoncer aux technologies numériques ? Comprendre les risques : l’impact des écrans sur nos yeux La lumière bleue émise par les écrans numériques est l’un des principaux facteurs incriminés. Bien qu’elle soit essentielle pour réguler notre rythme circadien, une surexposition peut perturber le sommeil et provoquer des lésions oculaires à long terme. De plus, le clignement naturel des yeux diminue significativement devant un écran, ce qui entraîne une sécheresse oculaire accrue. Enfin, la pos...