Technomedia

Par Jérôme Duberry, Graduate Institute – Institut de hautes études internationales et du développement (IHEID); Christine Lutringer, Graduate Institute – Institut de hautes études internationales et du développement (IHEID); Laura Bullon-Cassis, Graduate Institute – Institut de hautes études internationales et du développement (IHEID) et Manuel Hubacher, Graduate Institute – Institut de hautes études internationales et du développement (IHEID)

Alors que ChatGPT et d’autres formes d’intelligence artificielle (IA) générative font progressivement leur entrée dans de nombreux aspects de nos vies personnelles et professionnelles, où en est-on de la construction de la gouvernance mondiale de l’IA ?

Aux niveaux national et régional, de nombreux efforts de régulation ont été déployés ces dernières années, avec l’adoption de plusieurs documents notables : l’Acte sur l’IA au niveau européen, l’executive order de la Maison Blanche aux États-Unis, ou encore la nouvelle réglementation sur les contenus générés par l’IA, qui fait suite à d’autres textes visant à encadrer l’IA adoptés en Chine pour ne citer qu’eux.

Ces trois approches de l’IA reflètent des valeurs et priorités qui divergent, entre laisser le champ libre à l’industrie technologique pour innover, et imposer un encadrement plus strict des usages les plus problématiques et risqués, par exemple la reconnaissance faciale. Face à ces divergences, le risque existe de voir émerger un découplage au niveau mondial et une baisse de l’interopérabilité des technologies.

Au niveau international, ces perspectives s’articulent autour de deux questions principales : comment gouverner l’IA et que gouverner exactement ? Au-delà, dans quelle mesure les jeunes générations sont-elles au fait des enjeux, et comment peuvent-elles être intégrées dans cette éventuelle future gouvernance mondiale ?

Gouverner l’IA : oui mais comment ?

Contrairement aux premiers développements de la gouvernance de l’Internet, la gouvernance de l’IA s’élabore dans un contexte géopolitique plus polarisé et incertain avec l’émergence de multinationales technologiques qui concentrent à la fois capacité financière et capacité d’innovation, comme Google, Microsoft ou encore Huawei.

Pour certains États, l’IA est une priorité de sécurité nationale ; dès lors, sa gouvernance doit rester au sein de la diplomatie multilatérale, par exemple l’Union internationale des Télécommunications (UIT). Pour d’autres, il est essentiel d’inclure dans la gouvernance de l’IA les acteurs non étatiques, c’est-à-dire les entreprises technologiques, la société civile et le monde de la science.

De surcroît, il s’agit de décider s’il est nécessaire de créer une nouvelle agence aux compétences globales, comparable à l’Agence internationale de l’énergie atomique (AIEA), ou si sa gouvernance peut être accomplie de manière distribuée au sein des instances internationales actuelles. Cette seconde approche reviendrait à déléguer la responsabilité de la gouvernance en fonction des secteurs. Par exemple, l’Organisation mondiale de la santé (OMS) serait en charge de gouverner l’IA pour le secteur de la santé publique mondiale.

Mais de quoi parle-t-on au juste quand on parle de « gouverner l’IA » ?

La deuxième grande question, tout aussi épineuse, porte sur l’objet de la gouvernance. Que faut-il gouverner ?

Faut-il se focaliser sur l’étape actuelle de l’IA (ce que l’on appelle artificial narrow intelligence ou « weak AI »), ou sur la gouvernance de ses futurs développements (ce que l’on appelle artificial general intelligence et artificial super intelligence) ?

Les enjeux sont très différents. La première option consiste à chercher à réguler l’usage et le déploiement de l’IA dans nos sociétés actuelles afin de limiter les risques et impacts sociétaux (liés au rôle de l’IA dans la production et la distribution de fausses nouvelles et à ses effets sur l’environnement, car l’IA générative est très énergivore).

La seconde tend, elle, à se concentrer sur une approche plus futuriste et « préventive », et tenter de gouverner une Super IA qui serait tellement puissante qu’elle présenterait un risque existentiel pour la survie humaine.

Ce sont précisément ces questions qui vont être abordées à Genève fin mai 2024 lors du Sommet mondial sur la société de l’information (WSIS), de la Journée de la gouvernance de l’IA), et du Sommet mondial sur l’Intelligence artificielle pour le bien commun. Ces trois événements, organisés par les Nations unies et en particulier l’UIT, visent à renforcer la coopération mondiale dans le domaine des technologies numériques en vue de construire des sociétés de l’information et de la connaissance inclusives, durables et centrées sur l’être humain.

Si l’IA demande une approche pluridisciplinaire et sectorielle de par ses usages et impacts aussi variés que nombreux, et pour certains encore en développement, Genève et ses 42 organisations internationales, ses 181 représentations étatiques, ses 42 organisations internationales, ses 750 ONG et ses grandes universités est un lieu privilégié pour gouverner cette technologie et trouver des réponses communes aux défis globaux qu’elle pose.

La question de la participation de la jeunesse

Pour ce qui a trait aux technologies, et en particulier à l’IA, la question de la participation est cruciale. Les acteurs qui participent au développement, au déploiement et à la gouvernance de l’IA ont une influence directe sur un partage plus ou moins équilibré des bénéfices et des risques de cette technologie.

Au regard du nombre de femmes dans l’industrie et la recherche en IA, le développement de cette technologie est fort peu représentatif de la diversité du monde. La question de la participation pose celle de la légitimité de la technologie. Le manque de diversité et de représentativité dans son développement est souvent cité comme un des facteurs principaux pour ses implications sociétales les plus négatives, par exemple le renforcement des discriminations à l’égard de populations marginalisées. De plus, face à la multiplication des sommets et des processus sur la gouvernance de l’IA, participer devient coûteux. Où les pays du sud global et la société civile sont-ils représentés ?

Pour la jeune génération, qui est déjà confrontée à des inégalités en matière de représentation politique, l’imbrication de l’IA et de la politique représente un défi urgent. Les jeunes sont particulièrement vulnérables à la désinformation car ils ont tendance à manquer de littératie numérique malgré leur usage intensif des réseaux sociaux, la littératie numérique étant leur aptitude à non seulement utiliser les outils numériques, mais aussi et surtout à en comprendre les enjeux et à développer une approche critique de leurs usages.

Cela est d’autant plus préoccupant qu’ils utilisent intensivement des plates-formes de médias sociaux incapables d’atténuer la propagation de la désinformation, comme TikTok. Et parmi les jeunes, les premières cibles des campagnes de deepfakes et de désinformation sont souvent les jeunes femmes et les groupes vulnérables tels que les jeunes des communautés LGBTIQ+. De plus, les transformations du marché du travail engendrées par des IA plus ou moins biaisées concernent avant tout les plus jeunes générations ; celles-ci devraient donc d’autant plus avoir droit à la parole sur la gouvernance de cette technologie qui va fortement impacter leur avenir.

Mais comment renforcer leur participation dans la gouvernance mondiale de l’IA, comme à Genève en mai ? Des études ont montré que les jeunes, quand ils sont présents, ce qui reste rare, sont souvent mis à l’écart des prises de décision, et instrumentalisés, victimes de « youthwashing » par les élites économiques et politiques présentes dans les sommets internationaux. Être perçu comme « jeune » ne leur permet pas toujours d’être pris au sérieux dans ces sommets, même sur des thématiques qui mobilisent les jeunes en masse comme la justice climatique.

Il est essentiel, pour que les débats conduits au cours de ces sommets mènent à des conclusions utiles et inclusives, que la voix de jeunes de multiples cultures soit non seulement incluse mais aussi et surtout entendue. Pour une équipe interdisciplinaire basée à l’Institut de Hautes études internationales et du développement (IHEID) travaillant sur le projet « Stories of the Future », soutenu par le Fonds national suisse, cela commence avant tout par la sensibilisation et l’éducation au niveau local. Il s’agit de mettre en lumière le fonctionnement de base de l’IA et ses enjeux afin de permettre aux jeunes de développer une approche critique de cette technologie.

Alors que l’IA devient omniprésente et reste pourtant souvent invisible, et que ses décisions sont souvent opaques et difficilement explicables, il est urgent que les jeunes puissent développer une littératie de l’IA afin de pouvoir contribuer à décider de sa gouvernance au niveau local et international, et bénéficier de ses avancées au lieu de les subir. Une des clés est d’intégrer la littératie de l’IA dans les curriculums.

C’est ce que nous avons pu expérimenter lors des 160 ateliers de prospective narrative que nous avons menés dans des écoles des trois régions linguistiques de Suisse. À cette occasion, nous avons utilisé l’IA générative pour permettre aux jeunes de rédiger un récit du futur sur les implications sociétales de l’IA en se basant sur un des dix principes de l’Unesco pour une approche de l’IA basée sur les droits humains. Cette approche a permis de sensibiliser les jeunes aux enjeux et les aider à développer une compréhension plus critique de cette technologie qui façonnera leur avenir, et dont ils devraient co-construire la gouvernance. La route est longue, mais elle commence dans nos écoles.

Jérôme Duberry, Senior Researcher, Managing Director Tech Hub, Graduate Institute – Institut de hautes études internationales et du développement (IHEID); Christine Lutringer, Senior Researcher and Executive Director, Albert Hirschman Centre on Democracy, Graduate Institute – Institut de hautes études internationales et du développement (IHEID); Laura Bullon-Cassis, Chercheuse post-doctorale, Graduate Institute – Institut de hautes études internationales et du développement (IHEID) et Manuel Hubacher, Postdoctoral collaborator, Graduate Institute – Institut de hautes études internationales et du développement (IHEID)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Par Ben Kravitz, Indiana University et Tyler Felgenhauer, Duke University

L’emblématique accord de Paris sur le climat a donné naissance à un nouveau slogan dans les pays en développement : « 1,5 pour rester en vie ». Il se réfère à l’objectif international de maintenir le réchauffement climatique en dessous de 1,5 °C par rapport à l’ère préindustrielle. Mais le monde dépassera probablement ce seuil d’ici une décennie, et le réchauffement climatique ne montre que peu de signes de ralentissement.

Le monde est déjà confronté à des catastrophes naturelles qui prennent des proportions épiques en raison de l’augmentation des températures. Les records de chaleur sont régulièrement battus. Les saisons des feux de forêt sont de plus en plus extrêmes. La violence des ouragans augmente. L’élévation du niveau de la mer, enfin, submerge lentement les petites nations insulaires et les zones côtières.

La seule méthode connue pour arrêter à court terme cette hausse des températures est l’ingénierie climatique. Elle recoupe des techniques appartenant à la géo-ingénierie. Certaines permettent de réduire artificiellement l’ensoleillement, ce qui est aussi connu sous le nom d’interventions solaires sur le climat. Il s’agit d’un ensemble d’actions visant à modifier délibérément le climat.

L’intention est d’imiter l’effet refroidissant des grandes éruptions volcaniques historiques, soit en plaçant dans l’atmosphère de grandes quantités de particules réfléchissantes, soit en éclaircissant les nuages bas au-dessus de l’océan. Ces deux stratégies permettraient de renvoyer une petite partie de la lumière du soleil vers l’espace afin de refroidir la planète.

De nombreuses questions restent toutefois sans réponse quant aux effets d’une modification délibérée du climat. Est-ce une bonne idée de seulement se poser la question ? Il n’y a pas de consensus scientifique.

L’une des principales préoccupations de nombreux pays en matière de changement climatique est la sécurité nationale. Il ne s’agit pas seulement de guerres : les risques pour l’approvisionnement en nourriture, en énergie et en eau sont des questions de sécurité nationale, tout comme les migrations humaines provoquées par le climat.

L’ingénierie climatique pourrait-elle contribuer à réduire les risques du changement climatique pour la sécurité nationale, ou au contraire aggraverait-elle la situation ? Répondre à cette question n’est pas simple, mais les chercheurs qui, comme nous, étudient les liens entre changement climatique et sécurité nationale ont quelques idées sur les risques à venir.

Le changement climatique, un problème majeur

Pour comprendre à quoi pourrait ressembler l’ingénierie climatique à l’avenir, examinons d’abord les raisons pour lesquelles un pays pourrait vouloir l’essayer.

Depuis la révolution industrielle, l’homme a rejeté environ 1 740 milliards de tonnes de dioxyde de carbone (CO₂) dans l’atmosphère, principalement en brûlant des combustibles fossiles. Ce dioxyde de carbone emprisonne la chaleur et réchauffe la planète.

L’une des choses les plus importantes que nous puissions faire est de cesser de rejeter du carbone dans l’atmosphère. Mais la situation ne s’améliorera pas rapidement, car le CO₂ met des siècles à être éliminé de l’atmosphère. La réduction des émissions ne fera qu’empêcher la situation de s’aggraver davantage.

Les pays pourraient extraire le dioxyde de carbone de l’atmosphère et le confiner quelque part, processus appelé élimination du dioxyde de carbone (en anglais, Carbon Dioxyde Removal, ou CDR). À l’heure actuelle, les projets d’élimination du dioxyde de carbone, notamment le fait de planter ou replanter des arbres et les dispositifs de capture directe du CO₂ de l’air, permettent de retirer de l’atmosphère environ 2 milliards de tonnes de CO₂ par an.

Mais l’humanité rejette actuellement dans l’atmosphère plus de 37 milliards de tonnes de CO₂ par an du fait de la consommation de combustibles fossiles et des activités industrielles. Tant que la quantité de CO₂ ajoutée dans l’atmosphère sera supérieure à la quantité éliminée, les sécheresses, les inondations, les ouragans, les vagues de chaleur et l’élévation du niveau de la mer, parmi les nombreuses autres conséquences du changement climatique, continueront de s’aggraver.

Il faudra sans doute beaucoup de temps pour réduire à zéro nos émissions nettes de CO₂, c’est-à-dire pour ne plus augmenter les concentrations de gaz à effet de serre dans l’atmosphère. L’ingénierie climatique pourrait être utile dans cet intervalle.

Qui veut s’essayer à l’ingénierie climatique ?

Différents organismes de recherche gouvernementaux dans élaborent déjà des scénarios examinant qui pourrait décider de mettre en œuvre l’ingénierie climatique et comment.

L’ingénierie climatique devrait être peu onéreuse par rapport au coût que représente l’élimination des émissions de gaz à effet de serre. Mais il faudrait tout de même des milliards de dollars et des années de développement et de fabrication pour obtenir une flotte d’avions capable de transporter, chaque année, des mégatonnes de particules réfléchissantes dans la stratosphère. Tout milliardaire envisageant une telle entreprise se retrouverait rapidement à court d’argent, en dépit de ce que la science-fiction pourrait suggérer.

Malgré tout, un seul pays ou une coalition de pays constatant les effets néfastes du changement climatique pourrait faire un calcul géopolitique et financier. Et décider de mettre en place des pratiques d’ingénierie climatique de sa propre initiative.

C’est ce que l’on appelle le problème du « free driver », c’est-à-dire que si le coût de ces technologies n’est pas prohibitif, un pays moyennement riche pourrait décider unilatéralement de modifie le climat de la planète.

• Par exemple, les pays confrontés à des vagues de chaleur de plus en plus dangereuses pourraient vouloir provoquer un refroidissement du climat.

• Les pays qui dépendent des précipitations de la mousson pourraient vouloir rétablir une certaine fiabilité que le changement climatique a perturbée.

• L’Australie étudie actuellement la possibilité de refroidir rapidement la Grande Barrière de Corail pour éviter sa disparition.

La création de risques pour les pays voisins

Sauf que le climat ne respecte pas les frontières nationales. Ainsi, un projet d’ingénierie climatique dans un pays serait susceptible d’affecter les températures et les précipitations dans les pays voisins. Cela pourrait être une bonne ou une mauvaise chose pour les cultures, l’approvisionnement en eau et les risques d’inondation. Cela pourrait également avoir des conséquences inattendues à large échelle.

Certaines études montrent qu’un niveau modéré d’ingénierie climatique aurait probablement des effets bénéfiques à grande échelle quant au changement climatique. Mais tous les pays ne seraient pas affectés de la même manière.

Une fois les mesures d’ingénierie climatique déployées, les pays pourraient également être plus enclins d’accuser la géo-ingénierie d’être à l’origine des événements extrêmes tels que les ouragans, les inondations et les sécheresses, quelles que soient les preuves.

L’ingénierie climatique peut déclencher des conflits entre les pays, conduisant à des sanctions et à des demandes de compensation. Le changement climatique peut rendre les régions les plus pauvres plus vulnérables encore, et l’ingénierie climatique ne devrait pas exacerber ces dommages. Certains pays, en bénéficiant de l’ingénierie climatique, seraient plus résilients face aux conflits géopolitiques, tandis que d’autres seraient lésés – et d’autant plus vulnérables.

Certes, des expériences de faible échelle ont été menées, mais personne n’a encore pratiqué l’ingénierie climatique à vaste échelle. Cela signifie que beaucoup d’informations sur ses effets reposent sur des modèles climatiques. Or, si ces modèles sont d’excellents outils pour étudier le climat, ils ne permettent pas de répondre aux questions liées à la géopolitique et aux conflits. En outre, les effets physiques des mesures d’ingénierie climatique dépendraient aussi pour beaucoup de l’approche utilisée.

La prochaine étape

Pour l’instant, l’ingénierie climatique suscite plus de questions que de réponses. Il est difficile de dire si l’ingénierie climatique risque d’aggraver les conflits ou si elle pourrait désamorcer certaines tensions internationales en réduisant le changement climatique.

Il est toutefois probable que des décisions internationales sur l’ingénierie climatique seront bientôt prises. Lors de l’Assemblée des Nations unies pour l’environnement de mars 2024, les pays africains ont demandé un moratoire sur l’ingénierie climatique, appelant à la prudence. D’autres nations, dont les États-Unis, ont insisté pour qu’un groupe formel de scientifiques étudie les risques et les avantages de ces technologies avant de prendre toute décision.

L’ingénierie climatique pourrait faire partie d’une solution équitable au changement climatique. Mais elle comporte aussi des risques. En résumé, l’ingénierie climatique ne saurait être ignorée, mais des recherches supplémentaires sont nécessaires pour que les décideurs politiques puissent prendre des décisions en connaissance de cause.

Ben Kravitz, Assistant Professor of Earth and Atmospheric Sciences, Indiana University et Tyler Felgenhauer, Research Scientist in Civil and Environmental Engineering, Duke University

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Par Yoann Nabat, Université de Bordeaux et Elia Verdon, Université de Bordeaux

Vidéosurveillance algorithmique, scanners corporels, et désormais QR codes : les technologies de surveillance ont le vent en poupe pour sécuriser les Jeux olympiques et paralympiques de Paris 2024. Largement utilisé lors de la crise sanitaire, le QR code se présente comme une petite image composée de carrés noirs sur fond blanc qui peut être scannée pour accéder à certaines informations. L’annonce de son retour a été faite par le ministère de l’Intérieur début avril, lors du dévoilement du plan de sécurité prévu pour la cérémonie d’ouverture des JO en juillet 2024.

La présentation d’un QR code sera nécessaire pour entrer dans certaines zones pendant toute la durée des Jeux de Paris 2024 : autour des lieux de cérémonie, d’épreuves ou de vie des athlètes et personnels. Le but est de filtrer les entrées dans ces zones particulièrement sensibles au risque d’attentats. Si l’objectif de ce dispositif de sécurité peut sembler louable, il conduit à restreindre la liberté d’aller et venir de tous les individus (travailleur, touriste, riverain, etc.). Le ministre de l’Intérieur a évoqué, à la marge, la possibilité d’exempter certaines catégories (peut-être les porteurs de billets pour les Jeux ou certaines professions médicales), mais le principe demeurera la restriction d’accès conditionnée à la présentation de ce QR code.

Même si le texte juridique concernant cet événement n’a pas encore été publié, il est extrêmement probable qu’il s’inscrive dans le cadre de la Loi du 30 octobre 2017 renforçant la sécurité intérieure et la lutte contre le terrorisme. En effet, celle-ci a introduit, à la suite des zones de sécurité mises en œuvre pendant l’état d’urgence sécuritaire post-attentats de 2015, la possibilité pour le préfet d’instaurer des « périmètres de protection » des grands événements. Ces derniers peuvent être mis en place, selon l’article L226-1 du Code de la sécurité intérieure :

« afin d’assurer la sécurité d’un lieu ou d’un événement exposé à un risque d’actes de terrorisme à raison de sa nature et de l’ampleur de sa fréquentation ».

Toutefois, les modalités de contrôle ne sont pas prévues précisément par le texte du Code de la sécurité intérieure. Ainsi, la possibilité de mettre en œuvre des QR codes n’est pas visée explicitement. D’ailleurs, si de tels périmètres sont régulièrement mis en œuvre, par exemple à l’occasion de visites ministérielles ou présidentielles, la vérification de l’identité des personnes admises se fait habituellement de façon plus classique (présentation des papiers d’identité).

Une forme de contrôle sans précédent pour une manifestation sportive

Il s’agirait donc ici d’une première – que rien n’interdit dans les textes juridiques mentionnés. Malgré tout, l’arrêté de la Préfecture de police de Paris qui instaurerait un tel dispositif devrait en démontrer la stricte nécessité et proportionnalité, car il s’agit d’une atteinte importante à la liberté de circulation et, par la force des choses, à la vie privée des citoyens. En effet, comme beaucoup de décisions prises par les pouvoirs publics, celle-ci pourrait faire l’objet d’un recours devant les juridictions administratives. La CNIL pourrait également être amenée à se prononcer.

Compte tenu de l’ampleur de l’événement que représentent les Jeux olympiques et paralympiques de Paris 2024, il est sans doute probable qu’un tel dispositif soit validé par le juge administratif. Néanmoins, ce recours interroge nécessairement, au-delà des seules restrictions à la liberté qu’il apporte, sur le principe même d’utiliser des outils numériques de contrôle.

D’abord, parce que ces outils demandent, pour fonctionner correctement, la mise en œuvre de bases de données. Le QR code n’est, en réalité, rien de plus qu’un code barre qui permet, en le scannant, de renvoyer à une référence dans une base de données pour en contrôler la véracité. Un QR code peut donc être considéré comme l’arbre qui cache la forêt. Et cette forêt est celle des données à caractère personnel et de la multiplication des fichiers.

Il faudra en effet recenser beaucoup d’informations pour mettre en œuvre ce dispositif à l’occasion des seuls Jeux de Paris 2024, ne serait-ce que relativement à l’identité de chacun des citoyens qui sera contraint à y avoir recours (et ils devraient être nombreux !). Une plate-forme pour s’inscrire devrait être en ligne le 10 mai. Elle générera les QR codes. Ceux-ci jouissent d’une certaine facilité d’utilisation, sous réserve de posséder un smartphone (en son absence, il faudra imprimer le QR code et veiller à ne pas le perdre). Cette aisance d’usage peut faire oublier l’enjeu majeur de la collecte de données – dont on n’est jamais certain du devenir. Ce risque est d’autant plus grand que nous ne connaissons pas encore précisément le régime juridique des traitements de données mis en œuvre dans ce cadre, la durée de conservation des informations ou les données précises qui seront collectées.

L’accoutumance des pouvoirs publics au contrôle

Sur un plan davantage philosophique et politique, la résurgence régulière de ses dispositifs de surveillance à chaque évènement (crise sanitaire, attentat terroriste, fait divers, etc.) conduit à s’interroger sur ce que Stéphanie Hennette-Vauchez, professeure de droit public, appelle « l’état d’urgence permanent ». Justifiés par un motif sécuritaire toujours plus demandeur, ces dispositifs risquent d’amenuiser peu à peu la garantie des droits fondamentaux comme, ici, la liberté d’aller et venir et le respect de la vie privée.

Cette multiplication des dispositifs de contrôle et de surveillance mène également à la banalisation des dispositifs de surveillance dans la ville et, plus généralement, dans la société. Souvent mis en œuvre à l’occasion d’un événement particulier ou d’une expérimentation, ils sont en réalité la plupart du temps prolongés et intégrés dans le droit commun, sans jamais être retirés. Par exemple, un certain nombre de dispositions instituées dans le cadre de l’état d’urgence sécuritaire mis en œuvre après les attentats de 2015 (comme des assignations à résidence administratives) ont été finalement inscrits dans le droit commun en 2017. D’ailleurs, la ministre des Sports a d’ores et déjà annoncé que la vidéosurveillance algorithmique « expérimentée » durant les Jeux serait probablement invitée à s’inscrire dans le temps long.

Ainsi, il serait illusoire de croire que le choix des QR codes est anodin. Il s’inscrit, au contraire, dans la dynamique du techno-solutionnisme qui fait du recours aux outils technologiques un principe et une solution à tout problème humain, sans penser les conséquences de cet usage systématique. Il participe également à l’accoutumance des citoyens à ces outils dans un contexte où chacun est déjà soumis aux pressions directes et indirectes des grandes entreprises du numérique.

Dans le cas présent, rien n’interdirait, par exemple, que le contrôle des accès soit réalisé sur pièces par les agents, par exemple par une simple vérification de l’identité ou d’un justificatif de domicile pour les riverains, sans besoin de créer une base de données ad hoc dont l’existence même constitue un risque, ne serait-ce qu’en termes de sécurité informatique. Pourtant, cette solution n’a pas été retenue. Peut-être la CNIL l’exigera ? Ce n’est pas le cas à ce jour.

Le retour du QR code dans nos vies ne doit pas être pris comme un événement anodin. Il faut le mesurer à l’aune des atteintes aux droits et libertés fondamentaux qu’il représente. Cette technologie contribue à l’avènement d’une société de surveillance à laquelle s’accoutument peu à peu les individus.

Yoann Nabat, Enseignant-chercheur en droit privé et sciences criminelles, Université de Bordeaux et Elia Verdon, Doctorante en droit public et en informatique, CERCCLE (EA 7436) et LaBRI (UMR 5800), Université de Bordeaux

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Par Denis Trystram, Université Grenoble Alpes (UGA) et Thierry Ménissier, Université Grenoble Alpes (UGA)

Autour de nous, nous observons le numérique envahir tous les autres secteurs. L’intelligence artificielle (IA) est l’un des derniers maillons de ce bouleversement technologique : elle accompagne désormais tout traitement automatique qui exploite le déluge de données numériques. Mais au vu des enjeux écologiques auxquels nous faisons face aujourd’hui, sera-t-il possible de concevoir une IA respectueuse des contraintes environnementales ?

Avant de rentrer dans le sujet de l’IA frugale, il convient de poser le décor. La crise climatique sans précédent à laquelle nous faisons face a commencé avec la révolution industrielle, au milieu du XIX^e siècle, qui a planté les germes de notre société de consommation actuelle. Le changement climatique n’est pas la seule menace environnementale : stress hydrique, épuisement des ressources, perte de la biodiversité… Mais c’est sans doute la plus visible et la plus documentée, et donc celle qui peut nous aider à mieux appréhender les autres.

Un secteur qui croît toujours plus vite

Le secteur du numérique n’est pas facile à cerner, car il est dilué partout. Selon l’ADEME, il représente 2,5 % des émissions carbone de la France en 2022. Ces dernières années, le domaine a connu une forte croissance et les études prospectives envisagent principalement des scénarios de poursuite de cette croissance, au moins à moyen terme.

Un petit calcul réalisé à partir de données publiques sur le scénario SSP1-19 du GIEC, un des plus optimistes, souligne l’aberration de cette croissance. Si le secteur croît selon la prévision la plus basse de croissance, le numérique émettrait 6 fois plus que l’objectif du scénario de décroissance des émissions mondiales de CO₂ d’ici à 2050 ! Même si la croissance du secteur stagnait au niveau d’aujourd’hui, il représenterait trois quarts des émissions totales… Dans un tel monde, que nous resterait-il pour le reste ?

Si on se focalise sur l’IA, on observe une rupture claire à partir de 2012. La croissance du secteur s’emballe alors avec un doublement des besoins en puissance de calcul tous les 5-6 mois au lieu de 24 mois, chiffre jusqu’alors stable de la classique loi empirique de Moore. Cette date correspond au développement des modèles d’IA reposant sur l’apprentissage profond, ou deep learning, rendus possibles par l’utilisation de processeurs graphiques (GPU) pour effectuer les calculs à la base de l’apprentissage profond et par le développement des données ouvertes sur Internet. Rappelons que l’IA n’est pas réduite à l’apprentissage par réseaux de neurones profonds, mais ce sont incontestablement ces derniers qui sont les plus gourmands.

Un nouveau palier a été atteint en 2023, avec l’explosion des modèles génératifs comme l’agent conversationnel ChatGPT. Même s’il est difficile d’avancer des chiffres précis, étant donné que les « géants de la tech » comme OpenAI, Meta ou Microsoft qui sont à l’origine des plus gros modèles ne communiquent plus sur ces données, cette diffusion à large échelle est très inquiétante.

Le poids de l’IA générative sur le climat

ChatGPT est basé sur le modèle GPT-3, remplacé aujourd’hui par une version améliorée GPT-4. Ce n’est pas le seul, mais c’est le plus populaire et un de ceux pour lequel il existe des données. Le modèle sur lequel il s’appuie possède 176 milliards de paramètres et a nécessité 552 tonnes d’équivalent CO₂ pour son entraînement en Californie. En termes de consommation électrique (indicateur plus objectif au sens où il ne dépend pas du mix énergétique), le modèle a tourné des jours sur près de 4 000 gros GPU de Nvidia dont la consommation a été estimée à 1 283 MWh (megawatt-heure, soit 1 000 kWh).

La phase d’usage est bien plus consommatrice encore ! Chaque jour, les quelque dix millions d’utilisateurs mobilisent 564 MWh d’électricité. Les annonces récentes des patrons d’OpenAI et Microsoft sur des commandes de centaines de milliers de GPU pour alimenter les futures versions sont vertigineuses en termes de consommation et d’impact environnemental. Avec sa capacité de production actuelle, le constructeur Nvidia est loin de pouvoir en produire autant.

ChatGPT n’est que l’élément visible de cette galaxie. Aujourd’hui, l’IA est un moteur de la croissance exponentielle du secteur du numérique, avec une explosion du nombre d’applications et services qui utilisent l’IA générative. Le développement de l’IA à ce rythme n’est bien entendu pas soutenable tel quel.

Comment penser une IA plus frugale ?

On ne pourra soutenir cette croissance que si l’IA permet des économies d’émissions considérables dans tous les autres secteurs. C’est la voix majoritaire qui porte le message d’une IA qui va nous aider à sortir de la crise. Malgré de trop nombreuses applications inutiles ou questionnables, il existe des apports bénéfiques pour la société notamment pour simuler et analyser des phénomènes physiques complexes comme l’étude de scénarios pour contrer la crise climatique. Encore faut-il que ces solutions ne soient pas in fine pires que le mal ! Par exemple, l’IA va permettre aux entreprises exploitant les énergies fossiles d’optimiser leur activité et donc d’émettre encore plus de CO₂.

Partout, on entend parler d’IA frugale sans que ce terme soit clairement défini. Dans le langage usuel, la sobriété est souvent entendue comme la réaction adéquate face à une consommation abusive d’alcool. Dans le contexte de l’IA, cela renvoie plutôt à la simplicité (ce qui est clairement insuffisant ici), à la modération, voire l’abstinence. Frugalité et sobriété sont souvent considérées comme synonymes ; il est également possible de considérer que la frugalité concerne le fonctionnement des systèmes techniques tandis que la sobriété renvoie à leur usage dans le cadre des pratiques sociales.

Les deux dimensions se complètent dans le sens où tout système technique s’adresse à des usages qui se trouvent de la sorte facilités et encouragés. Ainsi, plus le système apparaît propice à l’usage, plus son impact s’accroît : c’est ce que l’on appelle l’effet rebond. Cependant, le plus pertinent est la définition en creux : le contraire de la frugalité est ainsi qualifié de gloutonnerie selon Le Robert. Il est donc possible de considérer que la frugalité-sobriété comme une vertu qui s’apprécie en négative, en fonction de la quantité de ressources que l’on ne consomme pas.

Or, caractériser une IA frugale s’avère difficile pour plusieurs raisons. D’une part, les analyses existantes ciblent souvent l’entraînement des modèles et/ou la phase d’usage, mais ignorent le cycle de vie complet du service ou du produit. Cela inclut la production, l’utilisation et le stockage des données, et l’infrastructure matérielle mise en œuvre, depuis la fabrication jusqu’à la fin de vie de tous les équipements impliqués. D’autre part, pour un service reconnu comme utile pour la société, il conviendrait d’estimer les volumes de données impliquées dans le processus et les effets positifs indirects induits par son déploiement. Par exemple, un système d’optimisation énergétique pour un appartement peut permettre une augmentation de confort ou le déploiement de nouveaux services grâce aux économies réalisées.

Mettre l’IA au régime, une démarche nécessaire, mais insuffisante

Aujourd’hui, les termes de frugalité ou de sobriété sont souvent synonymes d’efficacité énergétique : on imagine et développe une solution sans prendre en compte son coût environnemental, puis on l’améliore de ce point de vue dans un second temps. Il faudrait au contraire s’interroger en amont sur les effets avant le déploiement du service, quitte à y renoncer.

L’IA frugale est donc caractérisée par une contradiction intrinsèque, au vu de la boulimie d’énergie et de données aujourd’hui nécessaire à l’entraînement des gros modèles et à leurs usages, au mépris des risques considérables pour l’environnement. En matière d’IA, la frugalité doit aller bien plus loin que la simple efficacité : elle doit d’abord être compatible avec les limites planétaires. Elle doit aussi interroger les usages en amont, jusqu’au renoncement de certains services et pratiques, en se basant sur des analyses de cycle de vie complètes et rigoureuses.

Les finalités que recouvrent ces développements technologiques devraient au moins être collectivement débattues. Derrière l’argument d’une efficacité accrue se cache la compétition entre souverainetés nationales ou la concurrence entre des firmes intéressées par des profits colossaux. Il n’y a rien dans ces finalités qui ne soit considéré à l’aune d’une approche éthique.

Une évaluation des systèmes d’algorithmes à l’aide des éthiques environnementales contemporaines permet même de fonder la notion de sobriété sur d’autres bases. En effet, et en dépit de leur variété, ces éthiques ne considèrent pas la Nature (l’eau, l’air, les matériaux et les vivants) comme des ressources à disposition de la seule espèce humaine, engagée dans la compétition technologique et l’hédonisme industriel. En conclusion, on pourrait affirmer que s’ouvre aujourd’hui pour la recherche responsable en IA une perspective aussi formidable que difficile à réaliser : proposer des modèles et des systèmes les plus compatibles possibles avec une telle définition « forte » de la sobriété.

Denis Trystram, Professeur des universités en informatique, Université Grenoble Alpes (UGA) et Thierry Ménissier, Professeur de philosophie politique, Université Grenoble Alpes (UGA)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Par Anne Cordier, Université de Lorraine

Ils et elles s’appellent Squeezie, Mcfly et Carlito, Léna Situations ou encore Mister Geopolitix. Ils cherchent à créer des contenus attractifs pour les communautés qui les suivent et leurs sujets sont variés, du développement personnel à l’actualité. On les appelle des « créateurs de contenu ». Une qualification qui vise à distinguer des « influenceurs » qui, sur les réseaux sociaux cherchent à influencer les habitudes de consommation des individus en accord avec des marques dont ils se font le relais.

La distinction est de taille, car elle incite à analyser avec finesse la diversité du paysage auquel sont confrontés les publics en ligne. Elle est aussi de taille car l’amalgame trop souvent effectué entre ces deux types de figures nuit à la compréhension des représentations et des pratiques informationnelles des jeunes, et donc à une prise en charge éducative tout à fait pertinente.

De fait, en éducation, la focale adoptée est souvent centrée sur les influenceurs et le brouillage entre information et publicité. Or les créateurs de contenu occupent une place de choix dans l’écosystème informationnel des adolescents. Une exploration de leurs pratiques d’information, loin des préjugés et conclusions hâtives, apporte des clés de compréhension et d’action pour développer une éducation aux médias et à l’information (EMI) intégrant ces figures et leurs contenus dans les apprentissages informationnels.

Des figures inscrites dans le quotidien des adolescents

Les adolescents s’informent au quotidien, que ce soit sur l’actualité ou sur des questions liées à leurs centres d’intérêt, à leurs loisirs ou encore aux programmes et activités scolaires. Ces pratiques d’information sont profondément liées à la personnalité et au parcours biographique de chacun. Une grande pluralité de sujets et d’intentions que la diversité des créateurs de contenu présents sur le web reflète, et qui rythme le quotidien des adolescents, de la santé et la sexualité à l’orientation.

Ainsi, leur curiosité à l’égard du sport, des violences sexistes et sexuelles ou encore de la musique et, de façon plus générale, des pratiques culturelles, trouve des réponses grâce aux créateurs de contenu, dont les adolescents apprécient le ton et le fait d’aborder des questions non traitées par « la télévision ou même les adultes », selon les mots de Maëva, 17 ans.

Nombreux sont les adolescents qui expriment leur reconnaissance à l’égard de créateurs de contenu qui ont osé aborder via leurs vidéos des expériences difficiles qui font écho à leurs préoccupations. C’est le cas de Mastu qui, en 2022, s’est exprimé sur sa dépression.

Les collégiens et lycéens rencontrés lors d’enquêtes de terrain insistent sur le sentiment de familiarité développé avec certains de ces créateurs avec qui ils disent avoir grandi et ne cachent pas un attachement vis-à-vis de ces figures qui ont contribué et contribuent encore à la construction de leur identité et au développement de leurs sociabilités tout autant que de leurs goûts culturels.

Des figures d’autorité informationnelle ?

Cet attachement affectif marqué à l’encontre des créateurs de contenu, entretenu par une intensité et une quotidienneté de la pratique informationnelle, entraine-t-il une confiance absolue dans les productions de ces créateurs ?

Entre septembre 2023 et mars 2024, une recherche-action menée auprès de deux classes de terminale, l’une générale spécialité histoire-géographie, géopolitique et sciences politiques (HGGSP), l’autre technologique spécialité sciences et techniques sanitaires et sociales (ST2S), a, entre autres choses, permis de documenter avec précision le rapport entre l’adhésion affective à une source ou figure informationnelle et la confiance attribuée à cette dernière.

Contrairement aux discours répandus présentant la jeunesse comme soumise à ses affects et peu capable de rationalité particulièrement sur les réseaux sociaux numériques, cette étude montre qu’apprécier les publications des créateurs de contenu ne signifie pas leur faire confiance.

D’une part, les adolescents distinguent nettement les créateurs de contenu – qu’ils appellent alors souvent « influenceurs » – qui diffusent du divertissement et du témoignage (comme Squeezie, cité par tous comme référence à propos des jeux vidéo, ou Lena Situations, que les jeunes filles apprécient pour ses publications sur la mode) – et ceux qui produisent du contenu informationnel plus sérieux à leurs yeux (comme Mister Géopolitix ou Jemenbatsleclito, compte de la créatrice féministe Camille Aumont Carnel).

D’autre part, interroger les adolescents sur les modes d’adhésion affective et d’attribution de confiance aux contenus informationnels produits par ces créateurs et créatrices instruit sur les critères de crédibilité qu’ils appliquent pour évaluer ces contenus. Des critères qui témoignent d’une forme certaine de rationalité chez ces acteurs.

Premier critère, unanimement mis en avant : le travail info-documentaire réalisé en amont et visible à travers la production (citation des sources, notamment), et l’adéquation entre le contenu proposé et les éléments de cours. Meg note :

« Je regarde la vidéo et je vérifie dans mon cours. Si il dit comme mon prof, alors je peux faire confiance. […] Pas l’inverse, non. Le professeur il sait mieux qu’un youtubeur quand même ! »

Deuxième critère appliqué également de façon unanime : la pédagogie déployée par le médiateur créateur de contenus, qui constitue conjointement une raison d’attachement : « Sa manière de faire, elle est attractive. Dr Nozman, il part d’un exemple concret, de la vie de tous les jours, ou alors de ce qu’on voit dans un film, et puis il explique comment c’est possible ou pas, c’est quoi les phénomènes physiques en jeu. C’est passionnant, et j’ai toujours envie d’en apprendre plus », explique Simon.

Troisième critère, qui est sujet à de nombreuses discussions entre les adolescents et les divise : la popularité du créateur de contenu, évaluée à son nombre d’abonnés. Est-ce un critère valable ? Quel lien entre popularité, pertinence et fiabilité ? Ce questionnement, loin d’être nouveau, est renouvelé avec la présence massive des créateurs de contenu dans les écosystèmes informationnels juvéniles. Plusieurs adolescents pensent que la popularité implique une exigence de responsabilité dans le contenu diffusé, à l’instar de Tom :

« Le fait qu’il y ait beaucoup de gens qui les suivent, ça les oblige à avoir de la rigueur, parce qu’ils se font vite reprendre, taper sur les doigts en cas de bêtise, ils veulent éviter le bad buzz. »

Au sein de ce paysage foisonnant, une figure d’autorité majeure tire son épingle du jeu : Hugo Décrypte. En février 2024, sur 52 élèves de Terminale, 38 utilisent Hugo Décrypte pour s’informer. C’est la ressource informationnelle qui remporte les suffrages et en termes de plaisir ressenti quand on la consulte et en termes de confiance attribuée (95 % attribuent la note minimale de 8 sur 10 à Hugo Décrypte sur les deux plans). Sa présence en ligne massive – YouTube, TikTok, Instagram, Twitch, WhatsApp… – ainsi que la multiplicité des formats médiatiques mobilisés explique cette puissance d’impact. Mais, là encore, les lycéens identifient dans les productions des critères de crédibilité qui les érigent en ressources informationnelles de référence, comme le raconte Vasco :

« Hugo Décrypte, il est presque un journaliste, non ? […] Il cite ses sources à chaque fois, il explique comment on peut affirmer telle ou telle chose, on voit bien que ses sujets sont travaillés, il se lève pas le matin en mode “Salut la Commu ! J’ai rien à vous dire mais j’vais quand même faire un vidéo !” »

Une nouvelle donne pour l’éducation aux médias

La place occupée par les créateurs de contenu dans l’écosystème informationnel juvénile justifie pleinement que l’on s’en (pré) occupe. Pourtant, les résistances et la défiance envers ces figures d’attachement et figures d’autorité informationnelle semblent importantes chez les adultes. C’est ainsi en tout cas que les adolescents le perçoivent et le racontent. Marie note :

« Les profs, comme ils peuvent ne pas connaître, ils pourraient considérer ça comme une source un peu moins fiable que le reste. Et du coup remettre en question notre travail et notre recherche. »

Reconnaître la légitimité des pratiques juvéniles, c’est s’assurer que les adolescents ne soient pas seuls avec leurs questionnements face à des productions qui recèlent de forts enjeux en éducation aux médias et à l’information. Celle-ci est partage de références et d’émotions, que ce soit en famille ou à l’école, où l’intégration de ces ressources apparait nécessaire pour interroger collectivement la fabrique de l’information, le statut du document, mais aussi la perception d’un discours de vulgarisation. Voilà l’occasion d’affûter le regard critique des élèves et de nourrir leur culture de l’information et des sources.

Une éducation aux médias et à l’information qui intègre les ressources produites par les créateurs de contenu, c’est aussi une éducation qui contribue à la distanciation critique lorsqu’il s’agit de faire prendre conscience aux adolescents des intérêts, économiques et/ou politiques, que certains créateurs de contenu défendent. Il s’agit certes d’identifier les créateurs de contenu dont les productions sont problématiques pour le développement de connaissances dans des domaines aussi cruciaux que la santé, le climat ou l’alimentation, mais aussi ceux dont les publications sont dignes de confiance.

Une éducation aux médias et à l’information qui intègre les ressources produites par les créateurs de contenu, c’est enfin une éducation respectueuse des espaces informationnels en général, précise dans son appréhension des sources, et qui évite les généralisations erronées : « C’est pas parce que c’est sur YouTube que c’est pas légitime. Je trouve ça fou qu’on puisse, en tant qu’enseignants ou médiateurs, confondre le canal et la source ! », s’emporte ce professeur documentaliste qui ajoute trouver « aberrant de ne pas proposer ce type de ressources à (ses) élèves en 2023-2024 ».

Car oui, les pratiques informationnelles des adolescents sont riches et éminemment sérieuses. C’est pourquoi nous nous devons de proposer une éducation aux médias et à l’information qui soit, dans toutes ses sphères de déploiement (école, famille, tiers lieux…), digne de cette complexité, attachée à « faire reliance », et les prenne résolument au sérieux.

Anne Cordier, Professeure des Universités en Sciences de l’Information et de la Communication, Université de Lorraine

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.