Par Thomas Mannierre, Directeur EMEA Sud de BeyondTrust L’IA a fait entrer les braquages dans une nouvelle dimension. Plus besoin d’une cagoule noire désormais. En améliorant les attaques d'ingénierie sociale modernes, l’IA a donné naissance à un autre type de menaces : les deepfakes. Bienvenue dans ce qui pourrait être un épisode de Black Mirror ! Le faux CFO de Hong Kong En début d’année, une entreprise à Hong Kong s’est vue escroquée de 25,6 millions de dollars par un hacker utilisant l’IA et la technologie deepfake pour usurper l’identité d’un directeur financier. Si l'on en croit les rapports d’enquête, l'attaque a simulé un environnement de vidéoconférence complet et utilisé une fausse identité d'un important directeur financier de Hong Kong et d'autres participants à la réunion. La victime ciblée du département financier s'est d'abord méfiée d'un e-mail de phishing prétendant provenir du directeur financier. Cependant, la victime a rejoint une con
Une gouvernance mondiale de l’IA est-elle possible et si oui, peut-on y intégrer la jeunesse ?
Alors que ChatGPT et d’autres formes d’intelligence artificielle (IA) générative font progressivement leur entrée dans de nombreux aspects de nos vies personnelles et professionnelles, où en est-on de la construction de la gouvernance mondiale de l’IA ?
Aux niveaux national et régional, de nombreux efforts de régulation ont été déployés ces dernières années, avec l’adoption de plusieurs documents notables : l’Acte sur l’IA au niveau européen, l’executive order de la Maison Blanche aux États-Unis, ou encore la nouvelle réglementation sur les contenus générés par l’IA, qui fait suite à d’autres textes visant à encadrer l’IA adoptés en Chine pour ne citer qu’eux.
Ces trois approches de l’IA reflètent des valeurs et priorités qui divergent, entre laisser le champ libre à l’industrie technologique pour innover, et imposer un encadrement plus strict des usages les plus problématiques et risqués, par exemple la reconnaissance faciale. Face à ces divergences, le risque existe de voir émerger un découplage au niveau mondial et une baisse de l’interopérabilité des technologies.
Au niveau international, ces perspectives s’articulent autour de deux questions principales : comment gouverner l’IA et que gouverner exactement ? Au-delà, dans quelle mesure les jeunes générations sont-elles au fait des enjeux, et comment peuvent-elles être intégrées dans cette éventuelle future gouvernance mondiale ?
Gouverner l’IA : oui mais comment ?
Contrairement aux premiers développements de la gouvernance de l’Internet, la gouvernance de l’IA s’élabore dans un contexte géopolitique plus polarisé et incertain avec l’émergence de multinationales technologiques qui concentrent à la fois capacité financière et capacité d’innovation, comme Google, Microsoft ou encore Huawei.
Pour certains États, l’IA est une priorité de sécurité nationale ; dès lors, sa gouvernance doit rester au sein de la diplomatie multilatérale, par exemple l’Union internationale des Télécommunications (UIT). Pour d’autres, il est essentiel d’inclure dans la gouvernance de l’IA les acteurs non étatiques, c’est-à-dire les entreprises technologiques, la société civile et le monde de la science.
De surcroît, il s’agit de décider s’il est nécessaire de créer une nouvelle agence aux compétences globales, comparable à l’Agence internationale de l’énergie atomique (AIEA), ou si sa gouvernance peut être accomplie de manière distribuée au sein des instances internationales actuelles. Cette seconde approche reviendrait à déléguer la responsabilité de la gouvernance en fonction des secteurs. Par exemple, l’Organisation mondiale de la santé (OMS) serait en charge de gouverner l’IA pour le secteur de la santé publique mondiale.
Mais de quoi parle-t-on au juste quand on parle de « gouverner l’IA » ?
La deuxième grande question, tout aussi épineuse, porte sur l’objet de la gouvernance. Que faut-il gouverner ?
Faut-il se focaliser sur l’étape actuelle de l’IA (ce que l’on appelle artificial narrow intelligence ou « weak AI »), ou sur la gouvernance de ses futurs développements (ce que l’on appelle artificial general intelligence et artificial super intelligence) ?
Si l’IA demande une approche pluridisciplinaire et sectorielle de par ses usages et impacts aussi variés que nombreux, et pour certains encore en développement, Genève et ses 42 organisations internationales, ses 181 représentations étatiques, ses 42 organisations internationales, ses 750 ONG et ses grandes universités est un lieu privilégié pour gouverner cette technologie et trouver des réponses communes aux défis globaux qu’elle pose.
La question de la participation de la jeunesse
Pour ce qui a trait aux technologies, et en particulier à l’IA, la question de la participation est cruciale. Les acteurs qui participent au développement, au déploiement et à la gouvernance de l’IA ont une influence directe sur un partage plus ou moins équilibré des bénéfices et des risques de cette technologie.
Au regard du nombre de femmes dans l’industrie et la recherche en IA, le développement de cette technologie est fort peu représentatif de la diversité du monde. La question de la participation pose celle de la légitimité de la technologie. Le manque de diversité et de représentativité dans son développement est souvent cité comme un des facteurs principaux pour ses implications sociétales les plus négatives, par exemple le renforcement des discriminations à l’égard de populations marginalisées. De plus, face à la multiplication des sommets et des processus sur la gouvernance de l’IA, participer devient coûteux. Où les pays du sud global et la société civile sont-ils représentés ?
Pour la jeune génération, qui est déjà confrontée à des inégalités en matière de représentation politique, l’imbrication de l’IA et de la politique représente un défi urgent. Les jeunes sont particulièrement vulnérables à la désinformation car ils ont tendance à manquer de littératie numérique malgré leur usage intensif des réseaux sociaux, la littératie numérique étant leur aptitude à non seulement utiliser les outils numériques, mais aussi et surtout à en comprendre les enjeux et à développer une approche critique de leurs usages.
Cela est d’autant plus préoccupant qu’ils utilisent intensivement des plates-formes de médias sociaux incapables d’atténuer la propagation de la désinformation, comme TikTok. Et parmi les jeunes, les premières cibles des campagnes de deepfakes et de désinformation sont souvent les jeunes femmes et les groupes vulnérables tels que les jeunes des communautés LGBTIQ+. De plus, les transformations du marché du travail engendrées par des IA plus ou moins biaisées concernent avant tout les plus jeunes générations ; celles-ci devraient donc d’autant plus avoir droit à la parole sur la gouvernance de cette technologie qui va fortement impacter leur avenir.
Mais comment renforcer leur participation dans la gouvernance mondiale de l’IA, comme à Genève en mai ? Des études ont montré que les jeunes, quand ils sont présents, ce qui reste rare, sont souvent mis à l’écart des prises de décision, et instrumentalisés, victimes de « youthwashing » par les élites économiques et politiques présentes dans les sommets internationaux. Être perçu comme « jeune » ne leur permet pas toujours d’être pris au sérieux dans ces sommets, même sur des thématiques qui mobilisent les jeunes en masse comme la justice climatique.
Il est essentiel, pour que les débats conduits au cours de ces sommets mènent à des conclusions utiles et inclusives, que la voix de jeunes de multiples cultures soit non seulement incluse mais aussi et surtout entendue. Pour une équipe interdisciplinaire basée à l’Institut de Hautes études internationales et du développement (IHEID) travaillant sur le projet « Stories of the Future », soutenu par le Fonds national suisse, cela commence avant tout par la sensibilisation et l’éducation au niveau local. Il s’agit de mettre en lumière le fonctionnement de base de l’IA et ses enjeux afin de permettre aux jeunes de développer une approche critique de cette technologie.
Alors que l’IA devient omniprésente et reste pourtant souvent invisible, et que ses décisions sont souvent opaques et difficilement explicables, il est urgent que les jeunes puissent développer une littératie de l’IA afin de pouvoir contribuer à décider de sa gouvernance au niveau local et international, et bénéficier de ses avancées au lieu de les subir. Une des clés est d’intégrer la littératie de l’IA dans les curriculums.
C’est ce que nous avons pu expérimenter lors des 160 ateliers de prospective narrative que nous avons menés dans des écoles des trois régions linguistiques de Suisse. À cette occasion, nous avons utilisé l’IA générative pour permettre aux jeunes de rédiger un récit du futur sur les implications sociétales de l’IA en se basant sur un des dix principes de l’Unesco pour une approche de l’IA basée sur les droits humains. Cette approche a permis de sensibiliser les jeunes aux enjeux et les aider à développer une compréhension plus critique de cette technologie qui façonnera leur avenir, et dont ils devraient co-construire la gouvernance. La route est longue, mais elle commence dans nos écoles.
Par André Spicer, professeur en comportement organisationnel à la Cass Business School (City University of London) : Vous vous souvenez des bipeurs ? Ces appareils étaient utilisés largement avant l'arrivée massive des téléphones portables et des SMS. Si vous aviez un bipeur, vous pouviez recevoir des messages simples, mais vous ne pouviez pas répondre. Un des rares endroits où on peut encore en trouver aujourd’hui sont les hôpitaux. Le Service National de Santé au Royaume-Uni (National Health Service) en utilise plus de 130 000. Cela représente environ 10 % du nombre total de bipeurs présents dans le monde. Une récente enquête menée au sein des hôpitaux américains a révélé que malgré la disponibilité de nombreuses solutions de rechange, les bipeurs demeurent le moyen de communication le plus couramment utilisée par les médecins américains. La fin du bipeur dans les hôpitaux britanniques ? Néanmoins, les jours du bipeur dans les hôpitaux britanniques pourraient être compté
La chaleur extrême peut affecter le fonctionnement des machines, et le fait que de nombreuses machines dégagent de la chaleur n’arrange pas les choses. Afif Ramdhasuma/Unsplash , CC BY-SA Par Srinivas Garimella , Georgia Institute of Technology et Matthew T. Hughes , Massachusetts Institute of Technology (MIT) Les humains ne sont pas les seuls à devoir rester au frais, en cette fin d’été marquée par les records de chaleur . De nombreuses machines, allant des téléphones portables aux voitures et avions, en passant par les serveurs et ordinateurs des data center , perdent ainsi en efficacité et se dégradent plus rapidement en cas de chaleur extrême . Les machines génèrent de plus leur propre chaleur, ce qui augmente encore la température ambiante autour d’elles. Nous sommes chercheurs en ingénierie et nous étudions comment les dispositifs mécaniques, électriques et électroniques sont affectés par la chaleur, et s’il est possible de r
Les professionnels de l'inclusion numérique ont pour leitmotiv la transmission de savoirs, de savoir-faire et de compétences en lien avec la culture numérique. Pexels , CC BY-NC Par Matthieu Demory , Aix-Marseille Université (AMU) Dans le cadre du Conseil National de la Refondation , le gouvernement français a proposé au printemps 2023 une feuille de route pour l’inclusion numérique intitulée « France Numérique Ensemble » . Ce programme, structuré autour de 15 engagements se veut opérationnel jusqu’en 2027. Il conduit les acteurs de terrain de l’inclusion numérique, notamment les Hubs territoriaux pour un numérique inclusif (les structures intermédiaires ayant pour objectif la mise en relation de l’État avec les structures locales), à se rapprocher des préfectures, des conseils départementaux et régionaux, afin de mettre en place des feuilles de route territoriales. Ces documents permettront d’organiser une gouvernance locale et dé
La bonne vieille cassette VHS vient de fêter ses 30 ans le mois dernier. Certes, il y avait bien eu des enregistreurs audiovisuels avant septembre 1976, mais c’est en lançant le massif HR-3300 que JVC remporta la bataille des formats face au Betamax de Sony, pourtant de meilleure qualité. Ironie du sort, les deux géants de l’électronique se retrouvent encore aujourd’hui face à face pour déterminer le format qui doit succéder au DVD (lire encadré).
Chassée par les DVD ou cantonnée au mieux à une petite étagère dans les vidéoclubs depuis déjà quatre ans, la cassette a vu sa mort programmée par les studios hollywoodiens qui ont décidé d’arrêter de commercialiser leurs films sur ce support fin 2006.
Restait un atout à la cassette VHS: l’enregistrement des programmes télé chez soi. Las, l’apparition des lecteurs-enregistreurs de DVD et, surtout, ceux dotés d’un disque dur, ont sonné le glas de la cassette VHS, encombrante et offrant une piètre qualité à l’heure de la TNT et des écrans pl
Alors que les Assises de la Sécurité ouvrent leurs portes ce mercredi 11 octobre, pour trois jours de réflexion sur l’état de la cybersécurité en France, la société de cybersécurité Proofpoint f ait le point sur le niveau de préparation des organisations face à l’avancée de la menace. Cette année encore, les résultats montrent que la menace cyber reste omniprésente en France et de plus en plus sophistiquée. Si les organisations en ont bien conscience, augmentant leur budget et leurs compétences en interne pour y faire face, la grande majorité d’entre elles ne se sont pour autant, pas suffisamment préparées pour l’affronter réellement, estime Proofpoint. En France, 80 % des membres de conseils d’administration interrogés estiment que leur organisation court un risque de cyberattaque d’envergure, contre 78 % en 2022 – 36 % d’entre eux jugent même ce risque très probable. Et si 92 % d’entre eux pensent que leur budget lié à la cybersécurité augmentera au cours des 12 prochains mois, ces
Par Patricia Mouy , Commissariat à l’énergie atomique et aux énergies alternatives (CEA) et Sébastien Bardin , Commissariat à l’énergie atomique et aux énergies alternatives (CEA) Assez des cyberattaques ? La loi sur la cyberrésilience, ou Cyber Resilience Act a été adoptée par les députés européens le 12 mars dernier et arrive en application dans les mois à venir, avec l’ambition de changer la donne en termes de sécurité des systèmes numériques en Europe. Alors que les systèmes numériques sont littéralement au cœur des sociétés modernes, leurs potentielles faiblesses face aux attaques informatiques deviennent des sources de risques majeurs – vol de données privées, espionnage entre états ou encore guerre économique. Citons par exemple le cas de Mirai , attaque à grande échelle en 2016, utilisant le détournement de dispositifs grand public comme des caméras connectées pour surcharger des domaines Internet d’entreprise, attaque de type DDoS (déni de service distribué)
