Entre ceux qui voulaient freiner le développement fulgurant de l’intelligence artificielle (IA) en Europe et ceux qui ne voulaient pas entraver l’innovation dans ce qui est la prochaine grande révolution technologique, le consensus semblait impossible. Et pourtant, après trois jours d’intenses négociations, l’Union européenne va devenir le premier espace au monde où le développement de l’IA sera encadré. « Historique ! L’UE devient le tout premier continent à fixer des règles claires pour l’utilisation de l’IA. Le AI Act est bien plus qu’un livre de règles : c’est une rampe de lancement permettant aux start-up et aux chercheurs européens de mener la course mondiale à l’IA. Le meilleur est à venir ! », s’est félicité peu avant minuit vendredi soir Thierry Breton, le Commissaire européen au Marché intérieur, chargé notamment du numérique, à l’origine du projet présenté en avril 2021. « Le AI Act est une première mondiale. Un cadre juridique unique pour le développement de l’IA auquel
Algorithmes de profilage : les dérives d’un système où l’humain devient le simple exécutant de la machine
Par Constantin Pavléas, avocat spécialisé en droit des nouvelles technologies, professeur et coordinateur du programme Droit du Numérique & Propriété Intellectuelle et responsable d'enseignements à l'école des Hautes Études Appliquées du Droit (HEAD) Une enquête du Monde montrait cette semaine comment la CAF faisait appel aux algorithmes pour orienter ses contrôles auprès des allocataires (Cliquez ici pour découvrir l'enquête). Ce type de dérive touche des millions de personnes et appelle à mettre en place de nouveaux garde-fous. Les décisions automatisées sont de plus en plus répandues aux États-Unis, dans l’administration, la justice, les banques ou autres instances qui traitent des données de millions de personnes. Le régime que nous connaissons en Europe est théoriquement plus protecteur : le RGDP interdit les décisions automatisées en tant que telles, sauf exceptions. Ces exceptions sont notamment la nécessité de la décision pour conclure ou exécuter un contrat