Le 8 décembre 2023, le Parlement européen et le Conseil ont annoncé un accord provisoire sur la loi sur l'intelligence artificielle, marquant ainsi une étape importante dans la législation en la matière. Cette réglementation historique est appelée à devenir le premier cadre juridique complet au monde consacré à l'intelligence artificielle.
La directive sur l'IA vise principalement à réglementer le déploiement et l'utilisation des systèmes d'IA, en prévoyant un ensemble complet d'obligations tant pour les fournisseurs que pour les utilisateurs de systèmes qui utilisent l'IA. Elle couvre un large éventail d'applications dans le domaine de l'IA (à l'exclusion des applications militaires ou de sécurité nationale), dans le but de protéger les droits fondamentaux, la démocratie et la soutenabilité environnementale des risques potentiels posés par l'IA à haut risque, tout en encourageant l'innovation et en faisant de l'Europe un chef de file dans ce domaine essentiel.
La loi classe les risques liés à l'IA en différents niveaux, chacun étant assorti de règles spécifiques.
Les systèmes présentant des risques inacceptables, tels que la manipulation cognitive, la notation sociale et certains systèmes d'identification biométrique à distance, seront interdits, à quelques exceptions près.
Les systèmes d'IA à haut risque comprennent ceux utilisés dans la gestion des infrastructures critiques, les systèmes d'identification biométrique, la gestion de l'emploi et des travailleurs, l'application de la loi et le contrôle des migrations. Ces systèmes sont soumis à des exigences strictes en raison de leur potentiel impact significatif sur la sécurité et les droits fondamentaux.
Les systèmes d'IA à risque limité, tels que les chatbots et les contenus générés par l'IA, sont soumis à des obligations de transparence minimales. Ces exigences visent à garantir que les utilisateurs soient informés et conscients lorsqu'ils interagissent avec l'IA, ce qui favorise la prise de décision éclairée et la confiance dans les technologies basées sur l'IA.
En outre, la directive vise à soutenir l'innovation et l'investissement dans l'IA au sein de l'UE. Elle comprend des dispositions visant à favoriser un marché unique pour les applications utilisant l'IA et s'aligne sur le plan coordonné de l'UE en matière d'IA afin d'accélérer les investissements dans toute l'Europe.
Bien que la législation européenne sur l'IA ait l'ambition d'être révolutionnaire, elle n'a pas manqué d'être critiquée. L'experte en IA de l'Institut Syndical Européen, Aida Ponce del Castillo, l'a qualifié de "règlement dérégulateur", dont l'objectif réel est en fait de positionner l'UE en tant que leader mondial de l'IA en restreignant le moins possible le développement du secteur et en apportant un soutien maximal aux entreprises d'IA locales. Ceci va dans le sens des questions soulevées par Corporate Europe Observatory. L'ONG avait dénoncé l'influence du lobbying des grandes entreprises technologiques, qui pourrait nuire à l'efficacité de la directive et conduire à une forme de déréglementation, en favorisant les grandes entreprises d'IA au détriment de l'intérêt public.
Le texte convenu doit maintenant être formellement adopté par le Parlement et le Conseil pour être intégré dans le droit communautaire.