El 8 de diciembre de 2023, el Parlamento Europeo y el Consejo anunciaron un acuerdo provisional sobre la directiva sobre IA, que marca un hito importante en la legislación en este ámbito. Este avance legislativo está llamado a ser el primer marco jurídico integral del mundo dedicado a la inteligencia artificial.
El objetivo principal de la Ley de IA es regular el despliegue y el uso de los sistemas de IA, proporcionando un conjunto completo de obligaciones tanto para los proveedores como para los usuarios de inteligencia artificial. Abarca una amplia gama de aplicaciones de IA (aunque no aplicaciones militares o de seguridad nacional), con la intención de salvaguardar los derechos fundamentales, la democracia y la sostenibilidad medioambiental de los riesgos potenciales planteados por la inteligencia artificial de alto riesgo, fomentando al mismo tiempo la innovación y haciendo de Europa un líder en este campo crítico.
La Ley clasifica los riesgos de IA en distintos niveles, cada uno con normas adaptadas.
Los sistemas con riesgos inaceptables, como la manipulación cognitiva, la puntuación social y determinados sistemas de identificación biométrica a distancia, estarán prohibidos, con excepciones limitadas.
Entre los sistemas de IA de alto riesgo figuran los utilizados en la gestión de infraestructuras críticas, los sistemas de identificación biométrica, la gestión del empleo y los trabajadores, la aplicación de la ley y el control de la migración. Estos sistemas están sujetos a requisitos estrictos debido a su importante impacto potencial sobre la seguridad y los derechos fundamentales.
Los sistemas de IA de riesgo limitado, como los chatbots y los contenidos generados por IA, están sujetos a obligaciones mínimas de transparencia. Estos requisitos están diseñados para garantizar que los usuarios estén informados y sean conscientes al interactuar con la IA, promoviendo la toma de decisiones informadas y la confianza en las tecnologías basadas en la IA.
Además, la Ley se centra en apoyar la innovación y la inversión en IA dentro de la UE. Incluye disposiciones para fomentar un mercado único de aplicaciones de IA y se alinea con el plan coordinado de la UE sobre IA para acelerar la inversión en toda Europa.
Aunque la Ley de la IA de la UE tiene la ambición de ser una legislación innovadora, no ha estado exenta de críticas. Aida Ponce del Castillo, experta en IA del ETUI, la calificó de "normativa desreguladora", cuyo objetivo real es, de hecho, situar a la UE como líder mundial en IA restringiendo lo menos posible el desarrollo del sector y prestando el máximo apoyo a las empresas locales de IA. Esto coincide con las cuestiones planteadas por Corporate Europe Observatory. La ONG había denunciado la influencia del lobby de las grandes tecnológicas, que podría afectar a la eficacia de la Ley y conducir a una forma de desregulación, favoreciendo a las grandes corporaciones de IA frente al interés público.
El texto acordado deberá ahora ser aprobado formalmente por el Parlamento y el Consejo para convertirse en derecho de la UE .