Am 8. Dezember 2023 gaben das Europäische Parlament und der Rat eine vorläufige Einigung über den AI Act bekannt und setzten damit einen wichtigen Meilenstein in der Gesetzgebung zur künstlichen Intelligenz. Diese grundlegende Gesetzgebung wird der weltweit erste umfassende Rechtsrahmen sein, der sich mit künstlicher Intelligenz befasst.
Der AI Act zielt in erster Linie darauf ab, den Einsatz und die Nutzung von KI-Systemen zu regeln, indem er sowohl für Anbieter als auch für Nutzer von KI eine Reihe von Verpflichtungen vorsieht. Es umfasst ein breites Spektrum von KI-Anwendungen (allerdings keine militärischen oder nationalen Sicherheitsanwendungen) und soll die Grundrechte, die Demokratie und die ökologische Nachhaltigkeit vor den potenziellen Risiken schützen, die von risikoreicher KI ausgehen, und gleichzeitig Innovationen fördern und Europa zu einem Vorreiter in diesem wichtigen Bereich machen.
Das Gesetz kategorisiert die KI-Risiken in verschiedene Stufen, für die jeweils eigene Regeln gelten.
Systeme mit inakzeptablen Risiken, wie kognitive Manipulation, Social Scoring und bestimmte biometrische Fernerkennungssysteme, werden bis auf wenige Ausnahmen verboten sein.
Zu den KI-Systemen mit hohem Risiko gehören Systeme für das Management kritischer Infrastrukturen, biometrische Identifizierungssysteme, Beschäftigungs- und Arbeitnehmermanagement, Strafverfolgung und Migrationskontrolle. Diese Systeme unterliegen strengen Anforderungen, da sie erhebliche Auswirkungen auf die Sicherheit und die Grundrechte haben können.
Für KI-Systeme mit begrenztem Risiko, wie Chatbots und KI-generierte Inhalte, gelten minimale Transparenzanforderungen. Diese Anforderungen sollen sicherstellen, dass die Nutzer bei der Interaktion mit KI informiert und aufgeklärt sind, um eine fundierte Entscheidungsfindung und das Vertrauen in KI-Technologien zu fördern.
Darüber hinaus konzentriert sich das Gesetz auf die Unterstützung von KI-Innovationen und -Investitionen innerhalb der EU. Sie enthält Bestimmungen zur Förderung eines Binnenmarktes für KI-Anwendungen und steht im Einklang mit dem koordinierten Plan der EU für KI zur Beschleunigung von Investitionen in ganz Europa.
Obwohl der EU AI Act den Ehrgeiz hat, eine bahnbrechende Gesetzgebung zu sein, ist er nicht ohne Kritiker geblieben. Die KI-Expertin des ETUI, Aida Ponce del Castillo, bezeichnete es als "Deregulierungsverordnung", deren eigentliches Ziel es sei, die EU als weltweit führend im Bereich der KI zu positionieren, indem die Entwicklung des Sektors so wenig wie möglich eingeschränkt und lokale KI-Unternehmen maximal unterstützt werden. Dies steht im Einklang mit den von Corporate Europe Observatory aufgeworfenen Fragen. Die Nichtregierungsorganisation hatte den Einfluss der Big-Tech-Lobby angeprangert, der die Wirksamkeit des Gesetzes beeinträchtigen und zu einer Art Deregulierung führen könnte, die große KI-Konzerne gegenüber dem öffentlichen Interesse bevorzugt.
Der vereinbarte Text muss nun sowohl vom Parlament als auch vom Rat formell angenommen werden, um EU-Recht zu werden.