Rat der EU, Pressemitteilung vom 21.05.2024
Am 21.05.2024 hat der Rat der EU ein bahnbrechendes Gesetz verabschiedet, das darauf abzielt, die Regeln für künstliche Intelligenz zu harmonisieren, das sogenannte Gesetz über künstliche Intelligenz. Die Flaggschiff-Gesetzgebung folgt einem „risikobasierten“ Ansatz, was bedeutet, dass die Regeln umso strenger sind, je höher das Risiko ist, der Gesellschaft Schaden zuzufügen. Es ist das erste seiner Art weltweit und kann einen globalen Standard für die KI-Regulierung setzen.
Das neue Gesetz zielt darauf ab, die Entwicklung und Einführung sicherer und vertrauenswürdiger KI-Systeme im gesamten EU-Binnenmarkt sowohl durch private als auch öffentliche Akteure zu fördern. Gleichzeitig soll die Achtung der Grundrechte der EU-Bürger sichergestellt und Investitionen und Innovationen im Bereich der künstlichen Intelligenz in Europa gefördert werden. Das KI-Gesetz gilt nur für Bereiche des EU-Rechts und sieht Ausnahmen etwa für Systeme vor, die ausschließlich für Militär- und Verteidigungszwecke sowie für Forschungszwecke genutzt werden.
Mathieu Michel, belgischer Staatssekretär für Digitalisierung, Verwaltungsvereinfachung, Datenschutz und Bauverordnung: „Die Verabschiedung des KI-Gesetzes ist ein bedeutender Meilenstein für die Europäische Union. Dieses bahnbrechende Gesetz, das erste seiner Art weltweit, befasst sich mit einer globalen technologischen Herausforderung, die auch Chancen für unsere Gesellschaften und Volkswirtschaften schafft. Mit dem KI-Gesetz unterstreicht Europa die Bedeutung von Vertrauen, Transparenz und Rechenschaftspflicht im Umgang mit neuen Technologien und stellt gleichzeitig sicher, dass diese sich schnell verändernde Technologie gedeihen und europäische Innovationen fördern kann.“
Einstufung von KI-Systemen als risikoreiche und verbotene KI-Praktiken
Das neue Gesetz kategorisiert verschiedene Arten künstlicher Intelligenz nach Risiko. KI-Systeme, die nur ein begrenztes Risiko darstellen, würden sehr geringen Transparenzpflichten unterliegen, während KI-Systeme mit hohem Risiko zugelassen würden, aber einer Reihe von Anforderungen und Verpflichtungen unterliegen würden, um Zugang zum EU-Markt zu erhalten. KI-Systeme wie beispielsweise kognitive Verhaltensmanipulation und Social Scoring werden aus der EU verbannt, da ihr Risiko als inakzeptabel gilt. Das Gesetz verbietet auch den Einsatz von KI für vorausschauende Polizeiarbeit auf der Grundlage von Profilen und Systemen, die biometrische Daten verwenden, um Menschen nach bestimmten Kategorien wie Rasse, Religion oder sexueller Orientierung zu kategorisieren.
Allzweck-KI-Modelle
Das KI-Gesetz befasst sich auch mit der Verwendung von GPAI-Modellen (Allzweck-KI).
GPAI-Modelle, die keine systemischen Risiken bergen, unterliegen einigen begrenzten Anforderungen, beispielsweise hinsichtlich der Transparenz, wohingegen Modelle mit systemischen Risiken strengere Regeln einhalten müssen.
Eine neue Governance-Architektur
Um eine ordnungsgemäße Durchsetzung zu gewährleisten, wurden mehrere Verwaltungsorgane eingerichtet:
- Ein KI-Büro innerhalb der Kommission zur Durchsetzung der gemeinsamen Regeln in der gesamten EU
- Ein wissenschaftliches Gremium unabhängiger Experten zur Unterstützung der Durchsetzungsmaßnahmen
- Ein KI-Ausschuss mit Vertretern der Mitgliedstaaten, der die Kommission und die Mitgliedstaaten bei der einheitlichen und wirksamen Anwendung des KI-Gesetzes berät und unterstützt
- Ein Beratungsforum für Interessenträger, das dem AI Board und der Kommission technisches Fachwissen zur Verfügung stellt
Strafen
Die Bußgelder für Verstöße gegen das KI-Gesetz werden als Prozentsatz des weltweiten Jahresumsatzes des betreffenden Unternehmens im vorangegangenen Geschäftsjahr oder als vorher festgelegter Betrag festgesetzt, je nachdem, welcher Betrag höher ist. Gegen KMU und Start-ups drohen verhältnismäßige Bußgelder.
Transparenz und Schutz der Grundrechte
Bevor einige Unternehmen, die öffentliche Dienstleistungen erbringen, ein KI-System mit hohem Risiko einsetzen, müssen die Auswirkungen auf die Grundrechte bewertet werden. Die Verordnung sorgt außerdem für mehr Transparenz bei der Entwicklung und Nutzung risikoreicher KI-Systeme. Hochrisiko-KI-Systeme sowie bestimmte Nutzer eines Hochrisiko-KI-Systems, bei denen es sich um öffentliche Einrichtungen handelt, müssen in der EU-Datenbank für Hochrisiko-KI-Systeme registriert werden, und Nutzer eines Emotionserkennungssystems müssen dies natürlich mitteilen Personen, wenn sie einem solchen System ausgesetzt sind.
Maßnahmen zur Unterstützung von Innovationen
Das KI-Gesetz sorgt für einen innovationsfreundlichen Rechtsrahmen und soll evidenzbasiertes Regulierungslernen fördern. Das neue Gesetz sieht vor, dass KI-Regulierungssandboxen, die eine kontrollierte Umgebung für die Entwicklung, Prüfung und Validierung innovativer KI-Systeme ermöglichen, auch das Testen innovativer KI-Systeme unter realen Bedingungen ermöglichen sollen.
Nächste Schritte
Nach der Unterzeichnung durch die Präsidenten des Europäischen Parlaments und des Rates wird der Gesetzgebungsakt in den kommenden Tagen im Amtsblatt der EU veröffentlicht und tritt zwanzig Tage nach dieser Veröffentlichung in Kraft. Die neue Verordnung gilt mit einigen Ausnahmen für bestimmte Bestimmungen zwei Jahre nach ihrem Inkrafttreten.
Quelle: Rat der EU
