Weg frei für das weltweit erste KI-Gesetz
Verständigung im Trilog für die Anwendung künstlicher Intelligenz.
VS – 12/2023
Die Unterhändlerinnen und Unterhändler vom Europäischen Parlament und Rat haben sich
am Freitag, 8. Dezember, nach einem gut 36-stündigen Verhandlungsmarathon auf
einen Kompromiss zur geplanten EU-Verordnung für Systeme mit Künstlicher
Intelligenz (KI) verständigt. Der Kompromiss folgt dabei dem risikobasierten
Ansatz des Gesetzentwurfs der Europäische Kommission vom 21. April 2021. Streitpunkte waren in der
Schlussphase die Regulierung sogenannter Basismodelle der künstlichen
Intelligenz, die beispielsweise ChatGPT zugrunde liegen, sowie die
Möglichkeiten der biometrischen Überwachung.
Risikobasierter Ansatz
Die große Mehrheit der KI-Anwendungen fällt in die Kategorie
mit minimalem Risiko, die keine Auflagen erfüllen müssen. Hierzu zählen
KI-gestützte Empfehlungssysteme oder Filter. Dagegen gelten für als hochriskant
eingestufte KI-Systeme strenge Anforderungen. Diese beziehen sich unter anderem
auf Risikominderungssysteme, Datensatzqualität, Dokumentation, Informationen
für die Nutzer und Aspekte der Cybersicherheit sowie auf die zwingend erforderliche
menschliche Aufsicht. Zu solchen Hochrisiko-KI-Systemen zählen beispielsweise
kritische Infrastrukturen, aber auch Systeme, die in den Bereichen
Strafverfolgung, Grenzkontrolle, und Justiz eingesetzt werden.
Gefährliche Praktiken, die mit
einem unannehmbaren Risiko einhergehen, wie der Einsatz von KI zur Manipulation
des freien Willens oder für Social Scoring, sollen generell verboten werden.
Untersagt wird auch Emotionserkennung am Arbeitsplatz und in
Bildungseinrichtungen.
Transparenzverpflichtungen
Anbieter müssen Systeme so gestalten, dass synthetische
Inhalte wie Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren
Format als künstlich erzeugt oder manipuliert gekennzeichnet werden und als
solche erkannt werden können. So muss im Umgang mit KI-Systemen wie Chatbots für
den Nutzern deutlich hervorgehen, dass sie es mit einer Maschine zu tun haben.
Deepfakes und andere KI-generierte Inhalte müssen daher als solche
gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn Systeme
zur biometrischen Kategorisierung oder Emotionserkennung verwendet werden.
Offenlegung von verwendeten Datenquellen
Für große
sogenannte KI-Basismodelle, die auf einer umfangreichen Datenbasis trainiert
werden und an eine breite Palette unterschiedlicher Aufgaben angepasst werden
können, werden besondere Vorschriften erlassen. Damit soll die Transparenz
entlang der Wertschöpfungskette sichergestellt werden. Es soll zudem ein neues
Europäisches Amt für künstliche Intelligenz innerhalb der Europäischen
Kommission eingerichtet werden. Dieses soll gemeinsam mit den zuständigen
nationalen Marktüberwachungsbehörden die Durchführung und Durchsetzung der
neuen Vorschriften für KI-Modelle überwachen.
Wie geht es weiter?
Die politische Einigung im Trilog muss nun noch vom
Europäischen Parlament und vom Rat förmlich verabschiedet werden. 20 Tage nach
der Veröffentlichung im Amtsblatt tritt das KI-Gesetz in Kraft und kommt zwei
Jahre später zur Anwendung. Ausnahmen sind Verbote, die bereits nach sechs
Monaten gelten, und Vorschriften für große Basismodelle, die nach zwölf Monaten
anzuwenden sind.