Der AI Act ist heute in Kraft getreten. Er unterteilt KI-Systeme in Risikokategorien mit entsprechend niedrigeren oder höheren Anforderungen. In Ausnahmefällen dürfen Strafverfolgungsbehörden Gesichtserkennungs-KI nutzen. Der Bitkom weist auf offene Fragen in der nationalen Umsetzung und die Einflüsse auf das Urheberrecht hin.
Die europäische KI-Verordnung wurde am 21. Mai beschlossen. Am 12. Juli wurde sie im EU-Amtsblatt veröffentlicht. Nun ist sie in Kraft getreten. In einem halben Jahr müssen bereits die ersten Regeln befolgt werden. Unternehmen drohen bei Nichteinhaltung Sanktionen. Thierry Breton, EU-Kommissar für den Binnenmarkt, betonte die Bedeutung der Verordnung für Europas Führungsrolle im Bereich der vertrauenswürdigen KI. „Mit dem Inkrafttreten des AI Acts hat die europäische Demokratie einen wirksamen, angemessenen und weltweit einmaligen Rahmen für KI geschaffen, der Risiken bekämpft und als Startrampe für europäische KI-Startups dient“, erklärte Breton.
Margrethe Vestager, Exekutiv-Vizepräsidentin, zuständig für das Ressort „Ein Europa für das digitale Zeitalter“, bekräftigte: „Der europäische Technologieansatz stellt die Menschen an erster Stelle und stellt sicher, dass die Rechte aller gewahrt werden.“ Mit der KI-Verordnung werde sichergestellt, dass EU-Vorschriften bei der Einführung von KI-Technologien eingehalten werden.
Polizei darf Gesichtserkennung zum Teil nutzen
Der AI Act unterteilt KI-Systeme in Risikokategorien, von minimalem Risiko bis hin zu unannehmbarem Risiko (Behörden Spiegel berichtete). Je höher das potenzielle Risiko ist, desto mehr Verpflichtungen müssen sie erfüllen. Anwendungen mit „unannehmbarem Risiko“, der höchsten der vier Stufen, werden verboten. Dazu gehören Systeme, die menschliches Verhalten manipulieren oder soziale Bewertungen ermöglichen („Social Scoring“). Für den Einsatz von Gesichtserkennungs-KI durch Strafverfolgungsbehörden gibt es kein klares Verbot, was der Bundesdatenschutzbeauftragte (BfDI) Prof. Ulrich Kelber im März kritisierte (Behörden Spiegel berichtete).
So ist der Einsatz von biometrischen Echtzeit-Fernidentifizierungssystemen in der Öffentlichkeit zu Strafverfolgungszwecken zwar grundsätzlich verboten – in Ausnahmefällen aber erlaubt. Dazu zählen unter anderem die Suche nach Entführungsopfern und vermissten Personen und das Abwenden einer „konkreten, erheblichen und unmittelbaren“ Gefahr für das Leben oder die körperliche Unversehrtheit von Personen sowie der Gefahr eines Terroranschlags. Auch zum „Aufspüren oder Identifizieren einer Person, die der Begehung einer Straftat verdächtigt wird“ dürfen die Systeme zum Einsatz kommen. Der BfDI empfahl im März striktere nationale Verbote.
Nationale Umsetzung offen
Sowohl auf nationaler als auch auf europäischer Ebene seien noch viele Fragen ungeklärt, sagte Bitkom-Präsident Dr. Ralf Wintergerst. Ob Deutschland und Europa zu Innovationsstandorten für Künstliche Intelligenz oder zu Nachzüglern würden, hänge „entscheidend“ von der weiteren Ausgestaltung und Umsetzung des AI Acts ab. Diese soll Wintergerst nach „bürokratiearm und praxisnah“ erfolgen. Der Digitalverband fordert auch einen „zeitnahen“ Vorschlag der Bundesregierung für ein nationales Durchführungsgesetz zum AI Act. Dabei brauche es neben der Ernennung einer zentralen nationalen Behörde ebenso klar geregelte Zuständigkeiten. Zudem müssten alle zuständigen Behörden mit ausreichend Personal und Ressourcen ausgestattet werden. Laut der Verordnung haben die Mitgliedstaaten bis August 2025 Zeit, um die nationale Behörde zu benennen.
Auch auf die Einflüsse auf das Urheberrecht macht der Bitkom aufmerksam. So soll die KI-Verordnung Transparenz für Urheber und Rechteinhaber schaffen, indem sie nachvollziehen können, welche Inhalte für das Training eines KI-Modells verwendet wurden. Gleichzeitig verweise der AI Act auf die Text-and-Data-Mining-Schranke der Urheberrechtsrichtlinie von 2019. Diese erlaube Vervielfältigungen von urheberrechtlich geschützten Werken, um daraus Muster und Zusammenhänge zu erkennen. So würden KI-Modelle aktuell entwickelt. Hier könne der Urheber oder Rechteinhaber aber widersprechen, informiert der Branchenverband.
