Das europäische Gesetz gibt wegweisende Regeln zum Umgang mit Künstlicher Intelligenz (KI) vor. KI-Systeme werden dabei in Risikokategorien eingeteilt. Es gibt kein klares Verbot für den Einsatz von Gesichtserkennungs-KI durch Strafverfolgungsbehörden. BfDI Kelber empfiehlt härtere nationale Verbote.
Biometrische Fernidentifizierungssysteme werden als Hochrisiko-Systeme eingestuft. Strafverfolgungsbehörden dürfen sie nur in Ausnahmefällen nutzen, beispielweise um gezielt nach einer vermissten Person zu suchen oder einen Terroranschlag zu verhindern. In jedem Fall braucht es für ihren Einsatz eine gerichtliche Genehmigung. Weiterhin darf keine KI eingesetzt werden, um soziales Verhalten zu bewerten („Social Scoring“), Menschen zu beeinflussen oder ihre Schwächen auszunutzen, so die EU.
Pflichten für Hochrisiko-Systeme
Alle Hochrisiko-KI-Systeme sind dazu verpflichtet, Risiken zu bewerten und zu verringern sowie Nutzungsprotokolle zu führen. Außerdem sollen sie transparent sein und von Menschen beaufsichtigt werden. Die Bevölkerung kann zukünftig Beschwerden über KI-Systeme einreichen und Erklärungen für Entscheidungen verlangen.
„Ich begrüße, dass die Datenschutzaufsichtsbehörden als Aufsicht für diverse Hochrisiko-KI-Systeme vorgesehen sind“, erklärte der Bundesdatenschutzbeauftragte (BfDI) Prof. Ulrich Kelber. Viele Anforderungen an diese Systeme seien eng mit dem Datenschutz verknüpft. So werde beispielsweise der Schutz vor automatisierter Entscheidung gestärkt. Allerdings kritisiert der BfDI das Fehlen eines klaren Verbots von biometrischer Fernerkennung im öffentlichen Raum. Prof. Kelber empfiehlt, dass die Bundesregierung striktere nationale Verbote einführen sollte.
Neues Regieren basiert auf Technologien
Mit dem AI Act komme man „einen deutlichen Schritt weiter, auch in der Zusammenarbeit auf europäischer Ebene“, kommentierte CIO Bund Dr. Markus Richter. Dem Mitberichterstatter des EU-Ausschusses für bürgerliche Freiheiten Dragos Tudorache zufolge habe man geschafft, das Konzept der Künstlichen Intelligenz „mit den grundlegenden Werten zu verknüpfen, die das Fundament unserer Gesellschaften bilden“. Allerdings stehe noch ein langer Weg bevor, der weit über das KI-Gesetz hinausreiche, betonte Tudorache. Dieses diene als Ausgangspunkt für ein „neues Modell des Regierens, das auf Technologie aufbaut“.
Die Abgeordneten nahmen die Verordnung mit 523 zu 46 Stimmen bei 49 Enthaltungen an. Auf den Text hatten sich Parlament und Rat im Dezember 2023 geeinigt (Behörden Spiegel berichtete). Nun wird die Verordnung von Rechts- und Sprachsachverständigen abschließend überprüft. Sie dürfte noch vor Ende der Wahlperiode, also bis zum 10. Juni 2024, angenommen werden. Der Rat muss die neuen Vorschriften ebenfalls noch förmlich annehmen.
Zwei Jahre nach ihrem Inkrafttreten ist die Verordnung dann uneingeschränkt anwendbar. Das Verbot bestimmter Praktiken gilt bereits nach sechs Monaten, Verpflichtungen für Hochrisikosysteme nach 36 Monaten.
