Die zuständigen Ausschüsse im Europaparlament wollen mehr Anwendungen Künstlicher Intelligenz (KI) im Sicherheitsbereich verbieten. Das haben sie in ihrem Entwurf eines Verhandlungsmandats über die KI-Verordnung der EU beschlossen. Außerdem wollen sie die Definition von KI vereinheitlichen.
Die KI-Verordnung der EU verfolgt einen risikobasierten Ansatz. Je nachdem wie riskant eine KI-Technologie und deren Einsatzbereich ist, wird sie einer von vier Risiko-Kategorien zugeordnet. Sogenannte hochriskante KI-Systeme sind demnach verboten. Die EU-Abgeordneten im Binnenmarktausschuss und im Ausschuss für bürgerliche Freiheiten haben die Liste der hochriskanten Systeme erweitert.
Der polizeiliche Einsatz biometrischer Erkennungssysteme soll weitgehend verboten werden. Dazu zählen KI-gestützte Echtzeiterkennung im öffentlichen Raum sowie biometrische Kategorisierung nach Geschlecht, Rasse, ethnischer Zugehörigkeit, Staatsangehörigkeit, Religion und politischer Orientierung. Erlaubt sein soll, wenn eine KI im Nachhinein eine Person biometrisch identifiziert. Die Voraussetzung ist, dass ein Richter dies genehmigt und dass die Straftat schwerwiegend war. Das wahllose Auslesen biometrischer Daten aus Videoaufnahmen und Social Media will das Parlament verhindern. Des Weiteren wollen die Abgeordneten prädiktive Polizeisysteme verbieten. Auch KI-Systeme, die Emotionen erkennen, sollen in der EU nicht eingesetzt werden.
Zudem fügten die Abgeordneten den Hochrisikobereichen noch zwei Kategorien hinzu. Nach ihrem Verständnis sind KI-Systeme, die die politischen Entscheidungen von Wählerinnen und Wählern beeinflussen, ebenso hochriskant wie KI-gestützte Empfehlungsalgorithmen in Social-Media-Plattformen.
„Wir sind zuversichtlich, dass unser Text ein Gleichgewicht zwischen dem Schutz der Grundrechte und der Notwendigkeit herstellt, den Unternehmen Rechtssicherheit zu bieten und die Innovation in Europa zu fördern“, sagte Brando Benifei (S&D). Er ist Ko-Berichterstatter. Seine Kolleginnen und Kollegen nahmen den Entwurf mit 84 Ja-Stimmen zu sieben Nein-Stimmen und 12 Enthaltungen an. Mitte Juli ist die endgültige Abstimmung des gesamten EU-Parlaments über das Verhandlungsmandat angesetzt.
