EU-Kommission legt ersten Rechtsrahmen vor

0
674
Faktor Vertrauen: Mit einer neuen KI-Verordnung will die EU sicherstellen, dass die Schlüsseltechnologie von Europas Bürgerinnen und Bürgern angenommen wird. (Foto: geralt, pixabay.com)

Europa hat sich vorgenommen, in Zukunft das globale Zentrum für Künstliche Intelligenz (KI) zu werden. Dazu hat die Europäische Kommission diese Woche einen Rechtsrahmen für KI vorgelegt. Es ist der erste seiner Art weltweit. Ganz oben auf der Agenda: der Faktor Vertrauen.  

Mit Hilfe der neuen KI-Verordnung soll sichergestellt werden, dass die Bürgerinnen und Bürger Europas dem vertrauen können, was KI technisch zu leisten im Stande ist. “Verhältnismäßige und flexible Vorschriften” sollen dabei helfen, den spezifischen Risiken gerecht zu werden, die von automatisierten Systemen ausgehen können. Offiziell spricht die Kommission von den “weltweit höchsten Standards”. Im nun vorgestellten Plan legt sie die politischen Veränderungen und Investitionen dar, die ihrer Meinung nach nötig sind, um Europas Position bei der weiteren Entwicklung einer bürgerzentrierten und nachhaltigen KI zu stärken. “Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist“, betont Exekutiv-Vizepräsidentin, Margrethe Vestager.

Ein risikobasierter Ansatz

Zur Anwendung kommen sollen die neuen Vorschriften in allen EU-Mitgliedstaaten direkt und in gleicher Weise. Einem sogenannten “risikobasiertem Ansatz” folgend, clustert die Verordnung von unannehmbaren bis hin zu minimalen Gefahren. Zu Ersteren zählen KI-Systeme, die “als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten”. In diese Kategorie fallen etwa Anwendungen, die menschliches Verhalten manipulieren sowie Social Scoring, also Systeme, die den Behörden eine Bewertung des sozialen Verhaltens ermöglichen.

Mit hohem Risiko eingestuft werden KI-Lösungen u. a. im Bereich Kritischer Infrastrukturen (KRITIS), der Schul- oder Berufsausbildung, Strafverfolgung, bei Rechtspflege und demokratischen Prozessen sowie Migration, Asyl und Grenzkontrollen. Um potenzielle Risiken in der Kategorie zu minimieren, sollen Produkten strenge Vorgaben gemacht werden, ehe sie auf den Markt kommen dürfen. Neben “angemessenen” Risikobewertungs- bzw. Risikominderungssystemen sowie einer Protokoll- und Dokumentationspflicht muss eine hohe Qualität der Datensätze garantiert werden, die in die Systeme eingespeist werden. Nicht zuletzt alle Arten biometrischer Fernidentifizierungssysteme zu Strafverfolgungszwecken sind wegen ihres hohen Risikos vom Echtzeitbetrieb im öffentlichen Raum ausgeschlossen. Ausnahmen bedürfen der Genehmigung einer Justizbehörde und unterliegen einer Beschränkung je nach zeitlicher und geografischer Geltung sowie abgefragter Datenbanken.

KI-Governance: Von Aufsicht bis hin zu regulatorischen Sandkästen

Mit Blick auf eine KI-Governance schlägt die Kommission vor, dass die Einhaltung der neuen Vorschriften von den zuständigen nationalen Marktüberwachungsbehörden beaufsichtigt werden soll. Ergänzend werde ein Europäischer Ausschuss für KI eingerichtet, der die Umsetzung begleiten und die Ausarbeitung von Normen vorantreiben soll. Vorgeschlagen werden schließlich freiwillige Verhaltenskodizes für KI-Anwendungen mit geringem Risiko und “regulatorische Sandkästen”, um verantwortungsvolle Innovationen zu erleichtern.

Dazu Vestager: “Mit der Schaffung der Standards können wir weltweit den Weg für ethische Technik ebnen und dafür sorgen, dass die EU hierbei wettbewerbsfähig bleibt. Unsere Vorschriften werden zukunftssicher und innovationsfreundlich sein und nur dort eingreifen, wo dies unbedingt notwendig ist, nämlich wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen.”

Die Vorschläge der Kommission für ein europäisches KI-Konzept müssen vom Europäischen Parlament und den Mitgliedstaaten noch im Gesetzgebungsverfahren angenommen werden. Sobald die Verordnung verabschiedet ist, soll sie in der gesamten EU gelten. Parallel dazu wird die Kommission weiter mit den Mitgliedstaaten zusammenarbeiten, um die im koordinierten Plan angekündigten Maßnahmen umzusetzen. Weitere Informationen (u. a. zum ebenfalls vorgestellten Konzept für neue Maschinenprodukte und für Exzellenz in der KI) sowie den Link zum Papier gibt es hier.

Kommentieren Sie den Artikel

Please enter your comment!
Please enter your name here