ENISA warnt vor Risiken des KI-Einsatzes

0
171
ENISA ruft die EU auf, sich gegen Risiken in Verbindung mit Künstlicher Intelligenz zu rüsten. (Foto: ENISA)

Der zunehmende Einsatz Künstlicher Intelligenz (KI) in kritischen Bereichen birgt erhebliche Risiken. Die europäische Cyber-Sicherheitsagentur ENISA warnt in einem Bericht vor neuartigen Angriffsmethoden sowie Bedrohungen für Grundfreiheiten.

Unvorhersehbare Risiken fürchtet die Behörde vor allem dort, wo KI für die automatisierte Entscheidungsfindung eingesetzt wird, so bei autonomen Fahrzeugen, in der industriellen Fertigung und im Gesundheitsbereich. Um gute Ergebnisse zu liefern, durchläuft KI meist große Mengen von Daten und das über viele Schritte der Liefer- bzw. Wertschöpfungskette hinweg. Dabei liefert sie Informationen für weitreichende Entscheidungen oder führt diese selbstständig herbei. Entsprechend können Sabotage oder Manipulation von KI-Anwendungen schwerwiegende Folgen für Organisationen und Bürgerinnen und Bürger haben.

Aufgrund der hohen Datenmengen sind auch die potenziellen Datenschutzrisiken besonders hoch. Die ENISA warnt zudem vor Versuchen, die Transparenz und Nachvollziehbarkeit der Systeme zu unterwandern. So könnten gezielte Eingriffe in die Datengrundlage zu algorithmischen Entscheidungen führen, die Personen um ihre Rechte oder den Zugang zu Dienstleistungen bringen – zum Beispiel, wenn sie hinsichtlich Bonität falsch klassifiziert werden.

Gezielte Maßnahmen gefordert

Die ENISA ruft die EU auf, gezielte Sicherheitsmaßnahmen zu treffen, um die Risiken beim KI-Einsatz beherrschen zu können. Dazu gehöre die eingehende Prüfung von Technik, bevor sie in kritischen Bereichen eingesetzt wird. Die Cyber-Sicherheitsbehörde spricht sich für die Förderung eines EU-Ökosystems für sichere und vertrauenswürdige KI aus, das die gesamte Lieferkette umfasst. Dazu sollten Forschungslücken im Bereich der KI und IT-Sicherheit ausgemacht und geschlossen werden. Damit sichere KI-Algorithmen und -Produkte in Europa entstehen können. “KI made in Europe” solle weltweit als Gütesiegel für moderne, sichere und ethische Systeme stehen.

Kommentieren Sie den Artikel

Please enter your comment!
Please enter your name here