Generative Künstliche Intelligenz (KI) gewinnt in der öffentlichen Verwaltung zunehmend an Bedeutung. Seit Ende 2022 werden KI-Modelle, die Inhalte generieren, analysieren oder übersetzen, verstärkt in Anwendungen der Bundesverwaltung integriert – etwa in Chatbots oder zur Textzusammenfassung.
Doch mit den Chancen steigen auch die Risiken. Laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI) unterscheiden sich generative KI-Anwendungen sicherheitstechnisch deutlich von herkömmlicher IT. Neue Angriffsvektoren wie (Indirect) Prompt Injections könnten etwa dazu genutzt werden, Chatbot-Ausgaben gezielt zu manipulieren. Die möglichen Folgen reichen vom Abfluss sensibler Daten bis hin zur Verbreitung von Schadsoftware.
Zukunftskongress als Rahmen
Um diesen Risiken zu begegnen, hat das BSI am beim 11. Zukunftskongress Staat & Verwaltung in Berlin einen neuen Kriterienkatalog vorgestellt. Dieser definiert Anforderungen für die sichere Integration externer generativer KI-Modelle in Verwaltungsanwendungen. Ziel ist ein einheitliches Mindestsicherheitsniveau in der Bundesverwaltung.
BSI-Vizepräsident Thomas Caspers erklärte, die Einsatzszenarien für KI würden immer vielfältiger. Die Verwaltung brauche deshalb frühzeitig Orientierung, um Chancen sicher nutzen zu können. Der Kriterienkatalog solle hierbei eine konkrete erste Hilfestellung bieten.
Die Publikation richtet sich an IT-Sicherheitsbeauftragte oder vergleichbare Stellen und ist hier abrufbar.
