(BS/ Julian Faber) Der europäische „AI Act“ tritt in seine entscheidende Umsetzungsphase. Was auf Brüsseler Ebene Innovationen ethisch regulieren und Rechtssicherheit schaffen soll, droht in den deutschen Rathäusern zum massiven Bremsklotz zu werden.
Die Hoffnungen, die Verwaltungen in Künstliche Intelligenz (KI) setzen, sind immens. Angesichts einer dramatischen Pensionierungswelle und eines chronischen Fachkräftemangels gelten smarte Algorithmen oft als letzter Rettungsanker, um die kommunale Daseinsvorsorge im kommenden Jahrzehnt überhaupt noch flächendeckend aufrechterhalten zu können. München testet die automatisierte Erfassung von Rechnungsdaten, Leipzig setzt KI bei Wohngeldanträgen ein, Dresden nutzt Datenmodelle für die Prognose von Schul- und Kitaplätzen. Doch mit dem Inkrafttreten wandelt sich die anfängliche Aufbruchsstimmung zunehmend in Ernüchterung.
Die Hochrisiko-Falle
Die Gesetzgeber in Brüssel teilen KI-Systeme durch die Verordnung in unterschiedliche Risikoklassen ein. Das Problem: Nahezu alles, was in einer modernen Verwaltung einen messbaren Hebel zur Effizienzsteigerung bietet, gilt laut Verordnung als „Hochrisiko-System“. Sobald ein Algorithmus im Sozialamt eingesetzt wird, um die massiven Aktenberge von Wohngeld- oder Bürgergeldanträgen automatisiert vorzuprüfen oder auf Auffälligkeiten zu scannen, schnappt die Regulierungsfalle zu.
Gleiches gilt für die chronisch überlasteten Ausländerbehörden. Der AI Act führt ausdrücklich Systeme für „Migration, Asyl und Grenzkontrolle“ auf. Ein KI-gestütztes Triage-System, das Akten nach Dringlichkeit sortiert, ist somit rechtlich hochsensibel. Selbst interne Verwaltungsprozesse bleiben nicht verschont: Die algorithmenbasierte Bewerberauswahl für städtische Stellenangebote im Personalamt oder die Zuweisung von knappen Kita- und Schulplätzen unterliegen ausnahmslos den strengsten Regularien des Gesetzes. Sobald eine Künstliche Intelligenz über den Zugang zu existenziellen oder wesentlichen Leistungen entscheidet, ist der Traum vom unbürokratischen „Plug-and-Play“-Einsatz ausgeträumt.
Zweifellos hat dieser strenge regulatorische Rahmen seine Berechtigung. Der ehemalige Bundesbeauftragte für Datenschutz, Prof. Ulrich Kelber, warnt vor „möglichen schweren Grundrechtseingriffen“ durch neue Datenauswertungstechnologien. Auch Martin Vollmer, Fachanwalt für Verwaltungs- und Informationstechnologierecht betont: „Der Einsatz innovativer KI kann hohe Risiken für die Rechte der Bürgerinnen und Bürger bergen – etwa Diskriminierung, Fehlentscheidungen oder Eingriffe in die Privatsphäre“. Die Gewährung existenzieller Sozialleistungen, die Vergabe knapper Ressourcen oder Entscheidungen über den Aufenthaltsstatus sollten niemals der intransparenten Blackbox eines Algorithmus allein überlassen werden.
Doch in der administrativen Praxis der Kommunen führt dieser notwendige Schutzmechanismus zu einem massiven Zielkonflikt. Wenn überlastete Sachbearbeiter künftig jeden maschinellen Entscheidungsvorschlag aufwendig händisch nachprüfen, juristisch rechtfertigen und den gesamten Kontrollprozess lückenlos dokumentieren müssen, verpufft der eigentliche Nutzen der Technologie fast vollständig.
Brüssel statt Beschleunigung
Für die Kommunen bedeutet das Gesetz enorme bürokratische Dokumentationspflichten. Vor dem produktiven KI-Einsatz muss künftig zwingend eine Grundrechte-Folgenabschätzung durchgeführt werden. Die Verwaltung muss lückenlos dokumentieren, dass der verwendete Algorithmus bestimmte Bevölkerungsgruppen nicht strukturell benachteiligt oder diskriminiert. Zudem greift das Prinzip der menschlichen Aufsicht: Ein Sachbearbeiter muss die maschinelle Entscheidung stets fachlich verstehen, überprüfen und im Zweifelsfall überstimmen können. Genau diese engmaschigen Vorgaben konterkarieren in den Augen vieler Verwaltungspraktiker den eigentlichen Zweck der Technologie. Thomas Köster, Leiter der Bürgerämter in der Stadt Hamm, kommentiert: „Wir wollen in die Reduzierung von Wartezeiten investieren, nicht in ihre Organisation.“
Hinzu kommt fehlendes Knowhow: „Gerade beim Einsatz von Large Language Models bestehen für öffentliche Stellen erhebliche Unsicherheiten“, konstatiert die amtierende Bundesbeauftragte für Datenschutz Prof. Dr. Louisa Specht-Riemenschneider. Wohl auch deshalb hat die EU die Kommunen dazu verpflichtet, geeignete Maßnahmen zur Förderung der KI-Kompetenzen aller Personen zu ergreifen, die mit der Nutzung betraut sind. „Für Kommunen empfiehlt es sich, spätestens jetzt mit Breitenschulungen zu beginnen – sei es durch interne Workshops oder externe Fortbildungen“, so Vollmer. „Dokumentierte Nachweise schützen zudem vor Haftung: Fehlende Schulung kann bei Schäden schnell als Sorgfaltspflichtverletzung gelten.“
Dauerbrenner Datenschutz
Weiterhin berührt der KI-Einsatz auch den Datenschutz: „Die DSGVO enthält keine Ausnahmen für die Anwendung von KI-Systemen. KI-Entwicklung und -Nutzung müssen daher doppelt geprüft werden: Einerseits auf KI-VO-Compliance, andererseits auf DSGVO-Konformität“, so Vollmer. „Die Herausforderung für Kommunen besteht darin, beide Regime kohärent umzusetzen.“
Der behördliche Einsatz KI-generierter Texte und Grafiken – beispielsweise im Rahmen der Pressearbeit – birgt gleich ein doppeltes Risiko: Erstens gelten KI-generierte Inhalte stets als gemeinfrei. Die Kommune erwirbt keine Exklusivrechte, sodass Dritte städtische KI-Logos oder Kampagnenbilder beliebig kopieren und zweckentfremden dürfen. Zweitens drohen der Verwaltung handfeste Haftungsrisiken durch unbewusste Urheberrechtsverletzungen. Da KI-Modelle mit geschützten Werken trainiert werden, können ihre Ergebnisse unbemerkt fremde Originale reproduzieren. Publiziert die Behörde ein solches maschinelles Plagiat, haftet sie vollumfänglich. Eine klare behördliche AI-Governance ist daher zwingend: Kein KI-Inhalt darf ohne menschliche Endkontrolle und Plagiatsprüfung veröffentlicht werden.
Die kommunalen IT-Dienstleister und Rechenzentren, die diese Systeme für die Städte und Kreise entwickeln und rechtssicher beschaffen sollen, stehen zeitgleich vor einem massiven vergaberechtlichen Haftungsproblem. Das deutsche Beschaffungswesen kennt bislang keine agilen Musterverträge, die eindeutig regeln, wer eigentlich haftet, wenn ein eingekaufter, selbstlernender Algorithmus im laufenden Amtsbetrieb plötzlich diskriminierende Tendenzen entwickelt. Dr. Uda Bastians, Beigeordnete für Recht und Verwaltung beim Deutschen Städtetag, weist außerdem auf die Notwendigkeit digitaler Souveränität hin: „Viele Städte stehen vor der Frage, wie sich KI-Lösungen nutzen lassen, ohne in Abhängigkeit von wenigen großen Anbietern zu geraten.“
Dieser erdrückende Umfang an Hürden und Risiken birgt die Gefahr, dass Kämmerer und Landräte aus Angst vor Bußgeldern, Regressforderungen oder Abhängigkeiten den Einsatz innovativer KI-Lösungen auf unbestimmte Zeit vertagen. Es droht ein „Innovation-Freeze“.
Einheitliche Standards als Ausweg
Die Forderung der kommunalen Familie ist eindeutig: Um die EU-Gesetzgebung zu wahren, ohne eine Effizienzsteigerung abzuschreiben, braucht es vom Bund zentral geprüfte KI-Baukästen und rechtssichere Musterverträge, die von den Kommunen ohne erneute, teure Einzelfallprüfung aus dem Netz geladen und unmittelbar eingesetzt werden können.
Die administrative Ebene muss mit einer starken Stimme sprechen, um zu verhindern, dass jede der rund 11.000 deutschen Kommunen das Rad der komplexen KI-Folgenabschätzung mühsam neu erfinden muss. Die Rathäuser benötigen drängender denn je handfeste Unterstützung bei der Übersetzung abstrakter EU-Normen in belastbares Verwaltungshandeln.
Sollte es Bund und Ländern nicht kurzfristig gelingen, die enormen regulatorischen Hürden des AI Acts durch pragmatische und vorzertifizierte Unterstützungsangebote zu senken, könnte die EU-Verordnung den Einzug von KI in die Bürgerämter auf Jahre blockieren. Die europäische Verordnung mag in der Theorie ethisch brillant gedacht sein – ob sie am Schreibtisch einer deutschen Ausländerbehörde oder im Sozialamt auch administrativ handhabbar ist, muss sich im harten Praxistest erst noch beweisen.
