Wie gelingt es Behörden, über die Anfangsphase der KI- und Datenimplementierung hinauszukommen? Welche ethischen Standards braucht es für den Einsatz und wie gelingt die Umsetzung im Unternehmensalltag? Auf dem AI4Gov-Kongress des Behörden Spiegel lieferten Fachleute aus Verwaltung, IT-Branche und Hochschulen Antworten.
Vor etwas mehr als einem Jahr ist der europäische AI Act in Kraft getreten, der die Entwicklung und den Einsatz von KI innerhalb der EU regulieren soll. Der seitdem geltende einheitliche und verbindliche Rechtsrahmen hat auch Folgen für die Anwendung von Künstlicher Intelligenz und den Umgang mit Daten innerhalb der Verwaltung. Ein wesentlicher Aspekt ist die Einhaltung ethischer Normen – das wirft fundamentale Fragen auf. Frank Gramüller, Director Sales Public Deutschland des SAS Instituts, listet wesentliche Aspekte auf: „Künstliche Intelligenz darf die Würde des Menschen nicht verletzen ebenso wenig wie Menschenrechte beschneiden.“ Grundsätzlich müssten die Entscheidungen der KI nachvollziehbar sein und es brauche Klarheit, wer für etwaige Fehler haftet.
Ethische Standards als integrative Bestandteile
Damit Mitarbeitende der Arbeit mit KI vertrauen, sei es wichtig, im Unternehmen beziehungsweise in der Verwaltung klare Prozesse im Umgang mit der Technik zu definieren. Sowohl ein Ethik- wie auch ein Datenschutzbeauftragter seien nötig, so Gramüller. Wichtig sei zudem, dass offengelegt werde, wie und warum die KI diese oder jene Entscheidung treffe. „Das schafft Transparenz und Transparenz sorgt für Vertrauen“, unterstreicht er. Das Beachten von ethischen Maßstäben dürfe kein Add-on sein, sondern müsse zum „integrativen Bestandteil“ der KI-Nutzung werden.
Nach einer aktuellen Umfrage des Digitalverbandes Bitkom nutzt mittlerweile jedes dritte Unternehmen hierzulande KI – fast doppelt so viele Firmen wie noch vor einem Jahr. 56 Prozent der befragten Unternehmen sagen aber auch: Der AI Act bringe mehr Nachteile als Vorteile mit sich, fast die Hälfte der Unternehmen beklagte die hohen Anforderungen an den Datenschutz. 40 Prozent äußern hingegen Angst, dass Daten in falsche Hände geraten. 31 Prozent sehen im Einsatz von Künstlicher Intelligenz aber eine Chance, den Fachkräftemangel in Deutschland zu lindern.
Spaß an der Nutzung in den Fokus nehmen
Wie sich der Einsatz von KI in den Behördenalltag integrieren lässt, erläuterte Dr. Stefan Puderbach, Referatsleiter im Digitalministerium Rheinland-Pfalz. Mitarbeitende müssten über die Risiken im Umgang mit der Künstlichen Intelligenz aufgeklärt werden, über sogenannte Halluzinationen oder Falschinformationen beispielsweise. Auch gelte es, zentrale Fragen zu klären, etwa: Ab wann sind Arbeitsergebnisse zu kennzeichnen, die mit Hilfe von KI entstanden sind? Wenn hingegen im Nachgang die Ergebnisse noch einmal geprüft wurden, entfalle eine solche Kennzeichnungspflicht.
„Die Mitarbeitenden sollten Spaß an der Nutzung haben, es dürfen nicht nur die Risiken im Vordergrund stehen“, so Puderbach. Denn: „Die Chance ist groß, durch Künstliche Intelligenz den Bürgerservice zu digitalisieren.“
