Von der Hansestadt Hamburg nach Mainz: Der KI-Assistent LLMoin wird nach Niedersachsen und Bremen nun vom dritten Bundesland nachgenutzt – zum ersten Mal von einem Land außerhalb der Trägerschaft von Dataport. Rheinland-Pfalz erhofft sich vom Tool Effizienzgewinne in der Verwaltung. Interessierte Kommunen können LLMoin bundesweit über ein spezielles Abrechnungsmodell beziehen.
„Wir nutzen KI gezielt, um Prozesse zu beschleunigen, Ressourcen besser einzusetzen und die Arbeit unserer Beschäftigten zu erleichtern“, sagt Dörte Schall (SPD), Digitalisierungsministerin von Rheinland-Pfalz. Die Nachnutzung von LLMoin, einer „bewährten Lösung“, spare Zeit und Kosten und ermögliche eine schnelle Implementierung.
LLMoin startete im Dezember 2024 in Hamburg nach einer einjährigen Testphase in den Regelbetrieb. Seit Februar 2025 wird das Tool auch in Niedersachsen eingesetzt (Behörden Spiegel berichtete), seit Juni zusätzlich in Bremen. Die Anwendung ist über das öffentliche Netz angebunden, sodass sie nun auch Verwaltungen außerhalb des Trägerkreises von Dataport nutzen können.
Individualisierung möglich
Landes- und Kommunalverwaltungen können LLMoin über die Genossenschaft govdigital beauftragen, erklärt Torsten Koß, Vorstand Digitalisierung bei Dataport. Der KI-Assistent sei so konzipiert worden, dass er unkompliziert in anderen Verwaltungen eingesetzt werden könne. Es sei etwa möglich, individuelle Datenquellen anzubinden und spezifische Prompts zu erstellen, teilt der IT-Dienstleister für die norddeutschen Länder mit.
In Rheinland-Pfalz übernimmt der zentrale IT-Dienstleister Landesbetrieb Daten und Information (LDI) den Betrieb und die Betreuung der Lösung. „Wir bauen die KI-Systemarchitektur auf, passen sie an die Anforderungen des Landes an und unterstützen verschiedene KI-Projekte in den Behörden“, berichtet der LDI-Geschäftsführer Matthias Bongarth. Zudem werde ein zentrales Wissensmanagement aufgebaut.
„Höchste Datenschutzstandards“
Die generative KI unterstützt Verwaltungsmitarbeitende bei der Texterstellung, Zusammenfassung und Recherche. Die Lösung basiert auf dem aktuellen Sprachmodell GPT-4.1 von OpenAI und erfüllt laut Dataport „höchste Datenschutzstandards“: So würden die Daten ausschließlich im eigenen Rechenzentrum des Dienstleisters gespeichert und nicht zu Trainingszwecken genutzt.
Der letzte Satz ist interessant: „So würden die Daten ausschließlich im eigenen Rechenzentrum des Dienstleisters gespeichert und nicht zu Trainingszwecken genutzt“
Der Satz suggeriert, dass die Daten das RZ des Dienstleisters nicht verlassen. Das würde aber bedeuten, dass Dataport das GPT-4.1-Modell selbst betreibt. Das wird aber kaum der Fall sein, sondern das Modell wird sicherlich auf Servern von Microsoft in der Azure-Cloud betrieben. Damit verlassen die Daten das RZ und was Microsoft damit wirklich macht/machen muss (der US Cloud Act lässt grüßen) wissen wir nicht.
Schade, dass nicht europäische Anbieter wie ionos, OVH, Mistral, … durch die öffentlichen Auftraggeber gefördert werden. Das würde zu mehr europäischer Souveränität führen und mittel- bis langfristig auch das Angebot verbessern.
Genau das.
Außerdem ist es unverhältnismäßig teuer.