Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat am Anfang August ein Whitepaper mit dem Titel „Transparenz von KI-Systemen“ veröffentlicht.
Künstliche Intelligenz (KI) ist sowohl im privaten als auch im beruflichen Bereich allgegenwärtig und hat sich als digitales Werkzeug fest etabliert. Die Anzahl der verfügbaren KI-Systeme wächst kontinuierlich, und die zugrunde liegenden Technologien entwickeln sich rasant weiter. Bei den meisten dieser Systeme handelt es sich um sogenannte Blackboxen, bei denen lediglich die Eingaben und Ausgaben sichtbar sind, während die internen Prozesse meist unklar und schwer nachvollziehbar bleiben. Häufig lässt sich der Wahrheitsgehalt der Ausgaben nicht überprüfen. Diese zunehmende Komplexität und die mangelnden Informationen erschweren es, die Vertrauenswürdigkeit der Systeme zu beurteilen.
Das Whitepaper betont, dass Transparenz den Interessenträgern, wie Verbrauchern und Entwicklern, ermöglichen soll, eigenständig zu entscheiden, ob ein KI-System für ihre Bedürfnisse geeignet ist. Wichtige Aspekte dabei sind der Schutz persönlicher Daten, die Vermeidung von Urheberrechtsverletzungen und die IT-Sicherheit. Das BSI definiert in dem Whitepaper den Begriff der Transparenz im Kontext von KI-Systemen und stellt sicher, dass diese Definition technologieneutral und zukunftstauglich ist, um regelmäßige Anpassungen zu vermeiden. Zudem umfasst die Definition Informationen über das gesamte Ökosystem, einschließlich des Anbieters und des Entwicklungsprozesses, und betrachtet somit Transparenz über das eigentliche KI-System hinaus.
Das Whitepaper erläutert die einzelnen Elemente der Definition und stellt den Bezug zu den Transparenzanforderungen der KI-Verordnung des Europäischen Parlaments und des Rates her. Abschließend werden die Chancen und Risiken transparenter KI-Systeme diskutiert, wobei sowohl positive Aspekte, wie die Förderung einer sicheren Nutzung, als auch negative Aspekte, wie die mögliche Offenlegung von Angriffsvektoren, beleuchtet werden.
