KI kann den Menschen nie voll ersetzen

0
242
Durch die Potenziale für Gesellschaft und Verwaltungsarbeit wird es ohne KI in Zukunft nicht mehr gehen, so Pia Karger, Abteilungsleiterin “Digitale Gesellschaft, Informationstechnik” im Bundesinnenministeri m. (Foto: BS/Tim Dechent)

Wie soll der öffentliche Sektor mit dem innovativen Potenzial Künstlicher Intelligenz (KI) umgehen? Und welche Bedeutung kommt der KI in der digitalen Gesellschaft von morgen zu? Umso besser die neue Technologie erforscht wird, desto mehr zeigen sich deren Stärken und Schwächen. Dabei wird immer deutlicher: Ohne wird es in Zukunft nicht gehen, aber die Anforderungen an die intrinsische Sicherheit der Systeme steigen immer mehr.

Die frischgebackene Leiterin der Abteilung “Digitale Gesellschaft, Informationstechnik” im Bundesministerium des Innern (BMI), Pia Karger, sieht die Diskussion als gesamtgesellschaftliches Phänomen. Es gebe hohe Potenziale, gleichzeitig aber aufgrund der möglichen Risiken auch viele Bedenken bei Mitarbeitern und in der Bevölkerung. Auf diese Aspekte müsse man proaktiv eingehen, damit das Thema von einer breiten gesellschaftlichen Basis mitgetragen werde: “Dafür wollen wir eine möglichst gesamteuropäisch gestaltete KI-Politik, die auf den europäischen Werten basiert. Es braucht also einen menschenzentrierten Ansatz bei Nutzung und Entwicklung”, so die Abteilungsleiterin. Gleichzeitig solle die staatliche Regulierung aber möglichst wenig hemmende Wirkung auf mögliche Innovationen haben, damit diese Form der KI dennoch international konkurrenzfähig sein könne. Im BMI gebe es bereits eine Reihe von konkreten Anwendungsfällen, in denen KI oder deren Vorstufe, das Machine Learning, zum Einsatz kommen: “Das geht vom Wissensmanagement im Parlamentarischen Fragewesen, in dem Antworten mithilfe von KI vereinfacht ausformuliert werden können, über Hilfsprogramme für Einsatzkräfte des Technischen Hilfswerks in Einsatz und Übung bis hin zur Analyse und Auswertung von Satellitendaten der Erdbeobachtung, in denen Umweltphänomene immer greifbarer werden”, erläutert Karger. Einen wesentlichen Aspekt des gesamten Themas betont sie aber beim Einsatz von Analyseprogrammen im Rahmen des BMI-Projektes “Polizei 2020”, denn “KI kann den Menschen bei seiner Arbeit immer nur unterstützen. Der Mensch ist und bleibt das zentrale Element, der die KI steuert”. KI müsse immer rechtskonform zuverlässig und erklärbar sein und bleiben, erklärt die BMI-Frau zum Abschluss.

Hilfsmittel für Abwehr und Angriff

So vielseitig die neuen Technologien als Hilfsmittel sind, so interessant sind sie auch für digitale Angreifer. Die leitende Direktorin des Forschungsinstituts CODE, Prof. Dr. Gabi Dreo Rodosek, weist darauf hin, dass laut der bereits 1946 gegründeten Computer Society des Washingtoner Institute of Electrical and Electronics Engineers (IEEE) drei der wichtigsten fünf Cyber-Risiken von KI-Systemen unterstützt werden oder über die Störung derselben Schaden anrichten können. So können KI und Machine Learning einerseits zur Verteidigung genutzt werden, indem Sicherheitsrichtlinien auf Basis von maschinellen Beobachtungen abgeleitet oder Phishing-Angriffe detektiert werden; andererseits kann die Technologie aber auch Angriffe unterstützen, indem eine Tarnung im digitalen Hintergrundrauschen verankert wird oder genau zugeschnittene Angriffs-Softwares erstellt werden, die mit KI und Machine Learning auf höchste Effektivitätslevel kommen. Fazit: “Unsere Verteidigungsstrategien müssen sich ändern und genauso anpassen wie die Technik selbst. Die Regeln und Signaturen aus Sicherheitssystemen sind zu statisch für heutige Angreifer, wir brauchen adaptive und gehärtete Systeme und Moving Target Defence, um die Asymmetrie des Angriffs zu verlagern.” Solche dynamischen Systeme könnten mit Machine Learning und KI, aber natürlich auch mit Deep-Learning-Anwendungen gestaltet werden, aber die Technologie müsse dafür selbst sicher sein. Daher seien “Security by Design” und “Security by Default” zwingende Voraussetzung für den Betrieb solcher Systeme nicht nur in der Verwaltung, sondern grundsätzlich in allen Bereichen der Gesellschaft, so Dreo Rodosek.

Kommentieren Sie den Artikel

Please enter your comment!
Please enter your name here