Für Arbeitgeber gehört es zum Alltag, Auswahlentscheidungen zu treffen. Ob die Bewerberauswahl, die Berechnung variabler Vergütung oder die Abschätzung von Kündigungsabsichten – Künstliche Intelligenz bietet großes Potenzial, solche Entscheidungen zu vereinfachen und zu beschleunigen. Doch nicht alles, was möglich ist, ist auch erlaubt.
Die Entscheidung, KI einzusetzen, unterliegt der verfassungsrechtlich verankerten Unternehmerfreiheit. Ihr gegenüber stehen die individuellen Interessen und Rechte der betroffenen Personen. Diese widerstreitenden Interessen gelte es im Hinterkopf zu behalten, mahnt Prof. Dr. Friederike Malorny, Professorin für Bürgerliches Recht, Arbeitsrecht und Sozialrecht an der Universität Münster, auf dem Kongress Zukunft Dienstrecht des Behörden Spiegel.
Die Rechtslage ist verzwickt. Die im letzten Jahr beschlossene KI-Verordnung (KI-VO oder AI Act) soll Licht ins Dunkel bringen. Da die KI-VO bereits einen langen Schatten vorausgeworfen hat, stellte die EU-Kommission jüngst das Paket Digital-Omnibus vor, mit dem Gesetze gestrafft, die Rechtslage vereinfacht sowie Bürokratie abgebaut werden soll und das zur konsistenteren Umsetzung bestehender Pflichten beitragen soll, erläutert die Professorin. Die KI-VO adressiert auch Behörden und legt ihnen als Anbieter oder Betreiber Pflichten auf, sobald sie KI-Systeme einsetzen. Die Verordnung bewertet das Risiko, das mit der Nutzung einzelner KI-Anwendungen einhergeht, und leitet daraus ebendiese Pflichten ab. Der Einsatz von Chatbots oder Spam-Filtern wird z. B. als geringes bzw. minimales Risiko eingestuft und ist damit für Behörden meist unproblematisch.
Zum Schutz der Beschäftigten
Anwendungen, die im Kontext von Arbeitsverhältnissen eingesetzt werden, sind hingegen typischerweise als Hochrisiko-KI-Systeme einzuordnen. Sie lösen hohe Pflichten der Anbieter oder Betreiber aus – wenn sie nicht sogar als Systeme mit unannehmbarem Risiko gänzlich verboten sind. Ein unannehmbares Risiko liegt z. B. dann vor, wenn KI-Systeme zur Ableitung von Emotionen von Arbeitnehmern am Arbeitsplatz dienen. Hochrisiko-KI-Systeme seien demgegenüber zwar im Grundsatz verboten, es gebe jedoch einen Erlaubnisvorbehalt, erläutert Malorny. Anbieter und Betreiber treffen hohe Pflichten zur Gefahrenprävention.
Auch nach der Datenschutzgrundverordnung (DSGVO) ist die Bewertung des Einsatzes von KI nicht unproblematisch. Doch Erlaubnistatbestände sind hier ebenfalls denkbar. Willigt z. B. ein Bewerber in ein KI-gestütztes Bewerbungsverfahren ein, kann die Nutzung von KI erlaubt sein – sofern der Bewerber diese Entscheidung aus freien Stücken getroffen hat und nicht durch das vorliegende Machtungleichgewicht faktisch dazu gezwungen war. „In Bewerbungssituationen ist typischerweise nicht von einer solchen Freiwilligkeit auszugehen, es sei denn, es wird etwa als ernst gemeinte Alternative ein rein von Menschen durchgeführtes Bewerbungsverfahren angeboten“, so Malorny. Art. 22 Abs. 1 DSGVO statuiert zudem ein Verbot vollautomatisierter Entscheidungen. Die eigentliche Personalentscheidung muss durch den Arbeitgeber, d. h. die Behörden, getroffen werden – nicht durch eine Maschine. Andernfalls ist der Einsatz von KI verboten. „Die Menschenwürde gewährleistet dem Einzelnen, nicht durch eine große Datenmenge verobjektiviert, gewissermaßen ‚datafiziert‘ und ‚algorithmisiert‘ zu werden.“
Algorithmische Diskriminierung
Die Arbeitgeberseite muss bei praktisch jeder algorithmischen Entscheidung eine nichtdiskriminierungsrechtliche Untersuchung durchführen: „KI wählt Personen nämlich typischerweise aus, indem sie mit Gruppenwahrscheinlichkeiten rechnet, also Gruppen bildet und Personen aufgrund bestimmter Merkmale diesen Gruppen zuordnet“, so Malorny. „Genau das möchte das Benachteiligungsverbot mit Blick auf die ‚verpönten‘ Merkmale aber verhindern.“ Außerdem gewinnt bei algorithmischen Entscheidungen neben der individuellen die strukturelle Diskriminierungsdimension eine enorme Bedeutung. Durch sie treten verstärkt Repräsentationsschäden auf. Im Arbeitsrecht wirken sich die Diskriminierungspotenziale von KI besonders stark aus, da typischerweise ein strukturelles Ungleichgewicht vorliegt und der Zugang zum Arbeitsmarkt ein teilhaberelevantes Gut ist.
Der Einsatz von KI im Arbeitsrecht stellt daher den Diskriminierungsschutz auch konzeptionell vor Herausforderungen. „Am effektivsten ist es, wenn die KI-Systeme bereits so diskriminierungsfrei wie technisch möglich konstruiert werden, also beim Design der algorithmischen Systeme angesetzt wird“, betont Malorny. Die Entwickler dieser Systeme müssten mitwirken. Sie seien der Hebel – nicht die Akteure, die fertige Systeme einsetzten, wie es typischerweise bei Behörden als Arbeitgeber der Fall sei.
