Algorithmenaufsicht gefordert

0
763
Fordert eine Algorithmenaufsicht für einen effizienten digitalen Verbraucherschutz: der Berliner Justizsenator Dr. Dirk Behrendt. (Foto: BS/Dombrowsky)

Entscheidungen, die auf Algorithmen zurückgehen, müssen nachvollziehbar und grundsätzlich anfechtbar sein. Das forderte Dr. Dirk Behrendt, Berliner Senator für Justiz, Verbraucherschutz und Antidiskriminierung auf der PITS 2019. “Wir dürfen digital ablaufende Entscheidungsprozesse nicht generell verteufeln. Aber wir müssen Verbraucher stärken und sie vor Diskriminierung schützen”, so Behrendt.

Dafür brauche es einerseits Transparenz, bei der Art, wie Algorithmen zu Ihren Ergebnissen kommen. Andererseits sei Kontrolle nötig. “Es braucht eine behördliche Aufsicht, damit Betroffene sich aktiv gegen Fehlentscheidungen oder Diskriminierung wehren können”, forderte der Senator. Ob diese bei den Datenschutzbehörden angesiedelt werden oder gar neue Institutionen geschaffen werden sollten, ließ er offen.

Verbraucherschutz sei ein institutionalisierter Interessenausgleich zwischen Anbietern und Verbrauchern. In der digitalen Welt sei das strukturierte Ungleichgewicht noch stärker ausgeprägt, denn der Wissensvorsprung beziehe sich nicht mehr nur auf Produkte und Dienstleistung, sondern auch Informationen über den Verbraucher in Person. “Mittels Prozessen, die Verbraucher oft nicht bemerken oder verstehen und womöglich auch nicht gutheißen, wird deren Verhalten analysiert, monetarisiert und beeinflusst”, kritisierte Behrendt. Als augenfälliges Beispiel nannte er Onlineshops bei denen betrachtete Artikel, Kaufentscheidungen und weitere Informationen aggregiert und künftige Entscheidungen vorausberechnet werden.

Problematisch seien auch Algorithmen, die eine Vorauswahl von Bewerbern auf eine Stelle treffen sollen. Bei solchen Programmen bestehe die Gefahr einer systematischen Diskriminierung nach Geschlecht, Herkunft oder sozioökonomischem Stand.

Kommentieren Sie den Artikel

Please enter your comment!
Please enter your name here