Algorithmen sind allgegenwärtig – und fernab jeder Kontrolle
Automatisierte Entscheidungssysteme dringen in immer Bereiche unseres Berufslebens ein. Sie sortieren Bewerbungen (aus), geben Empfehlungen zur Fortbildung von Arbeitslosen ab oder erstellen Diagnosen. Höchste Zeit, solche Systeme auch rechtlich zu beaufsichtigen.
Algorithmen sind in Software gegossene Entscheidungssysteme, mit denen wir täglich leben, seit es das Internet gibt: Sie bestimmen, welche Links wir auf den Ergebnisseiten von Suchmaschinen sehen, welche Produkte wir auf Amazon interessant finden könnten, welche Nachrichten in unserem Facebook-Feed auftauchen oder wer auf einer Partnerbörse gut zu uns passen würde. Doch Algorithmen erobern auch immer mehr berufsrelevante und gesellschaftspolitische Bereiche.
Bereits 2017 stellte ein Bericht der Bertelsmann-Stiftung fest, dass bis zu 70 Prozent der Stellenbewerber in Großbritannien und in den USA zuerst von automatisierten algorithmischen Verfahren bewertet werden, bevor ein Mensch ihre Unterlagen sieht. Inzwischen werden in Finnland private E-Mails von Jobsuchenden analysiert, um Persönlichkeitsprofile zu erstellen, in Italien werden Algorithmen hinzugezogen um zu entscheiden, wer eine medizinische Behandlung erhält, und in Dänemark sollen automatisierte Systeme dabei helfen, vernachlässigte Kinder zu identifizieren.
Algorithmen sind oft kaum nachvollziehbar
Die Fehldiagnosen, falsche Schlüsse und Diskriminierung sind dabei die unangenehmen Nebenerscheinungen, die den Einsatz von Algorithmen häufig begleiten. Amazon musste beispielsweise letzten Herbst eine Software für die Vorsortierung von Bewerbungen aus dem Verkehr ziehen, weil sie Frauen diskriminierte. Eine ähnliche Problematik zeigte sich beim Einsatz einer Software bei der österreichischen Arbeitsagentur, welche die Arbeitsmarktchancen ihrer Kunden bewerten sollte. Und letzten November brachte ein Bericht des Spiegel und des Bayerischen Rundfunks zutage, dass die Kriterien zur Kreditvergabe der Schufa nicht immer nachvollziehbar sind.
Die rasante Verbreitung algorithmischer Entscheidungssysteme (Automated Decision Making, ADM) steht im krassen Widerspruch zur allgemeinen Unwissenheit über die Funktionsweise und den Einfluss solcher Systeme. In einer repräsentativen Befragung der Bertelsmann-Stiftung letzten September kam heraus, dass fast die Hälfte der Europäer nicht weiß, was Algorithmen sind. Ein Fünftel der Befragten hatte überhaupt keine Vorstellung von den Anwendungsbereichen von Algorithmen und nur wenige wussten, wo und wie Algorithmen zum Einsatz kommen. Lediglich 8 Prozent gaben an, viel über sie zu wissen.
Die Haltung gegenüber Algorithmen ist dabei von Land zu Land sehr unterschiedlich. So gab es in Polen beispielsweise den höchsten Anteil der Befragten, die über Algorithmen gut Bescheid wissen (11 Prozent), und zugleich die pragmatischste Haltung. Nur 3 Prozent der Polen finden Algorithmen beängstigend, 56 Prozent sehen darin mehr Chancen als Risiken. In Frankreich hingegen fürchten sich 21 Prozent vor maschinellen Entscheidungen und 28 Prozent der Deutschen befürchten Manipulationen.
Die Öffentlichkeit will mehr Kontrolle
Immerhin rückt das Thema hierzulande schnell ins Bewusstsein der Menschen. Während vor einem Jahr noch 46 Prozent überhaupt keine Meinung darüber hatten, ob sie den Einsatz von Algorithmen positiv oder negativ bewerten, waren bei der Umfrage im Herbst nur noch 36 Prozent der Deutschen unentschieden (EU-Durchschnitt: 34 Prozent). Zugleich sind drei Viertel der Europäer der Ansicht, dass Algorithmen einer stärkeren Kontrolle unterworfen werden sollten. Für Jörg Dräger, Vorstand der Bertelsmann Stiftung, sind die Zahlen ein gutes Zeichen, denn sie würden verdeutlichen, dass „eine gesamteuropäische Diskussion und Strategie zum Einsatz von Algorithmen und künstlicher Intelligenz“ nötig ist.
Eine öffentliche Debatte zu dem Thema scheint dringend nötig zu sein. Ein Bericht von AlgorithmWatch von Januar 2019 mit dem Titel „Automating Society“ führt 60 konkrete Beispiele beim Einsatz von ADM-Systemen aus zwölf Ländern und deckt teils erhebliche Regulierungslücken auf. Matthias Spielkamp, Geschäftsführer von AlgorithmWatch und Herausgeber des Reports, warnt dabei von Science-Fiction-Scheindiskussionen über ‚Künstliche Super-Intelligenz, die Menschen unterjocht‘. Es gehe dabei um sehr aktuelle Probleme, nämlich zu verstehen, „welche Herausforderungen Entwicklungen wie ‚predictive analytics‘ mit sich bringen, die menschliches Handeln vorhersagen wollen – sei es bei Wahlen, Kriminalität oder der Kindererziehung. Diesen Herausforderungen müssen wir durch angemessene Regulierung, Prüfverfahren und Aufsichtsbehörden gewachsen sein.“
Vor der Regulierung steht ein harter Kampf mit der Industrie
Natürlich müssten Regulierung und Prüfverfahren auf europäischer Ebene gelten und wir wissen seit der Datenschutz-Grundverordnung (DSGVO) oder der kommenden E-Privacy-Richtlinie, dass das lange dauern kann. Doch immerhin ist in letzter Zeit etwas Bewegung in die Sache gekommen, und das nicht erst seit die Bundesregierung sich des Themas digitale Ethik angenommen hat. Der Bericht von AlgorithmWatch wurde im Europäischen Parlament in Brüssel auf Einladung der Europaabgeordneten Liisa Jaakonsaari (S&D), Julia Reda (Greens/EFA) und Michał Boni (EPP) präsentiert.
In Finnland wird ein ADM-System unter Androhung von Strafe verboten.
Auch auf nationaler Ebene tut sich einiges. In Deutschland und Großbritannien arbeiten beispielsweise Datenschützer, Interessenvereinigungen und zivilgesellschaftliche Organisationen zusammen mit Parlaments- und Regierungskommissionen und kommerziellen Plattformen an der Thematik. In Frankreich sieht ein erstes Gesetz vor, dass Algorithmen offengelegt werden müssen – wenngleich sich zum jetzigen Zeitpunkt kaum jemand daran hält. Und in Finnland haben ein Ombudsmann und ein Tribunal entschieden, dass eine Bonitätsprüfungsfirma einen Mann diskriminiert hat und ihr unter Androhung eines Bußgelds von 100.000 Euro untersagt, das System weiter einzusetzen.
Es ist bereits abzusehen, dass der Kampf um die Regulierung und die Nachvollziehbarkeit von Algorithmen mit harten Bandagen gegenüber der Industrie geführt werden wird. Algorithmen gelten bei den meisten Firmen als Betriebsgeheimnisse, in welchen viel Entwicklungsarbeit gesteckt wird – vom Suchalgorithmus bei Google bis zum Bonitätsalgorithmus bei der Schufa. Die beiden genannten Firmen basieren darauf ihr Geschäftsmodell und damit ihre ganze Existenz. Eine Forderung nach Nachvollziehbarkeit, Transparenz oder gar einer Offenlegung dieser Kronjuwelen wird erbitterte Lobby-Schlachten nach sich ziehen.
