Atlas der Automatisierung

Automatisierte Entscheidungen
und Teilhabe in Deutschland

       

Arbeit

Auf dem Arbeitsmarkt ist das Diskriminierungspotenzial besonders hoch. Wenn ADM-Systeme Einzug in die behördliche Verwaltung von Arbeit und Arbeitslosigkeit halten, ist deshalb besondere Wachsamkeit geboten. Das gleiche gilt für Bewerbungsprozesse, das innerbetriebliche Personalmanagement und die Leistungskontrolle.

BEWERBUNGSVERFAHREN

Algorithmengestützte Auswahlverfahren, zum Beispiel das sogenannte Robo-Recruiting [Link], durchsuchen Bewerbungsprofile nach bestimmten Qualifikationen und Schlagworten. Bei einer großen Anzahl von Bewerber*innen auf eine Stelle kann auf diese Weise eine Vorauswahl getroffen werden. In der Regel sind jedoch im fortgeschritteneren Stadium des Bewerbungsprozesses Menschen involviert. Neben der Kostenersparnis können Vorteile einer Automatisierung darin bestehen, dass der Auswahlprozess entlang klarer Kriterien verläuft und für die Stellenbesetzung irrelevanten Sympathien oder Abneigungen des Personalmanagers oder der Personalmanagerin außen vorbleiben.

Ein weiterführender Schritt besteht darin, über die Auswahl nach vorab bestimmten Kriterien hinaus Bewerbungs-Algorithmen selbstständig die Qualifikation von Kandidat*innen einschätzen zu lassen, etwa mithilfe von Verfahren des Maschinellen Lernens. Der Handels- und Tech-Konzern Amazon hatte 2014 begonnen, eine entsprechende Software zu entwickeln, doch das Tool wurde nie eingesetzt und das Vorhaben Anfang 2017 eingestellt. Die Daten, mit denen der Algorithmus trainiert worden war, basierten auf den letzten zehn Jahren der Amazon-Einstellungspraxis. Es waren hauptsächlich Männer im technologischen Bereich rekrutiert worden. Die Software schloss daraus, dass Männer bei der Stellenvergabe zu bevorzugen wären. Darüber hinaus reproduzierte der Algorithmus weitere diskriminierende Auswahlkriterien [Link].

Andere Verfahren zur Einschätzung von Bewerber*innen setzen auf die Bewertung der Persönlichkeit auf der Basis von psychometrischen Merkmalen wie der Stimme [Link]. Das IBM-Produkt „Watson Personality Insights“ wertet zur Analyse von Persönlichkeitsmerkmalen persönliche Kommunikation in Social Media oder anderen digitalen Formaten aus.

Abgesehen von Fragen nach der funktionalen Tauglichkeit der eingesetzten Verfahren stellt sich das Problem, dass Bewerber*innen in den seltensten Fällen mitgeteilt wird, dass sie automatisiert bewertet werden. Faktisch können individuelle Bewerber*innen nur unter Berufung auf das „Antidiskriminierungsgesetz“ (AGG) gegen die Ablehnung einer Bewerbung vorgehen. Inwieweit Kennzeichnungs- und Zertifizierungspflichten den Einsatz von ADM-Systemen bei Bewerbungsverfahren regulieren könnten, wäre zu diskutieren.

PERSONALMANAGEMENT

Vor allem größere Unternehmen setzen Software für das Personalmanagement ein, etwa in der Lohnbuchhaltung, bei der Urlaubsplanung oder der Registrierung des Krankheitsstands. Darüber hinaus bieten externe Dienstleister Softwareprodukte an, mit deren Hilfe sich Mitarbeiter*innen identifizieren lassen, bei denen ein besonders hohes Risiko besteht, dass sie sich anderweitig bewerben könnten, und die gleichzeitig eine besondere Relevanz für das Unternehmen haben („talent retention“). Andere Anwendungen fokussieren auf die Leistungskontrolle von Arbeitnehmer*innen auf Basis verschiedenster Datenpunkte, die im Zuge alltäglicher Abläufe innerhalb des Unternehmens generiert werden. Weitere Produkte bieten Verfahren für kontinuierlich durchgeführte Befragungen der Beschäftigten an, um Dynamiken in Teams und die Arbeitszufriedenheit der einzelnen Mitarbeiter*innen auszuwerten.

Auch Betreiber von digitalen Plattformen wie Uber (Taxidienst), Foodora (Essenslieferdienst) oder Helpling (Vermittlung von Reinigungskräften) nutzen Software, um bei der Vermittlung von Aufträgen an selbstständige Mitarbeiter*innen das mittlere Management, den Kundenservice und die Buchhaltung zu ersetzen. Schichtplanung, Auftragszuteilung und Leistungskontrolle werden automatisiert per Smartphone-App abgewickelt. Welche rechtliche Handhabe gegen den Einsatz von ADM-Systemen insbesondere für Solo-Selbstständige in der sogenannten Gig-Economy, die im Auftrag von digitalen Plattformen ihre Dienste anbieten, existiert oder geschaffen werden könnte, müsste weiter untersucht werden.

AlgorithmWatch befasst sich seit Anfang 2018 in einem zweijährigen Forschungsvorhaben mit automatisiertem Personalmanagement und betrieblicher Mitbestimmung [Link]. Neben der Frage, wie ausgeprägt ADM-Systeme bereits in Deutschland im Einsatz sind, wird untersucht, inwieweit die Systeme für Arbeitnehmer*innen zu mehr oder weniger Fairness führen, wer in den Unternehmen auf die gesammelten Daten zugreifen kann und inwiefern Aspekte der betrieblichen Mitbestimmung tangiert werden.

ARBEITSlOSIGKEIT

In Einrichtungen der Arbeitsagentur und in Jobcentern kommen zahlreiche Softwaresysteme zum Einsatz. Da der Betrieb von Jobcentern zum Teil alleine bei den Kommunen liegt („Optionskommunen“), ist ein Überblick schwer zu erlangen. Hinsichtlich der Arbeitsagentur wurde in der Antwort auf eine kleine Anfrage der Bundestagsfraktion Die Linke im Herbst 2018 deutlich, dass einige Verfahren, die ADM-Komponenten enthalten könnten, bereits im Einsatz oder geplant sind [Link]. Dazu zählen:

Es bleiben Fragen offen: Welche Softwaresysteme bereiten direkt oder indirekt „Ermessensentscheidungen“ vor? Wie werden Softwareverfahren überprüft und auf mögliche Diskriminierungseffekte untersucht? Pro Jahr landen zehntausende Entscheidungen der Jobcenter vor Gerichten. Welche Rolle spielt die Software der Jobcenter bei der Erstellung dieser umstrittenen Entscheide?


Softwaregestützte Beurteilung der Arbeitsmarktchancen von Arbeitslosen beim österreichischen Arbeitsmarktservice

In Österreich sorgte Ende 2018 eine Ankündigung des Arbeitsmarktservice (AMS) – vergleichbar mit der Arbeitsagentur in Deutschland – für Aufsehen. Eine Softwareerweiterung soll anhand eines statistischen Modells ab 2019 die Chance zur Vermittlung in einen Arbeitsplatz automatisch bewerten. Die Einordnung in eine der drei Kategorien „hoch, mittel und niedrig“ wird laut Presseberichten zunächst noch keine Konsequenzen nach sich ziehen, aber möglicherweise ab 2020 Auswirkungen auf die Vergabe oder das Versagen von Fördermitteln haben [Link]. Kritik entzündet sich daran, dass die Gewichtung der verschiedenen Faktoren allein auf Auswertungen des bisherigen Arbeitsmarkts beruht, existierende Diskriminierungen also im System abgebildet werden. So werden die Vermittlungschancen bestimmter Personengruppen (Frauen, ältere Menschen, Nicht-Staatsbürger) generell schlechter eingeschätzt [Link]. Österreichische Forscher bezeichneten den Ansatz der vom Arbeitsmarktservice beauftragten Lösung als „Paradebeispiel für Diskriminierung“ [Link].


Nächstes Kapitel: Thema: Gesundheit & Medizin

Vorheriges Kapitel: Regulierung

Inhaltsverzeichnis