Atlas der Automatisierung

Automatisierte Entscheidungen
und Teilhabe in Deutschland

       

Arbeitsweise

Für den „Atlas der Automatisierung“ wurden gezielt Themen recherchiert und gewichtet, die die Auswirkungen von ADM-Systemen auf die gesellschaftliche Teilhabe umfassen. Eine eigens erstellte und öffentlich zugängliche Datenbank stellt Informationen über teilhaberelevante ADM-Systeme zusammen.

Der Begriff der Teilhabe, die Anwendungsbereiche von ADM sowie der geografische Bezug auf Deutschland grenzen den Untersuchungsgegenstand des vorliegenden Atlas ein. Bei der Auswahl von ADM-Anwendungsfeldern, die in diesem Atlas aufgenommen werden sollten, haben wir folgenden Ansatz verfolgt: Ausgehend von der Definition des Teilhabebegriffs (siehe Kapitel „Einführung“) bestimmten wir Personengruppen, die aufgrund von Merkmalen wie Alter, Geschlecht, Herkunft oder wegen ihres Status (zum Beispiel „arbeitssuchend“) möglicherweise von bestimmten Dimensionen gesellschaftlicher Teilhabe ausgeschlossen sind. In einem zweiten Schritt wurden Schnittstellen zwischen diesen Personengruppen und ADM identifiziert: Wo kommen diese Personengruppen mit ADM in Berührung? Das kann beispielsweise bei einem Behördengang geschehen. Auf dieser Basis wurde im dritten Schritt eine Liste von konkreten ADM-Produkten und -Technologien angelegt und durch Schlagworte kategorisiert, die an den identifizierten Schnittstellen zum Einsatz kommen. Dabei wurde auch auf bereits vorhandene Zusammenstellungen von ADM-Technologien zurückgegriffen, wie sie beispielsweise auf www.algorithmstips.org [Link] oder im EU-ADM-Report [Link] zu finden sind. Die auf diese Weise generierte Liste bildet die Basis der Datenbank von teilhaberelevanten ADM-Systemen, die im Rahmen des Atlas erstellt wurde.

Innerhalb der Datenbank erhielt jeder Eintrag im Zuge unserer internen Beurteilung einen Punktwert, der die Relevanz der betreffenden Technologie für den Aspekt Teilhabe in quantifizierter Form darstellt. In die Punktwertung ging die Beantwortung von Fragen ein wie: „Operiert das ADM-System passiv (durch Empfehlungen) oder aktiv (durch die direkte Umsetzung einer Entscheidung)?“ Weiter gab es Punkte dafür, inwiefern eine Technologie kritische Auswirkung hat auf die Umwelt, das Gemeinwohl, die Selbstbestimmung, die körperliche Unversehrtheit oder Aspekte gesellschaftlicher Teilhabe. Zudem wurde berücksichtigt, welches Spektrum an Handlungsoptionen es für Betreiber oder Betroffene eines ADM-Systems gibt (zum Beispiel Einspruchsmöglichkeiten gegen eine automatisierte Entscheidung). Mit einbezogen wurde auch, ob ein ADM-System von staatlicher Seite oder durch private Akteure betrieben wird. Zusätzlich zu der Punktwertung wurde vermerkt, ob das Produkt oder die Technologie, zum Beispiel die Gesichtserkennung, bereits im Einsatz ist oder erst getestet wird.

Im Zuge der Punktwertung und Erstellung der Datenbank kristallisierten sich die Themen heraus, die im vorliegenden Report in eigenen Kapiteln behandelt werden. Während der Vorarbeiten wurde außerdem deutlich, welche Regulierungsthemen hinsichtlich der potenziellen Auswirkungen von ADM-Systemen auf die gesellschaftliche Teilhabe im Rahmen des Atlas-Projekts berücksichtigt und welche Akteure hervorgehoben werden sollten. Unter Akteuren verstehen wir dabei nicht die Nutzer*innen und Kunden*innen von ADM-Systemen. Vielmehr fassen wir darunter Interessengruppen (zivilgesellschaftliche oder unternehmerische), NGOs, Stiftungen, Forschungsverbünde, einzelne Unternehmen sowie staatliche Stellen und Gremien. Das entscheidende Kriterium für die Auswahl von relevanten Akteuren war, inwiefern diese den Diskurs rund um ADM und Teilhabe aktiv mitgestalten, beispielsweise durch Studien, Policy Paper oder Veranstaltungen.

Die in der Recherchephase angelegte Datenbank teilhaberelevanter ADM-Systeme ist ein wesentliches Ergebnis des Atlas-Projekts. Diese Datenbank zu erstellen und digital frei zugänglich zu machen, war uns ein besonderes Anliegen. Die Datenbankeinträge basieren, wie auch die Texte des Atlas, im Wesentlichen auf Literatur- und Internetrecherchen. In manchen Fällen wurde zudem Rücksprache mit Herstellern oder Betreibern von Softwaresystemen gehalten. In Bezug auf Fragen der Regulierung haben wir Fachleute um ihre Einschätzung gebeten. Die Atlas-Datenbank wird zukünftig fortlaufend erweitert und die darin enthaltenen Informationen regelmäßig aktualisiert.

Nächstes Kapitel: Akteure

Vorheriges Kapitel: Empfehlungen

Inhaltsverzeichnis