Atlas der Automatisierung

Automatisierte Entscheidungen
und Teilhabe in Deutschland

ein Projekt von

Auszüge einblenden Auszüge ausblenden

Akteure

In den Diskurs über teilhaberelevante ADM fließen in Deutschland die Interessen vieler verschiedener Akteure aus Wirtschaft, Wissenschaft, Politik und Zivilgesellschaft ein. Die Online-Datenbank des „Atlas der Automatisierung“ stellt 30 von ihnen vor. Es ist schwierig, die für Deutschland einschlägigen Akteure im Zusammenhang mit für Teilhabe relevanten Aspekten von automatisierter Entscheidungsfindung klar einzugrenzen. Ein Grund dafür […]

Mehr lesen

Arbeit

Auf dem Arbeitsmarkt ist das Diskriminierungspotenzial besonders hoch. Wenn ADM-Systeme Einzug in die behördliche Verwaltung von Arbeit und Arbeitslosigkeit halten, ist deshalb besondere Wachsamkeit geboten. Das gleiche gilt für Bewerbungsprozesse, das innerbetriebliche Personalmanagement und die Leistungskontrolle. BEWERBUNGSVERFAHREN Algorithmengestützte Auswahlverfahren, zum Beispiel das sogenannte Robo-Recruiting [Link], durchsuchen Bewerbungsprofile nach bestimmten Qualifikationen und Schlagworten. Bei einer großen […]

Mehr lesen

Arbeitsweise

Für den „Atlas der Automatisierung“ wurden gezielt Themen recherchiert und gewichtet, die die Auswirkungen von ADM-Systemen auf die gesellschaftliche Teilhabe umfassen. Eine eigens erstellte und öffentlich zugängliche Datenbank stellt Informationen über teilhaberelevante ADM-Systeme zusammen. Der Begriff der Teilhabe, die Anwendungsbereiche von ADM sowie der geografische Bezug auf Deutschland grenzen den Untersuchungsgegenstand des vorliegenden Atlas ein. […]

Mehr lesen

Bildung, Aktienhandel, Stadt & Verkehr

In diesem Kapitel sammeln und beschreiben wir weitere Verfahren und Prozesse automatisierter Entscheidungen, die Auswirkungen auf Aspekte der gesellschaftlichen Teilhabe haben können und in unterschiedlichen gesellschaftlichen Bereiche stattfinden. BILDUNG Schulverwaltung: Seit 2017 wird im Schulamt des Berliner Bezirks Tempelhof-Schöneberg eine „Intelligent Zoning Engine“ (IZE) eingesetzt; eine Ausweitung des Tools auf weitere Bezirke ist laut Hersteller […]

Mehr lesen

Das Internet

Im Netz haben sich neue Formen der Öffentlichkeit gebildet: Was Nutzer*innen zu sehen bekommen oder nicht, regeln nicht zuletzt Algorithmen. Die Infrastruktur des Internets basiert auf zahllosen Maschinen und Kabeln, Softwaresystemen und automatisierten Prozessen. Versteht man Bereiche des Internets oder des darauf aufsetzenden World Wide Webs als Sphären von Öffentlichkeit, berühren sowohl der Zugang zum […]

Mehr lesen

Einleitung

Wanzer ist ein Dorf in der Altmark in Sachsen-Anhalt und war bis zur Jahrtausendwende ein beschaulicher Flecken. Doch dann trat nach und nach eine Veränderung ein. Die Verbindungsstrecke zur Bundesstraße, die durch den Ort führt, füllte sich unter der Woche mehr und mehr mit LKWs. Den Kennzeichen nach zu urteilen, ist ein Teil der LKWs […]

Mehr lesen

Empfehlungen

Diese Empfehlungen basieren auf den im Kontext der Arbeit zum „Atlas der Automatisierung“ durchgeführten Recherchen und Analysen. Sie befassen sich mit Systemen automatisierter Entscheidungsfindung im Zusammenhang mit Teilhaberelevanz. Die Handlungsempfehlungen sollen als Anstoß zur Diskussion und als Anregung für Politiker*innen sowie Entscheider*innen in Behörden, Firmen und zivilgesellschaftlichen Organisationen dienen. FOLGEN ABSCHÄTZEN Bei der Entwicklung und […]

Mehr lesen

Gesundheit & Medizin

ADM kommt in der Medizin als Instrument für Diagnosem und Therapieentscheidungen zum Einsatz sowie bei der Zuordnung von Ressourcen im Gesundheitsmanagement. Kliniken, Arztpraxen und Krankenkassen, aber auch private Endkund*innen nutzen ADM im medizinischen Kontext. Während Privatpersonen Apps mit ADM verwenden, die auch über den engeren medizinischen Anwendungsbereich hinausgehen und Zielen wie Fitness oder Selbstoptimierung dienen, […]

Mehr lesen

Impressum des Reports

Atlas der Automatisierung:Automatisierung und Teilhabe in Deutschland 1. Ausgabe, April 2019Website: atlas-der-automatisierung.de HerausgeberAW AlgorithmWatch gGmbH Bergstr. 22, 10115 BerlinKontakt: info@algorithmwatch.org Leitung:Lorenz Matzat Mitarbeit:Lukas ZielinskiMiriam CoccoKristina PennerMatthias SpielkampSebastian GießlerSebastian LangVeronika Thiel Redaktion:Ralf Grötker Schlussredaktion/Korrektorat:Karola Klatt Gestaltung:Beate Autering, beworx.de Inhaltsverzeichnis

Mehr lesen

Regulierung

Vor allem das Allgemeine Gleichbehandlungsgesetz (AGG) und Vorschriften zum automatisierten Verwaltungshandeln regeln in Deutschland übergreifend den Umgang mit ADM. GLEICHBEHANDLUNG In Deutschland gilt der Gleichbehandlungsgrundsatz, abgeleitet aus Artikel 3 des Grundgesetzes: „Alle Menschen sind vor dem Gesetz gleich.“ 2006 wurde das AGG erlassen, auch bekannt als „Antidiskriminierungsgesetz“. Unter Gleichbehandlung versteht das AGG das Verhindern und […]

Mehr lesen

Sicherheit & Überwachung

Ob in der physischen Welt oder bloß im Digitalen: Bei Migration, Kriminalität, Terrorismus und Krieg bereitet Software Entscheidungen bereits mit vor. Aussortieren und Vorhersagen – das sind die beiden Leistungen, die ADM-Systeme im Bereich der Sicherheit und Überwachung am häufigsten erbringen sollen. Themen sind Kamera- und Internetverkehrsüberwachung, vorhersagende Polizeiarbeit, automatische Grenzkontrollen und autonome Waffensysteme. Wenn […]

Mehr lesen

Zusammenfassung

Mit dem „Atlas der Automatisierung“ möchten wir zeigen, wie bereits der Alltag mit kleineren und größeren automatisierten Entscheidungen durchsetzt ist. Diese nehmen wir nicht unbedingt als solche wahr – sie haben aber Konsequenzen. Bei der automatisierten Entscheidungsfindung („automated decision-making“, kurz: ADM), wie wir sie heute vorfinden, kommen eher selten neuronale Netze (die auch als „Künstliche […]

Mehr lesen