Atlas der Automatisierung

Automatisierte Entscheidungen
und Teilhabe in Deutschland

       

Akteure

In den Diskurs über teilhaberelevante ADM fließen in Deutschland die Interessen vieler verschiedener Akteure aus Wirtschaft, Wissenschaft, Politik und Zivilgesellschaft ein. Die Online-Datenbank des „Atlas der Automatisierung“ stellt 30 von ihnen vor.

Es ist schwierig, die für Deutschland einschlägigen Akteure im Zusammenhang mit für für Teilhabe relevanten Aspekten von automatisierter Entscheidungsfindung klar einzugrenzen. Ein Grund dafür ist, dass ein Großteil der Debatte über ADM unter dem umfassenderen Begriff der KI geführt wird. Insbesondere in den USA findet die „Ethik der Künstlichen Intelligenz“ („ethics of artificial intelligence“), die deutlich mehr umfasst als ADM, große Beachtung. Wortführer der Debatte sind nicht zuletzt die großen Technologieunternehmen, aber auch wissenschaftliche Einrichtungen und gemeinnützige Organisationen, die oftmals von Stiftungen mit hohen Summen an Fördergeldern ausgestattet werden. In dieser Gemengelage sind die strategischen Interessen, von denen sich die einzelnen Akteure leiten lassen, nicht immer leicht zu identifizieren. Eine 2018 veröffentliche Studie des Reuters Institute for the Study of Journalism an der britischen Universität Oxford [Link] sollte aufhorchen lassen: Die Autor*innen stellen fest, dass die Berichterstattung über KI im Wesentlichen durch die Industrie geprägt ist, deren Angaben kaum kritisch hinterfragt werden. Zwar wurde nur die britische Medienlandschaft untersucht, doch gibt es wenig Grund zu der Annahme, dass die Situation in Deutschland strukturell anders wäre. 

INDUSTRIE

Industrieverbände wie der Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e. V. (Bitkom) oder der Bundesverband Digitale Wirtschaft e. V. (BVDW), aber auch Unternehmen wie die Deutsche Telekom AG, Google und Facebook beziehen im Bereich Automatisierung und Teilhabe Positionen und betreiben Lobbyismus – oft unter dem Schlagwort „Künstliche Intelligenz“. Weitere Akteure sind die TÜVs (beim Thema Zertifizierung) und die Initiative D21 e. V. Diese Initiative ist ein gemeinnütziges Netzwerk, das sich mit ethischen Fragen rund um Automatisierung befasst. Mitglieder sind vor allem Unternehmen, die im Bereich der Digitalwirtschaft tätig sind.

SCHNITTSTELLE ZWISCHEN POLITIK, WISSENSCHAFT UND INDUSTRIE

Zahlreiche Organisationen sind an der Schnittstelle zwischen Politik und Industrie angesiedelt und werden oftmals auch von beiden Seiten finanziert. Darunter fallen die von der Deutschen Akademie für Technikwissenschaften acatech betriebenen und von den Bundesministerien für Bildung und Forschung sowie Wirtschaft und Energie geförderten Plattformen „Lernende Systeme“ (zum Thema KI-Anwendungen) und „Industrie 4.0“ (zum Thema intelligente Vernetzung und Automatisierung in der Industrie). Auch einige Fraunhofer Institute, die staatlich finanziert sind, leisten Auftragsforschung für die Industrie (zu Themen wie Gesundheit und Kameraüberwachung).

POLITIK

In der Ende 2018 veröffentlichten „KI-Strategie der Bundesregierung“ finden sich viele Passagen, die das Thema teilhaberelevanter ADM mehr oder weniger direkt tangieren. Entsprechend können das Bundesministerium für Arbeit und Soziales („Arbeit 4.0“), das Bundesministerium für Wirtschaft und Energie, aber auch das Bundesinnenministerium sowie das Bundesministerium der Justiz und für Verbraucherschutz, die alle der KI-Strategie verpflichtet sind, als Akteure auf dem Feld teilhaberelevanter ADM begriffen werden. An politischen Gremien sind der Sachverständigenrat für Verbraucherfragen (mit dem Leitthema „Verbraucher in der digitalen Welt“) zu nennen, die Datenethikkommission der Bundesregierung, der Deutsche Ethikrat (der sich in der Vergangenheit auch zu Fragen des autonomen Fahrens geäußert hat), sowie die Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“. Schließlich sind die politischen Parteien nicht zu vergessen, die in unterschiedlicher Intensität durch ihre digitalpolitischen Agenden, parlamentarischen Initiativen, aber auch durch ihre parteinahen Stiftungen am Diskurs über ADM und Teilhabe mitwirken.

WISSENSCHAFT

Die ganze Bandbreite der Aspekte von ADM und Teilhabe findet ihre Entsprechung in zahlreichen Forschungseinrichtungen und -projekten, die von Hochschulen, Wissenschaftsorganisationen und Stiftungen betrieben werden.

Das erst 2017 gegründete Weizenbaum Institut für die vernetze Gesellschaft in Berlin dürfte sich mit seiner interdisziplinäre Ausrichtung auch im Themengebiet ADM und Teilhabe profilieren. Beispielhaft genannt werden sollen außerdem das kommunikationswissenschaftliche Hans-Bredow-Institut in Hamburg mit seiner Arbeit zu Plattformen (Intermediären) und die gewerkschaftsnahe Hans-Böckler-Stiftung, die einen Forschungsverbund „Digitalisierung, Mitbestimmung, Gute Arbeit“ betreibt, an dem auch AlgorithmWatch beteiligt ist.

ZIVILGESELLSCHAFT

Als Schwergewicht kann im zivilgesellschaftlichen Bereich die Bertelsmann Stiftung gelten: Sie hat 2017 das Projekt „Ethik der Algorithmen“ gestartet. In diesem Projekt werden eigenständig Themen bearbeitet, aber auch Dritte mit Studien und Aufsätzen zu rechtlichen Fragen oder Schwerpunkthemen beauftragt. AlgorithmWatch, die Organisation hinter diesem Altas, erhält durch das Projekt der Bertelsmann Stiftung eine Strukturförderung, ist aber in seiner Arbeit unabhängig. Neben der Bertelsmann Stiftung befassen sich NGOs und andere Organisationen aus dem digitalpolitischen Sektor wie die Gesellschaft für Informatik oder der Bundesverband der Verbraucherzentralen mit teilhaberelevanter ADM.

Unter den Gewerkschaften ist vor allem die Vereinte Dienstleistungsgewerkschaft ver.di zu nennen, die sich mit der Digitalisierung und Automatisierung der Arbeitswelt und insofern auch mit teilhaberelevanter ADM befasst.

 


Algo.Rules

Im Frühjahr 2019 präsentierten das „iRights Lab“ und das Projekt der Bertelsmann Stiftung „Ethik der Algorithmen“ eine Aufstellung von Kriterien, die beachtet werden müssen, um eine gesellschaftlich förderliche Gestaltung und Überprüfung von algorithmischen Systemen zu ermöglichen und zu erleichtern. Die unter dem Titel „Algo.Rules“ [Link] veröffentlichten Kriterien verstehen sich als Grundlage für ethische Erwägungen und für die Um- und Durchsetzung rechtlicher Rahmenbedingungen. Sie sollen weiterentwickelt werden. Die Mitarbeit von Interessierten ist dabei erwünscht.

Die programmatischen Überschriften, unter denen Algo.Rules die Kriterien gruppiert, lauten: 1. Kompetenz aufbauen, 2. Verantwortung definieren, 3. Ziele und erwartete Wirkung dokumentieren, 4. Sicherheit gewährleisten, 5. Kennzeichung durchführen, 6. Nachvollziehbarkeit sicherstellen, 7. Beherrschbarkeit absichern, 8. Wirkung überprüfen, 9. Beschwerden ermöglichen


Nächstes Kapitel: Regulierung 

Vorheriges Kapitel: Arbeitsweise

Inhaltsverzeichnis