Bildung, Aktienhandel, Stadt & Verkehr
In diesem Kapitel sammeln und beschreiben wir weitere Verfahren und Prozesse automatisierter Entscheidungen, die Auswirkungen auf Aspekte der gesellschaftlichen Teilhabe haben können und in unterschiedlichen gesellschaftlichen Bereiche stattfinden.
BILDUNG
- Schulverwaltung: Seit 2017 wird im Schulamt des Berliner Bezirks Tempelhof-Schöneberg eine „Intelligent Zoning Engine“ (IZE) eingesetzt; eine Ausweitung des Tools auf weitere Bezirke ist laut Hersteller im Gespräch. Die IZE ermöglicht den auf der Basis von Algorithmen optimierten Zuschnitt von Grundschuleinzugsgebieten („Schulsprengel“): Abhängig von der Wohnanschrift werden Erstklässler*innen einer konkreten Schule zugeordnet. Dafür werden neben Informationen über die Schulkapazitäten und Wohnorte von Schüler*innen auch demografische Daten in möglichst kleinen statistischen Einheiten (auf Häuserblockniveau) berücksichtigt. Laut Eigenangaben des IZE-Herstellers, spart das Tool den Schulverwaltungen viel Zeit ein. So werden Schulbezirke automatisch nach benutzerdefinierten Kriterien erzeugt, etwa im Hinblick auf möglichst kurze Schulwege. Das Unternehmen gibt an, dass „weitere Optimierungsdimensionen (sozio-ökonomische Zusammensetzung etc.)“ anwendbar wären. Das bedeutet, es wäre möglich, dass die Software dafür genutzt werden könnte, Segregation, beispielsweise nach Herkunft oder Einkommen, zu fördern oder zu mindern [Link].
- Hochschulzulassung: Im Sommersemester 2020 ändert sich das Zulassungsverfahren zum Medizinstudium. Hochschulen müssen neben der Abiturnote ein weiteres Auswahlkriterium einrichten, das unabhängig von der Abiturnote ist. Das kann der im Auftrag der deutschen Kultusministerkonferenz entwickelte Test für medizinische Studiengänge sein, eine medizinische Ausbildung oder ein Eignungstest der jeweiligen Hochschule. Im Zuge dessen wird auch die Software der Stiftung für Hochschulzulassung umgestellt. Auf diese Weise sollen so mehr Faktoren als nur die Abiturnote bei der Studienplatzvergabe berücksichtigt und gewichtet werden.
AKTIENHANDEL
Im Aktienhandel wird seit rund zehn Jahren vermehrt sogenannter Hochfrequenzhandel („high frequency trading“, kurz: HFT) betrieben. Dabei werden Wertpapiere von Computern komplett autonom durch Software gesteuert im Milli- und Mikrosekundenbereich gehandelt: Im Kern geht es darum, durch schnellen Ankauf und Abverkauf minimale Kursschwankungen einer Aktie gewinnträchtig zu nutzen. Mindestens ein kurzfristiger Börsencrash, der sogenannte Flash Crash 2010, wird unter anderem auf den Einsatz von HFT zurückgeführt. Damit wird deutlich, dass solche automatisierten Handelssysteme Volkswirtschaften schwer schädigen können, was sich unmittelbar auf verschiedene Aspekte von Teilhabe auswirken würde.
In Deutschland gibt es seit 2013 ein Hochfrequenzhandelsgesetz, dass unter anderem „System- und Risikokontrollen“ sowie eine „Kennzeichnungspflicht“ enthält. Die Vorschriften für HFT könnten als Anhaltspunkte für mögliche Regulierungsansätze auch in anderen Branchen und Sektoren dienen [Link].
SMART CITY
Konzepte von „Smart Cities“ werden seit geraumer Zeit diskutiert. Für ländliche Gegenden wird äquivalent von „Smart Country“ gesprochen. Im Kern werden hier zum einen Infrastrukturdaten (Strom, Wasser, Verkehr etc.) erfasst und zusätzliche Daten über Sensoren (Luftqualität, Lärm etc.) gemessen. Ziel ist, die Infrastruktur zu vernetzen („Internet of Things“). Gleichzeitig werden aber auch die Bewegungen und das Verhalten von Individuen über ihre mobilen Endgeräte erfasst und fließen in die Auswertung ein. Dies ermöglicht, neue Dienste anzubieten (zum Beispiel Parkraumbewirtschaftung, personalisierte Werbung im öffentlichen Raum) und Verwaltungshandeln in Teilen zu automatisieren sowie Ressourcen effizienter zu managen.
Demokratische Partizipationsmöglichkeiten im Sinne von „Open Government“ sind in der Regel nicht Teil von Smart-City-Konzepten. Kritiker*innen bemängeln, dass es bei den Konzepten, die oft von größeren Technologieunternehmen mitentwickelt würden, um die Errichtungen von de facto Überwachungsinfrastrukturen sowie um neue Vermarktungsformen für den öffentlichen Raum gehe. Dem entgegen steht exemplarisch das Smart-City-Konzept der Stadt Barcelona, dass im Zusammenspiel mit den Einwohner*innen der Stadt entsteht und primär deren Interessen dienen soll [Link].
VERKEHR
Ampeln: Seit fast hundert Jahren regeln Ampel-Systeme in Deutschland den Verkehr. Die recht einfachen Automaten – die mittlerweile mancherorts durch Verkehrsleitzentralen vernetzt sind – finden sich vornehmlich im städtischen Räumen und regeln dort das Verhältnis zwischen Fußgänger*innen sowie motorisierten und unmotorisierten Fahrzeugen. Meist wird mit ihnen eine autozentrierte Verkehrspolitik implementiert, die Einwirkungen auf Gesundheit (Luftverschmutzung, Unfälle) und Umwelt hat.
Navigationsgeräte: Spätestens seit dem Aufkommen des Smartphones ab 2007 stehen Navigationsgeräte beziehungsweise entsprechende Apps nahezu in jedem Fahrzeug zur Verfügung: Satellitengestützt (GPS, Gallilei, Glonass) erfassen sie den Standort eines Fahrzeugs und berechnen die schnellste und günstigste Route zu einem gewählten Ziel. Ob davon zum Beispiel Wohn- oder Naturschutzgebiete betroffen sind, wird nicht berücksichtigt.
Motorsteuerung (Dieselgate): 2015 wurde bekannt, dass deutsche Autobauer, allen voran die Volkswagen AG, die Software der Motorsteuerung mancher Fahrzeugtypen mit Dieselmotoren so programmieren ließ, dass sie in Prüfsituationen automatisch die Laufweise des Motors ändert, um Messwerte beim Schadstoffausstoß zu minimieren. Die in die Fahrzeuge eingebaute Steuerung setzte die „Entscheidung“ zu diesem Betrug um. Dies hat zum Beispiel Folgen für die Luftqualität in Städten und somit für die Gesundheit, vor allem von älteren Menschen und Kindern.
Autonomes Fahren: Die mediale Aufmerksamkeit für selbstfahrende Fahrzeuge ist in letzter Zeit etwas abgeklungen, da es wohl doch noch einige Zeit dauern wird, bis diese Zukunftsvision Wirklichkeit wird. Dennoch hat von 2016 bis 2017 eine vom Bundesverkehrsministerium einberufene Ethik-Kommission zum automatisierten und vernetzten Fahren getagt. In ihrem Abschlussbericht präsentiert die Kommission 20 „ethische Regeln“. In ihnen heißt es unter anderem, dass Entscheidungen über „Leben gegen Leben“ (unausweichliche Unfallsituationen) nicht „ethisch zweifelsfrei programmierbar“ seien. Jede „Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution)“ sei strikt zu untersagen. Die Straßenverkehrsordnung wurde durch ein Änderungsgesetz im Sommer 2017 prinzipiell für die Einführung von autonom fahrenden Fahrzeugen vorbereitet. Dabei ging es unter anderem um Haftungsfragen, aber nicht um die oben genannten ethischen Probleme, die die Ethik-Kommission aufwarf. Fraglich bleibt, ob diese überhaupt durch eine Regulierung zu lösen sind und wie autonomes Fahren sich generell realisieren lässt, wenn es in Grundrechte eingreift.
Nächstes Kapitel: Impressum des Reports