Kriegen wir das hin? Ethik und Digitalisierung

Katrin Fritsch
9 min readSep 27, 2019

Ich durfte am Montag beim Deutschlandforum des vom Deutschen Städte- und Gemeindebundes initiierten Innovators Club über Ethik, Kommunalpolitik und Digitalisierung sprechen. Das ist mein Vortrag.

Source Unknown

Guten Abend und vielen Dank für die Einladung zum 22. Deutschlandforum unter dem Motto “Wagemut — Neue Wege für Kommunen”. Ich darf Ihnen in den nächsten zwanzig Minuten die Frage “Kriegen wir das hin?” beantworten und im Zuge dessen über ethische Rahmenbedingungen für unsere digitale Gesellschaft sprechen. Ja, das ist eine sehr ambitionierte Aufgabe zwischen der Hauptspeise und der Nachspeise, aber ich verspreche Ihnen, ich werde mein Bestes geben.

Neue Technologien -Innovationen- sind generell immer großartige Anlässe um die größeren Wünsche und Ängste einer Gesellschaft zu verstehen. Sie versprechen “Transformation”, ob im Positiven oder Negativen, und sie stoßen dadurch Debatten an, in welcher Welt wir eigentlich leben möchten. Mit dem Internet wurden zum Beispiel das Versprechen einer globalen, vernetzten Gesellschaft gemacht, die sich auch den globalen Herausforderungen -wie etwa dem Klimawandel- geschlossen stellen kann. Mit Künstlicher Intelligenz (KI) hingegen entstehen häufig Ängste. Oft geht es darum, was uns als Menschen eigentlich ausmacht oder ob KI uns die Arbeitsplätze wegnimmt. Es geht also um Existenz, um Geschwindigkeit -alles wird immer schneller-, Sterblichkeit -werden wir zu Maschinen?- und auch Abhängigkeit von Technologie. Neue Technologien sind also Anlässe um politische Fragen, wie etwa soziale Ungleichheit oder Exklusion, zu stellen. Sie sind Momente um über Demokratie zu diskutieren.

Deshalb ist es nicht verwunderlich, dass im Zuge der Digitalisierung auch immer gefragt wird “ob wir das eigentlich schaffen”, und dass sowohl in Wirtschaft als auch in Zivilgesellschaft und Politik zunehmend nach ethischen Richtlinien verlangt wird. Wohin geht es, woran orientieren wir uns, wer sind wir und was sind eigentlich unsere Werte?

Die Begriffe Ethik und Digitalisierung sind sehr große Begriffe unsere Zeit. Ethik als moralische Standards einer Gesellschaft und Digitalisierung als die Automatisierung kognitiver und physischer Arbeit durch Systeme, die in konkreten Schritten repräsentiert werden können (zur Kritik der Begriffsdefinition von Digitalisierung empfehle ich diesen Essay von Rafael Dernbach) — und die sozialen Auswirkungen dieses Prozesses. Aber ich möchte in meinem Vortrag ungern Zeit für Begrifflichkeit verschwenden und lieber versuchen anhand zwei konkreter Fälle über die ethischen Rahmenbedingungen in einer digitalen Gesellschaft zu sprechen. Sie sind nicht nur auf kommunalpolitischer Ebene relevant, sie sind gleichzeitig auch Signale für größere Trends unserer Gesellschaft.

Fall Nummer 1: San Francisco, Mai 2019

San Francisco gilt als einer der technologie-affinsten Orte weltweit. Das Silicon Valley, das unter anderem auch in der San Francisco Bay Area liegt, wird gerne als “Geburtsort des digitalen Zeitalters” oder “Epizentrum des Informationsalters” beschrieben, in dem der klassische amerikanische Traum vom Tellerwäscher zum Millionär wieder und wieder neu erzählt wird. Die Digitalisierung hat hier große Versprechen einer besseren Gesellschaft ausgelöst, und damit eine sehr technik-deterministische Haltung kultiviert. Entrepeneure sagen Dinge wie: Digitalisierung passiert, wir sollten nichts dagegen tun und müssen viel eher neue Innovationen noch mehr herausfordern, Technologie ist neutral und mit einer schnellen, skalierbaren Innovationskultur bekommen wir jede gesellschaftliche Herausforderung in den Griff. Politik ist in diesem Kontext oft unnötig, gar veraltet.

Im Mai diesen Jahres passiert jedoch etwas Unerwartetes: die Stadtverwaltung von San Francisco beschließt, Facial Recognition Software, also Gesichtserkennungs-Software, im öffentlichen Sektor (als zum Beispiel bei der Polizei, in der Justiz oder an öffentlichen Plätzen) zu verbieten. Eine sehr unerwartete Entscheidung in einer Kultur in der technologische Disruption eigentlich immer über Allem steht.

Man fragt sich: Was ist hier passiert? In einem New York Times Artikel beziehen die Verantwortlichen dieses Beschlusses Position. Sie begründen die Entscheidung mit drei konkreten Aspekten:

  1. Die Gesichtserkennung-Software ist nicht gut genug um auf breiter politischer Ebene eingesetzt zu werden. Denn Gesichtserkennung-Softwares basieren auf massiven Datensätzen. Die Datensätze, mit denen die Software gefüttert beziehungsweise trainiert wurde, werden schon seit einiger Zeit dafür kritisiert, dass sie nicht den Querschnitt der Gesellschaft abbilden. Homogene Gruppen, meistens junge, weiße Männer, haben an den Softwares gearbeitet und somit werden viele andere Menschen durch die Technologie ausgeschlossen. Denn wer Technologien entwickelt bestimmt auch immer mit, für wen sie gemacht sind.
  2. Das führt zu einer gesellschaftlichen Segregation, die in einer Stadt wie San Francisco, in der der Unterschied zwischen reich und arm sowieso schon massiv ist, noch weitreichendere Auswirkungen hat. Die Software verstärkt unnötig soziale Ungleichheit.
  3. Damit schränken Gesichtserkennung-Softwares massiv das Freiheitsgefühl der Bürgerinnen und Bürger in San Francisco ein. Eine Auswirkung, die Menschen zum Beispiel dazu bringt, weniger auf öffentlichen Plätzen zu sein und sich stärker in ihr zu Hause zurückzuziehen.

San Francisco entscheidet sich gegen diese technologische Lösung, weitere US-amerikanische Städte ziehen in den folgenden Monaten nach.

Was bedeutet das jetzt aus einer ethischen Perspektive?

Ethik heißt in diesem Fall, schwierige Fragen zu stellen und schwierige Entscheidungen zu treffen (mehr zu dieser Idee bei Alice Thwaite). San Francisco zeigt, dass man sich im Zuge der Digitalisierung, und insbesondere auf kommunalpolitischer Ebene, auch einmal gegen etwas entscheiden kann, wenn es nicht im Sinne des Wohlergehens der BürgerInnen passiert. Das bedeutet nicht, dass man sich für immer gegen dieses Etwas entscheidet, sondern zuerst einmal, dass man sich die Entscheidungsfreiheit und den Platz für sozialpolitische Abwägungen durchaus einräumen kann — und sogar muss.

Man sollte also fragen ob etwas wirklich Prozesse vereinfacht, innovativ, smart, oder intelligent ist — und ob es wirklich unsere Zukunft darstellt oder nicht sogar Probleme, die ohnehin schon aus der Vergangenheit existieren, verstärkt.

Diese Haltung ist übrigens, mit Blick auf die USA und China, auch die, die sich auf europäischer Ebene herausbildet. Denn ja, Europa hat vielleicht nicht die meisten Start Ups oder die meisten Gesichtserkennungs-Softwares, aber Europa hat die Möglichkeit einen Blick in diese Länder zu werfen und mit Abstand zu beobachten, ob etwas wirklich funktioniert oder doch eher Zustände verschlimmert. Europa kann eben genau schwierige Fragen stellen und schwierige Entscheidungen treffen, und damit vielleicht die ein oder andere Innovation, die mehr Schaden anrichtet als Gutes tut, vermeiden. Die Kommunen haben dazu noch viel bessere Möglichkeiten, ich sage nur Bürgerbeteiligung, um genau diese Fragen einer kleineren Gruppe von Menschen zu stellen und auf Basis ihrer Bedürfnisse experimentelle Entscheidungen zu treffen.

Digitalisierung passiert nicht, wir gestalten sie.

Das gibt uns einerseits viel Verantwortung die Frage zu stellen in welcher Gesellschaft wir eigentlich leben möchten, aber gleichzeitig gibt es uns auch die Freiheit zunächst zu etwas “nein” zu sagen, obwohl es im ersten Moment vielleicht als neu oder smart daherkommt. Denn nur weil wir etwas machen können heißt es noch lange nicht, dass wir es immer tun sollten.

Fall Nummer 2: Berlin, September 2019

Vor ein paar Wochen gehe ich in Kreuzberg am Maybachufer und sehe etwas Leuchtendes im Baum. Ich schaue genauer hin es ist ein E-Scooter. Er hängt da einfach. Ein paar Tage später sehe ich mehrere E-Scooter, bei denen der QR-Code mit Edding übermalt ist. Man kann die Scooter so nicht mehr entlocken, und sie sind quasi unbrauchbar. Jemand hat auf einen der Scooter geschrieben: break e-scooter! Auf Social Media taucht ein virales Video auf in dem jemand zehn schlammige E-Scooter aus der Seine gefischt hat. In dem Post fragt er: Is this really the future of urban mobility?

Bevor ich unseren Think Tank MOTIF gegründet habe war ich ja ursprünglich in der Werbung, und deshalb interessiert mich die Beziehung zwischen Kunden und Produkt immer sehr. Bei den E-Scootern bin ich verwundert, denn irgendwie scheint es, als ob sich über die letzten Monate hinweg eine extreme Wut der StadtbewohnerInnn gegen E-Scooter entwickelt hat. Ich versuche mich zu erinnern, bei welchen anderen Produkten so ein massiver Vandalismus entstanden ist, und, irgendwie weiß ich es nicht. Woher kommt diese schlechte Beziehung zu dem Produkt? Woher diese Wut? Woher dieser Vandalismus? Und wie kann das gute Auswirkungen auf das Geschäftsmodell haben?

Ich bin davon überzeugt, dass es verschiedene Faktoren sind, die hier zusammen kommen. Einige sind simpel, wie etwa dass E-Scooter klein sind und man sie deshalb einfach irgendwo hinschmeissen kann. Aber andere dieser Faktoren stehen meiner Meinung nach, wie auch bei dem vorherigen Fall, als Signale für etwas Größeres. Deshalb möchte ich sie skizzieren.

Zunächst einmal privatisieren E-Scooter den öffentlichen Raum. Mit dem Claim, dass sie die Zukunft von Mobilität sind, haben sie diesen Sommer viele europäische Städte überschwemmt und strukturell Geh- und Radwege verstellt. StadtbewohnerInnen können sich nicht mehr frei fortbewegen.

Gleichzeitig privatisieren die Unternehmen auch die digitale Sphäre, denn sie sammeln die Daten der Menschen, die mit ihnen fahren. Diese Datensätze sind wiederum das eigentliche Geschäftsmodell der E-Scooter Unternehmen, denn sie verkaufen sie teuer an Drittanbieter. Die Kunden von E-Scootern sind also nur scheinbar die Menschen, die sie fahren — das eigentliche Geld machen die Unternehmen mit dem Verkauf von Daten. Für Stadtverwaltungen hat das verheerende Auswirkungen, denn plötzlich haben sie in ihren Datensätzen über öffentlichen Nahverkehr ein massives Loch, nämlich das der privaten E-Mobility Anbieter. Die Verwaltungen kaufen die Datensätze mit Steuergeldern nun häufig zurück um öffentlichen Nahverkehr wieder besser zu gestalten, was ziemlich perfide ist, wenn man bedenkt, dass ja die BürgerInnen der Stadt die Daten eigentlich erzeugt haben. Die Lösung kann hierfür übrigens Open Source und Open Data sein, worüber wir gerne im Anschluss noch einmal sprechen können.

E-Scooter segregieren aber auch, wie schon im vorherigen Beispiel, die Gesellschaft, denn nur jemand mit Smartphone und mobilen Daten kann sie nutzen. Sie schaffen prekäre Arbeitsbedingungen, denn die “Juicer” müssen nachts mit gemieteten Kleinwägen die Scooter einsammeln, sie zu Hause (mit oder ohne Ökostrom) aufladen und wieder aufstellen. Sie werden pro Scooter bezahlt, nicht pro Stunde.

Ich würde sagen, dass das alles Faktoren sind die dazu führen, dass BürgerInnen einfach wütend auf E-Scooter sind. Der Vandalismus gegen E-Scooter führt dazu, dass sie extrem schnell kaputt sind und auch für die Start Ups sehr viel Geld kosten. Das Modell ist nicht rentabel.

Obwohl E-Scooter, genauso wie Car-Sharing-Anbieter übrigens, sagen, dass sie “nachhaltige” Mobilitätsangebote sind und somit die Zukunft von Mobilität schlechthin, scheint es, dass sie einfach vergessen haben, die Menschen in ihr Geschäftsmodell mit einzubeziehen, die sie schlussendlich auch verwenden sollen. Sie haben nicht mit den StadtbewohnerInnen an neuen Lösungen für Mobilität gearbeitet haben, sondern nur mit den Investoren. Deshalb der Vandalismus, denn die Kunden haben das Gefühl, dass ihre eigentlichen Bedürfnisse nicht verstanden wurden. Das Geschäftsmodell ist also, wenn man es ganz streng nimmt, überhaupt nicht zu Ende gedacht — und deshalb hängt der E-Scooter in diesem Baum in Kreuzberg.

Was hat das jetzt mit Ethik zu tun?

Ethik bedeutet in diesem Fall, mittelbare Konversationen anzustoßen und zu führen. Und somit Bedürfnisse für soziales und ökologisches Wohlergehen ganz vorne an zu stellen. Was wäre passiert, wenn die E-Scooter Start Ups im Innovationsprozess mit der Stadtverwaltung und somit mit BürgerInnen gearbeitet hätten, um somit gemeinsam an wirklich nachhaltigen Lösungen für die Zukunft von Mobilität zu arbeiten? Sie hätten so in einer viel früheren Phase Bedürfnisse der BürgerInnen herausfiltern können, aber auch ganz neue wertvolle Einblicke in die Kundenbedürfnisse bekommen.

Bereits die Produktentwicklung aus ethischer Perspektive zu gestalten kann ein ganz neuer Ansatz sein und eine große Chance sowohl für die Politik als auch die Wirtschaft darstellen. Denn nachhaltige Geschäftsmodelle haben immer Zukunft. Innovationen stehen nicht mehr in luftleeren Räumen, sie sind mit und für die Menschen gemacht, die sie auch wirklich brauchen. Ethik wird somit zu einer Chance, nicht zu einem Hindernis.
Viele Rahmenbedingungen sind dafür schon da, besonders auf kommunalpolitischer Ebene, aber auch zum Beispiel durch die die Sustainable Development Goals.

Ich bin als 25-Jährige einfach der Meinung, und ja, jetzt kommt meine Utopie, dass in Zeiten von Fridays For Future es langsam einfach uncool wird, als Start Up Geschäftsmodelle zu entwickeln, die nicht zu Ende gedacht sind.

Es ist uncool geworden, der Gesellschaft und Natur Schlechtes zu tun. Skalierbarkeit und Disruption sind zwei Begriffe aus vergangenen Zeiten, und Nachhaltigkeit (wirtschaftlich, sozial, politisch) gewinnt wieder an Bedeutung, denn es heißt, gemeinsam Lösungen zu erarbeiten.

Also: “Kriegen wir das hin?”

Ja, davon bin ich überzeugt. Wir müssen uns nur wieder ins Bewusstsein rufen, dass Digitalisierung nicht einfach passiert, sondern wir uns entscheiden können, wie wir sie gestalten wollen. Dass nur weil wir etwas tun können wir es noch lange nicht tun müssen. Dass neue Technologien großartige Anlässe sind, um über Demokratie zu sprechen, und zu verstehen, was eigentlich wirklich die Wünsche unserer Gesellschaft sind — und wir diese Anlässe auch nutzen sollten.

Dass Digitalisierung eben nicht linear ist, oder ein einziger Weg nach vorne. Also dass es nicht nur Innovation oder Stillstand gibt sondern genau spannende Zwischenräume. Dass Ethik nicht eine ja/nein Entscheidung ist, also eine “nervige” Checkliste, sondern ein ständiges Austarieren, ein spannender Prozess, eine Chance.

Die Kommunalpolitik hat die Möglichkeiten dazu, schwierige Fragen stellen, schwierige Entscheidungen zu treffen, oder mittelbare Konversationen führen. Dafür muss sie schlussendlich, wie wir alle, Eines erkennen: dass Digitalisierung eben nicht das Ziel ist, sondern einzig und alleine unser sozialer und ökologischer Wohlstand.

Vielen Dank.

--

--

Katrin Fritsch

tech, climate + feminism / data + society / prev. co-founder of MOTIF Institute / @KatrinFritsch