Algorithm is a Dancer — Chancen und Risiken der neuen Technologie

René Fleischhammel
Apr 2 · 7 min read
Image for post
Image for post

Das Satireformat Extra 3 beschäftigte sich mit dem Einfluss, den Künstliche Intelligenz und Algorithmen heute auf eigentlich jeden Bereich unseres Lebens haben. Das Bild, das dabei gezeichnet wird, ist ausgeprochen düster. Trotz aller berechtigten Kritik finde ich aber, dass der Bericht ein wenig zu kurz greift. Beruflich wie privat beobachte ich seit Jahren mit großer Faszination diese neue Technologie — und sehe große Chancen. Hier eine kleine Bestandsaufnahme.

Algorithmen schlagen Musik vor

Im Januar 2000, also vor 20 Jahren, launchte die Website pandora.com: Ähnlich wie in die Google-Suchmaske konnte man eine Band oder einen Künstler eintragen — und Pandora schlug einem mit verblüffender Treffsicherheit weitere Interpreten vor, die einem auch gefallen könnten. Deutschem Urheberrecht wurde der Service nie gerecht, weshalb er schnell für uns deaktiviert wurde. Aber ich war begeistert.

Spotify macht das längst mit einer unglaublichen Präzision. Insgesamt sieben sogenannte “Mixtapes” hat Spotify innerhalb eines Jahres basierend auf der Musik, die ich gehört habe, automatisiert für mich erstellt und kombiniert dort mir bekannte Songs mit für mich neuen, zusätzlichen Titeln, die mir ebenfalls gefallen könnten.

Es bleibt aber ein Haken: Höre ich nur Metal, wird mir niemals Soul vorgeschlagen. Das kann man gut finden. Aber es geht gegenüber dem linearen Rundfunk etwas verloren. Ohne weitere Einflüsse, wie beispielsweise den einen Freund, der sowohl Periphery als auch Jamie Cullum hört, beim Grillabend meine Bluetooth-Box kapert und meine Hörgewohnheiten aufbricht, bleibe ich in meiner musikalischen Blase gefangen.

Algorithmen bestimmen, was in Sozialen Netzen sichtbar wird

Als die Mutter einer Freundin Social Media für sich entdeckte, fragte sie häufig, ob wir denn auch “dieses eine” Bild auf Facebook gesehen hätten — sie konnte gar nicht fassen, dass die Timeline für jeden Nutzer anders aussah.

Diese Filterblase ist gleichzeitig Fluch und Segen. Wenn ich beispielsweise nur Katzenseiten, etwa Grumpy Cat und Karl Lagerfelds Choupette folge, wird meine Timeline schnell nur aus Katzenbildern bestehen, weil der Facebook-Algorithmus, ähnlich wie bei Spotify, nur Inhalte zeigt, die mir gefallen könnten. So gerate ich im harmlosen Fall in eine flauschige Facebookwelt voll mit den süßesten Katzenbildern aus aller Welt. Problematisch ist aber, dass häufig eine Filterblase entsteht, die die eigenen, z.T. kruden Weltanschauungen und politischen Meinungen verstärkt. Wenn jemand hauptsächlich rechtsnationalen Seiten folgt und mit entsprechenden Personen und Gruppen vernetzt ist, wird seine Timeline ihn recht schnell darin bestätigen, das Migration die Wurzel allen Übels ist, Verbrechen ausschließlich von illegalen Einwanderern begangen werden und überhaupt, das wird man ja wohl noch mal sagen dürfen…!!!11elf

Algorithmen bringen uns schnell von A nach B

Mittlerweile verlasse ich mich im Verkehr blind auf Algorithmen — Google Maps weiß einfach besser, wie ich von A nach B komme, nicht nur weil ich einen unglaublich schlechten Orientierungssinn habe. Auch im Feierabendverkehr verlasse ich mich des öfteren auf Karten-Apps, weil ich darauf vertrauen kann, dass sie die Verkehrssituation deutlich besser einschätzen können, als ich.

Ja, aktuell lässt sich Google Maps mit einem Handkarren voller Smartphones austricksen — ich bin mir jedoch sehr sicher, dass Google daraus lernen wird.

Tesla geht sogar noch einen Schritt weiter: Mit den Bewegungs- und Sensordaten, die alle Teslafahrer erzeugen, wird der Algorithmus gefüttert — sodass der Autopilot immer schlauer und präziser wird.

Algorithmen retten Leben

Erinnern Sie sich an die Serie Dr. House? Der mürrische Spezialist für Diagnostik rettete von 2004 bis 2012 in insgesamt sieben Staffeln hunderten Menschen immer wieder in letzter Sekunde das Leben, weil er weiter und um die Ecke dachte, als andere Kollegen.

TV-Serie Dr. House: Exzentrisches Diagnostik-Genie

Schon seit Anfang des Jahrtausends hat Dr. House mächtige Konkurrenz. Denn Algorithmen schöpfen aus dem Vollen, denn sie kennen alle Studien und bekannten Fälle, Standarddiagnosen und Besonderheiten; sie ziehen allein auf Basis der Faktenlage mögliche Diagnosen in Erwägung, die einem Menschen, der nicht Dr. Gregory House ist, viel zu absurd erscheinen mögen. Algorithmen retten schon seit Jahren Leben — und sind nicht Vicodin-abhängig.

Beispiele:
The Guardian: AI equal with human experts in medical diagnosis, study finds
Science Direct: Identifying Medical Diagnoses and Treatable Diseases by Image-Based Deep Learning

Schöne neue Welt, nicht wahr?

Denn Algorithmen erleichtern nicht nur den persönlichen Alltag. Sie bieten auch ein unglaubliches Potential für Unternehmen und Regierungen.

Nachdem jahrelang die Big Data-Sau durch alle digitalen Dörfer getrieben wurde und niemand so recht wusste, wie er in dem Heuhaufen aus Daten die relevante Nadel herausfischen könnte, bieten Algorithmen nun phantastische Möglichkeiten, hieraus hilfreiche Erkenntnisse zu gewinnen. Wie Marie Condo wirbeln sie durch das Big Data-Chaos um hübsche, transparente, wohlsortierte und nützliche Informationen zu erstellen. Die nennen wir dann Smart Data. Ein Traum, oder?

Ja, tatsächlich. Denn der Algorithmus wühlt sich gewissenhaft durch den Informationsüberfluss, durch das Datenwirrwarr und erkennt Regelmäßigkeiten oder Normabweichungen. Die müssen dann freilich durch einen Menschen interpretiert und erklärt werden. Zumindest noch.

So arbeitet beispielsweise der finnische Aufzugshersteller KONE mit IBM zusammen und nutzt deren Software Watson für sogenannte Predictive Maintenance. Stellen Sie sich vor, dass eine Aufzugtür zum Öffnen drei Sekunden braucht. Nun benötigt die Tür Ihres Büroaufzugs aber erst 3,1, dann 3,5 und schließlich 4 Sekunden.
Das fällt keinem Menschen auf. Erhält Watson allerdings die Live-Daten aller KONE-Aufzüge und vergleicht die Soll-Werte mit den Ist-Werten, erkennt Watson recht schnell: da stimmt was nicht. Und kann ein Reparaturteam informieren. Predictive Maintenance, vorbeugende Instandhaltung, spart Zeit und Geld. Denn etwas zu reparieren, was nur ein bisschen kaputt ist, ist in der Regel günstiger. Gleichzeitig könnte Watson, wenn bei einer ganzen Reihe Aufzüge des gleichen Typs der identische Defekt auftritt, diese Information an das Ingenieursteam weitergeben. Das kann dann entweder eine fehlerhafte Teilecharge identifizieren, oder die Konstruktion des Aufzugs weiterentwickeln.

Imagevideo: KONE: using AI for people flow

Auch die Chancen, die diese Technologie für Marketing bietet, sind phantastisch. Wir möchten mit unseren Inhalten, unseren Produkten möglichst nur diejenigen erreichen, die es auch interessiert. Denn nur wer wirklich Interesse an der Werbebotschaft hat, kauft das Produkt. Alle anderen sind “Streuverlust”, wir verschwenden Budget an Menschen, die unser Produkt gar nicht interessiert.

Wenn Algorithmen uns helfen, potentientelle Kunden gezielter anzusprechen, tun wir das also in erster Linie aus kapitalistischen Gründen — mit Vorteilen für alle diejenigen, die diese Werbemaßnahme erreicht und für diejenigen, die von der für sie irrelevanten Werbung verschont bleiben.

Aber wir haben durch Smart Data noch mehr Werkzeuge an der Hand. Für einen Automobilhersteller schufen wir in einem Online-Produktkonfigurator für den Kunden die Möglichkeit, gemachte Konfigurationen zu speichern und zu teilen. Dadurch hatten wir schnell einen Datentopf an anonymisierten Konfigurationen — und konnten dem Hersteller mitteilen, welche seiner Produkte besonders beliebt erscheinen, was wiederum Rückschlüsse sowohl für das Marketing, als auch für die Produktkonzeption erlaubt.
Hierfür werden jedoch keine Excel-Tabellen oder Powerpoint-Präsentationen erstellt — Tools wie Mode ermöglichen die Datenauswertung in Echtzeit. Und informieren ggf. sogar über Unregelmäßigkeiten oder Besonderheiten.

Letztendlich verändern Algorithmen sogar Stellenprofile im Marketing: JPMorgan nutzt für die Anzeigenerstellung einen nicht-menschlichen Copywriter. Das mag bedrohlich klingen, gefährdet es doch potentiell Arbeitsplätze. Allerdings werden durch die Automatisierung von bestimmten Tätigkeiten natürlich Kapazitäten für anspruchsvollere Aufgaben frei. In den Cases von keywee, einem Anbieter für derartige Services, finden sich diverse weitere praktische Beispiele.

Die Risiken der Algorithmen

Natürlich birgt diese Technologie auch Gefahren. Hollywood hat das Thema schon vor fast 20 Jahren für sich entdeckt und spielt mit nachvollziehbaren Ängsten:

I, Robot: Der Polizist Del Spooner hadert mit seinem Schicksal, weil ein Roboter bei einem Unfall sein Leben, statt das eines Kindes gerettet hat, weil dieser für ihn höhere Überlebenschancen errechnet hatte.

Was, wenn ein Algorithmus, ein Roboter über Leben und Tod entscheidet? Und nach welchen Maßstäben macht er das überhaupt?

Der Film “I, Robot” aus dem Jahr 2004 orientiert sich lose an Isaac Asimovs gleichnamigem Buch aus dem Jahr 1950. Der Film referenziert u.a. die drei Robotergesetze von Asimov:

  1. Ein Roboter darf keinem Menschen schaden oder durch Untätigkeit einen Schaden an Menschen zulassen.
  2. Ein Roboter muss jeden von einem Menschen gegebenen Befehl ausführen, aber nur, wenn dabei das erste Gesetz nicht gebrochen wird.
  3. Ein Roboter muss seine eigene Existenz bewahren, es sei denn, dies spricht gegen das erste oder zweite Gesetz.

Was allerdings so klar wie einfach scheint, ist die Grundlage für neun Kurzgeschichten, in denen die Grauzone dieser drei Regeln deutlich wird.

Es geht also nicht nur um Datenschutz, sondern darum, dass auf Basis von Daten ein Algorithmus Entscheidungen trifft, der für Menschen weitreichende Folgen haben kann.

Die HBO/Netflix-Serie Black Mirror beschäftigt sich in mehreren Folgen mit dem potentiellen Einfluss von Algorithmen auf unser Leben.

Black Mirror: In der Folge “Hang the DJ” entscheidet die KI, welche Partnerschaften Potential haben

Wie wägt man also zwischen Nutzen und Risiken ab?

Ich vertraue darauf, dass Google Maps die schnellere Route als ich kennt, weil Google mehr Informationen hat und diese schneller verarbeiten kann, als ich.

Ich bin begeistert von den Musikvorschlägen, die Spotify mir macht, will aber auf die Tipps, die mir beispielsweise mein bester Freund gibt, keinesfalls verzichten — weil er mir mitunter Interpreten abseits meiner Hörgewohnheiten empfiehlt.

Auf keinen Fall würde ich einem Algorithmus meine Partnerwahl überlassen, insbesondere wenn für mich nicht transparent ist, nach welchen Kriterien entschieden wird.

Generell erwarte ich Transparenz: Google Maps teilt mir mit, warum meine Route verändert wird, etwa wegen Verkehrsbehinderungen. Auch zeigt mir Disney+ an, dass mir Black Panther und Captain Marvel empfohlen wird, weil ich Ant Man geschaut habe.

Aber andere Entscheidungen bleiben so kryptisch wie der Schufa-Score. Warum zeigt mir bspw. Facebook nun Werbung von Baumärkten an? Weil ich gestern darüber geredet habe und Facebook mein Mikrofon abhört? Oder weil Whatsapp zu Facebook gehört und sie dort aus einer Unterhaltung automatisiert ein paar Keywords ausgelesen haben, als ich mich mit einem Freund über Heimwerken ausgetauscht habe? Diese Unklarheiten sorgen bei Konsumenten für Unsicherheit und Misstrauen.

Ich plädiere für einen aufgeklärten Umgang — mit jeder Technologie. Und ich verstehe es als Mitarbeiter einer Digitalagentur auch als meine berufliche Pflicht, mich mit neuen Technologien zu beschäftigen, um sie bewerten zu können. Für mich persönlich, aber auch für unsere Kunden.

Sie brauchen Unterstützung im Datensumpf?
mediaman ist eine inhabergeführte Digitalagentur mit Stammsitz in Mainz. Wir unterstützen Sie dabei, Ihre Daten “smart” zu machen und Mehrwerte für Ihr Unternehmen und Ihre Kunden zu schaffen. Kontaktieren Sie mediaman — wir freuen uns, mit Ihnen ins Gespräch zu kommen.

Data & Smart Services

Collection of data driven articles and cases

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch

Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore

Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store