The Age Of Attitude
Die Welt braucht wieder Unternehmen, die im Wandel wünschbar und machbar auseinanderhalten können.
Von Gerald Hensel, Partner Brand Safety & Digital Leadership bei PLOT
Bewegen wir uns mal kurz in die technologische Yellow-Press:
Heute morgen stieß ich auf einen Artikel, den ich ziemlich interessant fand. “Facebook shuts AI system after bots create own language” titelte Business Insider. So hätte Facebook bei einem nicht näher spezifizierten AI-Projekt den Stecker ziehen müssen, weil die AI-Bots statt Englisch eine eigene Sprache entwickelt hätten, die die Wissenschaftler nicht mehr verstehen konnten.
Ja, ich weiß, was sie denken. Das sollte der Artikel auch bewirken:
Die Bots hätten Machine-Learning-Prinzipien angewandt und das Verhandeln untereinander erlernt und verbessert. Fokus des Projekts sei das Erlernen von Dialogstrukturen gewesen. Ab irgendeinem Punkt hätten die Bots sich jedoch selbständig gemacht: “This led Facebook researchers to shut down the AI systems and then force them to speak to each other only in English.”
Eines vorweg: Die Schlagzeile im Detail ist sensationsheischend und scheint im Detail in eine Richtung zu führen, die deutlich komplexer ist als der Artikel zunächst glauben machen will. Aber: Der Artikel steht symbolisch für einen größeren Diskurs, der gerade stattfindet. Und der ist wichtig.
Denn nach der relativ technikgläubigen und relativ naiven Facebook-Haltung rund um Hate-Speech bei Facebook (“Wir sind nur eine Content-Plattform, sonst nichts”), zeichnet sich auch diesmal wieder ein scheinbar recht typisches Verhalten für Marc Zuckerberg ab, das wohl doch immer noch recht viel Nachjustierung verlangt, wenn es mit der echten Welt in Kontakt kommt. So bewirkte Zuck viele Reaktionen als er in einem Livestream kommentierte: “I think people who are naysayers and try to drum up these doomsday scenarios — I just, I don’t understand it. It’s really negative and in some ways I actually think it is pretty irresponsible”
Unverantwortlich? Interessante Aussage, wenn Elon Musk himself darauf kommentiert, dass hier wohl doch nicht ganz so viel Wissen bei dem Facebook-Gründer vorhanden ist. Musk ist dabei durchaus der wachsenden Gruppe an Menschen zuzuordnen, zu denen auch Stephen Hawking, Steve Wozniak oder Bill Gates gehören, die man wohl eher unter AI-kritisch einordnen kann:
Ganz abseits des oben zitierten Artikels. Für alle, die die Diskussion um die mögliche Singularität und den möglichen Aufstand der Maschinenwesen nicht komplett nachvollziehen — Es gibt eine relativ umfassende Debatte von Leuten, die im Detail mehr über Technologie wissen als ich. Stark vereinfach gesagt ist es ein Forschungskonflikt zwischen den Apokalyptikern und den Techno-Jüngern, den wir auch in diesem Diskurs beobachten auf einer Meta-Ebene. Dieser Konflikt wird mehr oder minder hellsichtig und mehr oder minder richtig in Büchern, auf Präsentationen, in Tweets und vor allem in Business-Vorhaben geführt. Eines aber ist klar: das leicht modrig riechende Wort “Ethik” ist gerade in Zeiten großer technischer Umbrüche wieder ein ganz entscheidendes Thema mit vielleicht ganz entscheidenden Folgen. Denn Technologie nur aus Möglichmachungsgesichtspunkten zu sehen, war immer nur eine Sichtweise.
Es gibt diese Geschichte aus der Nacht vor dem 16. Juli 1945, wo —wartend auf den ungeheuer geheimen, ungeheuer teuren und ungeheuer wichtigen Trinity-Atomtest, der den Zweiten Weltkrieg beenden soll — eine kleine Gruppe der weltweit besten Wissenschaftler in der Wüste von New Mexico herumsteht und sehr nervös ist. Ich zitiere von der offiziellen Manhattan-Project Geschichtswebsite der US-Regierung:
“To break the tension, Fermi began offering anyone listening a wager on “whether or not the bomb would ignite the atmosphere, and if so, whether it would merely destroy New Mexico or destroy the world.” Oppenheimer himself had bet ten dollars against George Kistiakowsky’s entire month’s pay that the bomb would not work at all. Meanwhile, Edward Teller was making everyone nervous by applying liberal amounts of sunscreen in the pre-dawn darkness and offering to pass it around.”
Ja, richtig gelesen. Es gab kurz vor dem Test eine Diskussion darüber, ob zufällig — als Kollateralschaden — die Atmosphäre abbrennen könnte. Auch hier gab es rund um diese nicht ganz unwichtige Fragestellung später zwei Fraktionen: die eine, rund um den deutschen Wissenschaftler Hans Bethe, behauptete danach, dass die Gefahr nie bestanden habe und es nur ein überdrehter Scherz gewesen sei. Der spätere Erfinder der Wasserstoffbombe, der Ungar Edward Teller, machte allerdings durchaus Kalkulationen, die dieses Horrorszenario in den Bereich des Möglichen kommen ließen.
Jede Zeit großer technologischer Umbrüche hat diese Momente und diese Unsicherheiten. Und: Jede Zeit hat ihre Apokalypsen, vor denen Menschen zitterten. Was früher “die Bombe” war (und heute eigentlich immer noch sein sollte), der saure Regen, die UFOs — man denke an die Krieg-der-Welten-Panik, 1937 — hatte immer auch einen wahren Kern. Ein Diskurs-Element, was, als Gegenstück zur “Wird schon alles werden”-These all derer gesehen werden musste, die einfach nur an reinen technisch-bedingten Fortschritt glaubten, koste es was es wolle.
Je größer der potenzielle Impact auf die Menschheit wird, desto wichtiger werden Fragen der Ethik, des Wünschbaren und des Machbaren. Wie viel Risiko ist zu viel? Das ist die zentrale Frage der wir uns auch heute stellen müssen. Wenn Sie wüssten, dass ihr Flugzeug mit einer 1% Chance abstürzt und sie ansonsten ein Jahr auf den nächsten Urlaub warten müssten, würden Sie in den lange erwarteten Sommerurlaub fliegen? Bei 2%? Bei 0,5%. Können Sie überhaupt beurteilen, ob der Techniker des Flugzeuges recht hat oder der Tower oder der Pilot, wenn sich diese Leute in Ihrem Beisein streiten würden?
Ich könnte es nicht.
Umso wichtiger ist es, dass Unternehmen, gleich aus welcher Branche, anfangen, wieder über Ethik nachzudenken: Über Fragen, die auf sie zukommen werden. Was bedeutet es für uns, wenn Zuckerberg sich gegen Regulation von AI ausspricht und andere dies befürworten? Sollten wir als Unternehmen als Unternehmensleiter nicht eine Meinung haben? Sehen Sie sich eher als Hans Bethe oder Edward Teller? Glauben Sie, dass es ein Risiko gibt, dass die Erde abbrennt oder ist das alles Unsinn? Wie viel Risiko ist zu viel Risiko? Und: Sollten wir neben rein technisch-prozessualen Fragen Digitaler Transformation nicht endlich auch mal einen Diskurs darüber starten, was eigentlich für uns als Menschen in einer Gesellschaft wünschbar ist? Dieser Teil digital-transformativer Fragestellungen bleibt nämlich fast durchgehend unbeantwortet, in einer Welt, in der immer mehr Technik die Antwort auf alles zu sein scheint.
Ethikfragen sind ab einem bestimmten Punkt immer untrennbar mit technologischem Wandel im großen Maßstab verknüpft. Wenn sich die Welt neu zusammensetzt, gilt dies gerade auch für die Frage, was wir tun dürfen, wollen und sollen. Wer in den Wandel hineinstartet, weiß noch nicht, dass es irgendwann grundsätzliche Fragen der Ethik diskutieren muss. Tim Berners-Lee wollte seinerzeit einfach nur zwei Computer kommunizieren lassen, ebenso wie das Facebook-Team. Dass Jahre später diese Technologie Gesellschaften, Unternehmen und Menschen bewegt, war ihm nicht klar.
Der Punkt, für Unternehmen und Organisationen ethische Visionen zu entwickeln, ist jetzt. Ansonsten sind wir abhängig von einem Wandel, bei dem wir haltungslos nur noch als Passagiere mitfahren. Als Menschen und als Menschen, die Unternehmen und Organisationen führen, müssen wir abseits von reiner Machbarkeit über Wünschbares reden. “Wollen wir das?”, “Können wir das inhaltlich tragen?”, “Hilft es uns wirklich?” Diese Fragen sollten Unternehmen langsam mal wieder abseits der omnipräsenten Frage: “Geht das und wie schnell”, stellen.
Übrigens: PLOT ist ganz gut im Fragen stellen. Und wir beschäftigen uns gerade viel mit der Sicherheit und Ethik von Marken in einer zunehmend schneller werdenden Welt. Wenn Sie denken, dass wir mal reden sollten, schreiben Sie mir doch einfach eine Mail. Vielleicht könnte das ja ein ganz interessantes Gespräch werden.
Foto: Michael Lehenbauer, Apocalypse?, Flickr, Attribution 2.0 Generic (CC BY 2.0)
