Autonomisierung schürt Todesangst

Ein Gremium der Vereinten Nationen berät in dieser Woche über ein mögliches Verbot autonomer Waffensysteme. Währenddessen versucht ein Aktivisten-Video im Netz für ein Verbot zu mobilisieren: Dabei wird eine Szenerie skizziert, die realistisch erscheint: Schwärme von autonom agierenden Killer-Drohnen versetzten die Welt in Angst und Schrecken und töten auf Basis von Social-Media-Posts und anderen Informationen aus der BigData.

Demzufolge wäre Amoklauf ein Relikt aus der Zeit vor der Digitalisierung. Heutzutage läuft das anders ab… “Es ist sicher notwendig, über die Anwendung von KI in vielen heutigen und zukünftigen Lebens- und Arbeitsbereichen sowie den damit einhergehenden Chancen und Risiken zu reden. Aber hier, bei der UN-Waffenkonvention, muss der Fokus doch primär auf Waffensystemen und dem Bewahren der menschlichen Kontrolle über selbige liegen. Dass einige Staaten dieser Verlust an Diskussionsfokus und das Reden über ‘KI in voller Breite‘ nicht ungelegen kommt, das ist ein offenes Geheimnis” sagt Frank Sauer. Technologisch werden parallel dazu bereits Tatsachen geschaffen — und nichts überzeugt bekanntlich mehr als die Kraft des Faktischen.

Während in politischen Gesprächsrunden noch über das Vokabular diskutiert wird, werden anderswo bereits erste Systeme produziert und zur Serienreife gebracht. Denn wenn jemand richtig Geld investiert um durch KI Fehler und Irrtümer zu minimieren und allen anderen einen Schritt voraus zu sein, dann ist das die Waffenindustrie. Darüber sollte sich wohl auch die EKD Gedanken machen, die derzeit in Bonn tagt und darüber berät, ob sie die Einrichtung einer Beauftragung “Kirchenentwicklung in der Digitalen Gesellschaft” vorsieht. Nicht das es am Ende bedeutet, erkennen zu müssen, “zu spät” gehandelt zu haben…