Einer KI vertraue ich mehr als Menschen

Vor allem Start-Ups können es sich wohl nicht leisten, Angebote im Bereich der künstlichen Intelligenz auch tatsächlich maschinell zu realisieren, sondern setzen stattdessen Menschen dafür ein. Wer eine solche Mogelpackung erhält, ist entweder beeindruckt von der Leistung der “KI” (weil sich ja ein Mensch “dahinter” verbirgt) oder aber die Effekte sind weitaus gravierender: “Forscherinnen und Forscher zeigten in einem Versuch, dass Menschen eher bereit sind, über Symptome und Probleme zu reden, wenn sie glaubten, mit einer künstlichen Intelligenz zu kommunizieren. Daraus ergibt sich ein ethisches Problem, Menschen würden damit bewusst irregeführt, so die Kritik.”

Im Blick auf Wirtschaftlichkeit bleibt vielen Unternehmen aufgrund der geringen Datenvolumen nur der Rückgriff auf (besonders) billige Arbeitskräfte. Das verursacht gleich mehrerlei Probleme: Einerseits werden so Jobs geschaffen, die extrem schlecht bezahlt werden (weil der “Kunde” ja davon ausgeht, dass er es mit einer künstlichen Intelligenz zu tun hat), andererseits werden von Mitarbeitern von Unternehmen sensible Daten gelesen (um die Dienstleistung der “KI” zu erbringen), ohne Kenntnis des Besitzers dieser Daten (Thema: Datenschutz!).

Doch das größte Problem, das ich darin sehe, erwähnte ich bereits in der Überschrift: Das (meiner Ansicht nach) zentrale ethische Problem ist die Frage nach dem Vertrauen. Wenn es tatsächlich so ist, dass Menschen eher einer Verarbeitung ihrer personenbezogenen Daten einer künstlichen Intelligenz vertrauen als einem Menschen, dann ist es ein Skandal, wenn keine angemessene Transparenz darüber hergestellt wird, wer meine Daten liest und verarbeitet. Eine Verschleierung der Datenströme durch Subfirmen und Weitergaben macht eine Aufklärung häufig zu einem unbewältigbaren Mammutprojekt.

Fazit: Wir sollten mißtrauisch sein (werden oder ggf. bleiben) — Nicht jede von Firmen angebotene KI ist auch wirklich eine KI. Klingt verrückt, ist aber so (siehe oben). Dass am anderen Ende der Leitung in manchen Fällen ein Mensch und keine Maschine sitzt, wird sich so bald nicht ändern — das sollten auch Nutzerinnen und Nutzer von vermeintlich „smarten“ Diensten bedenken.