Social Scoring — Oder: Ich will überwacht werden!

Noch im März schrieb ich darüber, wie übermächtig, unsichtbar und unkontrollierbar die künstliche Intelligenz unser Leben beeinflusst und Menschen diskriminiert, manipuliert oder Lebenschancen reguliert. Heute muss ich ein weiteres “Puzzleteil” zu diesem Gesamtbild hinzufügen, da ich nicht mehr nur die von “denen da” entwickelte KI verteufeln will. Stattdessen müssen wir uns alle mal schön selbst an der Nase fassen (das ist jetzt eine Metapher, das brauchst du nicht wirklich zu tun) und realisieren, dass wir bei dem ganzen “immer mehr” und “immer besser” es geradezu provozieren, auch mehr überwacht zu werden. Nicht nur Bonitätsprüfungen (quasi wie die Schufa) laufen künftig vollautomatisiert und hochkomplex ab, sondern immer mehr Daten über uns werden aggregiert und so zu anspruchsvollen Systemen von Vergünstigungen oder Einschränkungen. Solche Punkte-Systeme nennt man gemeinhin “Social Scoring”, wie wir es beispielsweise aus China inzwischen kennen.

Schon jetzt wachse durch “Datenhändler und Möglichkeiten der De­Anonymisierung von Datensätzen das Potenzial”, aus kommerziellen Gründen Informationen aus verschiedensten Lebensbereichen zu vereinen. Das geschieht sogar teilweise auf freiwilliger Basis, weil sich die Beteiligten dadurch Vorteile versprechen. Früher gab es Schadenfreiheitsklassen der KFZ-Versicherer, bei denen auf Basis der Unfallzahlen und -kosten die Höhe der Versicherungskosten reguliert wurde. Heute könnten KFZ und Gesundheitsscores kombiniert werden, was bei gut einem Viertel der Deutschen sogar auf Zustimmung stieße — die Akzeptanzrate nimmt erst ab bei der “Aufzeichnung der Schrittzahl und einer damit assoziierten Beteiligung an Arztkosten bei Nichteinhaltung der Vorgaben und beim Sozialkreditsystem”.

Das Problem: Ganz verhindern wird man diese Tendenz nicht können, immer mehr Dienste werden ihr Angebot mit Datenerhebungen kombinieren und durch moderne Algorithmen die Menschen “scoren”. Wichtig dabei: Es muss transparent bleiben, welche Daten von mir wo und mit welchen Folgen erhoben wurden, also weshalb ich wie bewertet werde. “Außerdem müssen Scoring-Verfahren funktionieren, ohne verbotenerweise zu diskriminieren”, halten die Experten des Sachverständigenrat für Verbraucherfragen (SVRV) fest. Es ist natürlich auch fragwürdig, dass bei manchen Scoring-Verfahren auch Faktoren berücksichtigt werden, die mit mir direkt persönlich gar nichts zu tun haben (wie z.B. das Geo-Scoring, bei dem berücksichtigt wird, wo ich wohne). Hierbei handelt es sich um sogenannte “Stellvertreter-Merkmale”, ein Spezialgebiet über das noch vertiefend nachgedacht werden sollte…

Jedenfalls ist die aktuelle Rechtslage noch stark ausbaufähig und verbesserungswürdig was den Schutz vor Diskriminierung durch algorithmische Verfahren betrifft — Das Social Scoring kommt schneller, als die Gesellschaft und Gesetzgebung darauf vorbereitet sind. Jetzt ist dringender Handlungsbedarf, denn wie ich bei meinem Artikel über die übermächtige KI bereits konstatierte: Im Nachhinein wird sich vieles von dem Wünschenswerten nicht mehr einführen oder korrigieren lassen…