Stellungnahme zum KI-Weißbuch der EU Kommission
Von Alexander Klier und Bernhard Thomas, beide Beck et al. GmbH
“Diese Konsultation ermöglicht es allen europäischen Bürgerinnen und Bürgern, den Mitgliedstaaten und den einschlägigen Interessenträgern (einschließlich Zivilgesellschaft, Industrie und Wissenschaftskreise), ihre Meinung zum Weißbuch zu äußern und zu einem europäischen KI-Konzept beizutragen.”
Am 19. Februar 2020 veröffentlichte die EU-Kommission das Weißbuch “Zur Künstlichen Intelligenz — ein europäisches Konzept für Exzellenz und Vertrauen”. Zu einer Begleitung auf diesem europäischen Weg hin zu Exzellenz und Vertrauen in KI rief sie auch zur Beteiligung der Bürger:innen und der Zivilgesellschaft auf. Eine Möglichkeit, die Kommission dabei zu unterstützen, war es, bis zum 15. Juni 2020 eine Stellungnahme zum Weißbuch zu verfassen.
Die Kommission legte dabei unter anderem einen Schwerpunkt auf die Bedeutung und den Einsatz von KI für kleine und mittelständische Unternehmen (KMU), besonders auf das Potenzial und die Vertrauenswürdigkeit von KI-Anwendungen im Bereich von KMU. Dieser Wirtschaftsbereich wird im Weißbuch als — möglicherweise zögerlicher — Anwender gesehen, weniger als Quelle von KI-Exzellenz. Da Beck et al. in den Bereich der KMU fällt, waren auch wir aufgerufen, das Weißbuch aus dieser Sicht zu kommentieren. Eine Gelegenheit, die wir gerne ergriffen haben, auch weil wir selbst Erfahrungen, beispielsweise im Bereich von “Natural Language Processing” (NLP), haben.
Mit diesem Blogbeitrag wollen wir unsere Stellungnahme und unsere Überlegungen zur EU-Initiative publik machen und ggf. zur Diskussion anregen. Aus übergeordneter Sicht werden wir nicht nur die Stellungnahme zu den Inhalten des Weißbuchs wiedergeben, sondern auch etwas zum Verfahren der Evaluation, nämlich als eine Einladung zu weitgehend vorgegebenen Kommentierungsmöglichkeiten, schreiben. Aus unserer Sicht war dieser Prozess durchaus “gewöhnungsbedürftig”. So war es irritierend nicht zu wissen, zu welchem Zweck die Ergebnisse der Befragung verwendet werden sollen und ob und inwieweit Adaptation und Rückmeldung kollaborativ zu den Kommentaren erfolgt. Wir beschreiben hier zunächst die Form und die Möglichkeiten bzw. Offenheit der gewünschten Kommentierung.
Form und Möglichkeit der Beteiligung
“Künstliche Intelligenz (KI) ist eine strategische Technologie, die Bürgerinnen und Bürgern und auch Unternehmen zahlreiche Vorteile bietet” (Einführung in den Fragebogen).
Formal war die Partizipation in Form von vorgefertigten Multiple-Choice Fragen angelegt, so dass am Ende ein Online-Fragebogen ausgefüllt werden sollte (EU-Survey). Die gewünschten Kommentare zum Weißbuch konnten von den Beteiligten — so auch von uns — also (nur) dadurch vermittelt werden, dass sie unter den für jede Frage vorgeschlagenen Antworten jeweils die am besten geeignete auswählen konnten. Sicher ein gutes Verfahren, um standardisierte und statistisch auswertbare Antworten zu erhalten. Dagegen spricht allerdings, dass auf diese Weise — gewollt oder ungewollt — Tendenzen (Bias) vorgegeben und sogar verstärkt werden können.
Feedback im eigentlichen Sinne und in freier Form konnte nur in Form eines anzufügenden Dokuments, das am Ende des Fragebogens angehängt werden konnte, gegeben werden — oder durch Ergänzungen zu den einzelnen Frageblöcken in Freitextform mit bis zu 500 Zeichen. Wie sich zeigte, war das für fast alle unserer thematisch fokussiereten Rat- und Vorschläge zu kurz.
Der Fragebogen selbst war, anders als das zugrunde liegende Weißbuch, in drei Abschnitte unterteilt:
- Abschnitt 1 (Kapitel 1–4 im Weißbuch) bezog sich auf die spezifischen Maßnahmen, die speziell in Kapitel 4 des Weißbuchs im Vorschlag des Aufbau eines Ökosystems für Exzellenz gipfeln.
- Abschnitt 2 bezog sich auf eine Reihe von Optionen für einen Rechtsrahmen für KI, die in Kapitel 5 des Weißbuchs beschrieben werden.
- Abschnitt 3 (ebenfalls Kapitel 5 im Weißbuch) bezog sich auf sicherheits- und haftungsbezogene Aspekte von KI.
Gewöhnungsbedürftig fanden wir diese Form der Abfrage vor allem insofern, als sie nicht mit offenen Fragestellungen verbunden war, sondern eigentlich nur eine Gewichtung vorgefertigter Positionen der EU-Kommission zuließ. Wir konnten uns also entscheiden, ob wir beispielsweise die “Stärkung der Exzellenz in der Forschung” oder die “Bildung eines Netzwerks bestehender Exzellenzzentren der KI-Forschung” — auf einer Fünferskala — für sehr wichtig oder überhaupt nicht wichtig hielten. Eine Option war auch, zu einem Punkt “keine Meinung” zu haben.
Der gesamte Aufbau des Fragebogens unterstellte, dass die Ausführungen und Thesen des Weißbuchs gesetzt sind und so tatsächlich nur ein Meinungsbild über das Weißbuch erfragt worden ist. Kritik kann eigentlich nur durch geringe Punktzahlen geäussert werden und damit als solche nicht konstruktiv sein. Die Beteiligten hatten insofern keine Möglichkeit der (nachträglichen) Mitgestaltung. So konnten z.B. kritische Anmerkungen, oder auch der Wunsch nach näheren Erläuterungen, was beispielsweise unter Exzellenz in der Forschung zu verstehen ist, bestenfalls durch den 500-Zeichen-Freitext (für einen kompletten Fragenblock) vorgelegt werden. Die Möglichkeit, extern eigene Dokumente als Anhang hinzuzufügen, schafft aus unserer Sicht kaum Gelegenheit, einen halbwegs konsolidierten Prozess der Meinungsfindung oder Bewertung zu den Vorschägen des Weißbuchs in Gang zu setzen.
Eine konstruktiv-positive Auseinadersetzung mit dem Thema konnte damit nichts anderes bewirken, als schlichtweg die Meinung der EU-Kommission zu bestätigen. Interessant am Ergebnis ist lediglich, mit welcher Punktzahl die einzelnen Themen gewichtet werden — also eine rein statistische Aussage ohne ein “why” (siehe Pearl 2018).
Dem konnten und wollten wir aber nicht uneingeschränkt folgen, wenngleich die Ideen und Vorschläge — wiederum auf einer allgemeinen Ebene betrachtet — nicht verkehrt sind. Es kommt aber auch hier sehr darauf an, was man jeweils unter den verwendeten Begriffen versteht und wie sie, und hier wird es besonders spannend, politisch und finanziell ausgestaltet werden sollen. Denn das ist am Ende ja das, was bei diesem europäischen Weg, der im Weißbuch beschrieben ist, herauskommen soll. Insofern bezieht sich unsere Stellungnahme tatsächlich auf die inhaltliche Ausgestaltung dessen, was im Weißbuch vorgegeben wird.
Wir geben im Folgenden weitere Kommentare und Überlegungen im Zusammenhang mit hervorgehobenen Aspekten bzw. Themen des Weißbuchs. Wir erheben dabei keinen Anspruch auf Vollständigkeit.
Ein Ökosystem für Intelligenz
“Um ein Exzellenzökosystem aufzubauen, das die Entwicklung und Nutzung von KI in der gesamten Wirtschaft und öffentlichen Verwaltung der EU unterstützen kann, müssen auf mehreren Ebenen verstärkte Maßnahmen ergriffen werden” (Weißbuch — Ein Ökosystem für Exzellenz, S. 6).
Die kurzen Kapitel 1–3 des Weißbuchs stellen die Einleitung und Hinführung zum Thema dar, waren also nicht Gegenstand der Abfrage/Kommentare. Sie konstatieren im Wesentlichen die aktuelle Situation zu KI in der EU bzgl. Kompetenz, Forschung & Entwicklung und Einsatz (in Industrie, im Öffentlichen Bereich und KMUs) und in Bezug auf die länderübergreifende Zusammenarbeit. Die Darstellungen klingen äußerst positiv und die erwarteten Entwicklung, als Ziel der konzentrierter EU-Bemühungen, sind sehr hoch angesiedelt. Klare Hinweise oder Belege dazu werden allerdings nicht aufgeführt — sind aber möglicherweise auch nicht das eigentliche Thema des Weißbuchs. Der direkte Fragebogen-Bezug begann erst mit Kapitel 4 mit dem Titel “Ein Ökosystem für Exzellenz”.
Zu Beginn des Kapitels 4 wird zu Recht betont, wie wichtig der Aufbau eines Ökosystems Exzellenz im Sinne eines Netzwerkes ist. Dem folgt auch der Gedanke zur Zusammenarbeit mit den Mitgliedstaaten (Buchstabe A) relativ konsequent. Doch bereits danach (Buchstabe B, Forschungs- und Innovationsgemeinschaft) wird es aus unserer Sicht sehr schnell inkonsistent. Hier wird nicht mehr weiter überlegt, wie eine solche Netzwerkstruktur weiter gestärkt und verbreitet werden kann, oder wie möglicherweise digitale Communities in diesem Kontext entstehen können. Stattdessen wird — recht unvermittelt — ein “Leitzentrum für Forschung, Innovation und Expertise” (S. 8) gefordert, um über diese Struktur zu ermöglichen, “die besten Forscher anzuwerben und zu halten und die besten Technologien zu entwickeln”.
Es wird nicht hinterfragt, ob eine weitere Zentralisierung, innerhalb der schon bestehenden Hierarchie der Exzellenz- und Expertise-Zentren, die richtige Strategie ist, um den Austausch, die Zusammenarbeit, die Förderung und das Interesse neuer (junger) Experten zu gewinnen. Die Förderung der Vernetzung im Sinne verzweigter Kooperation und thematischer Kollaboration wäre unserer Ansicht nach die Strategie der Wahl. Ob es dazu einer weiteren organisatorischen Struktur bedarf, könnte im Rahmen der Weißbuch-Kommentare breiter diskutiert werden.
Wir stützen uns bei unserer Sicht auf dieses Thema vor allem auf die Erfahrungen digitaler Kollaboration, Co-Kreation und die vielfältigen digitalen Communities in Unternehmen, beispielsweise via ESNs (Enterprise Social Networks): In solchen Ökosystemen hätten die vorgeschlagenen Maßnahmen der Zentren eher einen gegenteiligen Effekt. Die eigentliche Herausforderung liegt nach unserer Erfahrung — auch und gerade in der Entwicklung von KI-Systemen — deshalb in einer noch breiteren Verteilung des kollaborativen Netzwerkens und auch einer tatsächlich kollaborativen Forschung, um ein echtes Ökosystem für Exzellenz generieren zu können. Ein solches Netzwerk sollte dabei Unternehmen wie der Beck et al. GmbH erlauben, niedrigschwellig teilnehmen zu können, um damit auch unsere Expertise als KMU, das Kunden in der Anwendung von KI unterstützt, einbringen zu können.
Ein Ansatz, der hierzu passt, aber leider mit keinem Wort (und auch keiner Frage) erwähnt worden ist, ist der, sowohl die Forschungsanstrengungen, als auch die Forschungsergebnisse öffentlich und transparent — und damit allen zugänglich — zu machen. Die geförderten Maßnahmen müssen aus unserer Sicht also strikt an den Ansatz des Open Access, der Open Science und letztlich auch der Open Data gekoppelt werden. Nur über diesen Weg wird es möglich sein, die große Community der Wissenschaftlerinnen und Wissenschaftler an der Entwicklung von KI Beteiligten wirklich partizipieren zu lassen und ihre Vielfältigkeit und Kreativität zu nutzen.
Kompetenzbildung
“Das europäische KI-Konzept muss dadurch untermauert werden, dass besonderes Gewicht auf Kompetenzen gelegt wird, um dem Fachkräftemangel abzuhelfen” (Weißbuch — Kompetenzen, S. 7).
Ein ähnliches Problem wie oben sehen wir in der Frage des darauffolgenden Themas, dem der Kompetenzbildung, also dem Abschnitt C (ab S. 7). Völlig zu Recht wird auch hier zunächst betont, “besonderes Gewicht auf Kompetenzen” zu legen. Ein überarbeiteter Aktionsplan soll dann bereits helfen, “daten- und KI-gestützte Technologien wie Lernanalytik und prädiktive Analytik besser zu nutzen, um die allgemeine und berufliche Bildung zu verbessern und für das digitale Zeitalter tauglich zu machen.” Das ist ein überraschender Schluss insofern, als damit bereits bestimmte Ausprägungen einer KI im Sinne einer Kompetenzbildung gesetzt werden, ohne dass geklärt worden ist, um was für Kompetenzen es sich überhaupt handeln soll und was das Spezielle an KI-spezifischer Kompetenzbildung sein kann.
Sieht man KI-spezifische Kompetenzen als integralen Bestandteil von Bildungsprozessen, also nicht als bloß additive Komponente, dann mögen lernanalytische Vorgehensweisen oder prädiktive KIs hilfreiche Instrumente dafür sein. Allerdings erst dann, wenn klar ist, welche Kompetenzen über welche Bildungsmaßnahmen ausgebildet werden können und wobei die Tools speziell helfen sollen.
Ähnlich unklar bleibt die Frage und Stellung von Ethik-Leitlinien in diesem Bereich. Sie gelten schließlich auch generell für “Kompetenzen, die für die Arbeit im KI-Bereich notwendig sind” (S. 7). Die rein fachliche Kompetenzbildung muß einher gehen mit einer klaren Linie der Bewußtseinsbildung für ethische Leitlinien auf den unterschiedlichen Stufen von Entwicklung, Einsatz und Zielsetzung von KI- und Datenanalyse-Technologien.
Auch hier wird das Leitzentrum für KI-Forschung und Innovation herangezogen. Das halten wir für wenig innovativ und auch schlecht begründet. Ein solches Leitzentrum kann nichts wirklich Konkretes dazu beitragen, die notwendige Ethik — und Kompetenzbildung in der beruflichen Aus- und Weiterbildung, oder auch in der Allgemeinbildung — zu etablieren. Es kann lediglich die generelle Forderung danach instituionalisieren oder (bekannte) Rahmenbedingungen identifizieren. Im Weißbuch steht zur Begründung auch nur, dass ein solche Leitzentrum eine attraktive Möglichkeit “für Talente aus der ganzen Welt” darstellen würde. Nimmt man dies wiederum ernst, dann holt man sich über die Zentren (möglicherweise) die Kompetenzen und bildet sie nicht etwa breit aus, wie zu Beginn beteuert und aus unserer Sicht notwendig.
Schwerpunkt KMU und Partnerschaften
Das Weißbuch legt in diesem Abschnitt den Schwerpunkt auf das Enablement von KMU für Einsatz von KI. Hier werden aber keine konkreten KMU-bezogenen Maßnahmen erwähnt, sondern lediglich die Einbeziehung von KMU in den Zugang zu Mitteln aus dem “Investitionsfonds für KI und Blockchain”. Wie das gehen könnte, wird nicht erwähnt. Die Mitgliedsstaaten sollen auf KI spezialisierte Innovationszentren ausweisen, die KMU dabei unterstützen sollen, sich mit KI “vertraut zu machen [… ] und zu nutzen”. Dieser Anspruch bleibt generisch und ohne Handhabe zur Realisation. Immerhin wird festgeschrieben, dass KMU (freien?) Zugang zu KI und deren Nutzung haben sollen. Wie war das noch mit Open Data?
Als KMU betrifft dies Beck et al. besonders. Wir wollen dabei weiter unterscheiden, ob wir von einem “beratenden” oder einem “anwendenden” Unternehmen sprechen. Beck et al. setzt seine Kompetenzen in KI (z.B. in NLP, Data Analysis, Social Listening, Decision Support) als Beratungsleistung für Kunden an, setzt also nur in beratendem Sinne KI ein, weniger für eigene Betriebsprozesse. Anders KMU, die in Produktion, Logistik, Verwaltungsaufgaben von KI Anwendungen profitieren könnten. Hier muß das Potenzial von KI zielgerichtet und unternehmensspezifisch identifiziert und Vertauen dafür entwicklelt werden.
Inwieweit dies von Innovationszentren geleistet werden kann, bleibt erst einmal offen. Klarer wäre aber eine Perspektive, bei der beispielsweise die Kompetenz von KI-beratenden KMU für die Ansprache und Betreuung von potenziell anwendenden KMU gefördert würde, gerne auch mittels Förderprogrammen. Die Initiierung von KI- und Daten-Partnerschaften mit dem “privaten Sektor” (gemeint sind hier vermutlich Partnerschaften zwischen KI-Forschungseinrichtungen und der Privat-Wirtschaft) soll sicherstellen, dass private Einrichtungen wie KMU und andere auch Zugang zu neuen KI-Ergebnissen (Forschung und Entwicklung) haben. Allerdings wird als Maßnahme dazu auch wieder (nur) eine zentrale Struktur zur Bündelung und Koordinierung von Forschung und Innovation vorgeschlagen, nicht etwa Open Data.
Ein Ökosystem für Vertrauen
“KI kann zwar dazu beitragen, die Sicherheit der Bürgerinnen und Bürger zu schützen, und es ihnen ermöglichen, ihre Grundrechte wahrzunehmen, aber es besteht auch die Sorge, dass KI unbeabsichtigte Auswirkungen haben oder sogar für kriminelle Zwecke missbraucht werden kann” (Weißbuch — Ein Ökosystem für Vertrauen: KI-Regulierungsrahmen, S. 10).
Das nächste größere Kapitel befasst sich mit dem möglichen KI-Regulierungsrahmen bzw. dem Änderungsbedarf bestehender einschlägiger Rechtsrahmen sowie haftungsbezogenem Klärungsbedarf (ab S. 10). Es fällt auf, dass das Weißbuch diesem komplexten Thema stattliche 20 Seiten (bis S. 31) widmet, wohingegen sich das fachkompetenzbezogene “Ökosystem für Exzellenz” mit seinen Maßnahmen auf lediglich rund 5 Seiten beschränkt. Der Fragebogen widmet diesem Kapitel zwei eigene Abschnitte mit teilweise äußerst detaillierten Fragestellungen.
Wir stimmen — wenn auch aus einer Laiensicht — den aufgeführten Aspekten und Überlegungen des Weißbuchs in diesem Kapitel im Wesentlichen zu. Ein paar Anmerkungen hätten wir gerne in den Freitextteilen untergebracht, was aber wegen der Beschränkung auf 500 Zeichen nur rudimentär möglich war. Wir sind darüberhinaus der Ansicht, dass insofern neue Rechtsvorschriften erforderlich sein könnten, als neue, KI- oder Daten-Analyse-spezifische, Bedenken in Betracht zu ziehen sind. Es sollte zumindest überprüft werden, inwieweit geltende Rechtsvorschriften für einzelne KI-Bedenken angepasst und detailliert werden müssen.
Neben der Rechtssicherheit für künftige KI-Anwendungen und KI-Ökosysteme sind auch klare Regelungen im Umgang mit Verantwortung und Haftung im KI- und Daten-Bereich wesentlich für die Vertrauensbildung in Öffentlichkeit und Wirtschaft. Dabei geht es nicht nur um die zuverlässige Abwehr von Cyber-Risiken, sondern auch um Prozesse im Zusammenhang mit Aufdeckung und Verfolgung von Fehlern, Defekten, Sorgfaltspflichten in bzw. für ein Gesamtsystem und dessen — ggf. zugelieferten — Teile.
Eine grundlegende Forderung das Weißbuchs ist hier z.B. die “menschliche Aufsicht”. Das sehen wir insofern kritisch, als menschliche Aufsicht eben “menschlich” ist, d.h. abhängig von Kompetenz, Gelegenheit, Willen, moralischer Einstellung und Irrtümern. Es scheint uns schwer, diese effektvoll und praktikabel zu gestalten — zumindest so lange, als es nur um individuelle Aufsichten geht. Das Ganze bekommt schon einen anderen Drive, geht man es als kollaboratives Vorhaben an. Wir sehen aber noch zwei andere Wege, solche Prozesse nachprüfbar zu gestalten.
Zum einen “tiefe Haftung”. D.h. Haftung, die sich nicht auf die Ebene des Gesamtsystems (Anwendung + Einsatz) beschränkt, sondern sich durchzieht über alle beteiligten (relevanten), zugelieferten Komponeten. Etwa bei eingebetteten KI-Produkten die Algorithmen, Datenquellen, Sensorik- und andere Devices. Neu wäre hier die Haftungsbeteiligung des Zulieferers für seine Komponenten nicht nur als solche, sondern im Funktionszusammenhang des Gesamtsystems. (Das geht natürlich nur insoweit, wie es einen solchen gibt. Für open source / open data und open research Komponenten muss die Haftung beim Integrierer verbleiben.)
Zum anderen empfehlen wir die Einrichtung eine KI-Governance-Funktion im jeweiligen Unternehmen. KI-Governance Regeln, aus denen man ein quasi-standardisiertes Regelwerk zugrunde legen kann, gibt es bereits in vielfältiger Form. Eine KI-Governance im Unternehmen gehört dabei weder in den Bereich Datenschutz, noch zur Cyber-Sicherheit. Es geht letztlich um die Verantwortung für den Einsatz von Algorithmen bzw. deren Software-Implementationen im Rahmen der Betriebstätigkeit des Unternehmens als kollaboratives Ganzes. Auf diese Weise kann Rechtssicherheit und Vertrauensbildung bereits “an der Quelle” institutionalisiert werden. Konsolidierte Vorschläge seitens der EU wären wünschenswert. Konzepte dafür sind auf Unternehmens- und Beratungsebene bereits in Arbeit — so bei uns, also bei der Beck et al. GmbH.
Fazit
Das Weißbuch nimmt die Themen Kompetenz und Exzellenz in KI und Daten-Analysen auf der EU-Ebene, und damit transnational, ernst. Das erklärt auch den Fokus auf die internationale und institutionelle Zusammenarbeit. Die Aufgaben und Maßnahmen dazu werden jedoch vorwiegend als zentralistische Anstrengungen konzipiert. Dagegen wäre aus unserer Sicht eine sehr viel stärker kollaborationsorientierte Netzwerkförderung wünschenwert — und erfolgreicher. Eine solche zu ermöglichen könnte durchaus eine zentrale Aufgabe sein, im eigentlichen wie auch im übertragenen Sinne.
Mindestens ebenso wichtig ist den Herausgebern des Weißbuchs die Herstellung und der Erhalt von Vertrauen in die neuen Technologien, die sich überwiegend — und zum Teil prinzipiell — dem direkten menschlichen Verständnis verschließen. Das Weißbuch stellt die Möglichkeiten, Vertrauen per Rechtsrahmen, Absicherung und Haftung aufzubauen, ausführlich dar. Auf einer rein sachlichen Ebene gelingt es damit dem Weißbuch, Vertrauensbildende Maßnahmen zu beschreiben. Es bleibt aber das Problem, dass man sich echtes Vertrauen auch verdienen muss, beispielsweise durch Garantien, entsprechende institutionelle Arrangements und schließlich allparteiische Schiedsrichter, es also nicht nur herbeischreiben kann.
Verwendete Literatur:
Judea Pearl (2018): The Book of Why, Penguin
