Europa - Informationen Nr. 160

Die Wahrung der Selbstbestimmung über die eigenen Daten ist angesichts der Entwicklungen im Bereich der Künstlichen Intelligenz (KI) keine Selbstverständlichkeit. Datensouveränität muss vielmehr zunehmend errungen und verteidigt werden. In Reaktion auf die rasanten Fortschritte bei der Entwicklung von KI in Asien und den USA hat die Europäische Kommission im April 2018 eine Mitteilung unter dem Titel „Artificial Intelligence for Europe“ veröffentlicht. Sie beschreibt darin den geplanten Ansatz der EU in Bezug auf die Entwicklung von Künstlicher Intelligenz und Robotik. Vorrangiges Ziel sei es dabei zunächst, Schieflagen im Bereich der internationalen Wettbewerbsfähigkeit zu korrigieren. Neben notwendigen technischen Anpassungen, der Aufstockung des Forschungsbudgets und der Vorbereitung auf sozioökonomische Veränderungen durch KI gehe es der EU auch um die Sicherstellung eines angemessenen ethischen und rechtlichen Rahmens. Aus Sicht der Evangelischen Kirche in Deutschland (EKD) sollte gerade dieser Aspekt ein Kernanliegen im Rahmen des verfolgten Ansatzes einer „Artificial Intelligence for Europe“ sein.
Um diesen ethischen Rahmen angemessen auszugestalten, hat die EU-Kommission eine hochrangige Expertengruppe ernannt, die am 18. Dezember letzten Jahres einen Entwurf für „ethische Leitlinien für einen vertrauensvollen Umgang mit Künstlicher Intelligenz“ vorgelegt hat.
Der Entwurf betrachtet die Entwicklung, die Bereitstellung und den Einsatz von KI aus den Blickwinkeln von Fairness, Sicherheit, Transparenz, Zukunft der Arbeit 37
und Demokratie. Ziel sei dabei die Entwicklung einer „vertrauenswürdigen KI made in Europe“. Hierfür werden Hinweise für die Gewährleistung des ethischen Zwecks, für die Verwirklichung und Bewertung vertrauenswürdiger KI gegeben.
Der Entwurf basiert dabei grundsätzlich auf wichtigen Prinzipien und Grundsätzen, wobei nicht immer klar ist, wie sie sich zueinander verhalten. Deshalb bedarf er aus kirchlicher Sicht auch durchaus einer kritischen Betrachtung. Dementsprechend hat sich das EKD-Büro Brüssel in die Konsultation eingebracht.
Dabei wurde sowohl zum Inhalt als auch zum Verfahren kritisch Stellung genommen. So standen die Veröffentlichung des Entwurfs in der Vorweihnachtszeit sowie die Kommentierungsphase, die ursprünglich nur einen Monat dauern sollte, nicht im Einklang mit der Agenda für bessere Rechtssetzung der Europäischen Kommission, die EU transparenter und rechenschaftspflichtiger zu machen.
Die von der EU-Kommission gezielt beabsichtigte Vermarktung der Entwicklung einer „vertrauenswürdigen KI“ vermittelt aus kirchlicher Sicht den Eindruck, dass die Ethik als Teil des Markenkerns in den Dienst einer Wettbewerbslogik gestellt werden soll. Bevor man „KI made in Europe“ propagiert, wäre als erster Schritt zunächst eine grundsätzliche Debatte über die Bedingungen zum Erreichen dieser ethisch vertretbaren, „vertrauenswürdigen KI“ erforderlich.
Dazu kommt, dass der Entwurf wiederholt sämtliche Akteure im Kontext der Künstlichen Intelligenz undifferenziert als „Entwickler, Bereitsteller und Nutzer“ adressiert. Durch diese Vermengung wird der besonderen Sensibilität des Themas und der unterschiedlichen Grundrechtsrelevanz nicht hinreichend Rechnung getragen. Dabei sollte gerade hier zwischen Pflichten von Entwicklern und Bereitstellern von KI auf der einen und dem Schutz der Rechte von Nutzern von KI auf der anderen Seite klarer differenziert werden. Der Entwurf erscheint sehr deutlich anwendungsorientiert und aus kirchlicher Sicht zu einseitig unternehmensfreundlich.
Die Leitlinien sollten daher klarstellen, dass eine eingehende Reflexion erforderlich sei, um mit KI verantwortungsbewusst umzugehen. Dabei sollten nicht nur „menschliche Werte“ in den Vordergrund gestellt werden, sondern insbesondere auch Menschenwürde und Menschenrechte. Zusätzlich würden die Fortführung, Weiterentwicklung und Anpassung des beschriebenen Prozesses weitere Fragen aufwerfen, da z.B. die geplante Verankerung von Rechenschaftspflicht keinen Mehrwert darstelle, wenn nicht gleichzeitig über Haftungsfragen diskutiert und entschieden werde.
In inhaltlicher Hinsicht bleibt die konkrete regulatorische Zielsetzung der ethischen Leitlinien unklar: Aktuell stellen sie ein „lebendiges Dokument“ dar und sind rechtlich unverbindlich. Doch wie geht soll es weiter gehen? Soll am Ende des Prozesses lediglich ein update des bestehenden Rechtsrahmens stehen, ein code of conduct, ein völlig neuer Rechtsrahmen oder weiterhin nur unverbindliche Leitlinien?
Ein weiteres Manko besteht darin, dass in der hochrangigen Beratergruppe zwar zahlreiche Wirtschaftsvertreter präsent sind, aber nicht ein einziger Theologe beteiligt wurde.
Der Entwurf hat ein großes, durchaus kritisches Echo hervorgerufen. Mehr als 500 Stellungnahmen gingen bei der EU-Kommission ein. Am 8. April 2019 ist dann die endgültige Version der Leitlinien veröffentlicht worden.
Im Vergleich zum Entwurf haben sich die Leitlinien verbessert. Um im Sinne der EU-Kommission „vertrauenswürdig“ zu sein, muss KI rechtskonform, ethisch vertretbar und widerstandsfähig sein. Der Philosoph Thomas Metzinger, der Mitglied der hochrangigen Arbeitsgruppe zu KI ist, sagte im Tagesspiegel: „(…) herausgekommen ist das Beste, was es weltweit zum Thema gibt.“ Zahlreiche Anregungen aus der öffentlichen Konsultation wurden aufgegriffen, durchaus auch die von kirchlicher Seite. So streichen die Leitlinien nun neben den Chancen auch deutlicher die Risiken, die mit KI verbunden sind heraus, wie etwa die Entwicklung tödlicher autonomer Waffensysteme, und differenzieren stärker zwischen den notwendigen Anforderungen an die verschiedenen Akteure (Entwickler, Bereitsteller und Nutzer), um vertrauenswürdige KI zu erreichen. Enttäuschend bleibt aber, dass die hochrangige Arbeitsgruppe es versäumt, der EU-Kommission konkrete Vorschläge hinsichtlich der Regulierung von KI zu unterbreiten. Ein ethischer Rahmen kann aber nur dann funktionieren, wenn er auch durchgesetzt werden kann. Hier wurde eine Chance vertan.
Auch Thomas Metzinger ist vom Ergebnis enttäuscht. Die Interessen der Industrie hätten sich durchgesetzt. Das Problem sei letztlich die Zusammensetzung der Expertengruppe gewesen, die aus vier Ethikern und 48 Nicht-Ethikern bestanden habe. So sei die Herausarbeitung „ethisch nicht verhandelbarer roter Linien“ verhindert worden.
Trotz dieser Kritik sind die Leitlinien ein erster Schritt. Die Debatte fängt gerade erst an und Kirche und Zivilgesellschaft sind aufgefordert, sich zu dieser wichtigen Zukunftsfrage zu Wort zu melden (siehe auch vorangehender Veranstaltungsbericht).

Den Link zur Stellungnahme der EKD finden Sie unter: http://bit.ly/ekd-NL-160_D-1
Die Ethik-Leitlinien zur Künstlichen Intelligenz finden Sie hier: http://bit.ly/ekd-NL-160_D-2