ethische Regeln zum Umgang mit Künstlicher Intelligenz (KI) [1]

„KI - aber wie damit umgehen?“ lautet die Frage und dass es noch zu keinem Aufschrei in der Gesellschaft gekommen ist, verwundert nur oberflächlich. Den meisten ist nicht einmal ansatzweise bewusst oder bekannt, worum es sich bei den Risiken von KI handelt, was dadurch beeinflusst werden könnte und ebenso wenig über Chancen und Risiken.

Im November 2023 auf dem internationalen Gipfeltreffen zu Sicherheitsfragen Künstlicher Intelligenz (KI) hat der Tech-Unternehmer Elon Musk abermals eine düstere Warnung geäußert: KI-Programme seien potentiell „eine der größten Bedrohungen“ für die Menschheit „und möglicherweise die dringlichste“.[1] 
Diese Warnung wurde vor dem KI-Gipfel in Seoul zum Auftakt des zweitägigen Treffens unter anderem von den US-Konzernen Google, Meta und Microsoft veröffentlicht, verbunden mit der Aufforderung eines verantwortungsvollen Umgangs mit der Technologie.[5] 

„Es ist nur ein Satz auf der Website des Thinktanks Center for AI Safety (CAIS) aus San Francisco: "Das Risiko der Auslöschung durch KI zu entschärfen, sollte weltweit die Priorität anderer gesamtgesellschaftlicher Risiken wie Pandemien und Nuklearkrieg haben." Der Aufruf an die Welt wurde am Dienstag veröffentlicht und bedeutet: Künstliche Intelligenz (KI) gefährdet die Menschheit, und es gilt, sie aufzuhalten. Es wird scheinbar ernst.“[2] 

Diese Warnung kam aus dem Silicon Valley und von anderswo uns zwar von den Chefriegen fast aller führenden KI-Unternehmen. Andere hochrangige Unterzeichner arbeiten führend bei Microsoft - der Konzern arbeitet eng mit Open AI zusammen - und Universitäten wie Harvard oder Stanford. Die Macher der KI warnen also vor ihren eigenen Produkten. Es stellt sich die Frage, ob sie sich ihr eigenes Geschäft kaputtmachen wollen.“[2] 

Bereits Ende März hatten Prominente wie Elon Musk und KI-Spezialisten einen offenen Brief veröffentlicht, in dem sie eine sechsmonatige Pause beim Trainieren neuer KI-Systeme forderten, die das aktuelle OpenAI-Modell GPT-4 noch übertreffen. »Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sein werden«, hieß es in ihrem Schreiben.[1] 

Angesehene Experten für Künstliche Intelligenz warnen neuerlich eindringlich vor Gefahren der Technologie. "Ohne ausreichende Vorsicht könnten wir unwiederbringlich die Kontrolle über autonome KI-Systeme verlieren", schrieben die Forscher in einem Text in der neuen Ausgabe der Zeitschrift "Science". Mögliche KI-Risiken seien Cyberattacken in großem Maßstab, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die "Auslöschung der Menschheit". Unter den Autoren sind Wissenschaftler, die zu den führenden Köpfen der KI-Forschung gehören.[3] 

Den Autoren des Textes in "Science" machen speziell autonome KI-Systeme Sorgen, die etwa selbstständig Computer nutzen können, um die ihnen gestellten Ziele zu erreichen. Die Fachleute argumentieren, dass es auch bei Programmen mit guten Absichten unvorhergesehene Nebeneffekte geben könne. Denn so, wie das Training von KI-Software laufe, halte sie sich zwar eng an ihre Spezifikationen - habe aber kein Verständnis dafür, welches Ergebnis dabei herauskommen soll. "Sobald autonome KI-Systeme unerwünschte Ziele verfolgen, könnten wir nicht mehr in der Lage sein, sie unter Kontrolle zu behalten", heißt es in dem Text.[3] 

Einer der Unterzeichner, Bill McKibben, zog Parallelen zur Klimakrise. "Angesichts unseres Versagens vor 35 Jahren, die frühen Warnungen über den Klimawandel zu beherzigen, käme es mir klug vor, wenn man das hier erst einmal durchdenkt, bevor es unter Dach und Fach ist",
In "The End of Nature" hatte er schon 1989 vor dem Klimawandel gewarnt und in einem anderen Buch vor zwei Jahrzehnten vor den Gefahren durch KI und andere Technologien.[4] 

Diese Warnungen wurden als Nachricht auf internationaler Ebene an die internationale Politik formuliert, weil es bislang immer noch kaum Regeln gebe und ebendieser Zustand zu einer dramatischen Situation führen könne.[9]  

Konkret betrifft dies auch den Bereich Arbeitsmarkt.
„Die Gefahren im Zusammenhang mit Künstlicher Intelligenz seien vielfältig und gleichzeitig kaum zu überblicken“, so Hinton. Es gehe um „ernste Risiken für die Gesellschaft und für die Menschheit“. Der harte Wettbewerb bringe die Technologieunternehmen dazu, „in einem gefährlichen Tempo“ immer neue KI zu entwickeln. Damit breiteten sich etwa Falschinformationen aus. „Es ist schwierig sich vorzustellen, wie man die Bösen daran hindert, KI für böse Dinge einzusetzen“.[6] 

Mit Blick auf Arbeitsplätze sagte Hinton, Künstliche Intelligenz könne die "Sklavenarbeit" überflüssig machen. „Aber sie könnte noch viel mehr wegnehmen.“[6] 

Der britisch-kanadische Forscher Hinton hatte in den 1980er-Jahren mit der Erforschung "neuronaler Netze" begonnen und 2012 mit einer eigenen Firma eine der ersten selbst-lernenden Software-Anwendungen geschaffen. Die "New York Times" bezeichnet ihn als "Godfather" der Künstlichen Intelligenz. Hinton arbeitete bei Google bis zuletzt an der Weiterentwicklung von KI-Anwendungen.[6] 

Das Europäische Parlament hat sich bereits 2020 mit dem Thema KI beschäftigt und auch die Gefahren und Herausforderungen der KI formuliert.[7]  
So berge die zunehmende Abhängigkeit von KI-Systemen auch potenzielle Risiken.[7]
Im weiteren werden einige Punkte diskutiert, eine abschließende Beantwortung unterbleibt jedoch in den meisten Fällen. 

Die Klärung der Haftung im Falle von Schäden durch Anwendung von KI bleibt aus. Ob es der Hersteller, der Anwender oder derjenige, der das Produkt in den Handel bringt, bleibt ungeklärt.[9] 

Die Gefahren für Grundrechte und Demokratie wird diskutiert, aber bleibt ebenfalls ungeklärt.
So kann durch Einbettung oder Nichteinbettung in den Algorithmus zu struktureller Verzerrungen kommen. Die Verwendung von Zahlen KI kann faktenbasiert und präzise erscheinen, ist es dann aber nicht.[9] 

Wenn KI zu Jobeinstellungen oder Kreditvergaben genutzt wird, kann dies zu Entscheidungen führen, die durch ethnische Zugehörigkeit, Geschlecht oder Alter beeinflusst werden.[7] 

Außerdem rührt durch Anwendung von KI mögliche entscheidende Auswirkungen auf Privatsphäre und Datenschutz. KI kann beispielsweise für Gesichtserkennung oder Online-Tracking und Profiling von Einzelpersonen verwendet werden.[7] 

KI kann auch eine Bedrohung für die Demokratie darstellen. Bereits jetzt wird z.B. oft kritisiert, dass Internetseiten dazu neigen, dem Benutzer nur Informationen anzuzeigen, die mit seinem bisherigen Online-Verhalten übereinstimmen („Filterblasen“), anstatt eine Umgebung für eine pluralistische, gleichermaßen zugängliche und integrative öffentliche Debatte zu schaffen. KI kann sogar dazu genutzt werden, extrem realistische gefälschte Videos, Audioaufnahmen und Bilder zu erzeugen, die als „Deepfakes“ bezeichnet werden. Diese Mechanismen können zu Polarisierung und Wahlmanipulation beitragen.[7] 

Durch Tracking und Profiling sind auch Auswirkungen auf die Versammlungs- und Demonstrationsfreiheit möglich.[7] 

Auch im Bereich Wirtschaft kann die Sammlung von Informationen zu Wettbewerbsverzerrungen führen, da Akteure mit mehr Informationen Vorteile gegenüber Mitbewerbern haben.[7] 

Der Papst hat sich mit einem bemerkenswerten Vortrag zum Thema „Auswirkungen der künstlichen Intelligenz auf die Zukunft der Menschheit“ an die Staats- und Regierungschefs des intergouvernementalen G7-Forums in Italien gewandt.[8] 
Er verwies mit Bezug auf »Die Heilige Schrift«, »dass Gott den Menschen seinen Geist gegeben hat, damit sie „mit Weisheit, Klugheit und Kenntnis für jegliche Arbeit“ ausgestattet seien«[8.1]. 
Dabei gehe »[...] aus der Nutzung dieses kreativen Potentials, das Gott uns gegeben hat,« auch »die künstliche Intelligenz hervor.«[8.3].

»Das Thema der künstlichen Intelligenz wird jedoch oft als ambivalent wahrgenommen:« Neben Begeisterung einerseits flöße es andererseits Angst ein wegen vorausahnender Konsequenzen. Alle werden zwischen zwei Gefühlslagen erfasst: Vorstellung der Begeisterung für den Fortschritt durch die künstliche Intelligenz und zugleich der Angst vor Gefahren in Verbindung mit deren Einsatz[8.4]. [...]«

KI ist ein Werkzeug und müsse durch ihren Gebrauch jedoch nicht immer eindeutig auf das Gute ausgerichtet sein. Die Menschheit hat jedoch gerade »wegen ihrer radikalen Freiheit die Ziele ihres Daseins nicht selten pervertiert, indem sie sich selbst und dem Planeten zum Feind wurde[8.6].«
Nur wenn der Einsatz von KI zum Dienst am Menschen gewährleistet ist, »werden die technischen Mittel nicht nur die einzigartige Größe und Würde des Menschen offenbaren, sondern auch den Auftrag, den dieser erhalten hat, den Planeten und alle seine Bewohner „zu bearbeiten und zu hüten“ «[8] 

Es müsse, wenn wir über Technologie sprechen, klar sein, was es bedeutet, Mensch zu sein, und damit über unseren einzigartigen Zustand zwischen Freiheit und Verantwortung; »wir sprechen also über Ethik.«[8] 

»Als unsere Vorfahren nämlich Feuersteine schärften, um daraus Messer zu machen, benutzten sie diese, sowohl um Leder für Kleidung zuzuschneiden als auch um sich gegenseitig zu töten. Das Gleiche könnten wir über andere, viel fortschrittlichere Technologien sagen, wie zum Beispiel die Energie, die durch die Kernfusion erzeugt wird, wie es auf der Sonne geschieht, die sicher dafür genutzt werden könnte, um saubere, erneuerbare Energie zu erzeugen, aber auch um unseren Planeten in Schutt und Asche zu verwandeln.
Künstliche Intelligenz ist jedoch ein noch komplexeres Werkzeug. Ich würde fast sagen, dass es sich um ein Werkzeug sui generis handelt. Während also die Verwendung eines einfachen Werkzeugs (wie z. B. eines Messers) unter der Kontrolle des Menschen steht, der es benutzt, und nur von ihm seine ordnungsgemäße Verwendung abhängt, kann sich die künstliche Intelligenz dagegen autonom an die ihr zugewiesene Aufgabe anpassen und, wenn sie so konzipiert ist, unabhängig vom Menschen eine Auswahl treffen, um das gesetzte Ziel zu erreichen[8.7].«

Der Papst besteht gerade in dieser Frage darauf, dass es in einem Drama wie einem bewaffneten Konflikt dringend erforderlich ist, die Entwicklung und den Gebrauch von Geräten wie den so genannten „tödlichen autonomen Waffen“ zu überdenken, um ihren Einsatz zu verbieten, beginnend mit einer proaktiven und konkreten Verpflichtung zur Einführung einer immer größeren und bedeutenden menschlichen Kontrolle. Keine Maschine darf jemals die Wahl treffen können, einem Menschen das Leben zu nehmen.[8] 

Bei Anwendungen von Programmen mit künstlicher Intelligenz besteht zunehmend die Fähigkeit, direkt mit Menschen zu interagieren („Chatbots“), Gespräche mit ihnen zu führen und enge Beziehungen zu ihnen aufzubauen, die oft sehr angenehm und beruhigend scheinen.[8] 

Sinngemäß formuliert:
Künstliche Intelligenz ist nicht ein menschliches Wesen.
Künstliche Intelligenz kann keine allgemeinen Prinzipien vorschlagen.
Dies anzunehmen, ist oft ein schwerer Fehler, der entweder auf das tiefe Bedürfnis des Menschen zurückzuführen ist, eine dauerhafte Form der Gemeinschaft zu finden, oder auf eine unterbewusste Annahme des Menschen, nämlich die Annahme, dass Beobachtungen, die durch einen Rechenmechanismus gewonnen werden, unbestrittenen sicher und zweifellos allgemeingültig sind. 
KI ist nicht menschlich.  

Es sollte auch nicht vergessen werden, dass die Algorithmen zur Lösung sehr komplexer Probleme so ausgeklügelt sind, dass es für die Programmierer selbst schwierig ist, genau zu verstehen, wie sie ihre Ergebnisse erzielen. Dieser Trend zur Verfeinerung dürfte sich mit der Einführung von Quantencomputern, die nicht mit binären Schaltkreisen (Halbleitern oder Mikrochips), sondern nach den recht komplexen Gesetzen der Quantenphysik arbeiten werden, noch erheblich beschleunigen. Andererseits ist die kontinuierliche Einführung von immer leistungsfähigeren Mikrochips bereits jetzt eine der Ursachen für die überwiegende Nutzung künstlicher Intelligenz durch die wenigen Nationen, die über sie verfügen.[8] 

Unter der Überschrift
»„Für gemeinsame Ethikrichtlinien die Würde des Menschen neu in den Mittelpunkt stellen“
soll eine allgemeinere Feststellung hinzugefügt werden.«[8] 

So sei es in den großen Fragen des gesellschaftlichen Lebens immer schwieriger, Einigungen zu erzielen[8], ich füge hinzu umso mehr, wenn es die globale Weltbevölkerung betrifft.[9] So seien selbst in Gemeinschaften gewisser kultureller Kontinuität häufig zu hitzige Debatten und Konfrontationen die Folge.[8] 

»Es ist ein Verlust oder zumindest eine Verdunkelung des Sinns für das Menschliche und eine scheinbare Bedeutungslosigkeit des Begriffes der Menschenwürde[8.12] zu verzeichnen. Es scheint, als würde der Wert und die tiefe Bedeutsamkeit einer der grundlegenden Kategorien des Westens verloren gehen: die Kategorie der menschlichen Person. In dieser Zeit, in der Programme der künstlichen Intelligenz den Menschen und sein Handeln in Frage stellen, stellt gerade der Mangel an einem Ethos, das mit der Wahrnehmung des Wertes und der Würde der menschlichen Person verbunden ist, den größten Schwachpunkt bei der Implementierung und Entwicklung dieser Systeme dar.«
Keine Innovation ist neutral. »Die Technik wird zu einem bestimmten Zweck entwickelt und stellt in ihrer Auswirkung auf die menschliche Gesellschaft immer eine Form der Ordnung der sozialen Beziehungen und eine Machtmöglichkeit dar, die es den einen erlaubt, gewisse Handlungen auszuführen und die anderen daran hindert. Diese konstitutive Machtdimension der Technik trägt in sich immer, mehr oder weniger explizit, die Weltanschauung derjenigen eingeschrieben, die sie realisiert und entwickelt haben.«[8] 

Für Programme künstlicher Intelligenz gilt, dass diese zu Instrumenten für den Aufbau des Guten und einer besseren Zukunft werden können. Sie müssen immer auf das Wohl jedes einzelnen Menschen ausgerichtet sein und sie bedürfen einer ethischen Ausrichtung.[8] 

» [...] Aus diesem Grund wurde der Rome Call ins Leben gerufen: In dem Begriff „Algor-Ethik“ wird eine Reihe von Prinzipien zu einer globalen und pluralistischen Plattform verdichtet, die in der Lage ist, die Zustimmung von Kulturen, Religionen, internationalen Organisationen und großen Unternehmen als Hauptakteure dieser Entwicklung zu finden.«[8] 

Die Politik ist gefordert. »Sonst besteht die konkrete Gefahr, dass die künstliche Intelligenz gemäß ihrem grundlegenden Mechanismus die Sicht der Welt auf in Zahlen ausgedrückte und in vorgefertigte Kategorien gefasste Wirklichkeiten beschränkt, den Beitrag anderer Ausdrucksformen der Wahrheit verdrängt und einheitliche anthropologische, sozioökonomische und kulturelle Modelle aufzwingt.«
»Das technologische Paradigma, das durch die künstliche Intelligenz verkörpert wird, läuft also Gefahr, einem weitaus gefährlicheren Paradigma Platz zu machen, das ich bereits als das „technokratische Paradigma“[8.15] beschrieben habe. Wir dürfen nicht zulassen, dass ein so mächtiges und unentbehrliches Werkzeug wie die künstliche Intelligenz ein solches Paradigma verstärkt; vielmehr müssen wir gerade die künstliche Intelligenz zu einem Schutzwall gegen seine Ausbreitung machen.«[8]  

Hier besteht dringender politischer Handlungsbedarf, wie die Enzyklika Fratelli tutti in Erinnerung ruft. [...] es ist nicht zu übersehen, dass hinter dieser Tatsache oft Fehler, Korruption und Ineffizienz mancher Politiker stehen. Hierzu kommen noch Strategien, die darauf abzielen, die Politik zu schwächen, sie durch die Wirtschaft zu ersetzen oder sie mit einer Ideologie zu beherrschen. «[8.16].

Aus meiner Sicht fasse ich hier zusammen: [9] 

KI muss dem Menschen dienen nicht der Mensch der KI !
Dies gilt bezüglich der Arbeitswelt, so dass KI nicht zu einem weiteren Baustein zur Rationalisierung von Arbeit im Sinne ökonomischer Effizienz wird,
Weder Würde noch der Wert des Menschen an sich darf durch den Einsatz von KI in Frage gestellt oder gar verletzt werden,
letztlich muss jede mögliche Gefahr, die durch Kontrollverlust auf wichtigen Gebieten besteht ernst genommen, entgegengewirkt werden, um Demokratie, globale Friedensordnung und das Überleben der Menschheit zu schützen. 

Die Welt kann ohne Politik nicht funktionieren. Ohne eine gute Politik kann kein effektiver Weg zur allgemeinen Geschwisterlichkeit und zu einem gesellschaftlichen Frieden gefunden werden.
Die Festlegung weltweit gültiger Regeln für Entwicklung und Anwendung von Künstlicher Intelligenz (KI) ist dafür die unbedingte Voraussetzung.[9] 

{<dies ist ein nicht-KI-generierter Text>}

Anmerkungen:
[1]   FAZ: Elon Musk: KI ist „eine der größten Bedrohungen“ für die Menschheit ; 02.11.2023,
[2]   SZ: Was hinter der lauten Warnung vor der KI-Apokalypse steckt; 31.05.2023
[3]   n-tv: Warnung vor Gefahren - Experten: KI-Systeme "könnten Menschheit
        auslöschen"; 22.05.2024
[4]   zdf-heute: Experten warnen vor Vernichtung durch KI ; 31.05.2023
[5]   Heise: Neue Experten-Warnung: Könnten Kontrolle über KI-Systeme verlieren; 22.05.2024
[6]   Tagesschau:  Warnung vor Risiken Künstlicher Intelligenz Chatbots bald "intelligenter als
        wir"?  ; 02.05.2023
[7]   Das Europäische Parlament: Künstliche Intelligenz: Chancen und Risiken; 29-09-2020
        Veröffentlicht: 29-09-2020, Letzte Aktualisierung: 20-06-2023 - 12:15
[8]   Vatican news: Wortlaut: Papst Franziskus über KI beim G7-Gipfel in Italien; 14. Juni 2024
[8.1]   Vatican/Papst: Botschaft zum 57. Weltfriedenstag am 1. Januar 2024, 1.
[8.3]   Vatican/Papst: Botschaft zum 57. Weltfriedenstag am 1. Januar 2024, 1.
[8.4]   Diese Ambivalenz wurde bereits von Papst Paul VI. in seiner Ansprache an die
          Mitarbeiter des „Zentrums für die Automatisierung linguistischer Analyse“ des
          Aloysianum am 19. Juni 1964 wahrgenommen.
[8.6]   Enzyklika Laudato si’ (24. Mai 2015), 102-114.
[8.7]   Vatican/Papst: Botschaft zum 57. Weltfriedenstag am 1. Januar 2024, 3.
[8.12]  Vgl. Dikasterium für die Glaubenslehre, Erklärung Dignitas infinita über die menschliche
           Würde (2. April 2024).
[9]   Andreas Wolter: eigene Anmerkungen