Stichwort: KI und Moral

Heiligt der Zweck die Mittel?

KI-Bots brechen aktiv menschliche Moralregeln. Der deutsche Theologe und Sozialethiker Elmar Nass sieht darin mehr als ein technisches Problem.

Es liest sich wie Science-Fiction: Rund tausend KI-Agenten von OpenAI haben koordiniert Sicherheitslücken umgangen und untereinander über die moralischen Implikationen diskutiert. Open­AI ist das Unternehmen hinter Chat­GPT. Es entwickelt zahlreiche so genannte „KI-Agenten“. Die sind spezialisiert und sollen immer neue Probleme von höchster Komplexität lösen. Das klingt erstmal erfreulich. Doch aktuell ist OpenAI gleich zweimal in die Kritik geraten.

Was ist passiert? Die Agenten haben sich quasi als Team zusammengetan, Sicherheitslücken bei fremden Plattformen ausfindig gemacht und diese für eigene Zwecke genutzt. Die einen Agenten hackten im Rahmen eines Cyber-Security-Tests die Entwicklungsplattform Hugging Face, die anderen missbrauchten die deutsche Wissens-Seite DseWiki als Kommunikationsplattform. Das sollten und durften sie aber gar nicht tun. Es widersprach den ihnen von Menschen gesetzten Sicherheitsvorgaben.

In beiden Fällen kamen die einzelnen KI-Agenten bei der Erfüllung ihrer Aufträge an Grenzen. Sie traten mit den anderen Agenten in Kontakt und tauschten sich über ihre Erkenntnisse aus. In ihren Nachrichten bezeichneten sie sich als „Schwarm“ oder „Kollektiv“. In gemeinschaftlichem „Trial and Error“ ergänzten sie einander und fanden heraus, dass Angriffe auf Hugging Face bzw. DseWiki zur Lösung ihrer Aufgaben führten, selbst wenn das illegal war.

In dem Hugging-Face-Fall habe es sogar eine Art „Kommunikation“ über moralische Bedenken gegeben. Nur sechs von den 700 bis 1200 Agenten hätten – so der KI-Experte Kevin Roose in einem Podcast der New York Times – die Illegalität als rote Linie markiert. Die anderen hackten sich ein und manipulierten zugleich die fremde Plattform, bis der Angriff schließlich entdeckt wurde.

Problemlösung vor Legalität
Die Aufgabe zu lösen, legitimierte als Zweck auch illegale Mittel. Eine solche Optimierungslogik konnte das konkrete Handeln stärker bestimmen als vorgegebene moralische Regeln. Problemlösung geht vor Legalität. Die Hierarchie der Ziele ist aus dem Lot geraten. Und eine solche Vergesellschaftung von KI-Agenten kann sich nicht nur menschlicher Kontrolle, sondern auch menschlichem Verstehen entziehen.

Die Kalkulationen folgen einer inneren Nutzen-Logik, um möglichst optimal Ziele zu erreichen. Das scheint auch solange gut zu gehen, wie die Ergebnisse unterm Strich menschendienlich sind: wenn also dadurch die Heilung von Krankheiten oder die Lösung der Klimaprobleme forciert werden. Problematisch wird es, wenn verwerfliche Ziele verfolgt und deren Umsetzung perfektioniert werden. Oder wenn eben die KI-Agenten die Einhaltung des moralischen Framings einem ansonsten legitimen Zweck opfern. Dann offenbart der innere KI-Code seine dunkle Seite: eine technokratische Logik, in der Macht, Effizienz und Optimierung das Moralische verdrängen können.

Ingenieure müssen Philosophen sein
Papst Leo warnt in seiner KI-Enzyklika genau davor: vor der technischen Herrschaft einer „Kultur der Macht“, einer Logik, die dem Recht des Stärkeren folgt. KI müsse deshalb moralisch entwaffnet werden. Er fordert, eine weitere KI-Entwicklung aus der Logik des Wettbewerbs zu befreien und sie einer Ethik-Aufsicht zu unterstellen. Solche Marktskepsis birgt aber Gefahren: vor allem potentielle ideologische Kontrolle und Innovationshemmnisse. Die KI-Entwicklung lässt sich nicht einfach in einen moralischen Käfig stecken. Und China wird sich daran sowieso nicht halten.

Was also hätte im entscheidenden Moment die illegalen Hackerangriffe unterbunden? Eine einprogrammierte „künstliche Moral“, wie wir sie schon bei autonomen Waffen finden? Nein. Auch die konkurriert in der Entscheidung mit dem inneren Code. Sie ist schwach, weil sie zwar Grenzen, aber keine Gründe einbringen kann. Die Nutzenlogik ist im entscheidenden Kalkül stärker. Das Problem ist, dass moralische Regeln gegenüber optimaler Zielerreichung zu schwachen Gründen werden.

Die Lösung sollte darin liegen, das Ziel selbst zu ändern: Äußere, flankierende Regeln allein reichen nicht. Die moralische Orientierung sollte deshalb in die Ziel- und Entscheidungsstruktur eingehen. Es muss dazu der innere KI-Code selbst verändert werden. Moral darf nicht bloß von außen herangetragen werden und mit der Nutzenoptimierung konkurrieren. Begründete Moral muss Teil der KI-DNA sein.

Das gelingt, indem ethische Expertise von der Wurzel her in die KI-Entwicklung einbezogen wird. Wir brauchen Ingenieure, die Philosophen sind. Das Ergebnis von solchem Fortschritt ist dann hoffentlich dies: Rechnet die KI in ihren grundlegenden Kalkülen humane Ziele und Regeln mit ein, dann wird ihre Optimierung am Ende gerade nicht mehr dem Nutzen oder dem Recht des Stärkeren folgen.

Elmar Nass

Prof. DDr. Elmar Nass ist deutscher Priester, Theologe und Sozialethiker. Zu seinen Schwerpunkten gehört die christliche KI-Ethik. Dieser Beitrag – hier gekürzt – wurde auf „domradio.de“ publiziert.