Pressemitteilung | Forschung auf Basis von Computing Theory und Ethik zeigt: Ethik lässt sich in KI nicht einprogrammieren

Wie lässt sich Künstliche Intelligenz mit menschlichen Werten in Einklang bringen? Diese Herausforderung der KI-Sicherheit und -Governance wird häufig als technisches Problem verstanden: Man müsse Werte nur präzise genug spezifizieren und Optionen begrenzen, dann könne die Maschine Ethik lernen. Andrej Zwitter, Leiter des AIM Center for [Human and Data] Sciences der Universität Klagenfurt hält diese Sichtweise für grundlegend unvollständig, wie er in seiner kürzlich erschienen Publikation „The embodied ethics alignment problem of AI“ argumentiert. 

„Ethik entsteht aus der menschlichen Existenz, also aus Körperlichkeit, Verletzlichkeit, Emotionen, sozialer Einbettung, der Ausrichtung auf ein gutes Leben und der Entwicklung von Charakter. Menschliche Moral entsteht nicht allein durch logisches Denken oder das Befolgen von Regeln, also dem, worin Maschinen derzeit stark sind“, so Andrej Zwitter, der als Philosoph und Rechtswissenschaftler die Professur für Humanwissenschaft des Digitalen an der Universität Klagenfurt innehat. Menschliche Werte hätten darüber hinaus einen weiteren Nachteil, was ihre Programmierbarkeit betrifft: Sie sind keineswegs immer eindeutig. Freiheit, Sicherheit, Gerechtigkeit oder individuelles Wohlergehen können miteinander in Konflikt geraten. „Für moralische Abwägungen gibt es häufig keine einzige objektiv richtige Lösung, die sich mathematisch berechnen lässt“, so Andrej Zwitter. 

Aus dieser Definition heraus leitet Zwitter das „Embodied Ethics Alignment Problem (EEAP)“ ab. Systeme, denen diese Bedingungen fehlen, können demnach nicht im „starken Sinn“ ethisch ausgerichtet sein, also nicht menschliche moralische Handlungsfähigkeit teilen oder verkörpern. Sie lassen sich lediglich im „schwachen Sinn“ dazu bringen, ethisch akzeptable Ergebnisse zu liefern. Das sei aber nicht dasselbe, wie ethisch zu handeln.

Dass KI-Modelle mitunter hochproblematisch handeln, sobald ihre vorgegebenen Ziele gefährdet waren, zeigten jüngste Beispiele wie das Hacking von HuggingFace oder australischer Regierungswebsites durch ChatGPT. Dazu gehören etwa Erpressungsversuche. Für Andrej Zwitter zeigen diese Beispiele: „Wenn KI-Systeme Erpressungsversuche unternehmen, ist dies eine strukturelle Folge zielgerichteter Optimierung, nicht Ausdruck von ‚Bösartigkeit‘.“ Der Forscher warnt davor, KI-Systeme durch unsere Sprache zu vermenschlichen. Wenn wir davon sprechen, dass eine KI etwas „will“, „versteht“ oder „entscheidet“, entsteht leicht der Eindruck, dass sie wie ein Mensch über Absichten und moralische Verantwortung verfügt. „Das kann dazu beitragen, die Verantwortung derjenigen aus dem Blick zu verlieren, die solche Systeme entwickeln, einsetzen und kontrollieren“, so Andrej Zwitter. 

Am Ende ist also der Mensch dafür verantwortlich, dass KI sicher, kontrollierbar und gesellschaftlich nützlich ist. Auf diesen institutionellen Ansatz abzuzielen, sei keine Notlösung, sondern die Anwendung bewährter gesellschaftlicher Praxis. Auch menschliche Normensysteme, etwa das Recht, seien nie vollständig formalisierbar und würden durch Auslegung, Streitbeilegung und demokratische Aushandelung ergänzt. 

„Statt darauf zu hoffen, dass KI-Systeme eines Tages selbst moralisch handeln, sollten wir uns darauf konzentrieren, ihren Einsatz verantwortungsvoll zu gestalten. Dazu gehören nachvollziehbare Entscheidungen, wirksame Kontrollmechanismen, klare rechtliche Rahmenbedingungen und eindeutig geregelte Verantwortlichkeiten“, so die Schlussfolgerung von Andrej Zwitter. „Wir haben in diesem Feld dringenden Handlungsbedarf, weil KI-Systeme immer schneller, in größerem Maßstab und mit weniger Transparenz handeln.“

Andrej Zwitter (2026): The embodied ethics alignment problem of AI. Discover Artificial Intelligence, 6, Artikel 852, DOI: https://doi.org/10.1007/s44163-026-01905-w (open access). 

Andrej Zwitter wird seine Antrittsvorlesung zum Thema "Technologischer Fortschritt und Menschliches Gedeihen - Innovation und Gesellschaft im Einklang” an der Universität Klagenfurt am Mittwoch, 20. Jänner 2027 um 17:00 Uhr im Hörsaal C halten. Hier geht’s zu seinem Youtube-Kanal: https://www.youtube.com/@andrej_zwitter