„Technik allein kann die Sinnfragen des Menschen nicht beantworten“

„Der Chatbot pflegt in der Regel den Narzissmus seines Users“

Chatbots simulieren menschliche Kommunikation so perfekt, dass wir in Kontakt mit einem scheinbaren Subjekt treten können, ohne uns die Mühe zwischenmenschlicher Beziehungen machen zu müssen. Welche psychischen Auswirkungen, Chancen oder Gefahren, haben solche Interaktionen für die Nutzer?

Die psychologisch interessante Frage lautet: Was geschieht, wenn wir uns an Beziehungen gewöhnen, in denen der Andere kein wirklicher Anderer mehr ist? Menschliche Beziehungen sind gerade deshalb so anspruchsvoll, weil andere Menschen für uns nicht selten eine Zumutung sind. Sie überraschen uns, enttäuschen uns, widersprechen uns – und das heißt, dass sie sich in all diesen Situation unseren Erwartungen entziehen. Sie besitzen eine Eigenständigkeit, die wir niemals vollständig kontrollieren können. Der Chatbot hingegen pflegt in der Regel den Narzissmus seines Users, zumindest noch. Aber eine Gefahr ist damit schon genannt: dass wir uns an Formen von Kommunikation gewöhnen, in denen das Moment der Fremdheit, des Widerstands und der Unverfügbarkeit verschwindet. Die entscheidende Frage lautet daher nicht, ob Chatbots echte Beziehungen ersetzen. Die spannendere Frage ist, ob wir durch sie verlernen, warum echte Beziehungen durch Zumutungen wertvoll sind.

Viele Menschen nutzen KI inzwischen für Lebensberatung, Therapie oder auch geistliche Fragen. Kann KI Menschen wirksam helfen?

Ja, ich glaube, dass KI Menschen in all diesen Bereichen tatsächlich helfen kann. Vielleicht, weil man einer KI manchmal mehr anvertraut als einem Gegenüber auf Kohlenstoffbasis. Die Maschine urteilt nicht, sie ist nicht gekränkt und verlangt nichts von uns. Gleichzeitig bleibt die zuvor beschriebene Gefahr bestehen. KI steht heute noch nicht in jenem Raum des Gebens und Nehmens von Gründen, in dem sich Menschen begegnen. Deshalb stellen sich Fragen, die über die einzelne Interaktion hinausgehen: Wer spricht eigentlich durch diese Systeme? Welche Interessen stehen im Hintergrund? Wo wird – marxistisch gesprochen – der Mehrwert erzeugt und abgeschöpft?

Mit Chatbots tritt man dem „großen Anderen“ gegenüber. Fördert KI ein neues religiöses Bewusstsein?

Eher könnte das Gegenteil der Fall sein. Religion beginnt gewöhnlich dort, wo Menschen sich mit etwas konfrontiert sehen, das sich ihrer Verfügung entzieht. KI hingegen vermittelt gerade die Vorstellung, dass immer mehr Bereiche der Wirklichkeit berechenbar, vorhersagbar und kontrollierbar werden.

Wenn KI also eine spirituelle Wirkung hat, dann vermutlich eher eine technokratische: den Glauben, dass jedes Problem letztlich eine technische Lösung besitzt. Und dann wären wir möglicherweise tatsächlich wieder an einer historischen Weggabelung angekommen, die Heidegger im berühmten Spiegel-Interview vor dem Hintergrund des Atomzeitalters markiert hat, als er sagte: „Nur noch ein Gott kann uns retten.“ Gemeint war damals nicht die Rückkehr einer bestimmten Religion, sondern die Einsicht, dass technische Macht allein die Sinnfragen des Menschen nicht beantworten kann. Und sollte KI eines Tages wirklich menschliches Bewusstsein haben, dann wird auch KI zu dieser Einsicht kommen.

„Wir befinden uns hier vermutlich in einer historischen Umbruchssituation, deren Folgen noch niemand überblicken kann“

Yuval Harari sagt, dass KI schon bald der Ursprung der Mehrzahl von Wörtern, Bildern und Gedanken in unserer Welt sein wird. Wenn wir uns weiterhin darüber definieren, in Worten zu denken, werde „unsere menschliche Identität schon bald kollabieren“, weil die KI „alles übernehmen wird, was sprachlich strukturiert ist“. Was bleibt vom Menschen in Zukunft?

Hararis Diagnose trifft sicherlich einen wichtigen Punkt. Ich denke, das eigentliche Problem liegt noch an einer anderen Stelle. KI produziert nicht einfach nur neue Inhalte. Sie erzeugt diese Inhalte auf der Grundlage einer gigantischen Aneignung menschlicher Arbeit und intellektuellen Eigentums. Die daraus entstehende Kreativität tritt dann auf den Plan, ohne dass die ursprünglichen Produzenten dieser Leistungen an den Profiten beteiligt würden. Man könnte deshalb von einer Form des intellektuellen Landraubs sprechen: Was über Jahrhunderte kollektiv hervorgebracht wurde, wird zunehmend in proprietäre Systeme überführt, deren ökonomischer Nutzen nur wenigen Unternehmen zufällt.

Darin liegt eine eigentümliche Dialektik. Einerseits führt KI gerade deshalb zu einer bisher ungekannten Demokratisierung von Wissen. Andererseits beobachten wir zugleich eine enorme Konzentration von Macht und Kapital im Kontext dieser Demokratisierung. Deshalb stellt sich nicht nur die Frage nach der Zukunft menschlicher Identität. Sie stellt sich ebenso als politische und ökonomische Frage. Wer besitzt die Infrastruktur des Wissens? Wer profitiert von den Produktivitätsgewinnen? Wer kontrolliert die neuen Formen der kulturellen und wissenschaftlichen Produktion?

Wir befinden uns hier vermutlich in einer historischen Umbruchssituation, deren Folgen noch niemand überblicken kann. Die Vorteile sind offensichtlich und erheblich. Gleichzeitig gibt es gute Gründe anzunehmen, dass Klassenunterschiede und Machtasymmetrien durch KI verschärft werden. 

Papst Leo XIV. fordert die „Entwaffnung“ der KI. Sehen Sie konkrete Möglichkeiten, wie eine solche Entwaffnung aussehen könnte? 

Wenn Papst Leo von einer „Entwaffnung der KI“ spricht, dann kann dies letztlich nur bedeuten, Formen demokratischer Kontrolle über die Entwicklung und den Einsatz von KI-Systemen zu etablieren. Die Alternative wäre, die Gestaltung dieser Technologien vollständig privaten Konzernen oder staatlichen Machtapparaten zu überlassen. Gleichwohl ist damit das Problem keineswegs gelöst.

Denn demokratische Kontrolle erzeugt ihrerseits neue Spannungen und Aporien. Niemand möchte eine KI, die lediglich die Interessen der jeweils regierenden Mehrheit oder bestimmter politischer Lager reproduziert. Wir kennen ähnliche Probleme bereits aus anderen gesellschaftlichen Bereichen. Man denke etwa an die Debatten um das Vertrauen in öffentlich-rechtliche Medien. Selbst dort, wo Institutionen demokratisch legitimiert sind, entsteht häufig der Verdacht, sie würden bestimmte Interessen bevorzugen oder weltanschaulich nicht neutral agieren.

Es ist deshalb durchaus denkbar, dass eine demokratisch regulierte KI neue Formen des Ressentiments hervorbringt. Die einen werden den Einfluss großer Konzerne kritisieren, die anderen eine politische Steuerung befürchten. Daraus könnten Gegenbewegungen entstehen, die ihrerseits wiederum KI-Systeme nutzen, um Kritik, Protest oder alternative Informationsräume zu organisieren. Die gesellschaftlichen Konflikte würden dann nicht verschwinden, sondern sich auf einer neuen technologischen Ebene fortsetzen.

All dies sind freilich Zukunftsspekulationen. Die Geschichte großer technischer Revolutionen zeigt, dass ihre langfristigen Folgen meist erst im Nachhinein sichtbar werden. Künstliche Intelligenz gehört zweifellos zu diesen historischen Umbrüchen. Deshalb bleibt uns gegenwärtig nur eine begrenzte Form der Orientierung. Wir müssen versuchen, auf der Grundlage der verfügbaren Informationen möglichst vernünftige Urteile zu fällen und zugleich anerkennen, dass die eigentlichen Konsequenzen erst rückblickend sichtbar werden.