„Können wir noch verantworten, was wir nicht mehr verstehen?“

Pater Brüntrup, Sie beschäftigen sich seit den 1980er-Jahren mit KI. Was fesselt Sie an diesem Thema?

Ich habe vor 40 Jahren schon an Sprachmodellen und semantischen Netzen gearbeitet, die in gewisser Weise die ersten Vorläufer von ChatGPT waren. 1985 habe ich einen intelligenten Zettelkasten programmiert, der inhaltliche Verbindungen zwischen meinen Notizen entdeckte, die mir selbst entgangen waren. Ich habe das damals noch in der Programmiersprache LISP recht mühsam entworfen.

Ein Programm simulierte einen geistlichen Begleiter, der scheinbar einfühlsam auf Fragen antwortete. Die Gespräche damit wurden teils so persönlich, dass die Anwender keine Zuschauer im Raum duldeten und mit dem Computer allein sein wollten. Bereits damals erahnte ich das Potenzial dieser Technologie. Aber mir war auch klar, dass es noch ein langer Weg sein würde. Das lag einerseits an den leistungsschwachen Computern, aber auch daran, dass die Programme sich damals nur sehr begrenzt selbst optimieren konnten.

Hat sich Ihre Sichtweise auf KI im Laufe der Jahre verändert?

Für lange Zeit ging ich davon aus, dass der Fortschritt eher schleppend sein würde. Das änderte sich mit der Technologie der selbstlernenden Maschinen, die in ihrem Aufbau an das menschliche Gehirn angelehnt waren. Eine solche Maschine kann sich beispielsweise selbst das Schachspielen beibringen. Sie entwickelt sich selbst vom Anfänger zum Großmeister – innerhalb weniger Stunden. Da der Mensch als „Nadelöhr“ nun wegfällt, beschleunigt sich die Entwicklung der KI exponentiell. Zeitgenossen, die jetzt noch in ihrer ersten Lebenshälfte sind, werden völlig atemberaubende Entwicklungen und Umbrüche erleben.

Das hört sich nach gewaltigen Veränderungen unserer Lebenswelt an.

KI ist eine einschneidende und disruptive Revolution, die alles in den Schatten stellt. Selbst die erste industrielle Revolution mit der Erfindung der maschinellen Fertigung war ein weniger radikaler Umbruch: Es ist eine Sache, Maschinen zu bauen, die stärker und ausdauernder sind als der Mensch. Eine völlig andere Sache ist es, eine Maschine zu bauen, die mehr weiß als alle Nobelpreisträger zusammen und die einen um ein Vielfaches höheren Intelligenzquotienten hat als jedes menschliches Genie. Hier wird der Mensch in seiner ureigenen Domäne vom Podest gestoßen.

Parallel zu dieser Entwicklung hat sich meine Einstellung zur KI von „vorsichtig optimistisch“ zu „zunehmend besorgt“ gewandelt. Die Schnelligkeit der Veränderung wächst exponentiell, gerade wenn man die bald zur Verfügung stehenden Quantencomputer hinzunimmt. Der Ausgang dieser Entwicklung ist ungewiss und nicht notwendigerweise zum Wohle der Menschheit.

Wenn Sie an die Zukunft von KI denken, welches Szenario haben Sie im Kopf?

KI bedeutet, dass Expertenwissen zunehmend nicht mehr viel wert ist. Wissen, für das man früher Jahrzehnte studieren musste, ist dann frei für jeden verfügbar. Das ist einerseits gut, aber da Wissen Macht ist, bedeutet das auch, dass diese Macht sehr leicht in falsche Hände geraten kann. Die Herstellung von chemischen oder biologischen Kampfstoffen wird leichter, wenn die KI es Schritt für Schritt erklärt. Unsere Macht über die Natur wird durch die KI zunehmen. Neue wirksame Medikamente oder verheerende Viren, alles ist zum Greifen nahe. Die KI findet es heraus.

Das bedeutet dann auch, dass viele Menschen das „Denken“ den Maschinen überlassen werden. Das Ideal der Aufklärung „Habe Mut, dich deines eigenen Verstandes zu bedienen!“ wird verblassen. Man denkt nicht mehr selber, man „lässt denken“, nämlich von den Maschinen. Viele werden gar nicht merken, dass die Algorithmen ihr Denken bereits kontrollieren. Sie meinen, das Internet gezielt zu durchforsten, aber der Algorithmus lässt sie nur finden, was er durchlässt. Er gestaltet die geistige Welt längst für uns.

Finden Sie dieses Szenario erstrebenswert?

Ich finde manches an diesem Szenario gefährlich. Früher war Technik eher neutral: Man kann das Auto zum Guten und zum Schlechten einsetzen. Die Verantwortung lag bei uns. Bei der KI aber besteht die Gefahr, dass wir die Verantwortung abgeben.

Ist eine Zukunft mit KI alternativlos?

Ja, sie ist praktisch ohne Alternative. Die großen „Player“, das heißt die mächtigsten Staaten und die reichsten Unternehmen, befinden sich in einem ungezügelten Wettlauf um die Entwicklung von KI. Wer hier nicht vorne dran ist, wird in Zukunft wirtschaftlich und militärisch keine Rolle mehr spielen. Die Entwicklung der nächsten Generationen von KI wird zudem mehr und mehr von den Maschinen selbst übernommen. Der Mensch wird immer weniger verstehen, was da eigentlich im Detail geschieht. Wie in Goethes Zauberlehring werden wir die Geister nicht mehr los, die wir riefen. Wohin das führt? Das weiß keiner. Eins ist klar: Es gibt keinen Zauberer wie bei Goethe, der allem mit einem Machtwort wieder Einhalt gebietet, wenn es außer Kontrolle geraten ist. Da werden auch ein paar Ethik-Kommissionen leider nur wenig helfen. Entweder wir stellen die Forschung an KI ein oder wir treten eine Lawine los, die wir nicht wirklich kontrollieren. Die Reichen und Mächtigen haben sich für Letzteres entschieden.

Aber irgendeine Kontrollmöglichkeit braucht es doch, oder?

Man spricht heute von sogenannter „verantwortlicher KI“. Was soll das heißen? Die KI selbst ist kein Subjekt, keine handelnde Person, sondern ein Prozess von schrittweise aufeinander folgenden Zuständen einer elektronischen Maschine. Die KI will nichts ausdrücken oder sagen, sie will nicht handeln oder sich selbst realisieren. Es gibt in ihr kein Selbst, das etwas verantworten könnte. Nur eine Person kann etwas ethisch verantworten. Eine Person kann aber nur das moralisch verantworten, worüber sie Kontrolle hat. In dem Maße, indem wir die KI noch kontrollieren können, stellen sich für uns also ethische Fragen.

Haben Sie ein Beispiel?

KI wählt zum Beispiel blitzschnell militärische Ziele zur Bombardierung aus. Hier können wir ethische Regeln mit einprogrammieren, um beispielsweise Zivilisten zu schonen. Wir sehen aber schon heute, dass Menschen im realen Krieg keine Zeit haben, diese maschinellen Prozesse genau nachzuvollziehen und zu bewerten. Können wir noch verantworten, was wir nicht mehr verstehen?

Wer trägt dann die Verantwortung, wenn durch den Einsatz von KI Schaden entsteht?

Das ist nicht so einfach. Wer trägt die Verantwortung, wenn jemand durch den Einsatz einer normal funktionierenden Pistole zu Schaden kommt? In den meisten Fällen der Schütze und nicht der Hersteller der Waffe. Bei der KI ist das schwieriger. Wer trägt die Verantwortung, wenn ein Röntgenarzt eine normal funktionierende KI einsetzt und eine Fehldiagnose stellt? Der Arzt trägt hier weniger Verantwortung. Der Hersteller der KI wird mehr herangezogen werden. Aber wer genau ist da verantwortlich: die Programmierer, die Qualitätskontrolle? Das „System“ ist verantwortlich, aber wer ist das? Die Verantwortung verflüchtigt sich, sie diffundiert.

Beim Kongress „Geist, Welt und KI“ der HFPH geht es unter anderem um das Bewusstsein. Wie ist das bei KI: Können Maschinen ein Bewusstsein haben?

Menschen haben Bewusstsein. Sie haben ein Ich, ein Selbst, eine geistige Perspektive, aus der heraus sie die Welt erleben. Wir wissen bisher nicht, wie unser Gehirn eine solche Erlebnisperspektive hervorbringt. Wir wissen nicht einmal, ob es wirklich allein das Gehirn ist, das sie hervorbringt. Von daher wissen wir auch nicht, wie ein Computer aufgebaut sein müsste, der bei Bewusstsein ist und etwas erlebt. Das heißt nicht, dass wir nicht eines Tages solche Computer bauen können. Heute können wir es jedenfalls nicht.

Und solange Computer nichts erleben, sind sie philosophisch gesehen von eher geringem Wert. Denn worauf es im Leben ankommt, ist die Intensität und Vielfalt der erlebten Erfahrung. Jeder Hund und jede Katze ist daher wertvoller als alle üblichen KI-Programme der Welt. Man stelle sich eine Welt vor, die nur von hochintelligenten Maschinen bevölkert würde, die kein Bewusstsein haben und nichts erleben. Eine solche Welt wäre im Vergleich zu der unseren einfach nur metaphysisch erbärmlich. Oder theologisch gewendet: Gott würde eine solche Welt nicht erschaffen. Er interessiert sich letztlich nicht für solche Maschinen.