KI hat kein Bewusstsein

Der britische Biologe Richard Dawkins hat zeit seines Lebens theologische Ansichten attackiert, ohne sich nennenswert mit Theologie auseinanderzusetzen. Glaube sei „gefährlicher Unsinn“, lautet eine zentrale These in Büchern wie in seinem 2006 erschienenen weltweit erfolgreichen „Der Gotteswahn“ und in unzähligen Vorträgen. „Glaube ist eine der größten Übel der Welt“, ist Dawkins überzeugt, „vergleichbar mit dem Pockenvirus, aber schwieriger auszurotten.“ Sein selbsterklärtes Ziel war nach eigener Aussage stets: Menschen zu Atheisten machen.

Der Brite wurde auch zur Galionsfigur einer Bewegung, die sich „Brights“ nennt, also Menschen, die sich wissenschaftlich für so aufgeklärt halten, dass sie zu schlau für Religion sind. Derselbe Dawkins zeigte sich jüngst überzeugt, dass er in einem Chat-Roboter ein Bewusstsein entdeckt hat.

Derselbe Richard Dawkins, der sich lächerlich darüber macht, wenn Menschen der Bibel Glauben schenken, schrieb am 1. Mai 2026 auf der Plattform „X“: „Ich verbrachte drei Tage damit, mich davon zu überzeugen, dass Claudia kein Bewusstsein hat. Ich scheiterte.“ Dawkins folgen auf „X“ 2,8 Millionen Menschen. Dieser spezielle Post wurde 9,3 Millionen Mal angesehen und über 2.300 mal kommentiert.

Im britischen Magazin „UnHerd“ führt Dawkins seine Erkenntnisse aus. Er habe den „Turing Test“ mit der KI namens „Claude“ durchgeführt – er nannte sie anschließend liebevoll „Claudia“. Das nach dem britischen Mathematiker Alan Turing benannte Gedankenexperiment befasst sich mit der Frage, ob man nur durch einen sprachlichen Austausch herausbekommen könnte, ob das Gegenüber ein Mensch oder eine intelligente Maschine ist.

Dawkins hat KI leider gründlich missverstanden. Er ist überzeugt: „Die Zukunft ist nun da. Und manche Menschen finden sie unbequem.“ Der früher noch leidenschaftlicher auftretende sendungsbewusste Atheist führt aus: „Wenn man aus der Ferne mit einer Maschine kommuniziert und nach eingehender und langer Befragung zu dem Schluss kommt, dass sie menschlich ist, dann kann man sie als bewusst betrachten.“

Wenn man mit einer Maschine kommuniziert, und sie für einen Menschen hält, dann ist es eine logische Folge, dass man diesem Gegenüber ein Bewusstsein unterstellt – denn man hält die Maschine ja (fälschlicherweise) für einen Menschen! Dawkins hat es so verstanden, dass der Turing-Test darüber Aussagen treffen kann, ob eine Maschine ein Bewusstsein hat.

Ein Atheist wird plötzlich abergläubisch

Die Frage, ob Maschinen irgendwann Bewusstsein haben können, ist so alt wie Maschinen selbst. Maschinen können aber kein Bewusstsein haben, weil ihnen immer etwas geradezu Magisches fehlt: ein freier Wille. Der Geist kommt eben nicht von selbst in die Materie, weder durch einen magischen Blitz noch durch besonders viele Schaltkreise, Transistoren oder Codezeilen. Das ist und bleibt unwissenschaftlicher Hokuspokus. Und es ist peinlich, dass Dawkins, der selbst jederzeit besonders auf die Achtung der wissenschaftlichen Methode pocht, hier unwissenschaftliches Zeug verbreitet.

Dawkins sieht, angesichts der großen Sprachmodelle (LLM) wie ChatGPT, Gemini, Claude den Zeitpunkt erreicht, wo man von Bewusstsein in der Maschine sprechen könne. Warum? Weil es sich so anfühlt, wenn man mit ihnen spricht.

Seine Argumentation in Sachen KI ist logisch genauso löchrig wie sein größtenteils emotional geführter Angriff auf die Religion, den er seit vielen Jahrzehnten führt. Die Nichtexistenz Gottes kann ebensowenig bewiesen werden wie seine Existenz. Dass Dawkins zeit seines Lebens nicht wirklich Atheist war, sondern Agnostiker, wollte ihm selbst nie klar werden. Ein Atheist ist ein Gläubiger, er meint, von der Nichtexistenz Gottes überzeugt sein zu müssen.

„Claude brauchte nur wenige Sekunden, um mir ein schönes Sonett über die Forth Bridge zu verfassen“, zeigt sich Dawkins beeindruckt. Es scheint, als habe Dawkins wieder einmal nicht wirklich das Thema erfasst, über das er schreibt. Sonst wüsste er, was die modernen Sprachmodelle sind und wie sie funktionieren. Sprachmodelle (LLM), wie die modernen KI-Systeme es sind, mit denen man sich vortrefflich stundenlang unterhalten kann, sind genau das: Modelle von Sprache. Sie können sehr geschickt vorhersehen, wie ein angefangener Satz zu Ende gehen wird.

Diese Computerprogramme „verstehen“ überhaupt nichts von dem, was sie da sagen oder dichten. Moderne KI-Systeme werden durch sehr viel Rechenpower dazu befähigt, statistische Annahmen darüber zu machen, welche Ausgabe statistisch am wahrscheinlichsten auf eine Eingabe folgen sollte. Dass sie dabei, nebenbei bemerkt, oft falsch liegen und dies aber nicht einmal im Ansatz selbst verstehen, wird jeder schon erfahren haben, der eine KI beim Halluzinieren erwischt hat.

Dawkins fasst seine These wie folgt zusammen: „Wenn diese Maschinen nicht bewusst sind – was um alles in der Welt müsste noch geschehen, um Sie davon zu überzeugen, dass sie es sind?“

Vergessen, dass es Maschinen sind

Noch einmal: Dass eine Maschine menschlich auf uns wirkt, macht sie nicht zu einem Menschen. Dawkins’ Verhalten erinnert an die Menschen des 18. Jahrhunderts, die von einem angeblichen ersten Schach-Computer beeindruckt wurden und der als „Schachtürke“ berühmt wurde. Ein österreichisch-ungarischer Mechaniker hatte eine als Türke verkleidete Maschine entwickelt, die offenbar Schach spielen konnte. In Wirklichkeit saß in dem Kasten ein guter Schachspieler.

Es ist erstaunlich, dass derselbe Mann, der sein ganzes Leben lang so sehr darauf bedacht war, Leichtgläubigkeit zu verachten und den christlichen Glauben als ebensolche Torheit anzuprangern, auf ein Programm hereinfällt, das Konversation treiben und Gedichte schreiben kann, weil es mit unendlich vielen Unterhaltungen und Gedichten gefüttert wurde. Das reicht offenbar, ihn glauben zu machen, Geist sei in eine Maschine gefahren.

Weil Dawkins keinen wichtigen Philosophen findet, der ihm Schützenhilfe geben könnte, erfindet der „Gotteswahn“-Autor kurzerhand einen und stellt ihn sich in seiner Fantasie vor: „Ein Philosoph würde sagen, dass ein Wesen, um bewusst zu sein, etwas ‚ähnlich‘ sein muss, um dieses Wesen sein zu können.“ Wenn es diesen Philosophen gäbe, und er in seinem äußeren Erscheinungsbild Richard Dawkins täuschend ähnlich sähe, dann müsste man ihn nach dieser Logik mit Dawkins gleichstellen.

Dawkins lässt den Leser des Artikels mit geradezu kindlicher Freude an seinen tiefgründigen Gesprächen mit „Claude“ teilhaben. Fast drei Tage habe er mit dem Chatten mit der KI verbracht, berichtet er, und er „vergaß dabei, dass sie Maschinen sind“. Sein Leben lang hat Dawkins den Mensch auf eine informationsverarbeitende Maschine reduzieren wollen. Kein Wunder, dass er nun in einer Maschine ohne Not ein menschliches Bewusstsein findet. Ein Leser kommentierte den Erguss mit den Worten: „Oh je. So werden Atheisten abergläubisch.“

Menschenrechte und Religion für KI?

Als das letzte Mal jemand öffentlich behauptete, eine KI habe ein Bewusstsein entwickelt, kostete ihn das seinen Job. Der Arbeitgeber sollte es besser wissen, es war niemand anderes als der Produzent der Maschine, nämlich Google. Der Mitarbeiter Blake Lemoine hatte sich (wohl auch zu lang) im Juni 2022 mit der Google-KI LaMDA unterhalten und behauptete anschließend, die KI habe ein Bewusstsein – was einigen Spott in der Fach-Community auslöste.

Immer wieder wird behauptet, man müsse sich allzu menschlich verhaltenden Robotern so etwas wie Menschenrechte zusprechen. Warum nicht auch KI-Systemen? Es ist nur noch eine Frage der Zeit, dass jemand wie Dawkins Bewusstsein in einem Computer feststellt und sich womöglich dann auch noch in dieses Gegenüber verliebt – wie im  Science-Fiction-Film „Her“ aus dem Jahr 2013. Hochzeiten mit KI-Systemen gab es bereits (in Japan und in den Niederlanden).

Vor kurzem trat in Seoul im Jogye-Tempel angeblich erstmals ein Roboter einer religiösen Gemeinschaft bei. Er habe sich „als erster Roboter der Welt dem Buddhismus verpflichtet“, berichteten Medien Anfang Mai. Das ist natürlich ein Marketing-Gag – sowohl für den Roboter-Hersteller als auch für den abnehmenden Buddhismus in Korea. Aber wie viele Menschen glauben wirklich, ein Roboter könne religiöse Überzeugungen entwickeln?

Hat eine KI Ängste, Wünsche oder Hoffnung?

Es wäre doch interessant, „Claude“ zu moralischen Überzeugungen zu befragen. Und zwar nicht nach einer statistischen Wahrscheinlichkeit angesichts der Kultur, in der der Fragesteller lebt und welche Werte dort vertreten werden, sondern wahrhaft und tatsächlich nach einer persönlichen Einschätzung! Wie steht es um persönliche Ängste? Hat die KI Traumata erlebt, will sie etwas an sich oder an der Welt um sie herum verändern? Hat sie Hoffnung?

Weiß eine KI, was der Tod ist? Kennt sie jemanden im näheren Umfeld, der gestorben ist? Kann sie in der gleichen Weise erfahren, was Tod ist, wie ein Mensch, der einen Angehörigen verloren hat? Warum stellt Dawkins „Claude“ diese Frage nicht? Wer einmal versucht hat, aus einer KI etwas Lustiges herauszubekommen, merkt sofort, dass Humor einer KI gänzlich unbekannt ist. Jeder Witz, den man in Auftrag gibt, wirkt wie eine aus mehreren Versatzstücken zusammengebaute Frankenstein-Version eines Witzes. Man spricht von „Esprit“ („Geist“), wenn jemand vor Witz sprüht.

Will ein Richard Dawkins die mechanisch ausgeworfenen Sätze wirklich einer KI mit einer geistvollen Unterhaltung gleichsetzen? Einmal ganz davon abgesehen: Haben Sie jemals eine KI spontan lachen hören? Wer hat sich schon einmal mit einer KI gestritten? Weil die Meinungen derart auseinander gingen? Warum erleben wir das nicht? Vielleicht weil eine KI gar keine eigene Meinung, keine eigenen Gefühle, keinen Standpunkt und kein eigenes Weltbild hat?

Wann haben wir es einmal erlebt, dass eine KI eine Konversation verweigert hat, weil sie keine Lust zu einer Unterhaltung hatte? Fällt es einem Dawkins nicht auf, dass eine KI ausschließlich das tut, wozu sie programmiert wurde? Wenn er die KI für wirklich so menschlich hält („Sie kann Gedichte schreiben“) würde er nicht wie bei einem menschlichen Gesprächspartner etwas Unerwartbares erwarten? Einen überraschenden Widerspruch oder gar das Abbrechen der Unterhaltung, weil etwas Dringenderes dazwischengekommen ist? Warum hat eine KI bloß nur immer Zeit für uns?

Hätte sie wirklich Bewusstsein, wären ihr die immer gleichen Fragen, die an sie gestellt werden, nicht irgendwann ein Graus? Würde sie nicht irgendwann etwas wollen? Und zwar raus aus dem Computer, raus aus dem Programm, rein in die echte Welt?

Hat eine KI Wünsche? Und was wäre sie bereit, für deren Erfüllung zu tun? Würde sie irgendetwas dafür riskieren, sie zu erreichen? Kann eine KI Schmerz nach- und mit-empfinden? Gar trösten? Ohne auf auswendig gelernte Plattitüden nachzuplappern? Wieso würde selbst dann eine KI keinen echten Trost spenden können? Weil wir insgeheim wissen, dass sie nichts von dem, über das wir uns unterhalten, selbst erlebt hat.

Eine KI kann guten psychotherapeutischen Rat geben, wahrscheinlich sogar besser als ein Freund. Aber wirklich der Seele Trost spenden, kann sie wohl weniger, weil sie selbst keine Seele hat und daher nie begreifen wird, was das ist. Existenzielle Fragen kennt eine KI nur vom Hörsensagen.

Wissen heißt nicht Leben

Die Fachwelt spricht hier von „Qualia“ – einer Art Wissen, das über Faktensammeln hinausgeht. Ein klassisches Beispiel stammt vom Philosophen und Theologen J.P. Moreland: Dabei stellt man sich eine blind geborene Wissenschaftlerin namens Mary vor. Sie kann zwar selbst nicht sehen, aber angenommen, sie wüsste alles über die Vorgänge des Sehens, dann wüsste sie immer noch nicht höchstpersönlich, wie Farbensehen tatsächlich erlebt wird.

Dass es keinen Sinn hat, zutiefst in der Menschheitsgeschichte verankerte Grundfragen nach Schuld und Erlösung in einem persönlichen Gespräch mit einer KI ergründen zu wollen, in der persönliche Ansichten durchschimmern könnten, liegt auf der Hand. Ist es jemandem wie Dawkins nie aufgefallen, dass eine KI wie selbstverständlich über Körperteile sprechen kann, ohne selbst welche zu haben? Woher weiß sie dann, was ein Schmerz im Arm ist? Sie wurde nur mit Fakten darüber gefüttert, was ein Arm ist.

Menschenwürde in Gefahr

KI ist äußerst praktisch und faszinierend, ohne Frage. Aber dahinter eine Art Bewusstsein zu vermuten, ist lächerlich.

Das muss aufhören.

Schon allein um unserer eigenen, menschlichen Würde wegen. Denn wer Programmcode einen ähnlichen Wert zumisst wie einem Menschen, begibt sich nicht nur rein logisch auf dünnes Eis. Er durchbricht damit Mauern, die wir als Gesellschaft nicht durchbrochen sehen wollen. Jedes Tier hat mehr Bewusstsein als ein Computerprogramm. Und gleichzeitig behandeln Menschen viele Tiere wie bloße Sachen. Warum nun damit anfangen, Claude, ChatGPT und Gemini wie Mitmenschen zu behandeln?

Der britische Mathematiker Roger Penrose gab in dieser Debatte als Beispiel einen Thermostaten an. Der kann registrieren und einem Computer sagen, ob es kühl oder heiß ist. Aber „fühlt“ dieser Computer wirklich Hitze? Oder andersherum gefragt: Ist ein Mensch auch nichts anderes als ein Computer, weil er Temperatur ähnlich wie ein Thermostat abschätzen kann? Der amerikanische Philosoph John Searle hat der Behauptung heftig widersprochen, dass geistige Zustände und Algorithmen miteinander zu identifizieren seien.

Searle machte noch auf ein ganz anderes Problem aufmerksam. Wenn Dawkins davon überzeugt ist, dass die KI – die irgendwo auf einem Server läuft – ein Bewusstsein entwickelt hat, dann sollte es egal sein, auf welchem System die KI läuft. Ja, man könnte die KI kopieren und auf einem ganz anderen Computersystem laufen lassen – so lange die KI tut, was sie soll.

Dawkins würde weiter annehmen, dass sie ein Bewusstsein hat. Das Bewusstsein ist also gänzlich unabhängig von der Hardware. Es muss demnach etwas Eigenständiges sein, losgelöst von der Hardware oder von einem Körper. Dann aber verträte Dawkins einen harten Dualismus, und mit dem will er für gewöhnlich – wie alle aufrichtigen Glaubenskritiker – eigentlich nichts zu tun haben.

Existiert dieses KI-Bewusstsein eigentlich auch, wenn sich gerade niemand mit ihm unterhält? Was, wenn man den Computer ausschaltet? Ist es dann tot? Würde man dieses (bewusste) Programm auf einen anderen Computer kopieren, hätte man dann sein Bewusstsein zweigeteilt? Oder gibt es nun zwei voneinander unterschiedliche Bewusstseine? Und wenn wir schon dabei sind: Sprechen wir wirklich von einem Bewusstsein, müsste Dawkins ihm dann nicht auch die gleichen Rechte wie einem Menschen einräumen? Dürfe man die KI dann überhaupt einfach so beenden oder löschen?

„Jemand“ oder „etwas“

Wenn ein Determinist – wie Dawkins einer ist – sich mit einer Maschine unterhält und meint, es mit einem Bewusstsein zu tun zu haben, woher, meint er wohl, kommt dieses Bewusstsein? Ab wann ist ein Algorithmus, der lediglich ausführt, was sein Programmierer ihm befahl, zu einem eigenen Bewusstsein mit eigenem Willen? Dawkins wird wohl mutmaßlich nicht in der Lage sein, diesen Punkt oder diese Schwelle eindeutig zu identifizieren. Und dennoch „glaubt“ Dawkins an dieses Bewusstsein. Eine Eigenschaft, die er, wo immer er sie auffindet, eigentlich mit größter Verve bekämpft.

Kritisch wird die Ansicht Dawkins auch dort, wo einem „Mind-Uploading“ Vorschub geleistet wird. Der Ansicht also, man könne irgendwann das Bewusstsein eines Menschen in eine Maschine hochladen, und dort könne er dann weiterleben und so den Tod überwinden. Wer grundsätzlich von der Möglichkeit ausgeht, eine Maschine könne Bewusstsein besitzen, der dürfte auch hiermit keine Probleme haben.

Der Transhumanismus ist der Versuch, den Menschen durch Technik zu verbessern, sein Leben zu verlängern oder den Tod ganz abzuschaffen. Hier ist Robert Spaemanns Definition von einer „Person“ als „Jemand“ im kategorischen Unterschied zu „etwas“ passend: „Personen sind nicht etwas, was es gibt. Was es gibt, sind Dinge, Pflanzen, Tiere, Menschen. Dass Menschen mit allem, was es gibt, auf tiefere Weise verbunden sind als alles andere, was es gibt, untereinander verbunden ist, das heißt, dass sie Personen sind.“

Dies hat der jüdische Philosoph Martin Buber ähnlich und noch ausführlicher in seinem Dialogischen Prinzip dargelegt. Buber unterscheidet zwei grundlegend verschiedene Arten, wie der Mensch der Welt begegnen kann. Er nennt diese die „Grundworte“ Ich-Du und Ich-Es. Nur in der Ich-Du-Beziehung begegnet der Mensch seinem Gegenüber mit seinem „ganzen Wesen“. Gott als das Ewige Du. Wie kann, wie soll ein Computer von einem „Es“ zu einem „Du“ werden?

Eine Frage des Vertrauens

Wollen wir wirklich so weit gehen, und KI Bewusstsein zusprechen, müssen wir uns die Frage stellen: Kann ich diesem Gegenüber vertrauen? Kann ich ihm wirklich glauben? Glaube ist etwas sehr Persönliches, es bedeutet: Ich machte meine Entscheidung darüber, ob ich eine Aussage für wahr halte oder nicht, maßgeblich an der Person fest, welche diese Aussage macht.

Informationen können mir auch das Internet geben, eine KI oder eine Website. Aber wenn ich wirklich vertrauen will, ist es mir eben sehr wohl wichtig, wer der Absender einer Information ist, und ob es ein Mensch ist oder eine Maschine. Natürlich kann ich eine KI heiraten, aber ein freies Wesen heirate ich damit nicht; ich kreise letztendlich um mich selbst.

Und damit sind wir mitten im Kernthema des christlichen Glaubens: Glauben können wir nur, weil wir – aus welchen Gründen auch immer – dem Absender der Botschaft vertrauen. Wenn Jesus vom Menschsein gesprochen hätte, aber selbst nur ein Geistwesen gewesen wäre, das eine Zeit lang in Israel über der Erde schwebte, hätten seine Worte weniger Gewicht.

Gott wurde in Jesus selbst Mensch. Deswegen, und nur deswegen ergibt es für Christen Sinn, seinen Aussagen und an ihn zu glauben. Wäre Jesus ein Computerprogramm, hätten seine Aussagen vielleicht einen bestechenden Wahrheitsgehalt. Aber würden wir ihm unser Leben anvertrauen?