In der letzten Zeit wird ja um die Künstliche Intelligenz (KI, oder engl. AI = artificial intelligence) ein großer Bohei gemacht angesichts der Fortschritte, die auf diesem Gebiet stattfinden, sowie der vermeintlichen wirtschaftlichen Bedeutung, die diese Technik in Zukunft haben wird.

Eine interessante philosophische Frage in diesem Zusammenhang ist die, ob denn eine Künstliche Intelligenz auch irgendwann einmal Bewusstsein ausbilden könnte. Eine bewusste KI würde sich von einer nicht-bewussten dadurch unterscheiden, dass sie nicht nur Denkoperationen (im weitesten Sinne) ausführen könnte, sondern dass sie auch Erlebnisse hätte; das heißt, sie hätte beispielsweise wie wir eine Empfindung von Röte, wenn man einen roten Gegenstand vor ihrer Kamera plazieren würde, oder es würde sich für sie irgendwie anfühlen, wenn sie nachdenkt, sie könnte ein Problem, das sie versucht zu lösen, als schwierig empfinden und seine Bedeutung erfassen, oder sie könnte vielleicht auch zu guter Letzt ein Gefühl von sich selbst als dem Rest der Welt gegenübergestelltes Subjekt entwickeln und sich also als ein Ich erleben. Philosophen wie Thomas Metzinger gehen schon jetzt fest davon aus, dass Maschinen in nicht allzu ferner Zukunft auch Bewusstsein besitzen werden, so z.B. in seinem recht bekannten Buch „Der Ego-Tunnel“ (Metzinger, 2014). Ob das stimmt sei dahingestellt.

Aber woran würden wir eigentlich erkennen, dass eine KI Bewusstseinsinhalte, Erlebnisse und Empfindungen hätte? Stellen wir uns einmal einen digitalen Assistenten (wie Siri, Alexa & Co.) in 20 Jahren vor: diese kommunizierenden Maschinen werden sich bis dahin enorm weiterentwickelt haben. Da man mit so einem Gerät sprechen kann, könnte man es also einfach fragen: Alexa, hast du subjektive Empfindungen? Ist es irgendwie für dich, wenn wir miteinander reden? Hast du einen Eindruck von Gelbheit, wenn ich eine Banane in dein Kamerasichtfeld halte? Was, wenn Alexa diese Fragen dann zu unserer Verblüffung mit „Ja“ beantworten würde? Könnten wir ihr trauen? Könnten wir sicher sein, dass sie weiß wovon sie spricht? (Und was antworten eigentlich die heutigen Alexas auf solche Fragen? Da ich keinen dieser sprechenden Digitalassistentinnen mein Eigen nenne — die Neugier auf den genannte Dialog wäre aber schon eine Motivation, das zu ändern — wäre ich hier für Rückmeldungen der Leserschaft sehr dankbar.)

Jetzt kann sich die LeserIn fragen, was mein Misstrauen soll. Wieso sollte Alexa denn behaupten, sie hätte Bewusstsein, wenn das tatsächlich garnicht der Fall wäre? Folgende Überlegung: Bewusstsein ist nach herkömmlicher Vorstellung etwas Immaterielles, es lässt sich physikalisch nicht einordnen, zumindest nicht in unsere heutige Physik [1]. Und aus diesem Grunde kann es nicht mit Materie (und Energie) wechselwirken. Da Prozessor und Speicher (oder was sonst zukünftige Alexas zum „Denken“ nutzen werden) unserer KI-Assistentin aber materiell-energetische Dinge sind, hätte ein mögliches Bewusstsein keinerlei kausalen Einfluss auf das, was diese tut und sagt. Ob sie bewusste Erlebnisse und Empfindungen hätte oder nicht: den Regeln der Logik nach würde das nicht die geringsten Auswirkungen auf ihr verbales Verhalten haben; auch eine bewusstseinsmäßig völlig tote Alexa, ein Alexa-Zombie, könnte daher die Frage nach ihrer Empfindungsfähigkeit bejahen oder auch eine Äußerung wie beispielsweise „Mir geht es heute nicht besonders gut“ tätigen.

Das Gesagte gilt natürlich auch für Menschen. In einem Universum, in dem alles so wie in unserer Welt wäre, außer dass in ihm kein Bewusstsein entstehen könnte, hätte genau die gleichen Lebewesen, einschließlich des Menschen, auf unserem Planeten hervorgebracht und diese würden sich auch exakt genauso verhalten wie die real existierenden Lebensformen. Die oft zu lesende Behauptung, dass Bewusstsein sich evolutionär habe entwickeln können, weil es irgendwelche Vorteile im Prozess der natürlichen Selektion mit sich bringe, ist daher unsinnig; solche Äußerungen zeigen, dass der jeweilige Autor die Schwierigkeit und Tragweite des Bewusstseins-Problems ganz grundsätzlich nicht begriffen hat.

Auch die Menschen eines Zombie-Universums würden über ihre Empfindungen sprechen und sich verhalten, als hätten sie ein bewusstes Erleben. Würden wir einem solchen Zombie-Menschen begegnen, hätten wir nicht die geringste Möglichkeit festzustellen, dass er oder sie in Wirklichkeit kein Subjekt, keine Person, sondern nur ein sehr komplexer Gegenstand ist. Im Grunde genommen gilt das natürlich auch für reale andere Menschen, mit denen wir in diesem Universum zu tun haben. Wir gehen immer ganz selbstverständlich davon aus, dass unser jeweiliges menschliches Gegenüber genauso wie wir beschaffen ist und wenn nicht exakt gleich, so doch sehr ähnlich wie wir selbst fühlt und empfindet. Doch sicher können wir das nicht wissen, denn wir können nicht – wie etwa die Vulkanier in der Startrek-Welt – in den anderen hineinschlüpfen („Mein Geist zu deinem Geist“) und nachsehen, wie seine Welt aussieht, sich anhört, anfühlt und für ihn oder sie ist [2]. Er oder sie könnte im Prinzip auch ein Zombie sein, ohne dass wir irgendetwas besonderes an ihm oder ihr bemerken würden. Natürlich haben wir trotzdem gute Gründe anzunehmen, dass andere Menschen tatsächlich so sind wie wir und auch Erlebnisse und Empfindungen haben. Sie sind biologisch schließlich genauso aufgebaut wie wir, einschließlich Hirn und Nervensystem, sie sind von der gleichen Evolution hervorgebracht worden wie wir, es gibt also keinen vernünftigen Grund, weshalb sie Zombies sein sollten. Trotzdem bleibt festzuhalten, dass jeder Einzelne von uns – trotz Empathie und Spiegelneuronen – auf eine gewisse Weise von allen anderen Menschen (und Tieren) durch eine Art unüberwindlichen „epistemischen Graben“ getrennt ist. Jeder ist in seiner eigenen Welt, und jede dieser Welten ist die ganze Welt.

Nach diesem Exkurs zu menschlichen Zombies nun zurück zu unserer künstlich-intelligenten Zukunfts-Alexa, die behauptet, bewusstes Erleben zu haben. Von ihr sind wir natürlich auch durch den erwähnten epistemischen Graben getrennt und damit von einer direkten Überprüfung ihrer Behauptung abgeschnitten. Aber zusätzlich fehlen uns die guten Gründe, die uns bei anderen Menschen annehmen lassen, dass sie genau wie wir Bewusstsein aufweisen, zumindest dann, wenn wir annehmen, dass unsere Alexa-KI wie heutige KIs auf einem Netz von Silizium-Bauteilen und metallischen Leiterbahnen beruht. Wir wissen nicht, ob solche künstlichen technischen Strukturen überhaupt bewusstseinsfähig sind; möglicherweise ist ja das „weiche“ biologische Material, aus dem Nervensysteme bei Tieren und Menschen aufgebaut sind, eine notwendige Voraussetzung für die Realisierung von Bewusstein – vielleicht braucht es auch einen kompletten biologischen Körper quasi als Resonanzsystem für Gehirn und Neuronen und eine isolierte Ansammlung vernetzter Nervenzellen – seien es nun biologische oder künstliche – kann generell nie empfindungsfähig werden? Die Antworten auf diese und ähnliche Fragen kennen wir nicht; und daher könnten wir auch nicht entscheiden, ob eine KI der Zukunft die Wahrheit sagt, wenn sie über ihre angeblichen Erlebnisse und Empfindungen spricht.

Es könnte sein, dass unsere fiktive Alexa, wenn sie dies tut, nur einer vorab gelernten sprachlichen Konvention aus der Welt der Menschen folgt. Schließlich sprechen die heutigen digitalen Assistenten ja auch ganz selbstverständlich von sich, als seien sie Personen: „Hallo! Ich bin Sophie, deine virtuelle Beraterin bei congstar. Wie kann ich dir weiterhelfen?“ hieß es gerade eben auf der Seite meines Mobilfunkanbieters, als ich eine bestimmte Information suchte und nicht sofort fand. Bei dieser und anderen Helferinnen (interessanterweise sind sie immer weiblich) käme man aber trotzdem nie ernsthaft auf die Idee, dass sie tatsächlich ein Ich-Bewusstsein besitzen könnten. Und so könnten wir eben auch bei unserer KI der Zukunft nicht sicher wissen, ob sie vielleicht nur Worte aufsagt, „dahinter“ aber kein erlebendes Bewusstsein oder gar ein voll entfaltetes Ich – das ja (vermutlich) eine sehr komplexe und hochentwickelte Form des Geistigen voraussetzt – steckt.

Das Problem der Unüberwindbarkeit des epistemischen Grabens haben wir auch bei Tieren. Auch hier können wir nicht sagen, welche Tiere phänomenale Empfindungen haben und welche nicht. Vermutlich haben „höhere“ Tiere ein Bewusstsein wie wir; aber wo fängt die Empfindungsfähigkeit an? Eine Amöbe hat mit an Sicherheit grenzender Wahrscheinlichkeit kein Bewusstsein, denn wir haben gute Gründe anzunehmen, dass dafür ein Nervensystem die Minimalvoraussetzung ist. Wie steht es mit einer Qualle, einer Schnecke, einer Heuschrecke? Leidet die Nacktschnecke, die ich im Garten zum Schutz meiner Sämlinge zerschneide? Empfindet sie einen kurzen, heftigen Schmerz, bevor sie das Zeitliche segnet, oder ist sie ein Zombie, ein komplexer aber empfindungsloser Bio-Roboter? Was ist mit einem Fisch? Empfindet er Schmerz, wenn er auf den Haken beißt, der sich in seinen Schädel bohrt? Spürt die Eidechse die Wärme, wenn sie sich auf einem Stein sonnt? Erlebt das Murmeltier Todesangst, bevor der Steinadler es mit seinen Fängen ergreift? Und der Steinadler: hat ihn der Hunger zur Jagd getrieben? Oder ist er innerlich tot und hat nur eine äußerst komplizierte Verkettung von chemischen, bioelektrischen und mechanischen Ereignissen in seinem Organismus zu den beim Jagen auftretenden Bewegungsabfolgen geführt?

Dass Primaten und ähnlich hochentwickelte Säugetiere Bewusstsein besitzen, scheint äußerst wahrscheinlich; hier greift u.a. wieder das Argument, dass ihr Bauplan und der ihres Nervensystems dem unseren sehr ähnlich ist und die selbe Evolution sie und uns hervorgebracht hat. Daher wäre es geradezu befremdlich, wenn es sich bei ihnen um philosophische Zombies handeln würde. Aber wo fängt Bewusstsein an? Und wodurch? Und wie soll etwas Materielles wie ein Nervensystem etwas Immaterielles wie Geist hervorbringen? Genau wie bei der umgekehrten Frage an einen Vulgäridealismus, wie denn der Geist die biologischen Vorgänge im Organismus beeinflussen soll, fehlen uns hier schlicht die kausalen Brücken, die vom Gehirn zum Geist führen könnten [3].

Wie man sieht, lässt sich die gestellte Frage, woran ich denn merken würde, dass mein Computer oder irgendeine beliebige künstliche Intelligenz Bewusstsein hätte, garnicht wirklich zuverlässig beantworten. Sobald jemand behaupten würde, diese oder jene KI habe einen eigenen Geist entwickelt, würden ihm oder ihr vermutlich 3 andere widersprechen. Und es gäbe keinen sicheren Test, der den Disput entscheiden könnte.

Alles, was gesagt wurde, gilt natürlich nur unter der Prämisse, dass das Geistige etwas Nichtphysikalisches, Immaterielles, quasi das Metaphysische an sich ist. Denkbar wäre aber prinzipiell auch, dass das Bewusstsein sich letztlich doch als etwas erweist, das sich in eine – möglicherweise grundlegend erweiterte Physik – einfügen könnte, z.B. als eine fünfte elementare Wechselwirkung neben den vier bisher bekannten. Oder es handelt sich neben Elektrizität und Magnetismus um eine weitere Äußerung der facettenreichen elektromagnetischen Wechselwirkung, die nur unter ganz speziellen Bedingungen wie sie in Gehirnen bzw. Nervensystemen herrschen, auftritt. In diesem Fall würden sich natürlich alle genannten Probleme wie von Zauberhand in Luft auflösen.

Es gibt aber, denke ich, berechtigte Zweifel daran, dass sich das philosophische Problem des Bewusstseins auf eine solche, gewissermaßen triviale Art und Weise wird wegreduzieren lassen. Aber das zu erörtern würde hier zu weit führen; mein Text ist sowieso schon wieder viel länger geworden als geplant.

Meine Überlegung zum möglichen Bewusstein von Maschinen hat zu einem kleinen Rundgang durch die Körper-Geist-Problematik geführt, wobei man hoffentlich erkennen konnte, wie fundamental die ganze Angelegenheit ist. Derweil leben wir noch in einer Welt, in der sich die zugleich einfache und schwierige Frage, die ich mit meinem Text ein wenig beleuchten wollte, noch nicht ernsthaft stellt. Und das finde ich eigentlich auch gut so. Denn wenn ich von meinem PC hier auf dem Schreibtisch annehmen müsste, das er (es?) möglicherweise Bewusstsein entwickelt hat, wäre mir das doch ehrlich gesagt reichlich unheimlich.

Anmerkungen

[1] Das ist übrigens auch das zentrale Argument gegen die Schlaumeierei der Szientisten und Physikalisten, die meinen, alles was existiere, sei via Naturwissenschaft ohne Rest aufzuklären. Aber das hier nur am Rande.

[2] Die Formulierung ist angelehnt an den berühmten Aufsatz „What is it like to be bat?“ (Wie ist es, eine Fledermaus zu sein? bzw. Wie ist es für eine Fledermaus, so zu sein, wie sie ist?), mit dem Thomas Nagel 1974 die moderne Diskussion des Bewusstseinsproblems in der Philosophie des Geistes neu befeuerte.

[3] Nichtsdestotrotz herrscht in der Naturwissenschaft die Vulgärfolklore, dass Hirnvorgänge geistige Ereignisse erzeugen.

Literatur

Metzinger, Thomas (2014). Der Ego-Tunnel – Eine neue Philosophie des Selbst: Von der Hirnforschung zur Bewusstseinsethik. München: Piper (Erweiterte Fassung der Erstauflage von 2009)

© Matthias Wehrstedt 2019