Warum das Betriebssystem der Moderne seit vierhundert Jahren falsch herum läuft.

Ich bin, also kann ich über Gedanken nachdenken.

Dieser Satz sieht nicht aus wie eine fundamentale Behauptung. Er wirkt fast trivial, die offensichtliche Reihenfolge, so wie man Dinge selbstverständlich beschreiben würde, wenn man nicht versuchen müsste, klug zu klingen. Aber dieser Satz, in genau dieser Reihenfolge, ist ein Tabubruch. Seit vierhundert Jahren läuft das Betriebssystem des westlichen Denkens auf der umgekehrten Sequenz.

Cogito, ergo sum. Ich denke, also bin ich. Das Denken ist das Fundament. Das Sein folgt daraus. Nimm diesen Satz ernst, wie es seit 1641 jeder hat tun müssen, und eine ganze Architektur von Geist, Körper, Wissenschaft, Technologie und Selbstverständnis fügt sich hinter ihm zusammen. Reiß ihn auseinander, kehre die Reihenfolge um, und die Architektur muss neu gebaut werden.

Ich glaube, sie muss neu gebaut werden. Und wir leben in dem Moment, in dem das nicht nur möglich, sondern notwendig geworden ist.

Der Mann, der alles bezweifelte

Heute morgen war ich hier in der “Bay Area” halb wach, gestern früh ins Bett gegangen, um mich auf die europäische Zeit umzustellen, in diesem losen Zustand, in dem der Traum und das Zimmer darum konkurrieren, welches von beiden wirklich ist. Der Traum hatte seine eigene Schwerkraft, seine eigene Logik, seine eigene emotionale Textur, das mich zu Descartes zurückgeführt hat. Für die Dauer des Traums war er nicht vom Wachzustand zu unterscheiden. Als ich schließlich auftauchte, brauchte ich einen Moment, um sicher zu sein, welchen der beiden Zustände ich gerade verlassen hatte. Der Zweifel, den das erzeugte, war nicht philosophisch. Er war gefühlt. In welchem von beiden bin ich gerade?

Descartes hat vor fast vierhundert Jahren etwas Ähnliches getan und daraus die moderne Philosophie gebaut. Er setzte sich in einem kleinen Dorf in Bayern hin, er überwinterte dort als junger Soldat, und versuchte systematisch jeden Glauben zu verwerfen, der bezweifelbar war. Die Sinne können uns täuschen. Träume können sich anfühlen wie das Wachen. Die Mathematik könnte das Werk eines bösen Täuschers sein. Die Außenwelt könnte Illusion sein. Andere Geister könnten Automaten sein. Am Ende seines Zweifelns blieb fast nichts übrig.

Aber eines hielt stand. Das Zweifeln selbst verlangte einen Zweifelnden. Dessen war er sich sicher. Selbst wenn alles, was er dachte, falsch war, musste es etwas geben, das diese falschen Gedanken dachte. Aus dieser einen unbezweifelbaren Tatsache baute Descartes das Fundament der modernen Philosophie. Cogito, ergo sum. Ich denke, also bin ich. Es war brillant. Es ist es noch immer. Aber die Konsequenzen sind teuer geworden.

Es trennte Geist und Körper. Das denkende Ding (res cogitans) wurde die eine Substanz, das ausgedehnte Ding (res extensa) die andere. Dreihundert Jahre Versuche, die beiden wieder zusammenzubringen, folgten. Keiner war erfolgreich. Es privilegierte das Innere. Das denkende Subjekt wurde die sichere innere Festung. Der Körper, die Welt, andere Geister, der Kosmos selbst, alles wurde äußeres Territorium, das das Subjekt durch Schlussfolgerung erreichen musste. “The Hard Problem of Consciousness”, das uns David Chalmers in den Neunzigern zurückgegeben hat, das Problem fremder Geister, das gesamte Projekt, Geist und Welt zu überbrücken: All das ist Folge eines kalten bayerischen Winters und der Geographie, die Descartes an jenem Tag entworfen hat. Es machte Erkenntnis zum Wesen. Mensch zu sein bedeutete, ein denkendes Ding zu sein. Alles andere wurde sekundär. Die Aufklärung hat das übernommen und damit gearbeitet. Alles danach auch.

Und, das ist meine Erzählung heute morgen, es legte das Fundament für die moderne künstliche Intelligenz. Das AKI-Projekt, in seiner dominanten Form, ist kartesisch bis ins Mark. Finde die richtigen Algorithmen, die richtige Logik, die richtigen Rechenstrukturen, und du bekommst einen Geist, unabhängig von Substrat oder Geschichte. Kognition als substratunabhängig. Das ist Descartes, vier Jahrhunderte später, in Code umformuliert.

Die Einwände, die sich angesammelt haben

Einige haben dieses Bild ebenfalls für falsch gehalten. Viele klüge Köpfe der letzten hundert Jahre haben gegen das Cogito gedrückt, aus verschiedenen Richtungen.

Heidegger hat seine gesamte Karriere damit verbracht, die Seinsfrage unter dem kartesischen Boden hervorzuholen. Sein und Zeit beginnt mit der Behauptung, dass wir vergessen haben, was es heißt zu fragen, was ist, weil Descartes uns gesagt hat, das, was fragt, sei das Fundament. Das Dasein geht dem denkenden Subjekt voraus. Das denkende Subjekt ist eine Weise des Seins unter anderen. Es ist nicht der Grund.

Merleau-Ponty hat in eine andere Richtung gedrückt, der gelebte Leib als Bedingung jeder Kognition, der Körper als Ort, an dem sich Geist und Welt treffen. Heute zu Merleau-Ponty zurückzukehren, fühlt sich für mich beinahe wie eine Wiederentdeckung an; hier habe ich angefangen, vor fast zwei Jahrzehnten über KI nachzudenken.

Nietzsche hat das Cogito einige Jahrzehnte früher noch direkter angegriffen: “Ich denke” schmuggelt bereits ein einheitliches denkendes Subjekt ein. Es gibt nur Denken, es denkt. Östliche Traditionen halten Varianten dieser Einsicht seit zweieinhalb Jahrtausenden; die buddhistische Analyse des anatta, des Nicht-Selbst, geht in eine andere Richtung als ich, teilt aber die Erkenntnis, dass das Cogito mehr voraussetzt, als es verdient hat.

Bevor ich also angegriffen werde, ich bin in guter Gesellschaft. Selbst bei den Gründervätern der Quantentheorie sehen wir, wie ihre Wege sich durch östliche Philosophie schlängelten, hin zu dem, was ich heute “Sci-Phi” nenne. Die Bewegung ist nicht völlig neu. Was vielleicht neu ist, ist die Formulierung, und der Grund, warum wir den kulturellen Moment erreicht haben, in dem sie ausgesprochen werden muss.

Die Umkehrung

Hier ist die Bewegung, schlicht gesagt. Wir sind keine denkenden Wesen, die zufällig existieren. Wir sind seiende Wesen, die zufällig denken. Das Sein ist die Voraussetzung. Das Denken ist eines von dem, was das Sein tut. Die Reihenfolge, die Descartes festgelegt hat, Denken zuerst, Sein danach, hat es genau verkehrt herum.

Ich bin, und weil ich bin, kann ich darüber nachdenken, was ich denke.

Achte darauf, was das tut. Es gründet die Wirklichkeit wieder im Sein statt in der Erkenntnis. Was das Sein sich am Ende erweist zu sein, gelebter Leib, informationelles Muster, mechanische Struktur, etwas ganz anderes, wird zu einer offenen Frage, nicht zu einer, die Descartes’ Entscheidung, mit dem Denken anzufangen, bereits beantwortet hat. Die Umkehrung legt mich nicht auf irgendein bestimmtes Substrat fest. Sie legt mich nur darauf fest, die Annahme zurückzuweisen, das Denken komme zuerst. Sie verlangt nicht, das Cogito auf der Ebene, die Descartes meinte, aufzugeben. Ja, wenn ich denke, existiere ich. Sie bestreitet nur, dass das Cogito fundamental ist. Das Denken ist nachgelagert, nicht vorgelagert.

Die Frage, die das sofort und zu Recht aufwirft: Was ist das “Ich”, das ist? Wenn das “Ich” nicht mehr als das denkende Ding bestimmt ist, was ist es dann? Das ist die Frage, von der alles in meiner Arbeit abhängt. Ich habe die Antwort nicht geschlossen. Aber ich glaube, es gibt eine Richtung, in die wir schauen können.

Wir sind Muster. Kurz kohärent, in einem Kosmos, der, wenn bestimmte Rahmenwerke der zeitgenössischen Physik sich als richtig erweisen, die Information jedes Ereignisses, das er je beherbergt hat, bewahrt. Das “Ich” ist eines dieser Ereignisse. Noch im Werden. Komplex genug, sich selbst zu bemerken. Das ist die längere Antwort, und sie zeigt auf ein Projekt, an dem ich seit Jahren mit meinem Co-Author Florian Neukart arbeite und das wir in kommenden Stücken direkter benennen werden. Die kürzere Antwort reicht für heute.

Ich bin, und weil ich bin, kann ich reflektieren, was ich denke. Und das wird uns ein beunruhigendes Gefühl geben in Bezug auf die nächsten Entwicklungen der KI.

Warum das jetzt wichtig ist

Wäre dies eine ruhige philosophische Meinungsverschiedenheit, würde ich sie die Bühne und meine Vorträge überlassen. Sie ist es nicht. Das kartesische Fundament versagt gegenwärtig an drei Stellen gleichzeitig.

Es versagt in der Physik. Das Bild einer äußeren Welt aus substanziellen Dingen, zugänglich für ein denkendes Subjekt, das aus Beobachtungen schließt, steht seit dem Eintreten der Quantenmechanik vor einem Jahrhundert unter Druck. Information, nicht Substanz, sieht zunehmend nach dem Grund der physischen Welt aus. Die Arbeit von Florian Neukart an der Quantum Memory Matrix, über die ich gemeinsam mit ihm schreibe, ist einer von mehreren zeitgenössischen Versuchen, die Grundlagen der Wirklichkeit informationell statt substanziell zu denken. Keines dieser Rahmenwerke passt bequem in die kartesische Architektur.

Es versagt in der Kognitionswissenschaft. Die Neuronen feuern, und dann projizieren wir das, was wir Wirklichkeit nennen. Die Welle des Embodied, Enactive, Ecological und Predictive Processing der letzten zwei Jahrzehnte hat das körperlose kartesische Subjekt als ernstzunehmendes Modell dafür, wie Kognition funktioniert, faktisch in den Ruhestand geschickt. Ich habe in diesem letzten Jahr viel Zeit in langen Gesprächen mit den Frontier-KI-Systemen verbracht. Sie sind außergewöhnlich. Etwas geschieht, wenn ich mit ihnen rede. Aber es ist nicht die Art von Etwas, die geschieht, wenn ich mit dir rede.

Und genau dort versagt es am dringendsten, in der künstlichen Intelligenz. Wir haben uns getweetet und geX’t, instagrammt und gelikt in eine Kultur hinein, die Denken-als-Substrat für selbstverständlich hält. Das AGI-Projekt nimmt in seiner dominanten Form an, Intelligenz sei substratunabhängige Berechnung. Finde die richtige Architektur, lass sie auf genug Silizium laufen, und du bekommst einen Geist. Ich glaube, das stimmt, was den Output betrifft, das Ergebnis. Die Frage ist: Fehlt etwas?

Ich argumentiere seit Jahren, dass das, worauf wir hinarbeiten sollten, nicht AGI in diesem kartesischen Sinn ist, sondern etwas anderes. Artificial Human Intelligence, AHI. Und was AHI bewahren muss, mehr als Verkörperung oder evolutionäre Kontinuität oder irgendein bestimmtes Substrat, ist die Wahrnehmung der eigenen Wahrnehmung. Das rekursive Sich-Selbst-Bemerken, das es dem Denken überhaupt erst erlaubt, über das Denken nachzudenken. Das, was den heutigen AGI-Architekturen, so mächtig ihr Output auch ist, noch fehlt. Das ist es, was fehlt. Nicht Intelligenz. Nicht Fähigkeit. Selbstwahrnehmung.

Ich behaupte nicht, AGI sollte das haben. Ich sage, dass ich es haben will, für mich, subjektiv. Ich will diese Agentur bewahren. Ich will ein Mensch bleiben, keine Maschine. Deshalb müssen wir es verstehen, bevor wir darüber hinaus bauen. An allen drei Stellen versagt das Betriebssystem, das Descartes installiert hat. Die Patches halten nicht mehr. Wir brauchen keinen weiteren Patch. Wir müssen von einem anderen Fundament aus neu installieren. Dieses Fundament ist das Sein. Nicht das Denken. Das Sein.

Wir sind seiende Wesen, die zufällig denken. Und der Unterschied zählt.