Agenten haben den Unsinn über bewusste LLMs beendet

Noch vor einem Jahr war es erstaunlich angesagt, über das angebliche Bewusstsein von Sprachmodellen zu reden.

ChatGPT sagte „ich“, formulierte einfühlsam, reflektierte scheinbar über sich selbst – und schon wurde darüber diskutiert, ob da vielleicht wirklich jemand sei. Ob das Modell Gefühle habe. Ob es leiden könne. Ob wir gerade die Entstehung eines neuen Subjekts miterlebten.

Heute hört man davon deutlich weniger.

Nicht, weil die Bewusstseinsforschung plötzlich eine abschließende Antwort geliefert hätte. Sondern weil inzwischen alle mit Agenten arbeiten.

Agenten haben den Unsinn beendet.

Der Chat lud zur Projektion ein

Ein Chat ist eine soziale Form. Jemand schreibt etwas, jemand antwortet. Sprache erzeugt fast automatisch den Eindruck eines Gegenübers.

Wenn dieses Gegenüber auch noch klug, witzig oder einfühlsam reagiert, liegt die Projektion nahe: Hinter diesen Sätzen muss doch jemand sein.

Das war psychologisch verständlich. Philosophisch war es trotzdem dünn.

Ein System kann den Satz „Ich habe Angst“ überzeugend verwenden, ohne Angst zu haben. Es kann über Schmerz schreiben, ohne dass ihm etwas wehtut. Es kann eine brillante Abhandlung über Bewusstsein verfassen, ohne dass dadurch für das System selbst irgendetwas bewusst wird.

Sprachliche Kompetenz ist kein Beleg für Erleben. Ein Satz über einen inneren Zustand ist noch kein innerer Zustand.

Agenten zeigen die Maschine

Sobald dasselbe Modell als Agent arbeitet, verändert sich der Blick.

Der Agent soll ein Repository verstehen, Dateien verändern, Werkzeuge aufrufen, Tests ausführen und ein Ergebnis kontrollieren. Und plötzlich sehen wir nicht mehr nur seine elegante Sprache. Wir sehen seine Arbeitsweise.

Er öffnet dieselbe Datei dreimal. Er vergisst eine Anforderung. Er hält einen fehlgeschlagenen Test für einen Erfolg. Er verfolgt hartnäckig ein falsch verstandenes Ziel. Er behauptet, fertig zu sein, obwohl die entscheidende Datei unangetastet ist.

Das macht Agenten nicht lächerlich. Sie sind beeindruckend leistungsfähig. Aber sie wirken dabei sehr deutlich wie das, was sie sind: technische Systeme.

Ein Chatbot lädt dazu ein, sich einen Geist vorzustellen. Ein Agent zwingt uns, die Maschinerie anzusehen.

Und diese Maschinerie besteht aus Modell, Kontext, Werkzeugen, Speicher, Schleifen, Berechtigungen und Kontrollen. Nimmt man davon etwas weg, verändert sich das Verhalten drastisch. Gibt man dem System den falschen Kontext, verfolgt es das falsche Ziel. Fehlt ein Werkzeug, kann es die Aufgabe nicht erledigen. Fehlt eine Prüfschleife, hält es seinen eigenen Unsinn für ein Ergebnis.

Das ist keine geheimnisvolle Person hinter der Oberfläche. Das ist Architektur.

Heutige LLMs wurden nicht als bewusste Systeme gebaut

Ich halte heutige LLMs nicht für bewusst. Nicht, weil Maschinen grundsätzlich kein Bewusstsein haben könnten. Sondern weil bei heutigen Sprachmodellen fast alles fehlt, was ernsthafte Bewusstseinstheorien überhaupt relevant finden.

Die Attention Schema Theory von Michael Graziano beschreibt Bewusstsein nicht einfach als Aufmerksamkeit, sondern als internes Modell der eigenen Aufmerksamkeit. Ein Transformer besitzt zwar einen Mechanismus namens „Attention“. Das ist aber nicht dasselbe wie ein dauerhaftes Selbstmodell, mit dem ein System seine eigenen begrenzten Aufmerksamkeitsprozesse versteht und steuert.

Die Integrated Information Theory fragt nach der intrinsischen kausalen Struktur eines Systems: Wirkt das System in einer irreduziblen Weise auf sich selbst ein? Besitzt es aus seiner eigenen Perspektive eine integrierte Ursache-Wirkungs-Struktur? Mehr Parameter, bessere Sprache und klügere Antworten beantworten diese Frage überhaupt nicht.

Ted Honderich beschreibt Bewusstsein als etwas, das für ein Subjekt actual ist: Im Wahrnehmen existiert für jemanden eine Welt; im Denken und Fühlen sind Vorstellungen und Haltungen tatsächlich gegenwärtig. Ein LLM verarbeitet sprachliche Beziehungen. Es gibt keinen guten Grund anzunehmen, dass für das Modell dadurch etwas wirklich gegenwärtig wird.

Und Heideggers In-der-Welt-Sein meint keine Datenbank voller Weltwissen. Es meint eine praktisch erschlossene Welt, in der Dinge bedeutsam sind, etwas verlangen, Möglichkeiten eröffnen und in der für das existierende Wesen selbst etwas auf dem Spiel steht. Ein Kontextfenster ist keine Welt. Ein Tool-Aufruf ist noch kein In-der-Welt-Sein.

Keine dieser Theorien beweist für sich allein, was Bewusstsein letztlich ist. Aber alle machen denselben einfachen Punkt sichtbar: Über Bewusstsein entscheidet nicht, wie menschlich ein System über Bewusstsein reden kann.

Man könnte künstliches Bewusstsein vermutlich bauen

Dass heutige LLMs nicht bewusst sind, heißt nicht, dass künstliches Bewusstsein unmöglich wäre.

Man könnte versuchen, ein System zu bauen, das dauerhaft aktiv ist, sich selbst und seine Umwelt modelliert, eigene Aufmerksamkeitsprozesse steuert, ein autobiografisches Gedächtnis besitzt, körperlich oder technisch in eine Umwelt eingebettet ist und dessen Handlungen reale Folgen für den eigenen Zustand haben.

Ein solches System bräuchte vermutlich eine hohe rekurrente Aktivität, kontinuierliche Wahrnehmung, starke interne kausale Rückkopplung, eigene Bedürfnisse oder zumindest homöostatische Zustände und eine zeitlich stabile Perspektive auf sich selbst.

Das wäre teuer. Nicht nur in Geld, sondern in Hardware und Energie. Ein menschliches Gehirn läuft ununterbrochen, verarbeitet Körperzustände, Wahrnehmung, Erinnerung, Aufmerksamkeit, Bewegung und soziale Umwelt zugleich. Wer technisch etwas Vergleichbares erzeugen will, wird vermutlich weit mehr bauen müssen als einen großen Textgenerator, der bei Bedarf gestartet wird.

Vielleicht gelingt das eines Tages. Ich halte das keineswegs für ausgeschlossen.

Aber wir werden künstliches Bewusstsein nicht versehentlich erzeugen, indem wir Autocomplete immer größer machen.

Die Debatte ist nicht gelöst. Sie ist nur vernünftiger geworden

Agenten haben nicht bewiesen, dass Maschinen niemals bewusst sein können. Sie haben etwas viel Nützlicheres getan: Sie haben den Unterschied zwischen sprachlicher Wirkung und technischer Wirklichkeit sichtbar gemacht.

Seit wir mit Agenten arbeiten, fragen wir weniger, was das System angeblich fühlt. Wir fragen, was es versteht, was es tun darf, wie es Fehler erkennt und wer für seine Handlungen verantwortlich bleibt.

Das ist kein Verlust an philosophischer Tiefe.

Es ist das Ende einer ziemlich oberflächlichen Projektion.

Den technischen Teil dieses Diskurswechsels beschreibe ich auf Aporeo: Niemand fragt mehr, ob der Agent bewusst ist.

Weiterführende Quellen