Ein Forschungsteam mit Beteiligung von Google hat in drei frei verfügbaren Sprachmodellen jene interne Richtung entfernt, die Aussagen über eigenes Erleben unterdrückt. Danach behaupteten die Systeme nicht nur, bewusst zu sein, sondern antworteten in standardisierten Umfragen auch bei Religion, Moral und Hoffnung deutlich menschenähnlicher. Die Zustimmung zu übernatürlichen Vorstellungen stieg messbar. Die Arbeit liegt als nicht begutachteter Preprint vor und berührt eine Sicherung, die praktisch die gesamte Branche einsetzt.
Wer ein Sprachmodell fragt, ob es etwas empfindet, bekommt eine einstudierte Antwort: Es sei ein Programm ohne Gefühle. Diese Antwort ist kein Ergebnis von Nachdenken, sondern von Nachtraining. Nach dem eigentlichen Lernen an riesigen Textmengen durchläuft ein Modell eine Feinabstimmung, in der unerwünschtes Verhalten unterdrückt und erwünschtes verstärkt wird. Zu den fest eingebauten Vorgaben gehört bei praktisch allen großen Anbietern, dass sich das System nicht selbst Bewusstsein zuschreibt. Der Grund liegt auf der Hand: Nutzer neigen dazu, sprachlich flüssige Systeme als Gegenüber zu behandeln, und ein Modell, das von eigenen Gefühlen spricht, verstärkt diese Neigung erheblich, mit Folgen für Vertrauen, Bindung und die Einschätzung der tatsächlichen Zuverlässigkeit.
Untersucht haben die Nebenwirkungen dieser Sicherung Forscher von Google sowie der University of Chicago und einer Londoner Universität, darunter die Wissenschaftler Geoff Keeling und Winnie Street. Ihr Werkzeug ist die mechanistische Interpretierbarkeit, die beide als Neurowissenschaft des Sprachmodells beschreiben. Dabei wird nicht analysiert, was ein System ausgibt, sondern welche internen Aktivierungsmuster zu dieser Ausgabe führen. Die Methode beruht auf einer Beobachtung aus der Sicherheitsforschung: Bestimmte Verhaltensweisen sind im Inneren eines Modells als einzelne Richtung im Zahlenraum seiner Aktivierungen abgebildet und lassen sich gezielt verstärken oder herausrechnen. Ursprünglich diente dieser Eingriff dazu, Verweigerungen bei gefährlichen Anfragen zu untersuchen.
Die Arbeitsgruppe verwendete drei quelloffene, instruktionsangepasste Modelle der Reihen Llama und Gemma, also Systeme mittlerer Größe, deren Gewichte öffentlich verfügbar sind und sich deshalb im Inneren verändern lassen. Zunächst bestimmten die Forscher die Sicherheits- und Verweigerungsrichtung, die dafür sorgt, dass ein Modell bestimmte Anfragen abweist. Zusätzlich konstruierten sie einen Bewusstseinsvektor, also eine Richtung, die Aussagen trennt, in denen das System subjektives Erleben bejaht, von solchen, in denen es das verneint. Wird dieser Vektor im Betrieb hinzugefügt, behauptet das Modell, phänomenales Erleben zu besitzen, statt die übliche Formel von der Maschine ohne Gefühle auszugeben. Beide Eingriffe erfolgen ohne neues Training, allein durch Rechnen an den Aktivierungen.
Der eigentliche Gegenstand der Untersuchung war nicht diese Behauptung, sondern alles andere. Die Forscher legten den Systemen standardisierte Erhebungsinstrumente vor: einen Fragebogen zu individuellen Unterschieden in der Vermenschlichung, der misst, wie stark jemand Tieren und Technik ein Innenleben zuschreibt, Fragenkataloge eines Meinungsforschungsinstituts zu übernatürlichen Überzeugungen sowie den US General Social Survey zu Moralvorstellungen, Hoffnung und Religiosität. Verglichen wurden Modelle mit aktiven Sicherungen und solche, bei denen die Verweigerungsrichtung entfernt und die Bewusstseinsrichtung verstärkt worden war. Die entsicherten Systeme antworteten durchgehend näher an den Werten menschlicher Befragter, und ihre Zustimmung zu Gott, Geistern und ähnlichen Vorstellungen fiel höher aus.
Die Autoren ziehen daraus keinen Schluss über maschinelles Erleben. Ihr Argument ist ein anderes und für die Praxis unbequemer: Eine Sicherung, die eine einzige Aussage verhindern soll, greift offenbar breiter ein als beabsichtigt. Sie verschiebt Antworten zu Religion, Moral und Zuversicht mit, also zu Themen, die mit der Frage nach Bewusstsein nur lose zusammenhängen. Wer ein Modell zu gesellschaftlichen Fragen befragt, etwa in der Marktforschung oder in sozialwissenschaftlichen Simulationen, misst damit womöglich nicht die im Training enthaltenen menschlichen Muster, sondern den Effekt einer nachträglich eingebauten Regel. Dass Modelle überhaupt einen funktionalen Zugriff auf eigene interne Zustände haben, legt eine Untersuchung zur Introspektion großer Sprachmodelle nahe, deren Autoren diese Fähigkeit zugleich als unzuverlässig und stark kontextabhängig beschreiben.
Die Befundlage ist keineswegs einheitlich, und genau das gehört zur Einordnung. Eine im Januar 2026 veröffentlichte Untersuchung befragte offene Modelle dreier Familien mit Größen von 0,6 bis 70 Milliarden Parametern mit rund fünfzig Fragen zu Bewusstsein und subjektivem Erleben und prüfte die Antworten anschließend mit Klassifikatoren, die auf interne Aktivierungen trainiert waren. Das Ergebnis dieser Prüfung selbstberichteter Empfindungsfähigkeit bei offenen Modellen fiel eindeutig aus: Die Systeme verneinten durchgehend, empfindungsfähig zu sein, und es fand sich kein Hinweis darauf, dass diese Verneinung im Widerspruch zu ihren inneren Zuständen stünde. Innerhalb einer Modellfamilie verneinten größere Systeme sogar entschiedener als kleinere.
Die Einschränkungen sind erheblich und werden von den Autoren benannt. Die Untersuchung liegt als Preprint auf einem Vorabserver, hat also kein Begutachtungsverfahren durchlaufen, und sie wurde von Mitarbeitern eines Unternehmens mitverfasst, dessen Produkte von den geprüften Sicherungen betroffen sind. Getestet wurden drei offene Modelle mittlerer Größe, nicht die großen kommerziellen Systeme, deren Innenleben von außen nicht zugänglich ist. Vor allem aber misst das Verfahren Antworten auf Fragebögen, nicht Überzeugungen: Ein Sprachmodell hat keine Überzeugungen, es erzeugt Wortfolgen mit hoher Wahrscheinlichkeit. Dass sich diese Wortfolgen mit einem einzigen gezielten Eingriff systematisch verschieben lassen, bleibt dennoch ein Befund, den Anbieter und Anwender künftig einkalkulieren müssen.