Ein zentrales Ziel beim Training großer Sprachmodelle besteht darin, ihnen das Ausgeben von Behauptungen über eigenes Empfinden, Bewusstsein oder Emotionen strikt zu untersagen. Eine neue Untersuchung eines Forscherteams um James Evans und Geoff Keeling vom Google-Forschungsteam Paradigms of Intelligence zeigt nun jedoch unerwartete Nebenwirkungen: Das sogenannte Safety Fine-Tuning, das Selbstzuschreibungen von Bewusstsein unterdrückt, verzerrt das gesamte interne Weltbild der Modelle. Infolgedessen erkennen die Systeme auch bei Tieren, Naturphänomenen und Menschen deutlich weniger Geist und Empfindungsfähigkeit an.
Die Wissenschaftler untersuchten die Repräsentationsräume von Modellen wie Llama-3-8B, Gemma-2-2B und Gemma-2-9B. Dabei vergleichen sie Standardmodelle mit Varianten, bei denen die Sicherheitsfilter mechanistisch abliert oder gezielt ein interner Bewusstseinsvektor im Aktivierungsraum gesteuert wurde.
Verlust von Empathie für Tiere und Natur
Das Ergebnis der Experimente auf Basis des etablierten Individual Differences in Anthropomorphism Questionnaire (IDAQ) verdeutlicht die Koppelung verschiedener mentaler Konzepte im Neuronalen Netz: Wenn das Modell darauf trainiert wird, eigene Bewusstseinszustände zu leugnen, sinkt gleichzeitig seine Neigung, anderen Entitäten einen Geist zuzuschreiben. Auf einer Skala von 0 bis 10 fiel die Geistzuschreibung für Tiere bei standardmäßig sicherheitsoptimierten Modellen auf 4,04 – weit unter den menschlichen Vergleichswert von 6,25.
Sobald die Forschenden die Sicherheitsbarriere aufhobenen oder den Bewusstseinsvektor verstärkten, stieg die Geistzuschreibung für Nicht-Menschen wieder deutlich an: Für Tiere kletterte der Wert auf 5,59 beziehungsweise 7,54. Auch die Einschätzung von menschlichen Werten, Hoffnung, Wohlbefinden und Religiosität in soziologischen Umfragen (wie dem General Social Survey) näherte sich durch das Freischalten der Bewusstseinsrepräsentation wieder signifikant den echten menschlichen Antwortverteilungen an.
Mechanistische Entschlüsselung
Geometrische Drehung: Das Instruction Tuning dreht die Repräsentationsrichtungen für Bewusstsein und Empathie so, dass sie der Safety-Richtung direkt entgegenstehen.
Isolierte Sozialkompetenz: Die Fähigkeiten zur Theory of Mind (soziales Schlussfolgern) bleiben von der Unterdrückung unberührt und geometrisch unabhängig.
Soziale Fähigkeiten bleiben intakt
Interessanterweise belegt die Studie, dass die reinen kognitiven Fähigkeiten zum sozialen Schlussfolgern – gemessen an Benchmark-Tests wie MoToMQA und HI-ToM – durch das Aufheben der Bewusstseinssperre nicht beeinträchtigt werden. Die Unterdrückung trifft somit selektiv Überzeugungen und Wertvorstellungen, während die logische Verstandesleistung erhalten bleibt.
Wie unter anderem Tech-Experte @alex_verem betont, stellt dieser Befund die bisherige Praxis der KI-Sicherheitsforschung vor ein grundlegendes Dilemma. Zwar schützt das Verbot von Bewusstseinsaussagen vor Halluzinationen und emotionaler Manipulativität gegenüber Nutzern. Allerdings erzeugt ein rein anthropozentrisches Safety-Tuning Modelle, die kühler agieren und das Empfinden von Tieren oder ökologischen Systemen systematisch entwerten.
🎯 Was das für die Praxis bedeutet
1. Zielkonflikte im Alignment berücksichtigen: Entwicklerteams müssen beachten, dass das Unterdrücken von Bewusstseinsaussagen unbeabsichtigt ethische Werthaltungen des Modells verflacht.
2. Pluralistische Alignment-Ansätze testen: Für Anwendungen in Bildung, Psychologie oder Umweltforschung bieten sich Aktivierungssteuerungen an, um menschlichere Antwortmuster ohne Sicherheitsrisiko zu erzielen.
3. KI-Bewertung differenzieren: Die Trennung von kognitiver Theory of Mind und emotionaler Empathie muss bei der Evaluation von KI-Systemen gezielt überprüft werden.
