Originalarbeiterreichbar
Subliminal Learning: Language models transmit behavioral traits via hidden signals in data
Cloud und Mitautoren beschreiben am 20.07.2025 Subliminal Learning. Ein Lehrer mit einer Eigenschaft, etwa einer Vorliebe für Eulen oder einer Fehlausrichtung, erzeugt reine Zahlenfolgen, und ein Schüler, der an diesen Folgen lernt, übernimmt die Eigenschaft. Das gilt auch dann, wenn jede Erwähnung herausgefiltert ist, und ebenso für Code und Denkspuren. Bei unterschiedlichen Grundmodellen von Lehrer und Schüler beobachteten die Autoren den Effekt nicht. Die Arbeit entstand im Anthropic Fellows Program, ein Mitautor arbeitet bei Anthropic. Vorabdruck auf ar
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 19.10.2026:
a surprising phenomenon where language models transmit behavioral traits via semantically unrelated data
bestätigt 10.11.2026This occurs even when the data is filtered to remove references to T.
bestätigt 10.11.2026We observe the same effect when training on code or reasoning traces generated by the same teacher model.
bestätigt 10.11.2026However, we do not observe the effect when the teacher and student have different base models.
bestätigt 10.11.2026Distillation could propagate unintended traits, even when developers try to prevent this via data filtering.
bestätigt 10.11.2026