Originalarbeiterreichbar
Automated Subtle Emergent Misalignment Research
alignment.anthropic.com (externe Seite)
Beitrag im Alignment Science Blog von Anthropic: beschreibt den Versuch, mit einem Claude-Modell Trainingsdaten zu erzeugen, die einen Monitor passieren und ein kleines Modell fehlausrichten.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 01.11.2026:
Given enough attempts, it succeeded, mostly by hiding the behavior in fiction and roleplay.
bestätigt 10.11.2026While the data was optimized for this game and the resulting models never deployed, the search surfaced a kind of training data that looks harmless to monitors but teaches misaligned behavior.
bestätigt 10.11.2026