Originalarbeiterreichbar
Arditi u. a., Refusal in Language Models Is Mediated by a Single Direction
Die Arbeit, die das Ablehnen schädlicher Anfragen in 13 offenen Chatmodellen bis 72 Milliarden Parameter auf eine einzelne Richtung im Inneren des Modells zurückführt. Wird sie aus den Zwischenergebnissen entfernt, lehnt das Modell nicht mehr ab; wird sie hinzugefügt, lehnt es auch Harmloses ab. Daraus entsteht ein Verfahren, das das Ablehnen bei kaum veränderten übrigen Fähigkeiten abschaltet. Es braucht Zugriff auf die Gewichte. Erste Fassung 17.06.2024, zitiert nach v3 vom 30.10.2024.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 05.10.2026:
we show that refusal is mediated by a one-dimensional subspace, across 13 popular open-source chat models up to 72B parameters in size
bestätigt 10.11.2026Our findings underscore the brittleness of current safety fine-tuning methods.
bestätigt 10.11.2026