Originalarbeiterreichbar
Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
Positionspapier von Tomek Korbak und 40 Mitautoren, darunter Yoshua Bengio und Jakub Pachocki, eingereicht am 15.07.2025, zweite Fassung vom 07.12.2025. Es hält die Überwachung der Denkspur für eine Chance der KI-Sicherheit, die verloren gehen kann, und empfiehlt den Entwicklern, ihre Entwicklungsentscheidungen daraufhin zu bedenken. Abschnitt 2 nennt neue Architekturen mit Rechnung im inneren Zahlenraum als Gefahr, mit Recurrent Depth und Coconut als Beispielen.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 06.10.2026:
Because Co
bestätigt 10.11.2026T monitorability may be fragile, we recommend that frontier model developers consider the impact of development decisions on Co T monitorability.
Die Denkspur als Fenster ins Modell, und was GPT-6 Astra daran ändertLooped Transformer: Ein Modell, das denselben Block mehrfach durchläuft