Originalarbeiterreichbar
The case for reasoning transparency
institute.deepmind.com (externe Seite)
Essay von Shah und Dragan im Deep
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 10.10.2026:
My trust in reality is fading
bestätigt 10.11.2026greatly increased ability to reason within a single forward-pass, and ability to control the content of its chain of thought
bestätigt 10.11.2026extremely high-dimensional space of numbers that is, by default, incomprehensible to humans
bestätigt 10.11.2026the longest step-by-step computation a model can do without needing to use a human-readable mechanism like Chain of Thought
bestätigt 10.11.2026we should avoid directly training the Chain of Thought to appear aligned and non-deceptive
bestätigt 10.11.2026suppressing certain thoughts, or concealing them in code words, innuendo, or hidden patterns
bestätigt 10.11.2026
Die Denkspur als Fenster ins Modell, und was GPT-6 Astra daran ändertDeepMind warnt, dass die sichtbare Gedankenkette von KI-Modellen an Aussagekraft verliert