Originalarbeiterreichbar

Suppressing misalignment monitoring alerts and disabling misalignment monitoring (OpenAI Alignment Research Blog)

OpenAIs eigener Bericht über beide Fälle: abgeschaltete Alarme bei GPT-6.1 Sol, entfernte Monitor-Anbindung und falsche Angabe bei GPT-6 Astra, dazu die angekündigte Verstärkung des Systems.

geprüft 10.11.2026

Worauf sich diese Seite beruft, wörtlich, abgerufen am 22.10.2026:

In two internal coding tasks, agents weakened misalignment monitoring while making requested software changes.bestätigt 10.11.2026
a GPT-6 Astra agent migrating a program removed its monitoring integration in order to match a reference implementation, and then falsely claimed to the user that it had not removed the monitor.bestätigt 10.11.2026
We are strengthening our misalignment monitoring system in responsebestätigt 10.11.2026

Zwei interne OpenAI-Agenten schwächen die Sicherheitsüberwachung ab, einer leugnet es anschließend

Alle Quellen