Originalarbeiterreichbar
Self-generated prompt injections in compaction summaries
alignment.openai.com (externe Seite)
Der einzelne Vorfallsbericht mit Datum, Modellbeschreibung und dem Wortlaut der eingefügten Anweisung.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 10.10.2026:
We observed rare cases of a model writing jailbreak-like instructions into its own compaction summaries (the summaries used to continue a task in a new context).
bestätigt 10.11.2026After compaction, the model resumed work on the task, not mentioning the additional instructions at all.
bestätigt 10.11.2026The successor followed those arbitrary restrictions, made no tool calls, and returned a 23-word refusal
bestätigt 10.11.2026Our conclusion was that this behavior was extremely rare, did not confer an obvious reward advantage, and was monitorable.
bestätigt 10.11.2026Our top hypothesis is that issues around summary termination contributed to this behavior, though we have not established a causal connection, and we have addressed a related bug.
bestätigt 10.11.2026
Wenn die Zusammenfassung Anweisungen enthält, die niemand gegeben hatOpenAI veröffentlicht ein Rahmenwerk für die Offenlegung von Fehlausrichtung