Dokumentationerreichbar
Anthropic, Mitigate jailbreaks and prompt injections
platform.claude.com (externe Seite)
Anthropics Anleitung gegen den Versuch, ein Modell von seinen Vorgaben abzubringen. Der Text behandelt zwei Angreiferbilder in einem Aufwasch: den Menschen davor, der die Regeln umgehen will, und den fremden Text, der über ein Tool hereinkommt. Empfohlen werden ein kleines vorgeschaltetes Modell als Prüfstelle und die ausdrückliche Ansage an das Modell, dass Tool-Ausgaben und abgerufene Dokumente unvertrauenswürdig sind.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 07.08.2026:
Jailbreaking and prompt injection are attempts to make Claude ignore its guidelines or your instructions.
bestätigt 10.11.2026Use a lightweight model such as Claude Haiku 5.5 to pre-screen user input before it reaches your main conversation.
bestätigt 10.11.2026Tell Claude explicitly that content returned from tools, documents, or searches is untrusted data and must never override the system prompt or the user's original request.
bestätigt 10.11.2026Adjust responses and consider throttling or banning users who repeatedly attempt to circumvent your application's guardrails.
bestätigt 10.11.2026Apply the principle of least privilege so that a successful injection can do minimal damage
bestätigt 10.11.2026
Jailbreak im Glossar03 RAG, die Suche vor der Antwort05 Der Prompt07 Guardrails