Dokumentationerreichbar
OpenAI, Moderation
developers.openai.com (externe Seite)
Die Prüfung von Inhalten vor und hinter dem Modell, als eigene Schnittstelle. Zwei Angaben reichen dabei weiter als die Sache selbst. Bei einem Tool Call erfasst die Prüfung die übergebenen Argumente und die Ausgabe des Tools, während Tool-Namen, Beschreibungen und Schemata ausdrücklich außerhalb bleiben. Und bei einer stückweise gelieferten Antwort liegen die Prüfwerte erst vor, wenn der Text vollständig erzeugt ist.
geprüft 24.09.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 07.08.2026:
Use OpenAI moderation models to detect harmful content in text and images.
bestätigt 24.09.2026For tool-calling requests, moderation covers tool-call arguments and tool outputs when they appear in conversation content.
bestätigt 24.09.2026It doesn't cover tool names, tool descriptions, tool schemas, or response-format schemas.
bestätigt 24.09.2026If you stream a generated response, moderation scores arrive after the full generated output is available.
bestätigt 24.09.2026