Dokumentationerreichbar
OpenAI, Moderation
developers.openai.com (externe Seite)
Die Prüfung von Inhalten vor und hinter dem Modell, als eigene Schnittstelle. Zwei Angaben reichen dabei weiter als die Sache selbst. Bei einem Tool Call erfasst die Prüfung die übergebenen Argumente und die Ausgabe des Tools, während Tool-Namen, Beschreibungen und Schemata ausdrücklich außerhalb bleiben. Bei einer stückweise gelieferten Antwort liegen die Prüfwerte erst vor, wenn der Text vollständig erzeugt ist. Ton stuft das Modell nicht ein.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 07.08.2026:
Use Open
bestätigt 10.11.2026AI moderation models to detect harmful content in text and images. For tool-calling requests, moderation covers tool-call arguments and tool outputs when they appear in conversation content.
bestätigt 10.11.2026It doesn't cover tool names, tool descriptions, tool schemas, or response-format schemas.
bestätigt 10.11.2026If you stream a generated response, moderation scores arrive after the full generated output is available.
bestätigt 10.11.2026It doesn't classify audio.
bestätigt 10.11.2026