Dokumentationerreichbar

vLLM 0.32.0, Tool Calling

Die Doku von vLLM zu Toolaufrufen in der Fassung 0.32.0. Der Server erkennt einen Toolaufruf in der Ausgabe des Modells und gibt ihn als Daten zurück. Ausführen muss ihn die aufrufende Anwendung.

geprüft 10.11.2026

Worauf sich diese Seite beruft, wörtlich, abgerufen am 20.10.2026:

Remember that it's the caller's responsibility to:bestätigt 10.11.2026
Handle the tool calls in your application logicbestätigt 10.11.2026

Laufzeitumgebung im Glossar 05 Womit ein Modell läuft

Alle Quellen