Dokumentationerreichbar

Text Generation Inference, README beim Commit b4adbf2

Die README von TGI, dem Inferenz-Server von Hugging Face. Ein Hinweis am Anfang stellt das Projekt seit dem 11.12.2025 in den Wartungsmodus. Als Nachfolger empfiehlt er vLLM und SGLang, für den eigenen Rechner llama.cpp und MLX. Lizenz Apache 2.0 laut Datei LICENSE beim selben Commit. Der Permalink zeigt auf einen festen Stand.

geprüft 10.11.2026

Worauf sich diese Seite beruft, wörtlich, abgerufen am 20.10.2026:

text-generation-inference is now in maintenance mode.bestätigt 10.11.2026
Going forward, we will accept pull requests for minor bug fixes, documentation improvements and lightweight maintenance tasks.bestätigt 10.11.2026

05 Womit ein Modell läuft

Alle Quellen