Dokumentationerreichbar

TensorRT-LLM, README beim Commit a3766d6

Die README von TensorRT-LLM, der quelloffenen Bibliothek von NVIDIA für Inferenz auf den eigenen Grafikkarten. Lizenz Apache 2.0 laut Datei LICENSE beim selben Commit. Der Permalink zeigt auf einen festen Stand.

geprüft 10.11.2026

Worauf sich diese Seite beruft, wörtlich, abgerufen am 20.10.2026:

TensorRT LLM is an open-sourced library for optimizing LLM and Visual Gen inference.bestätigt 10.11.2026
to perform inference efficiently on NVIDIA GPUsbestätigt 10.11.2026

05 Womit ein Modell läuft

Alle Quellen