Ankündigung des Herstellerserreichbar
Transformers now runs llama.cpp quants
huggingface.co (externe Seite)
Hugging-Face-Blogbeitrag zur neuen GGUF-Unterstützung in Transformers mit Dateigrößen der Quantisierungsstufen als Beleg.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 28.09.2026:
To get started, you need: an Apple Silicon Mac
bestätigt 10.11.2026The latest version of transformers (main for now, until the next release)
bestätigt 10.11.2026our initial focus is local inference on Apple Silicon, starting with the Qwen3.5 architecture
bestätigt 10.11.2026
Transformers unterstützt jetzt GGUF-Quantisierungen von llama.cpp