Dokumentationnoch nicht geprüft
ggml, Quantisieren und Zurückrechnen in ggml-quants.c beim Commit a4d4f2f
raw.githubusercontent.com (externe Seite)
Die Datei, in der ggml seine Blockformate quantisiert und zurückrechnet, im Stand vom 09.11.2026. Bei Q4_0 zieht das Zurückrechnen von jedem 4-Bit-Wert 8 ab und multipliziert mit der Skala des Blocks, die Werte reichen also von minus 8 bis 7. Die Adresse zeigt auf einen festen Stand.