Dokumentationerreichbar
ggml, Blockformate in ggml-common.h beim Commit a4d4f2f
Die Datei, in der ggml den Aufbau seiner quantisierten Blöcke festlegt, im Stand vom 09.11.2026. Ein Block von Q4_0 fasst 32 Gewichte mit einer gemeinsamen Skala in 16 Bit. Q4_K und Q6_K bauen auf Superblöcken von 256 Gewichten auf. Der Permalink zeigt auf einen festen Stand.
geprüft 10.11.2026