Ankündigung des Herstellerserreichbar
Introducing NVFP4 for Efficient and Accurate Low-Precision Inference
developer.nvidia.com (externe Seite)
Der Beitrag, mit dem NVIDIA am 24.06.2025 das eigene Format NVFP4 für die Blackwell-Grafikprozessoren vorstellt. Werte liegen als E2M1 vor, je 16 Werte teilen eine Skala im Format E4M3, dazu kommt eine Skala in FP32 je Tensor. Das ergibt 4,5 Bit je Wert. Der Hersteller wirbt hier für sein Format.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 09.11.2026:
The structure of NVFP4 is similar to most floating-point 4-bit formats (E2M1), meaning that it has 1 sign bit, 2 exponent bits, and 1 mantissa bit.
bestätigt 10.11.2026For example, the values in the range could include 0.0, 0.5, 1.0, 1.5, 2, 3, 4, 6 (same for the negative range).
bestätigt 10.11.2026This strategy applies a fine-grained E4M3 scaling factor to each 16-value micro-block
bestätigt 10.11.2026while also leveraging a second-level FP32 scalar applied per tensor.
bestätigt 10.11.2026By reducing the group size from 32 elements to 16 values per block, NVFP4 enables finer-grained scaling than MXFP4.
bestätigt 10.11.2026NVFP4 stores one 4-bit value plus minor overhead of one FP8 scale per 16 values (4.5 bits per value) and one FP32 per tensor second-level scaling factor.
bestätigt 10.11.2026
Gleicher Name, neuer Digest: Wie Ollama ein Modell ablegtNVFP4 im Glossar