Originalarbeiterreichbar
Qwen, Modellkarte Qwen3-30B-A3B-Instruct-2507
huggingface.co (externe Seite)
Die Modellkarte der Fassung 2507 ohne Denkmodus, angelegt am 28.07.2025, zuletzt geändert am 17.09.2025 (Commit 0d7cf23), Lizenz Apache 2.0. Sie nennt 30,5 Milliarden Parameter gesamt und 3,3 Milliarden aktive, 32 Abfrage- und 4 Schlüssel-Wert-Köpfe und 262.144 Token Kontext. Für eine Million Token gibt sie rund 240 GB Grafikspeicher an, für Gewichte, Schlüssel-Wert-Speicher und Aktivierungen zusammen. Alle Angaben sind Selbstauskunft des Herstellers.
geprüft 10.11.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 19.10.2026:
30.5B in total and 3.3B activated
bestätigt 10.11.202632 for Q and 4 for KV
bestätigt 10.11.2026Context Length: 262,144 natively
bestätigt 10.11.2026If you encounter out-of-memory (OOM) issues, consider reducing the context length to a shorter value, such as 32,768
bestätigt 10.11.2026To effectively process a 1 million token context, users will require approximately 240 GB of total GPU memory.
bestätigt 10.11.2026This accounts for model weights, KV-cache storage, and peak activation memory demands.
bestätigt 10.11.2026Consider reducing the max_model_len or increasing the tensor_parallel_size and gpu_memory_utilization
bestätigt 10.11.2026