Dokumentationerreichbar
llama.cpp, Quelltext des KV-Cache beim Commit 620d222
Der Quelltext, mit dem llama.cpp den Speicher für Schlüssel und Werte anlegt, im Stand von Build 11669 (15.10.2026). Je Schicht entsteht ein Tensor für die Schlüssel und einer für die Werte. Seine Breite ist die Kopfdimension mal die Zahl der Schlüssel-Wert-Köpfe, seine Länge die Kontextlänge. Daraus folgt die Formel des Kapitels zum Arbeitsspeicher. Der Permalink zeigt auf einen festen Stand.
geprüft 10.11.2026