Dokumentationerreichbar

Ollama, Context length

Ollamas Dokumentation zur Kontextlänge, Quelle im Repo docs/context-length.mdx (Stand Commit 8583859, 12.10.2026). Ohne eigene Angabe wählt Ollama die Länge nach dem Grafikspeicher: unter 24 GiB 4.096 Token, von 24 bis 48 GiB 32.768, ab 48 GiB 262.144. Die Seite sagt dazu, dass eine größere Länge mehr Speicher braucht. Die Staffel steht dort seit dem 11.02.2026.

geprüft 10.11.2026

Worauf sich diese Seite beruft, wörtlich, abgerufen am 19.10.2026:

Ollama defaults to the following context lengths based on VRAM:bestätigt 10.11.2026
< 24 GiB VRAM: 4k contextbestätigt 10.11.2026
24-48 GiB VRAM: 32k contextbestätigt 10.11.2026
>= 48 GiB VRAM: 256k contextbestätigt 10.11.2026
Setting a larger context length will increase the amount of memory required to run a model.bestätigt 10.11.2026

01 Wo Modelle betrieben werden 04 Was ein Modell an Hardware braucht

Alle Quellen