Dokumentationerreichbar

OpenAI Cookbook, How to run gpt-oss locally with Ollama

Die Anleitung von OpenAI, gpt-oss mit Ollama auf dem eigenen Rechner auszuführen. Gleich zu Beginn trennt sie zwei Fälle: Sie gilt für PC und Mac, für Server mit eigenen Grafikkarten verweist sie auf vLLM. Ollama bildet laut der Seite das Gesprächsformat harmony mit einer Vorlage nach.

geprüft 10.11.2026

Worauf sich diese Seite beruft, wörtlich, abgerufen am 20.10.2026:

Note that this guide is meant for consumer hardware, like running a model on a PC or Mac.bestätigt 10.11.2026
For server applications with dedicated GPUs like NVIDIA’s H100s, check out our vLLM guide.bestätigt 10.11.2026
Ollama applies a chat template out of the box that mimics the OpenAI harmony format.bestätigt 10.11.2026
You can offload to CPU if you’re short on VRAM, but expect it to run slower.bestätigt 10.11.2026

05 Womit ein Modell läuft

Alle Quellen