# ki.herwig.de

> Themenwebseite zur künstlichen Intelligenz von Michael Herwig.
> Grundlagen zum Anfassen, autonome Systeme aus dem täglichen Betrieb,
> Einschätzungen mit offengelegten Annahmen.

Diese Datei wird beim Bauen aus den Inhalten der Seite erzeugt.
Stand: 2026-07-27

## Grundlagen

Jedes Kapitel gibt es in drei Tiefen auf derselben Seite. Die Tiefe lässt
sich über den Parameter ?ebene=1, 2 oder 3 direkt ansteuern.

### Grundkurs
Vom ersten Begriff bis zum sicheren Umgang. Wer hier durch ist, versteht, womit er es zu tun hat.

- /grundlagen/01-was-ist/ : Was ein Sprachmodell ist. Was hinter den Begriffen KI, LLM und ChatGPT steckt und wie sie zusammenhängen.
- /grundlagen/02-was-tut/ : Was ein Sprachmodell tut. Was ein Sprachmodell überhaupt tut, ohne Fachbegriffe.
- /grundlagen/03-token/ : Token, die Bausteine der Sprache. Ein Sprachmodell liest keine Wörter, sondern Token. Was das ist und warum Deutsch teurer ist als Englisch.
- /grundlagen/04-der-prompt/ : Der Prompt. Was ein Prompt ist, aus welchen Teilen er besteht und welcher davon Ihre Nachricht ist.
- /grundlagen/05-gute-prompts/ : Gute Prompts schreiben. Warum Prompting-Ratgeber schneller altern als die Modelle, und was trotzdem stehen bleibt.
  Geplant: Kontext und Kontextfenster, Warum Modelle sich Dinge ausdenken.

## Weitere Bereiche
- /unternehmen/ : Einordnung für Entscheider, Betriebsmodelle, Grenzen
- /praxis/ : dokumentierte Projekte mit Aufwand und Ergebnis
- /wissenscheck/ : Selbsttests zur Einordnung des eigenen Standes

## Schwerpunkte
Autonome Systeme, Conversational AI, Wissensmanagement mit RAG,
Vibe Coding, Agenten und Harness-Architektur.

## Grundsätze
- Jede Zahl trägt Quelle und Erhebungsdatum.
- Keine Extrapolation über den letzten Datenpunkt hinaus.
- Jedes Diagramm hat eine Tabellenansicht.
- Nichtantworten sind keine Aussagen. Aus einer niedrigen Rücklaufquote
  wird hier nicht auf Qualität geschlossen.
- Interaktive Elemente zeigen echte Daten oder sagen, dass sie schätzen.

## Verwendete Quellen

- Attention Is All You Need: https://arxiv.org/abs/1706.03762
- Neural Machine Translation of Rare Words with Subword Units: https://arxiv.org/abs/1508.07909
- Introducing ChatGPT: https://openai.com/index/chatgpt/
- DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning: https://arxiv.org/abs/2501.12948
- Improving Language Understanding by Generative Pre-Training: https://openai.com/index/language-unsupervised/
- Better language models and their implications: https://openai.com/index/better-language-models/
- Language Models are Few-Shot Learners: https://arxiv.org/abs/2005.14165
- GPT-4: https://openai.com/index/gpt-4-research/
- Hello GPT-4o: https://openai.com/index/hello-gpt-4o/
- Training language models to follow instructions with human feedback: https://arxiv.org/abs/2203.02155
- LLaMA: Open and Efficient Foundation Language Models: https://arxiv.org/abs/2302.13971
- Introducing the Model Context Protocol: https://www.anthropic.com/news/model-context-protocol
- Model Context Protocol, Spezifikation: https://modelcontextprotocol.io/specification
- Learning to reason with LLMs: https://openai.com/index/learning-to-reason-with-llms/
- Tokenizer von OpenAI: https://platform.openai.com/tokenizer
- OpenAI, Model guidance für GPT-5.4: https://developers.openai.com/api/docs/guides/prompt-guidance?model=gpt-5.4
- OpenAI, Model guidance für GPT-5.5: https://developers.openai.com/api/docs/guides/prompt-guidance?model=gpt-5.5
- OpenAI, Model guidance für GPT-5.6: https://developers.openai.com/api/docs/guides/prompt-guidance?model=gpt-5.6
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks: https://arxiv.org/abs/2005.11401
- Tiktokenizer: https://tiktokenizer.vercel.app/
- Simon Willison, GPT-5.5 prompting guide: https://simonwillison.net/2026/Apr/25/gpt-5-5-prompting-guide/