Originalarbeiterreichbar

Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations?

Gekhman, Yona, Aharoni, Eyal, Feder, Reichart und Herzig (Google, Technion), arXiv-Fassung v3 vom 01.10.2024, laut arXiv-Kopf als Langbeitrag der EMNLP 2024 angenommen. Die Arbeit trainiert ein Modell mit Frage-Antwort-Paaren, deren Antwort es teils schon kennt und teils nicht. Beispiele mit neuem Wissen lernt es deutlich langsamer, und sobald es sie gelernt hat, erfindet es häufiger Antworten. Laut Einleitung senken ein früher Abbruch des Trainings und das Aussortieren unbekannter Beispiele dieses Risiko. Gemessen ist ein Modell (PaLM 2-S, Grundmodell) an geschlossenen Fragen ohne Kontext aus EntityQuestions, die auf Wikidata beruhen. Für lange Texte sind die Folgerungen nach dem Abschnitt Limitations noch zu prüfen.

geprüft 10.11.2026

Worauf sich diese Seite beruft, wörtlich, abgerufen am 21.10.2026:

We demonstrate that large language models struggle to acquire new factual knowledge through fine-tuning, as fine-tuning examples that introduce new knowledge are learned significantly slower than those consistent with the model’s knowledge.bestätigt 10.11.2026
However, we also find that as the examples with new knowledge are eventually learned, they linearly increase the model’s tendency to hallucinate.bestätigt 10.11.2026
Taken together, our results highlight the risk in introducing new factual knowledge through fine-tuning, and support the view that large language models mostly acquire factual knowledge through pre-training, whereas fine-tuning teaches them to use it more efficiently.bestätigt 10.11.2026

02 Ein Modell auf eigene Daten abstimmen 08 Woran es fehlt, entscheidet den Weg

Alle Quellen