Originalarbeiterreichbar

RAFT: Adapting Language Model to Domain Specific RAG

Zhang, Patil und fünf Mitautoren (UC Berkeley), arXiv-Fassung v2 vom 05.06.2024. Die Arbeit verbindet Training und Suche: Das Modell lernt an Fragen mit beigelegten Dokumenten, die passenden zu nutzen und die unpassenden zu übergehen. Gemessen ist das vor allem an PubMed, HotpotQA und den Gorilla-Datensätzen, mit einer Suche davor. PubMed und Gorilla nennt die Arbeit Fachgebiete, HotpotQA zählt sie mit Natural Questions und TriviaQA zu den eher allgemeinen.

geprüft 10.11.2026

Worauf sich diese Seite beruft, wörtlich, abgerufen am 21.10.2026:

However, the best methodology to incorporate information remains an open question.bestätigt 10.11.2026
we train the model to ignore those documents that don’t help in answering the question, which we call, distractor documentsbestätigt 10.11.2026
In domain specific RAG, RAFT consistently improves the model’s performance across PubMed, HotpotQA, and Gorilla datasetsbestätigt 10.11.2026
We would like to highlight that (NQ, Trivia QA, and HotpotQA) are relatively general domainbestätigt 10.11.2026

08 Woran es fehlt, entscheidet den Weg

Alle Quellen