SchlüsselarbeitOriginalarbeiterreichbar
Lost in the Middle: How Language Models Use Long Contexts
aclanthology.org (externe Seite)
Die Arbeit von Nelson F. Liu und sechs weiteren, aus der der Ausdruck stammt. Sie misst, wie sich die Antwortgüte ändert, wenn dieselbe Information an verschiedenen Stellen eines langen Kontexts steht, und findet einen U-förmigen Verlauf: Anfang und Ende werden zuverlässig genutzt, die Mitte nicht. Erschienen in den Transactions of the Association for Computational Linguistics 2024, DOI 10.1162/tacl_a_00638.
geprüft 24.09.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 31.07.2026:
performance is often highest when relevant information occurs at the beginning or end of the input context, and significantly degrades when models must access relevant information in the middle of long contexts, even for explicitly long-context models
bestätigt 24.09.2026current language models do not robustly make use of information in long input contexts
bestätigt 24.09.2026