Originalarbeiterreichbar
Mitigate Position Bias in LLMs via Scaling a Single Hidden States Channel
aclanthology.org (externe Seite)
Yijiong Yu und acht weitere zeigen 2025, dass der Effekt bei Modellen mit langem Kontextfenster fortbesteht, und führen ihn auf bestimmte Kanäle in den verborgenen Zuständen zurück. Der Beleg dafür, dass ein größeres Fenster die Sache nicht erledigt. Erschienen in den Findings of the ACL 2025.
geprüft 24.09.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 31.07.2026:
Long-context language models (LCLMs) can process long context, but still exhibit position bias
bestätigt 24.09.2026