SchlüsselarbeitOriginalarbeiterreichbar
Algorithmic progress in language models
Ho und Mitautoren von Epoch AI messen am 09.03.2024 an über 200 Auswertungen aus den Jahren 2012 bis 2023, wie schnell die Verfahren selbst besser werden: Für dieselbe Leistung genügt in immer kürzeren Abständen die halbe Rechenleistung. Die Arbeit ordnet den Befund selbst ein, und der Nebensatz dazu fehlt in fast jeder Wiedergabe: Der Zuwachs an Rechenleistung hat im selben Zeitraum noch mehr beigetragen als die besseren Verfahren.
geprüft 24.09.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 29.08.2026:
the compute required to reach a set performance threshold has halved approximately every 8 months, with a 95% confidence interval of around 5 to 14 months, substantially faster than hardware gains per Moore's Law
bestätigt 24.09.2026our analysis reveals that the increase in compute made an even larger contribution to overall performance improvements over this time period
bestätigt 24.09.2026Though limited by noisy benchmark data
bestätigt 24.09.2026