METR hält es für plausibel, dass Anthropic seine Früh­warn­schwelle zur Auto­ma­ti­sie­rung der KI-Ent­wick­lung schon im Juli über­schritten hatte

Am 5. November hat METR zwei Texte veröffentlicht. Der eine prüft den Abschnitt über Risiken aus automatisierter Forschung und Entwicklung in Anthropics Risikobericht vom August 2026, der andere schätzt selbst, wie stark KI die Ent­wick­lungs­ar­beit bei Anthropic im Oktober beschleunigt. Beide stammen von denselben Mitarbeitern. Sie hatten vom 12. August bis zum 29. Oktober Zugang zu internen Daten: Kennzahlen zu Vortraining und Reinforcement Learning, Rechenaufwand je Bereich, Benchmark-Ergebnisse interner Modelle, Analysen zur Beschleunigung durch KI, Prognosen für ein künftiges Modell und Gespräche mit Beschäftigten. METR nennt diesen Zugang bislang beispiellos.

Zwei Schwellen im Regelwerk RSP

Das Regelwerk RSP, in dem Anthropic Fähig­keits­schwellen festlegt, kennt in Version 3.4 zwei Auslöser für automatisierte Entwicklung. Der erste greift, wenn ein Modell sämtliche Forscher und For­schungs­in­ge­nieure des Unternehmens ersetzen kann, zu höchstens fünffachen Kosten. Der zweite greift bei einer drastischen Beschleunigung des Fortschritts, die wahrscheinlich auf automatisierte KI-Entwicklung zurückgeht. Anthropic versteht diese zweite Schwelle, eine Verdopplung des Tempos gegenüber der Zeit vor der KI-Beschleunigung, als Frühwarnung: Sie zeigt an, dass eine Gefahr näher rückt, bevor sie eingetreten ist.

Für beide Schwellen kam der Risikobericht vom August zu einem klaren Ergebnis. Die erste sei nicht erreicht, weil Anthropic starken Anreiz habe, Forschende durch Modelle zu ersetzen, und trotzdem weiter Menschen die Arbeit erledigen. Bei der zweiten zeigten die Frühindikatoren seit Anfang bis Mitte 2025 eine spürbare Beschleunigung, aber um weniger als das Doppelte. Diese Beschleunigung von 2025 schrieb Anthropic mit einiger Sicherheit anderen Faktoren als dem eigenen KI-Einsatz zu und räumte ein, dass die Modelle die schnelleren Trends seither wesentlich mitbestimmt hätten. Im Index AECI, Anthropics Fassung des Epoch Capabilities Index, der die Benchmark-Ergebnisse der Modelle misst, sah das Unternehmen schwache Hinweise auf einen einmaligen Sprung aus anderen Ursachen statt auf eine anhaltende Beschleunigung.

Etwa doppelt so schnell, vor allem durch KI

METR liest dieselben Daten anders. Nach seiner Schätzung verbessert Anthropic die Fähigkeiten seiner Modelle bei klar umrissenen Aufgaben im Oktober 2026 etwa doppelt so schnell wie zwischen März 2024 und Oktober 2025. Die Unsicherheit ist groß: Ein wahrer Wert nahe dem 1,3-Fachen oder dem 3-Fachen der früheren Rate würde METR nicht überraschen. Den größeren Teil dieser Beschleunigung führt METR heute auf den breiten Einsatz von KI in Anthropics Ent­wick­lungs­ar­beit zurück, Ende 2025 hätten andere Ursachen wahrscheinlich noch eine große Rolle gespielt. Seit Oktober 2025 wachsen die AECI-Werte der Modelle mit dem 1,9-Fachen der Rate davor, bei einem Kon­fi­denz­in­ter­vall von 95 Prozent zwischen dem 1,5- und dem 2,8-Fachen. Anthropic hätte damit im letzten Jahr ungefähr zwei Jahre des bisherigen Fortschritts geschafft, und ein schnelleres Wachstum der Rechenleistung fürs Training schließt METR als Ursache aus.

Gespräche und Umfragen passen zu diesem Bild. Beschäftigte berichten von großem Nutzen durch KI-Systeme, was METR für schwer zu deuten hält. Die Beschleunigung entsteht nach den Auskünften vor allem durch KI als Unterstützung bei der Arbeit, Beiträge, die Modelle ganz selbstständig leisten, könnten aber bald mehr Gewicht bekommen. Engpässe bei algorithmischem Fortschritt, Rechenleistung für Training und Experimente oder Daten, die weiteren Fortschritt in den nächsten 12 Monaten bremsen würden, fand METR keine. Daraus folgt für METR ein erhebliches Risiko, dass weiterer Fortschritt das Tempo noch einmal erhöht. Das eigene Bild der Engpässe hat sich allerdings mit jeder genaueren Auskunft mehrmals verschoben.

Ein geringes Risiko und eine anfechtbare Schwelle

Im Urteil über den Risikobericht trennt METR zwei Fragen. Dass die intern eingesetzten Modelle vom 15. Juli ein geringes Risiko boten, die Entwicklung in Schlüs­sel­be­rei­chen direkt zu automatisieren oder über schnelleren Fortschritt akute katastrophale Folgen auszulösen, bestätigt METR. Dass sie die Frühwarnschwelle damals nicht überschritten hatten, ruht nach METR auf anfechtbaren Ermes­sens­ent­schei­dungen, die der öffentliche Bericht nicht klar benennt. Die beteiligten Forscher beider Seiten neigen zwar zur Lesart, die Schwelle sei nicht erreicht gewesen. METR hält das Gegenteil trotzdem für plausibel und meint, der öffentliche Bericht stelle die tatsächliche Beschleunigung insgesamt zu gering dar.

Geschwärzte Belege, offene Fehlerrichtung

Wie gut sich das von außen prüfen lässt, bleibt die offene Stelle. Anthropic durfte nichtöffentliche Angaben schwärzen und hat den Großteil der Belege geschwärzt, die METR für die aus­sa­ge­kräf­tigsten hielt. Als Grund nennt das Unternehmen vertrauliche Informationen, die andere KI-Entwickler schneller machen könnten. Viele der gesehenen Belege ließen mehrere plausible Deutungen zu, und auch Anthropics Forscher sind unsicher, wie sie sich zu einem Gesamtbild fügen. Die Öffentlichkeit muss sich deshalb nach METRs eigener Einschätzung weit stärker auf dessen Urteil verlassen, als angesichts dessen, worum es geht, gut wäre. Unterschätzen könnte METR die Beschleunigung, falls zuletzt gestiegene Wachstumsraten, weitere Automatisierung oder ein Index, der die Wirkung in der Praxis zeitweise zu klein abbildete, zu wenig Gewicht bekamen. Überschätzen könnte METR sie, falls Fortschritt ohne KI, die Ausrichtung des Index auf überprüfbare Aufgaben oder ein ungewöhnlich langsamer Start in den Jahren 2023 bis 2025 zu wenig zählten.

Einordnung

Für Anwender heißt das zuerst, dass die Abstände zwischen Modell­ge­ne­ra­tionen kürzer werden können und eine Werkzeugwahl oder Richtlinie entsprechend früher überholt ist. Der Fall zeigt außerdem, wie viel an der Lesart eines Her­stel­ler­do­ku­ments hängt: Ein Risikobericht ist eine Selbstauskunft, deren Schlüsse eine externe Prüfung anders gewichten kann. Welche Takte der Entwicklung bei Nutzern ankommen, beschreibt Beurteilen und Einordnen, Kapitel 05; wie man solche Dokumente der Hersteller liest und wer sie schreibt, erklärt Beurteilen und Einordnen, Kapitel 07.