GrundlagenBeurteilen und EinordnenKapitel 03 von 8

Chancen und Grenzen

Gleiches Kapitel, drei Tiefen. Die Wahl gilt überall und bleibt gespeichert.

Tiefe 1: Überblick · Lesezeit 10 Min. · Stand

„Was kann KI?“ lässt sich als Liste von Fähigkeiten kaum beantworten, weil jede Antwort am nächsten Beispiel scheitert. Zwei andere Größen machen die Frage beantwortbar, und beide sind gemessen: wie lang eine Aufgabe ist, und wie oft sie gelingen muss.

Die Länge einer Aufgabe als Maßstab

Eine Forschungsgruppe hat 2025 eine Kennzahl vorgeschlagen, die eine Modellfähigkeit in menschlicher Arbeitszeit ausdrückt. Die Arbeit (externe Seite, arxiv.org) nennt sie den Zeithorizont bei 50 Prozent Aufgabenerfolg. Gemeint ist die Zeit, die Menschen typischerweise für Aufgaben brauchen, die KI-Modelle in der Hälfte der Fälle erfolgreich erledigen.

Zuerst wurde also gemessen, wie lange Fachleute für 170 Aufgaben aus Soft­ware­ent­wick­lung, maschinellem Lernen und IT-Sicherheit brauchen. Danach, welche davon die Modelle schaffen. Für die Modelle vom Frühjahr 2025 ergab das eine klare Kurve, die METR in seiner Darstellung der Arbeit (externe Seite, metr.org) beziffert: Aufgaben, für die ein Mensch weniger als vier Minuten braucht, gelangen fast zu 100 Prozent, Aufgaben ab etwa vier Stunden in weniger als zehn Prozent der Fälle.

Hier stehen Chance und Grenze in einem Satz. Was ein Mensch in vier Minuten erledigte, gelang den Modellen von damals praktisch immer. Was ihn einen halben Tag kostete, gelang selten. Dazwischen fällt die Kurve ab.

Wo die Kurve heute liegt

Die Kurve ist seither weit nach rechts gewandert. In einer Bewertungsrunde im Februar und März 2026 lag der 50-Prozent-Wert der stärksten öffentlichen Modelle bei etwa zwölf Stunden, mit einer Spanne von fünf bis 61 Stunden (Beleg (externe Seite, metr.org)). Die stärksten Agenten der Runde, darunter Modelle, die die Hersteller nur intern einsetzten, hatten die Aufgabensammlung fast ausgeschöpft. Der Risikobericht (externe Seite, metr.org) nennt für sie einen gemessenen Zeithorizont von mehr als zwei vollen Arbeitstagen und schränkt gleich ein: Weil die Sammlung ausgeschöpft ist, wird der Punktwert zunehmend unsicher.

METR schreibt die Messreihe inzwischen nicht mehr fort. Seit dem 08.09.2026 steht das als Hinweis im Kopf der Seite zur Messreihe (externe Seite, metr.org).

Wo die Grenze für ein heutiges Modell liegt, sagt die Kennzahl damit nur noch ungefähr. Sie gilt außerdem für Softwareaufgaben, und wie weit andere Gebiete davon abweichen, steht in Ebene 3.

Wie oft es gelingen muss

Die zweite Größe wird beim Lesen von Ranglisten leicht übersehen. Eine Erfolgsquote von 50 Prozent klingt nach der Hälfte der Aufgaben. Für den Betrieb zählt etwas anderes: ob derselbe Vorgang morgen wieder gelingt.

Ein Test für Agenten im Kundendialog (externe Seite, arxiv.org) hat 2024 beides neben­ein­an­der­ge­stellt. Er stammt von Sierra, einer Firma, die solche Agenten (externe Seite, sierra.ai) verkauft. Selbst die damals stärksten Agenten mit Funktionsaufrufen, etwa auf Grundlage von GPT-4o, lösten weniger als die Hälfte der Aufgaben und waren dabei wenig beständig: Im Teil zum Einzelhandel gelang derselbe Auftrag in weniger als 25 Prozent der Fälle achtmal hintereinander.

Von dem, was einmal gelingt, gelingt also nur ein Teil achtmal hintereinander. Was diese Kennzahl genau misst, steht in Kapitel 04.

Dieselbe Unterscheidung steckt auch im Zeithorizont. Er wird für verschiedene Zuver­läs­sig­keits­stufen berechnet, und die Seite zur Messreihe (externe Seite, metr.org) erklärt die bekannteste: Der Zeithorizont bei 50 Prozent ist die Aufgabendauer, bei der ein Agent nach der Vorhersage in der Hälfte der Fälle Erfolg hat.

Die Stufe von 80 Prozent liegt weit darunter. Im Frühjahr 2026 waren es für die stärksten öffentlichen Modelle etwa anderthalb Stunden gegen zwölf bei 50 Prozent (Beleg (externe Seite, metr.org)).

Zwei Bänder auf einer Zeitachse: 2025 reichte die Spanne von 80 zu 50 Prozent Erfolg von etwa 15 bis 59 Minuten, 2026 von etwa anderthalb bis 12 Stunden. Eine logarithmische Zeitachse von vier Minuten bis 64 Stunden mit zwei Bändern. Das obere gilt für Claude 3.7 Sonnet im Frühjahr 2025: Es reicht von etwa 15 Minuten, die zu 80 Prozent gelingen, bis 59 Minuten, die zu 50 Prozent gelingen. Das untere gilt für die stärksten öffentlichen Modelle im Frühjahr 2026 und reicht von etwa anderthalb bis 12 Stunden. Ab 16 Stunden ist eine Fläche abgesetzt, dort misst die Aufgabensammlung nicht verlässlich. Aufgabenlänge, die zu 80 % und zu 50 % gelingt ab 16 h nicht verlässlich messbar 4 min 15 min 1 h 4 h 16 h 64 h wie lange ein Mensch dafür braucht (logarithmisch) 2025 80 % 50 % Claude 3.7 Sonnet 2026 80 % 50 % stärkste öffentliche Modelle Links die Länge, die zu 80 % gelingt, rechts die zu 50 %.
Je Jahr ein Band von der Aufgabenlänge, die zu 80 Prozent gelingt, bis zu der, die zu 50 Prozent gelingt. 2025 waren das für Claude 3.7 Sonnet etwa 15 bis 59 Minuten, 2026 für die stärksten öffentlichen Modelle etwa anderthalb bis zwölf Stunden. Über 16 Stunden misst die Aufgabensammlung nicht verlässlich.

eigene Darstellung nach METR 2025 (Abschnitt 4) und METR, Risikobericht 2026 (Ergebnistabelle), Stand 10.10.2026

Wer eine Aufgabe an ein System übergibt, das sie in der Hälfte der Fälle schafft, hat die Arbeit verschoben. Er prüft jetzt Ergebnisse, statt sie zu erzeugen.

Warum lange Aufgaben so schnell abfallen

Ein Grund dafür ist Arithmetik, und die Rechnung steht in Grundkurs, Kapitel 09: Eine Kette aus zehn Schritten mit je 99 Prozent Zuverlässigkeit landet bei 90 Prozent, mit je 95 Prozent bei 60. Eine lange Aufgabe ist eine lange Kette, und jedes Glied multipliziert sich hinein.

Die Chancenseite, in derselben Zahl

Das andere Ende derselben Kurve ist deutlich. Schon 2025 gelangen Aufgaben unter vier Minuten menschlicher Arbeitszeit nahezu immer, und im Frühjahr 2026 lag die Stufe von 80 Prozent bei etwa anderthalb Stunden.

Gemessen ist das an Softwareaufgaben. Viele Vorgänge der Büroarbeit sind deutlich kürzer: einen Absatz einordnen, drei Angaben aus einem Dokument ziehen, eine Mail zusammenfassen, einen Entwurf gegen eine Regel prüfen, eine Tabelle umformatieren. Ob sie im eigenen Fall so zuverlässig gelingen, zeigt eine Probe am eigenen Material.

Damit verschiebt sich die eigentliche Arbeit. Sie besteht darin, einen Vorgang so zuzuschneiden, dass er in diese Klasse fällt.

Was daraus für die Auswahl folgt

Eine Aufgabe eignet sich, wenn drei Bedingungen zusammenkommen: Sie ist kurz genug, sie ist klar abgegrenzt, und ihr Ergebnis lässt sich prüfen. Fehlt die dritte, verschiebt sich die Arbeit nur: Aus dem Erzeugen wird ein Nachrechnen, und das kann länger dauern als die Sache selbst.

Der umgekehrte Fall ist ebenso brauchbar. Eine Aufgabe, die einen Menschen mehrere Stunden kostet, liegt auch bei den stärksten Modellen oberhalb der Stufe von 80 Prozent. Sie lässt sich zerlegen, und dann gilt für jedes Stück wieder die kurze Kette. Was das Zerlegen kostet, steht in Ebene 3: Es heißt Übergabestellen bauen, und an jeder davon muss jemand festlegen, was als fertig gilt.

Quellen

9 Einträge, davon 3 Schlüsselarbeitenalle erreichbar

Erreichbarkeit automatisch geprüft

  • SchlüsselarbeitOriginalarbeiterreichbar

    Measuring AI Ability to Complete Long Software Tasks (externe Seite, arxiv.org)

    arxiv.orggeprüft 25.10.2026

    Kwa, West, Becker und 23 weitere Mitautoren von METR schlagen im März 2025 eine Kennzahl vor, die eine Modellfähigkeit in menschlicher Arbeitszeit ausdrückt: die Aufgabenlänge, die ein Modell mit einer bestimmten Wahrscheinlichkeit schafft. Gemessen wurde an 170 Aufgaben, für die zuerst Fachleute die Bearbeitungszeit lieferten. Die Arbeit nennt ihre eigenen Grenzen ausdrücklich, darunter die Übertragbarkeit auf Arbeit außerhalb der Testreihe. Die Abstractseite auf arXiv zeigt am 09.10.2026 weiter den Kurztext der ersten Fassung, aus dem die Zitate stammen. Fassung v4 vom 10.07.2026 nennt im Abstract o3 mit rund 110 Minuten statt Claude 3.7 Sonnet mit 50 Minuten und führt vier gleichrangige Gründe für den Zuwachs an (Volltext unter arxiv.org/html/2503.14499v4).

  • SchlüsselarbeitOriginalarbeiterreichbar

    τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains (externe Seite, arxiv.org)

    arxiv.orggeprüft 25.10.2026

    Yao und Mitautoren stellen einen Test vor, in dem ein Agent mit einem simulierten Kunden spricht und dabei Regeln einhalten muss. Gemessen wird am Zustand der Datenbank am Ende. Der bleibende Beitrag ist die Kennzahl pass hoch k: Sie fragt, ob derselbe Auftrag k mal hintereinander gelingt, und trennt damit Können von Verlässlichkeit.

  • SchlüsselarbeitOriginalarbeiterreichbar

    Stop Comparing LLM Agents Without Disclosing the Harness (externe Seite, arxiv.org)

    arxiv.orggeprüft 25.10.2026

    Ein Positionspapier vom 07.05.2026, das die Umgebung zur eigentlichen Stellgröße erklärt. Es benennt die Bestandteile eines Harness einzeln (Kontextaufbau, Tool-Verkehr, Ablaufsteuerung, Prüfung) und hält fest, dass heutige Vergleiche Verbesserungen der Umgebung dem Modell zuschreiben. Die stärkste verfügbare Belegstelle für die Frage, wie viel der Aufbau um ein Modell herum ausmacht.

  • Originalarbeiterreichbar

    METR, Measuring AI Ability to Complete Long Software Tasks (externe Seite, metr.org)

    metr.orggeprüft 25.10.2026

    Die eigene Darstellung der Arbeit vom 19.03.2025. Sie nennt die beiden Werte, die im Abstract fehlen und die den Befund erst greifbar machen: Aufgaben unter vier Minuten gelingen fast immer, Aufgaben über etwa vier Stunden in weniger als zehn Prozent der Fälle.

  • Datenerreichbar

    Task-Completion Time Horizons of Frontier AI Models (externe Seite, metr.org)

    metr.orggeprüft 25.10.2026

    Die Messreihe zu derselben Kennzahl, seit Januar 2026 in der Fassung 1.1 mit 228 Aufgaben aus Softwareentwicklung, maschinellem Lernen und IT-Sicherheit. METR schreibt sie nicht mehr fort: Der letzte Messwert kam am 08.05.2026 dazu, seit dem 08.09.2026 steht der Hinweis darauf im Kopf der Seite. Die Werte selbst zeichnet ein Skript, im Text stehen die Erläuterungen: was eine solche Angabe bedeutet und warum Zuverlässigkeitsstufen oberhalb von 80 Prozent mit dieser Aufgabensammlung nicht messbar wären.

  • Originalarbeiterreichbar

    METR, Frontier Risk Report (February to March 2026) (externe Seite, metr.org)

    metr.orggeprüft 25.10.2026

    Der Bericht vom 19.05.2026 über eine Bewertungsrunde vom 16.02. bis 16.03.2026. Anthropic, Google, Meta und OpenAI stellten dafür ihre stärksten internen Modelle bereit und gaben frei, welche nicht öffentlichen Angaben erscheinen durften. Die Tabelle der Ergebnisse nennt für die stärksten öffentlichen Modelle des Zeitraums einen Zeithorizont von etwa 12 Stunden bei 50 Prozent (Spanne 5 bis 61 Stunden) und etwa anderthalb Stunden bei 80 Prozent. Die Aufgabensammlung misst nach eigener Angabe oberhalb von 16 Stunden nicht mehr verlässlich, die stärksten Agenten haben sie fast ausgeschöpft. Anhang E teilt die Aufgaben nach 16 Merkmalen, die eine Aufgabe unordentlich machen (messiness): Claude Opus 4.6 erreicht 17,8 Stunden bei der ordentlichen und 6,4 Stunden bei der unordentlichen Hälfte.

  • Originalarbeiterreichbar

    METR, Clarifying limitations of time horizon (externe Seite, metr.org)

    metr.orggeprüft 25.10.2026

    Eine Forschungsnotiz vom 22.01.2026 von Thomas Kwa, dem Hauptautor der Zeithorizont-Arbeit. METR kennzeichnet solche Notizen als weniger geprüfte Einzelmeinungen. Kwa beziffert die Fehlerbalken, nennt die Unterschiede zwischen Fachgebieten und hält fest, dass sich Aufgaben unter X Stunden bei einem Horizont von X Stunden deshalb noch lange nicht abgeben lassen. Eine Stufe von 99 Prozent ließe sich erst mit etwa 300 sehr verschiedenen Aufgaben je Zeitstufe bestimmen.

  • Originalarbeiterreichbar

    Harness-Bench: Measuring Harness Effects across Models in Realistic Agent Workflows (externe Seite, arxiv.org)

    arxiv.orggeprüft 25.10.2026

    Der Messaufbau zum Positionspapier, vom 27.05.2026: 106 abgeschottete Aufgaben, mehrere Umgebungen über mehrere Modelle, 5.194 Läufe. Zählt die Bestandteile einer Agentenumgebung in einer Reihe auf und liefert den Befund, dass eine Fähigkeit dem Paar aus Modell und Umgebung zuzurechnen ist. Benennt außerdem eine wiederkehrende Fehlerart, bei der die Überlegung des Modells sich von der Rückmeldung der Tools löst.

  • Originalarbeiterreichbar

    METR, How Does Time Horizon Vary Across Domains? (externe Seite, metr.org)

    metr.orggeprüft 25.10.2026

    Kwa und Cheng übertragen am 14.07.2025 die Zeithorizont-Rechnung auf neun vorhandene Benchmarks aus anderen Gebieten, ohne eigene neue Versuche. Wissenschaftliche Fragen, Mathematikwettbewerbe und Programmieraufgaben liegen in derselben Größenordnung wie die Softwareaufgaben. Die Bedienung grafischer Oberflächen liegt um den Faktor 40 bis 100 darunter. Die Daten vieler dieser Benchmarks nennen die Autoren selbst weniger belastbar als die der Ausgangsarbeit.

↑↓ auswählenEnter öffnenDie Suche läuft im Browser. Nichts wird übertragen.