Wissen anbinden

Ein Sprachagent, der aus eigenen Unterlagen antwortet, macht dasselbe wie im Chatfenster: Er sucht, bevor er antwortet. Wie das funktioniert, steht in Agenten und Harness, Kapitel 03. Was sich ändert, ist eine einzige Sache, und sie ändert alles Weitere: Man hört ihm beim Suchen zu.

Die vier Schritte, mit einer Uhr daneben

Im Chatfenster laufen sie unsichtbar ab. Die Frage geht hinein, die Suche läuft, die Fundstellen werden an die Frage gehängt, das Modell antwortet. Wer davorsitzt, sieht drei Sekunden lang einen blinkenden Cursor.

Im Gespräch ist derselbe Ablauf eine Stille. Und Stille bedeutet im Gespräch etwas: Schon nach kurzer Zeit fragen Menschen nach, ob die Gegenseite noch da ist.

Daraus folgt die Regel für den Rest dieses Kapitels: Jeder Schritt zwischen Frage und Antwort muss sich rechtfertigen. Im Chatfenster kostet ein zusätzlicher Suchdurchgang Rechenzeit. Im Gespräch kostet er Glaubwürdigkeit.

Was das System sagt, während es sucht

Die einfachste Antwort darauf ist, die Stille zu füllen. Der Hersteller hat dafür einen Namen und eine Empfehlung. Im Leitfaden zum Anweisen (externe Seite, developers.openai.com) heißen sie Preambles: kurze gesprochene Zwischenmeldungen, die einen Sprachagenten ansprechbar wirken lassen, während er nachdenkt, etwas nachschlägt oder ein Tool aufruft.

Was dabei zu sagen ist und was besser nicht, steht in Kapitel 06, denn es gilt für jede Art von Arbeit im Hintergrund. Für dieses Kapitel zählt der mittlere Teil der Aufzählung, das Nachschlagen. Es ist als Wartefall ausdrücklich mitgemeint.

Was passiert, wenn nichts gefunden wird

Im Chatfenster sieht man eine leere Trefferliste und weiß Bescheid. Im Gespräch gibt es keine Liste. Der Unterschied zwischen „ich habe nichts gefunden“ und „dazu gibt es nichts“ muss also gesagt werden, und zwar von einem System, dem beides gleich aussieht, solange ihm niemand beibringt, die leere Suche zu melden.

Das ist derselbe Fall wie in Grundkurs, Kapitel 07, nur ohne die Möglichkeit, es nachzulesen.

Die Frage, an der sich in einer Sprachanwendung alles entscheidet: Wie viel Prüfung passt zwischen die Frage und den ersten Ton der Antwort.

Der Anbieter nennt die Wartezeit selbst

In der Voreinstellung antwortet das Modell, sobald die Erkennung das Ende eines Beitrags meldet. Wer dazwischen etwas prüfen will, schaltet das ab. Die Dokumentation sagt geradeheraus, was das kostet: Sie nennt drei Fälle, für die sich der Griff lohnt, Moderation, Prüfung der Eingabe und das Nachschlagen, und schreibt dazu, man tausche dabei etwas mehr Wartezeit im Gespräch gegen Kontrolle über die Eingaben. So steht es in der Beschreibung der Sprachsitzung (externe Seite, developers.openai.com).

Das ist eine ungewöhnlich offene Stelle in einer Her­stel­ler­do­ku­men­ta­tion. Sie gibt die Kontrolle nicht umsonst her, und sie stellt beide Größen nebeneinander, zwischen denen zu wählen ist.

Bei GPT-Live, OpenAIs Sprachmodell seit September 2026, fehlt dieser Schalter. Die Anwendung schickt den Ton durchgehend, und das Modell entscheidet selbst, wann es spricht (externe Seite, developers.openai.com). Eine Prüfung läuft dort neben dem Gespräch.

Was ein zweiter Suchdurchgang wert ist

Agenten und Harness, Kapitel 03 beschreibt eine Stufe, die die Trefferqualität deutlich hebt: Man holt weit mehr Stellen als gebraucht und lässt ein zweites Modell Frage und Text gemeinsam bewerten. Die Zahlen dazu stehen dort, ebenso der Hinweis auf den hohen Rechenaufwand.

Was dort nicht steht, weil es dort nicht hingehört, ist die Frage nach der Uhr. Ein zweiter Durchgang über hundert Textstellen ist ein Modellaufruf, und ein Modellaufruf dauert. In einer Anwendung, in der die Antwort ohne hörbare Pause anfangen soll, konkurriert diese Stufe unmittelbar mit dem Sprechen.

Damit steht die Entscheidung anders als im Chatfenster. Dort lautet sie: bessere Treffer gegen Rechenkosten. Hier lautet sie: bessere Treffer gegen eine Pause, die der Anrufer hört.

Drei Wege, die Rechnung zu ändern

Wer beides will, verschiebt die Arbeit, statt sie wegzulassen.

Vorher suchen. Steht die wahrscheinliche Frage früh genug fest, etwa nach dem ersten Satz eines Anrufers, lässt sich die Suche anstoßen, bevor er ausgeredet hat. Das kostet Suchläufe, die niemand braucht.

Weniger holen. Fünf Stellen statt zwanzig kürzen jeden nachgelagerten Schritt. Was dabei verlorengeht, steht in Agenten und Harness, Kapitel 03 unter der Frage, wie ein Abschnitt zugeschnitten wird.

Während des Sprechens weitersuchen. Die Antwort fängt mit dem an, was sicher ist, und die genaue Auskunft kommt nach. Das setzt voraus, dass die Anwendung eine laufende Ausgabe ergänzen kann, und führt geradewegs zu Kapitel 06. GPT-Live baut genau diesen Weg ein: Die Suche geht an ein zweites Modell, und Gespräch und abgegebene Arbeit laufen getrennt weiter (externe Seite, developers.openai.com).

Die ersten beiden sind Bauentscheidungen, für die es in keiner Schnittstelle einen Schalter gibt. Alle drei stehen hier ohne Messwerte, weil es dazu keine Herstellerangabe gibt, die man ohne eigene Erhebung übernehmen könnte.

Zwei Dinge sind an einer gesprochenen Auskunft anders, und beide haben mit Geschwindigkeit nichts zu tun: die Quellenangabe und die Frage, wer mithört.

Eine Quelle, die niemand sehen kann

Belegte Auskünfte sind der Grund, warum man überhaupt sucht, statt das Modell antworten zu lassen. Der Anbieter nennt das als eigenen Zweck: Laut Googles Doku zur Verankerung in der Websuche (externe Seite, ai.google.dev) liefert das Modell damit genauere Antworten und kann überprüfbare Quellen nennen, auch für Dinge nach dem Ende seiner Trainingsdaten.

Überprüfbare Quellen nennen. Auf einer Seite ist das eine Fußnote, die man anklicken kann oder auch nicht. Im Gespräch entfällt diese Wahl: Was gesagt wird, hört jeder, und was ungesagt bleibt, existiert nicht.

Daraus wird eine Entscheidung, die man auf einer Webseite nie treffen muss. Eine vollständige Quellenangabe nach jedem Satz macht die Auskunft unbrauchbar. Gar keine macht sie unprüfbar. Drei Formen, die dazwischen liegen:

Die dritte Form ist die einzige, die eine anklickbare Adresse liefert, und sie setzt einen zweiten Kanal voraus. Am Telefon ist das eine Rufnummer, siehe Kapitel 04.

Diese Aufstellung ist eine eigene Ordnung und steht so in keiner Quelle. Sie sortiert deshalb nur, was möglich ist.

Wer darf hören, was gefunden wird

Agenten und Harness, Kapitel 03 beschreibt, wie eine Suche auf das eingeschränkt wird, was jemand sehen darf, und hält die Grenze des Verfahrens fest: Der Filter bildet eine Rechteprüfung nur nach.

Im Gespräch kommt eine zweite Frage dazu, die es am Bildschirm nicht gibt. Ein Bildschirm zeigt einer Person etwas. Ein Lautsprecher zeigt es allen im Raum. Wer eine Auskunft aus Per­so­nal­un­ter­lagen vorliest, hat die Zugriffsfrage zwar richtig beantwortet und trotzdem ein Problem, sobald jemand danebensteht.

Die Sprechertrennung ist der technische Ansatz dafür, und sie reicht nicht weit. Sie vergibt jeder Stimme eine Nummer in der Reihenfolge ihres ersten Auftretens und kennt keine Namen. Schon die Zahl der Stimmen lag in den Her­stel­ler­mes­sungen zu einem aktuellen Modell je nach Datensatz in 0 bis 45 Prozent der Aufnahmen daneben (KI jenseits der Sprachmodelle, Kapitel 07). Was bleibt, ist eine Bauentscheidung: welche Auskünfte ein Sprachkanal überhaupt geben darf.

Warum ein Fehler im Kontext hier schwerer wiegt

Ein Modell liest die Mitte eines langen Kontextes schlechter als Anfang und Ende. Das gilt am Bildschirm genauso, und Grundkurs, Kapitel 02 beschreibt es.

Der Unterschied liegt in der Kor­rek­tur­mög­lich­keit. Wer eine falsche Antwort auf dem Bildschirm liest, hat die zitierte Stelle daneben und merkt es. Wer sie hört, hat den Satz und sonst nichts. Die Sorgfalt beim Zusammenstellen des Kontextes ist im Sprachkanal deshalb die letzte Stelle, an der überhaupt jemand etwas merken kann.