Ein Modell auf eigene Daten abstimmen

In Grundkurs, Kapitel 08 steht, auf welchen drei Wegen Neues zu einem Modell kommt, und der Abschnitt endet mit einem Satz, der etwas offenlässt: Alle drei enden im Kontext, keiner erreicht die Gewichte. Hier geht es um die Verfahren, die genau das tun.

Bis in die Gewichte

Ein Modell ist eine Datei voller Zahlen. Was Sie ihm im Gespräch sagen, ändert daran nichts, es steht nur für die Dauer dieser einen Anfrage daneben. Es gibt allerdings einen Weg, die Datei selbst anzufassen: Man lässt das Modell weitere Beispiele durchrechnen, und danach stehen andere Zahlen darin.

Das ist keine Kleinigkeit im Betrieb, und es ist die einzige Art von Änderung, die bleibt. Ein so behandeltes Modell antwortet in jedem neuen Gespräch anders, ohne dass jemand etwas dazuschreiben muss.

Drei Verfahren, ein Gedanke

Fine-Tuning. Das Modell trainiert weiter, mit Ihren Beispielen. Am Ende liegt eine zweite, vollständige Modelldatei da, die Ihnen gehört.

LoRA. Die Gewichte bleiben, wie sie sind, und daneben entsteht eine kleine Zusatzdatei. Sie wirkt beim Antworten mit, und weil sie klein ist, ist der Vorgang erheblich billiger (externe Seite, arxiv.org) als der erste. Google beschreibt die Abstimmung seiner Gemini-Modelle genau so: Das Modell lernt zusätzliche Parameter (externe Seite, docs.cloud.google.com), die beim Antworten zum Grundmodell hinzukommen.

Distillation. Ein großes Modell erzeugt die Antworten, ein kleines lernt, sie nachzumachen. Der Gedanke ist von 2006: Damals beschriftete ein Verbund aus Hunderten von Modellen Daten für ein tausendmal kleineres Netz (externe Seite, cs.cornell.edu). Den Namen gab ihm 2015 eine Arbeit, die auf diese Vorarbeit verweist und zeigt, wie sich das Können mehrerer Modelle in ein einzelnes übertragen (externe Seite, arxiv.org) lässt. Am Ende steht ein kleineres Modell, das eine Sache gut kann. Wie das Verfahren arbeitet, zeigt Nutzung und Anpassung von LLMs, Kapitel 03.

Allen dreien gemeinsam: Am Ende liegt eine Datei da, die es vorher nicht gab, und für die jemand aufkommt.

Wofür sich das eignet

OpenAI zählt für das gebräuchlichste Verfahren vier Fälle auf: einordnen in Kategorien, übersetzen mit festem Ton, Ausgaben in einem verlangten Format, und Anweisungen, die das Modell sonst überliest. Alle vier haben dasselbe Muster. Es geht darum, wie geantwortet wird.

Der häufigste Wunsch dahinter geht damit gerade nicht in Erfüllung. Wer möchte, dass ein Modell die eigenen Unterlagen kennt, sucht etwas anderes: Das Wissen über eine Sache gehört zu den Wegen, die in Grundkurs, Kapitel 08 beschrieben sind. Eine Abstimmung bringt einem Modell den Hausstil bei. Fakten lernt es auf diesem Weg schlecht: In einer Messung von 2024 (externe Seite, arxiv.org) lernte ein Modell neue Fakten deutlich langsamer als bekannte, und sobald es sie gelernt hatte, erfand es häufiger Antworten. Gemessen ist ein Modell an geschlossenen Wissensfragen.

Drei billigere Antworten stehen davor

Bevor die Frage nach der Abstimmung überhaupt sinnvoll ist, sind drei andere zu beantworten, und alle drei kosten weniger als ein Training:

Der Prompt. Steht in Grundkurs, Kapitel 06, und die dortigen Beispiele lösen einen guten Teil dessen, wofür früher trainiert wurde.

Die Unterlagen mitgeben. Was ins Fenster passt, muss nirgends gelernt werden. Grenzen und Fallstricke stehen in Grundkurs, Kapitel 05.

Nachschlagen lassen. Die Anwendung sucht die passenden Stellen heraus und legt sie dazu. Wie das funktioniert, steht in Agenten und Harness, Kapitel 03.

Der Unterschied liegt in der Umkehrbarkeit. Ein Prompt ist in Minuten geändert. Eine abgestimmte Fassung ist eine Anschaffung.

Werkzeuge, Skills und die Wahl eines anderen Modells sind weitere Wege. Alle stehen nebeneinander in Nutzung und Anpassung von LLMs, Kapitel 08.

Die Rechnung läuft, während nichts passiert

Zwei Posten. Der erste ist das Training, und er fällt einmal an. Der zweite ist die Bereitstellung, und der überrascht die meisten: Microsoft berechnet dafür 1,70 Dollar je Stunde (externe Seite, azure.microsoft.com), Mistral verlangte zwei Dollar Ablage je Modell und Monat (externe Seite, docs.mistral.ai). Diese Beträge laufen weiter, solange das Modell bereitsteht, an Wochenenden und in der Urlaubswoche. Google rechnet anders und schlägt ab Gemini 3 auf jede Anfrage an ein abgestimmtes Modell die Hälfte des Anfragepreises auf (externe Seite, cloud.google.com), wenn das Modell an einem regionalen Endpunkt läuft. Am globalen Endpunkt kostet die Anfrage so viel wie beim Grundmodell.

Microsoft rechnet in seiner Anleitung einen Monat für ein abgestimmtes Modell durch. Setzt man die Beträge aus Microsofts Preisliste ein, macht die reine Bereitschaft 86 Prozent der Monatsrechnung aus. Der Weg dorthin steht in Ebene 3, und wer die Zahl auf den eigenen Fall übertragen will, findet dort auch die Formel.

Zwei Anbieter haben aufgehört

Das Deutlichste zur Nutzenfrage kommt vom Markt. OpenAI kündigt auf der eigenen Seite zur Modelloptimierung (externe Seite, developers.openai.com) an, die Plattform für das Fine-Tuning abzuwickeln.

In Mistrals Anleitung steht der Vermerk, dass die Funktion abgekündigt ist und nicht mehr gepflegt wird (externe Seite, docs.mistral.ai). Beides steht dort unverändert am 09.10.2026. Google hat das Angebot in seiner Gemini API (externe Seite, ai.google.dev) eingeschränkt: Dort gibt es seit Mai 2025 kein Modell mehr, das sich abstimmen lässt. Bei Microsoft, auf Googles Unter­neh­mens­platt­form und bei AWS ist das Angebot weiterhin buchbar.

Warum die beiden ausgestiegen sind, sagen sie nicht. Als Auskunft für die eigene Planung reicht die Tatsache: Ein Verfahren, bei dem zwei große Anbieter das Selbst­be­die­nungs­an­gebot einstellen, ist kein naheliegender erster Schritt.

Wann es sich trotzdem lohnt

Drei Anlässe, bei denen das Rechnen anfängt:

Dieselbe enge Aufgabe, sehr oft. Millionen gleichartige Vorgänge, bei denen jede eingesparte Zeile Prompt bei jedem einzelnen zählt.

Ein Prompt, der nur über seine Länge funktioniert. Wenn zwei Seiten Anweisung nötig sind, damit das Ergebnis stimmt, zahlen Sie diese zwei Seiten bei jeder Anfrage.

Eine Ausgabeform, die kein Beispiel zuverlässig erzwingt. Der Fall, den OpenAI selbst nennt. Ein festes Schema braucht dafür kein Training mehr. Schnittstellen wie die von Anthropic halten die Antwort auf Wunsch in den meisten Fällen daran fest (externe Seite, platform.claude.com). Wo die Grenze dieser Sicherung liegt, steht in Grundkurs, Kapitel 15. Es bleibt die Form jenseits eines Schemas, also Ton, Länge und Gliederung. Für sie helfen zuerst Beispiele, eine Abstimmung erst bei großer Menge.

Anpassen umfasst drei Verfahren. Sie kosten Verschiedenes, und die Anbieter bieten sie unterschiedlich weit an. Wer die Frage „lohnt sich das?“ beantworten will, braucht zuerst diese Unterscheidung.

Vortrainieren und nachjustieren, seit 2018

Das Muster ist älter als die Chatmodelle. GPT-1 führte es 2018 ein: erst ein Modell auf sehr viel unbeschriftetem Text vortrainieren, dann für einzelne Aufgaben nachjustieren (externe Seite, openai.com). Wie dieses Lernen ohne Etiketten funktioniert, steht in KI jenseits der Sprachmodelle, Kapitel 02. Das P in GPT steht für diesen ersten Schritt.

Wie viel der zweite ausmacht, zeigte OpenAI 2022 an einer eigenen Messung: Ein deutlich kleineres, mit menschlicher Rückmeldung nachtrainiertes Modell (externe Seite, arxiv.org) antwortete hilfreicher als ein sehr viel größeres ohne diesen Schritt. Was Sie heute als Assistenten benutzen, ist ein Textfortsetzer, der genau diese Behandlung bekommen hat.

Das Verfahren ist also erprobt, und es ist Teil jedes Modells, das Sie kennen. Die Frage dieses Kapitels lautet, ob Sie es ein zweites Mal anwenden sollten, mit Ihren eigenen Daten.

Die drei Verfahren, sauber getrennt

Volles Fine-Tuning. Das Modell rechnet weitere Beispiele durch, und danach stehen andere Zahlen in der Gewichtsdatei. Am Ende liegt eine zweite, vollständige Modelldatei da. Der Rechenaufwand richtet sich nach der Größe des Modells, weil jeder Parameter angefasst wird.

LoRA und Adapter. Die Gewichte bleiben eingefroren, trainiert wird eine kleine Zusatzdatei daneben. Houlsby und Mitautoren zeigten 2019 mit Adaptern, dass das genügt: Sie kamen bis auf 0,4 Prozent an das volle Fine-Tuning heran (externe Seite, arxiv.org) und brauchten dafür 3,6 Prozent zusätzliche Parameter je Aufgabe (externe Seite, arxiv.org). LoRA verschärfte das 2021 und senkte die Zahl der trainierbaren Parameter um den Faktor 10.000 (externe Seite, arxiv.org), den Speicherbedarf um den Faktor 3 (externe Seite, arxiv.org), bei keiner zusätzlichen Wartezeit (externe Seite, arxiv.org) im Betrieb. QLoRA verband das 2023 mit der gröberen Speicherung der Gewichte, die in Kapitel 01 beschrieben ist, und passte damit die Anpassung eines Modells mit 65 Milliarden Parametern auf eine einzelne Grafikkarte mit 48 Gigabyte (externe Seite, arxiv.org).

Distillation. Ein großes Modell erzeugt die Antworten, ein kleines wird darauf abgestimmt. Den Gedanken veröffentlichten Buciluă, Caruana und Niculescu-Mizil 2006: Ein großes Ensemble beschriftet Daten, an denen ein kleines Netz lernt (externe Seite, cs.cornell.edu). Hinton, Vinyals und Dean gaben dem Verfahren 2015 den Namen. Sie verweisen selbst auf diese Vorarbeit und zeigen, wie sich das Können mehrerer Modelle in ein einzelnes übertragen (externe Seite, arxiv.org) lässt, über die Wahr­schein­lich­keiten des großen Modells für alle Antworten. Das Ziel ist ein kleineres Modell, das eine Sache so gut kann wie das große. Wie beide Formen arbeiten, zeigt Nutzung und Anpassung von LLMs, Kapitel 03.

Die ersten beiden ändern, wie ein Modell antwortet. Das dritte ändert, welches Modell antwortet.

Was die Anbieter davon anbieten

Fünf Anbieter, Stand 09.10.2026:

Google und Microsoft beziffern den Trainingspreis in ihren Preislisten. Google verlangt je Million Trainings-Token 10 Dollar für Gemini 3.5 Flash (externe Seite, cloud.google.com) und 3 Dollar für die Lite-Variante, Microsoft 25 Dollar für GPT-4.1 (externe Seite, azure.microsoft.com) und 1,50 Dollar für die kleinste Fassung, abgerufen am 09.10.2026. Microsoft weist eigens darauf hin, dass der Trainingspreis je Token ein anderer ist als der beim Fragen. Berechnet werden die Token der Trainingsdatei mal die Zahl der Durchläufe; die Laufzeit spielt dabei keine Rolle. Nur das Reinforcement Fine-Tuning rechnet anders: Es wird nach Trainingszeit abgerechnet (externe Seite, learn.microsoft.com), und ein Modell, das die Antworten bewertet, kommt gesondert hinzu. Das interaktive Training, bei Microsoft noch in der Vorschau, zählt wieder Token, getrennt nach Eingabe, Zwischenspeicher, erzeugter Ausgabe und Training.

Die Zeile, die den meisten Ärger macht, steht rechts. Bei Microsoft läuft der Stundensatz weiter, solange das Modell bereitsteht, und zwar unabhängig davon, ob jemand fragt. Dasselbe gilt für gebuchte Kapazität: Microsoft rechnet sie nach Umfang und Dauer ab (externe Seite, learn.microsoft.com), auch in Stunden ohne eine einzige Anfrage. Bei AWS ist sie für ein vollständig nachtrainiertes Modell der einzige Weg (externe Seite, aws.amazon.com). Microsofts Entwickler-Tarif kommt ohne Stundensatz aus, dafür werden dessen Bereitstellungen nach 24 Stunden automatisch entfernt (externe Seite, learn.microsoft.com), gleichgültig wie stark sie genutzt wurden.

Google geht den anderen Weg und verlangt keinen Stundensatz. Dafür kostet dort jede Anfrage an ein abgestimmtes Modell ab Gemini 3 die Hälfte mehr als beim Grundmodell. Wer selten fragt, zahlt so wenig, wer viel fragt, zahlt den Aufschlag bei jeder Anfrage.

Zwei Anbieter haben ihr Angebot zurückgezogen

OpenAI kündigt auf der eigenen Seite zur Modelloptimierung (externe Seite, developers.openai.com) an, die Plattform für das Fine-Tuning abzuwickeln. Im selben Absatz steht, wen es zuerst trifft: Neue Nutzer kommen an die Plattform nicht mehr heran.

In der Abkündigungsliste steht der Ablauf mit Daten. Seit dem 07.05.2026 bekommt keine Organisation mehr Zugang, die vorher nichts abgestimmt hatte. Seit dem 02.07.2026 fällt heraus, wer sechzig Tage lang kein abgestimmtes Modell benutzt hat. Am 06.01.2027 endet es für alle übrigen. Was schon läuft, läuft weiter, und zwar genau so lange wie sein Grundmodell: Laut Abkündigungsliste (externe Seite, developers.openai.com) werden Anfragen an abgestimmte Modelle erst dann abgeschaltet, wenn das zugrunde liegende Grundmodell abgekündigt wird. Was ein abgekündigter Modellname in einer laufenden Anwendung bewirkt, steht in Grundkurs, Kapitel 11.

Mistral hat es bereits hinter sich. Die Anleitung dazu steht noch im Netz, mit dem Vermerk obenauf, dass diese Funktion abgekündigt ist und nicht mehr gepflegt wird (externe Seite, docs.mistral.ai).

Belegt ist das Ende, offen der Grund. Zwei Anbieter haben das Selbst­be­die­nungs­an­gebot eingestellt, mit Datum und im Wortlaut. Ein Rückzug kann an der Nachfrage liegen, am Aufwand des Betriebs oder daran, dass neuere Modelle mit einer guten Anweisung erreichen, wofür man vorher trainieren musste. Die Anbieter nennen keinen dieser Gründe.

Die Bindung, die dabei entsteht

Eine abgestimmte Fassung gehört Ihnen, und sie bleibt, wo sie entstanden ist. Microsoft sichert auf seiner Seite zum Datenschutz (externe Seite, learn.microsoft.com) zu, dass die bei Azure abgestimmten Modelle ausschließlich dem Kunden zur Verfügung stehen, der sie erstellt hat. AWS sagt in der Anleitung zur Distillation (externe Seite, docs.aws.amazon.com) dasselbe für das destillierte Modell: Zugriff darauf hat allein der Kunde.

Das ist eine Zusage und zugleich eine Fessel. Wer ein Modell bei einem Betreiber abstimmt, kann den Betreiber danach nicht mehr wechseln, ohne den Vorgang zu wiederholen. Bei offenen Gewichten wandert die abgestimmte Fassung mit, bei geschlossenen bleibt sie liegen. Mit der Fassung wandern die Bedingungen der Lizenz, unter der das Ausgangsmodell steht; Nutzung und Anpassung von LLMs, Kapitel 02 zeigt das an Llama und Gemma. Die Wahl des Betreibers, die Kapitel 01 behandelt, wird durch eine Abstimmung also enger, als sie vorher war.

Was in eine Trainingsdatei gehört

Alle drei Verfahren brauchen Beispiele, und zwar in der Form, die im Betrieb wirklich vorkommt. Was genau, hängt vom Verfahren ab. Für das überwachte Fine-Tuning verlangt OpenAI Beispiele richtiger Antworten (externe Seite, developers.openai.com), für die Arbeit mit Präferenzen dagegen je ein richtiges und ein falsches Beispiel (externe Seite, developers.openai.com) zur selben Eingabe.

Bei der Distillation entfällt das Sammeln teilweise, weil das große Modell die Antworten selbst erzeugt. Erzeugt AWS dabei mit eigenen Verfahren zusätzliche Daten, kommt ein Posten dazu: Nach der Anleitung zur Distillation (externe Seite, docs.aws.amazon.com) stellt AWS dann die Aufrufe beim großen Modell gesondert in Rechnung, zu dessen üblichem Tarif für einzelne Anfragen.

Diese Datei ist eine Datenlieferung wie jede andere. Wer sie aus dem laufenden Betrieb zusammenstellt, gibt Betriebsdaten an einen Dienstleister, und die Fragen dazu stehen in Kapitel 01.

Warum das Ergebnis mit dem Grundmodell veraltet

Eine abgestimmte Fassung ist aus einem bestimmten Modell entstanden und hängt daran. Wird dieses Modell abgekündigt, endet auch sie. OpenAI schreibt das für den eigenen Ausstieg ausdrücklich hin, und es gilt allgemein.

Wie schnell das geht, zeigt dieselbe Abkündigungsliste. Für eine Reihe älterer Modelle meldet die Abkündigungsliste (externe Seite, developers.openai.com) die Abschaltung am 23.10.2026, und darunter, dass am selben Tag auch abgestimmte Fassungen abgeschaltet wurden. Darunter stehen die abgestimmten Fassungen von gpt-3.5-turbo, gpt-4, gpt-4.1-nano, babbage-002 und davinci-002, und in der Tabelle davor die von o4-mini. Als Ersatz nennt die Liste Modelle der Reihe gpt-5.6. Unter den Modellen, die OpenAI zum Abstimmen anbietet (externe Seite, developers.openai.com), steht keines davon.

Ein jüngerer Eintrag der Liste (externe Seite, developers.openai.com) stammt vom 14.10.2026. Er kündigt gpt-4o, gpt-4o-mini, gpt-4.1 und gpt-4.1-mini zum 14.01.2027 ab, und die abgestimmten Fassungen enden mit ihnen. Damit sind alle Grundmodelle abgekündigt, die OpenAIs Übersicht der Verfahren am 23.10.2026 zum Abstimmen nennt: gpt-4.1 in drei Größen, gpt-4o und o4-mini. Zwei davon, gpt-4.1-nano und o4-mini, sind seit demselben Tag abgeschaltet. Nach dem 14.01.2027 bleibt von ihnen keines übrig.

Damit bekommt die Abstimmung eine Halbwertszeit, die niemand kennt, wenn er anfängt. Die Modellstände wechseln zügig, und jeder Wechsel bedeutet, dass die Beispiele erneut durchlaufen müssen. Das ist derselbe Posten, der in Grundkurs, Kapitel 06 beim Prompt auftaucht, hier mit einer Rechnung dahinter. Wie man vorher erkennt, was fehlt, zeigt Nutzung und Anpassung von LLMs, Kapitel 08.

Die Frage nach dem Verhältnis von Aufwand und Nutzen hat zwei Seiten, und sie sind unterschiedlich gut belegt. Der Aufwand steht in Preis­ver­zeich­nissen. Für den Nutzen gibt es das nicht, und der Umgang damit ist der Kern dieser Ebene.

Was öffentlich beziffert ist

Sechs Posten, alle aus Herstellerangaben, abgerufen am 09.10.2026:

Dazu eine angenehme Auskunft, die aber nur für einen Teil der Verfahren gilt. Beim überwachten Fine-Tuning und bei Präferenzen berechnet Microsoft weder Wartezeit noch gescheiterte Läufe, abgebrochene Läufe vor Trainingsbeginn oder die Sicher­heits­prü­fung der Daten (externe Seite, learn.microsoft.com). Beim Reinforcement Fine-Tuning, das nach Trainingszeit abgerechnet wird, entfällt nur, was durch einen Fehler des Dienstes verloren geht; wer einen Lauf abbricht, zahlt die bis dahin geleistete Arbeit.

Die Wirkung beziffert keine dieser Preisseiten. Zahlen dazu veröffentlicht OpenAI als Fälle von Kunden, die das Reinforcement Fine-Tuning genutzt haben, jeweils als Wert vor und nach dem Training. Bei Harvey stieg der F1-Wert beim Heraussuchen von Belegstellen von 0,563 auf 0,6765 (externe Seite, developers.openai.com), bei SafetyKit in der Moderation von 86 auf 90 Prozent. Die Prüfdaten der Kunden sind nicht veröffentlicht, und OpenAI wirbt mit den Fällen für ein Verfahren, das es inzwischen abwickelt. Für die eigene Aufgabe gilt deshalb: Wer eine solche Zahl braucht, erhebt sie selbst.

Die Rechnung, an einem Beispiel des Anbieters

Microsoft rechnet einen Monat durch, in seiner Anleitung mit Platzhaltern statt Beträgen. Der Fall ist ein abgestimmter o4-mini als Chatbot mit 10.000 Gesprächen (externe Seite, learn.microsoft.com), 20 Millionen Token hinein und 40 Millionen hinaus, das Modell 30 Tage lang bereitgestellt. Mit den Beträgen aus Microsofts Preisliste (externe Seite, azure.microsoft.com), abgerufen am 09.10.2026, 1,10 Dollar je Million Token hinein und 4,40 Dollar hinaus:

Bereitstellung   1,70 × 30 × 24          =  1.224,00 Dollar
Anfragen         20 × 1,10 + 40 × 4,40   =    198,00 Dollar
                                             ─────────────
                                             1.422,00 Dollar

Der Anteil der Bereitstellung liegt damit bei 86 Prozent. Das ist der eigentliche Befund: Der größere Posten entsteht, bevor jemand eine Frage stellt. Er läuft an Wochenenden weiter, in der Urlaubswoche und an jedem Tag, an dem das Modell nichts zu tun hat.

Die Beträge gelten für dieses eine Beispiel. Das Verhältnis hängt an der Auslastung, und die Richtung bleibt bei jeder Auslastung dieselbe: Je weniger Anfragen, desto größer der Anteil der reinen Bereitschaft. Erst ab gut dem Sechsfachen dieser Anfragemenge kostet das Fragen mehr als das Bereitstehen.

Für einen Versuchsaufbau gibt es deshalb den Entwickler-Tarif ohne Stundensatz, dessen Bereitstellungen nach 24 Stunden automatisch entfernt (externe Seite, learn.microsoft.com) werden. Er beantwortet die Frage „funktioniert es überhaupt“, ohne die Rechnung zu eröffnen.

Bei Google entfällt der Stundensatz, dafür kostet ab Gemini 3 jede Anfrage an ein abgestimmtes Modell an einem regionalen Endpunkt das Anderthalbfache. Dort wächst die Rechnung mit der Nutzung. Am globalen Endpunkt entfällt der Aufschlag.

Das Modell des Beispiels lässt sich bei Microsoft nur auf einem Weg abstimmen. Die Preisliste führt es als o4-mini mit Reinforcement Fine-Tuning (externe Seite, azure.microsoft.com), das nach Trainingszeit abgerechnet wird.

Außerdem ist o4-mini bei Microsoft inzwischen abgekündigt. Der Zeitplan (externe Seite, learn.microsoft.com) nennt für das Grundmodell den 19.11.2026. Abgestimmte Fassungen laufen länger: Bestandskunden können mindestens bis zum 19.05.2027 weiter abstimmen, ihre Bereitstellungen enden am 19.11.2027. Neue Kunden erreichen ein abgekündigtes Modell überhaupt nicht mehr (externe Seite, learn.microsoft.com). Für einen neuen Aufbau gilt die Rechnung also mit einem anderen Modell und dessen Preisen.

Was die Arbeiten messen, und was daraus folgt

Die Zahlen aus der Forschung beziffern durchweg dasselbe, nämlich den Abstand zwischen zwei Verfahren auf einem festen Datensatz:

Diese Zahlen belegen, dass die sparsamen Verfahren bei den gemessenen Aufgaben genügen. Sie sagen nichts darüber, was eine Abstimmung bei Ihrer Aufgabe bringt, weil ihr Bezugspunkt jedes Mal das volle Fine-Tuning derselben Sache ist. Die interessante Frage steht eine Ebene darüber, nämlich ob überhaupt trainiert werden muss.

DistilBERT ist die aussagekräftigste der vier, weil dort alle drei Seiten zugleich beziffert sind und der Verlust benannt wird. Ein Modell, das 40 Prozent kleiner ist, gibt dafür im Mittel über neun Aufgaben drei Prozent Sprachverständnis ab. Je Aufgabe reicht der erhaltene Anteil von 86 bis 105 Prozent (eigene Rechnung nach Tabelle 1 der Arbeit). Ob dieser Tausch sich lohnt, entscheidet die Anwendung. Wie das Verfahren arbeitet und was es überträgt, zeigt Nutzung und Anpassung von LLMs, Kapitel 03.

Beim Weitertrainieren auf neues Fachwissen genügen die sparsamen Verfahren weniger. Eine Vergleichsmessung von 2024 (externe Seite, arxiv.org) trainierte Llama-2-7B auf Code und Mathematik weiter. LoRA blieb dabei in den üblichen Einstellungen deutlich hinter dem vollen Fine-Tuning, und auch ein hoher Rang schloss den Abstand nicht. Beim Instruk­ti­ons­trai­ning auf Paaren aus Frage und Antwort erreichten hohe Ränge das volle Training. Dafür behielt LoRA mehr von dem, was das Grundmodell außerhalb des Fachgebiets konnte. Welcher Weg zu welcher Lücke passt, zeigt Nutzung und Anpassung von LLMs, Kapitel 08.

Was eine eigene Wirkungsmessung voraussetzt

Der Satz „das Fine-Tuning hat geholfen“ behauptet erst dann etwas, wenn vier Dinge geklärt sind:

Ein Prüfsatz, der im Training nicht vorkam. Sonst misst die Prüfung, wie gut das Modell auswendig gelernt hat. Er wird vor dem Training abgetrennt und danach nicht mehr angefasst.

Dasselbe am Grundmodell, mit demselben Prompt. Ohne diesen Vergleich ist offen, ob die Verbesserung vom Training kommt oder von der schärferen Auf­ga­ben­be­schrei­bung, die man beim Aufbereiten der Daten nebenbei geschrieben hat. Das ist der häufigste Fehlschluss in diesem Gebiet.

Ein Maß für die Sache statt für die Form. Ein abgestimmtes Modell trifft den gewünschten Ton fast immer besser, das ist der Zweck. Ob die Auskunft stimmt, ist eine andere Frage, und dafür braucht es ein eigenes Maß. Die Verfahren aus Grundkurs, Kapitel 07 gelten hier unverändert.

Eine Wiederholung nach dem nächsten Modellwechsel. Die Messung gilt für das Grundmodell, an dem sie gemacht wurde. Erscheint ein neues, wird sie wiederholt, und zwar zuerst ohne Abstimmung. Es kommt vor, dass der Nachfolger ohne jedes Training erreicht, wofür der Vorgänger eines brauchte.

Fünf Schlüsse, die nicht folgen

Aus dem Rückzug zweier Anbieter folgt kein Urteil über das Verfahren. Wer ein Angebot einstellt, sagt etwas über sein Geschäft. Was eine Abstimmung technisch leistet, steht in den Arbeiten oben und bleibt davon unberührt.

Ein sparsames Verfahren ist gegen das volle Fine-Tuning günstig. Der Faktor 10.000 aus der LoRA-Arbeit vergleicht zwei Trainingsarten miteinander. Gegen einen besseren Prompt oder eine Wissensbasis gemessen ist er ohne Aussage.

Ein kleines abgestimmtes Modell, das ein großes schlägt, schlägt es auf einer Aufgabe. Genau der, für die es abgestimmt wurde. Auf allen anderen bleibt es das kleinere Modell.

Eine niedrige Rechnung im ersten Monat sagt wenig. Der Trainingspreis fällt einmal an, die Bereitstellung dauerhaft, und der Modellwechsel bringt den Trainingspreis zurück. Gerechnet wird über die erwartete Lebensdauer des Grundmodells.

Aus einer erfolgreichen Abstimmung folgt nicht, dass sie nötig war. Solange der Vergleich am Grundmodell fehlt, ist die Verbesserung ein Beobachtungswert ohne Kontrollgruppe. Diese Prüfung kostet einen Nachmittag und entscheidet über einen Posten, der monatlich wiederkehrt.