RAG-KI oder Fine-Tuning: Was Unternehmen brauchen

RAG-KI eignet sich, wenn einem Modell die richtigen Unternehmensinformationen fehlen. Fine-Tuning kommt infrage, wenn die Fakten vorliegen, das Modell aber wiederholt den falschen Stil oder die falschen Entscheidungsregeln anwendet. Bei RAG und Fine-Tuning geht es also darum, Belege bereitzustellen oder Verhalten zu trainieren. Die folgenden 3 Praxisfälle zeigen, warum ein günstiger Trainingslauf noch kein günstigeres Gesamtsystem ergibt.

Dokumentation, Modellverfügbarkeit und Listenpreise geprüft am 16. Oktober 2026. Die folgenden Arbeitslasten und Berechnungen dienen der beispielhaften Planung. Es handelt sich nicht um gemessene Kundenergebnisse.

RAG-KI oder Fine-Tuning: Welcher Fehler soll behoben werden?

Retrieval verbessert den Wissenszugriff; Fine-Tuning setzt bei wiederkehrenden Verhaltensmustern an. Diese Unterscheidung zeigt zunächst, wo sich Arbeit lohnt – und erst danach, welcher Dienst dafür infrage kommt.

Retrieval Augmented Generation, kurz RAG, ruft relevante Inhalte ab und stellt sie dem Modell vor der Antwort im Arbeitskontext bereit. Beim Fine-Tuning wird ein vortrainiertes Modell anhand von Beispielen für erwünschte Antworten oder Entscheidungen weitertrainiert. Dabei ändern sich seine erlernten Parameter. Der Vergleich mit einer Supportkraft macht den Unterschied deutlich: Retrieval liefert das aktuelle Nachschlagewerk; Fine-Tuning entspricht einem Coaching anhand korrigierter Beispiele. Klare Anweisungen braucht es in beiden Fällen.

Das ist eine hilfreiche Grundregel, aber kein Naturgesetz, nach dem Training keine Fakten vermitteln könnte. Ein feinabgestimmtes Modell kann faktische Zusammenhänge lernen. Eine verlässliche Datenbank mit aktuellen Richtlinien, Dokumentberechtigungen und Quellenbelegen entsteht dadurch trotzdem nicht. Der Vergleich von AWS trennt diese Aufgaben der Wissensbereitstellung und der Modellanpassung.

Der Belegtest schafft Klarheit: Eine Frage auswählen, bei der das System gescheitert ist, und die richtige, aktuelle Textpassage von Hand ergänzen. Wird die Antwort dadurch brauchbar, muss der Abruf verbessert werden. Scheitert sie weiterhin, sind Anweisungen, Aufgabenschwierigkeit und Antwortverhalten zu prüfen. Fine-Tuning wird erst dann zum Kandidaten, wenn diese einfachere Ausgangslösung verbessert wurde.

Für Entwicklungsteams trennt das die Dokumentverarbeitung vom Trainingsprozess. Für Betriebsverantwortliche klärt es die Zuständigkeit: Liegt das Problem bei der Person, die das Wissen pflegt, oder bei der Person, die Beispiele freigibt? Für Einkäufer ergibt sich daraus ein sinnvoller Abnahmetest: Der Anbieter soll zeigen, welchen Fehler die zusätzliche Komponente behebt.

RAG, Fine-Tuning und Prompt Engineering im Vergleich

Am Anfang steht der kleinste Eingriff, der die Abnahmekriterien der Aufgabe erfüllt. Prompt Engineering verbessert die Anweisungen, Beispiele und Kontextinformationen einer Anfrage. Es bleibt sowohl bei Retrieval als auch bei Fine-Tuning Teil des Systems.

Wann reicht Prompt Engineering, wann braucht es RAG?

Ein Prompt genügt, wenn das nötige Material bereits in der Anfrage steht. Retrieval wird nötig, wenn die Anwendung dieses Material erst in den Unternehmensquellen finden muss. Eine bessere Anweisung kann keine Kündigungsklausel erschließen, die das Modell nie erhält. Ein Suchindex wiederum löst keine widersprüchlichen Vorgaben dazu auf, wie die Klausel anzuwenden ist.

Wann lohnt sich Fine-Tuning gegenüber Prompt Engineering?

Veränderliche Markenvorgaben und gelegentliche Aufgaben gehören in den Prompt. Fine-Tuning kommt infrage, wenn ein stabiles, wiederholt benötigtes Verhalten trotz klarer Anweisungen und repräsentativer Beispiele nicht gelingt. Googles Leitfaden zum Tuning empfiehlt, zunächst eine Vergleichsbasis mit Prompting aufzubauen.

Wie hängen Fine-Tuning und Transfer Learning zusammen?

Fine-Tuning ist eine Form von Transfer Learning: Fähigkeiten aus einem früheren Training werden an die eigene Aufgabe angepasst. Es ist keine weitere Technik zum Abrufen von Quellen. Für die Entscheidung zählt deshalb, ob das erlernte Verhalten überhaupt geändert werden muss.

Vor der Umsetzung ein unterstütztes Modell wählen

Vor einem Fine-Tuning-Projekt bei einem verwalteten Dienst müssen sowohl die Modellunterstützung als auch die Zugangsberechtigung des Kontos geklärt sein. Ein Modellname in einem älteren Tutorial reicht dafür nicht aus.

Die Self-Service-Plattform für Fine-Tuning von OpenAI wurde am 7. Mai 2026 für Organisationen geschlossen, die sie zuvor nie genutzt hatten. Seit dem 2. Juli 2026 können auch Organisationen keine Trainingsaufträge mehr anlegen, wenn sie in den vorangegangenen 60 Tagen kein feinabgestimmtes Modell ausgeführt haben. Laut aktueller Ankündigung verlieren aktive Bestandskunden am 6. Januar 2027 ebenfalls die Möglichkeit, neue Trainingsaufträge anzulegen. Bereits feinabgestimmte Modelle können nur so lange für die Inferenz genutzt werden, bis das zugrunde liegende Modell eingestellt wird. Für ein neues Unternehmensprojekt ist das daher kein Standardweg. OpenAI-Ankündigung zu Einstellungen.

Google Gemini 3.1 Flash-Lite ist ein möglicher Kandidat: Die aktuelle Google-Cloud-Dokumentation unterstützt dafür ausdrücklich überwachtes Fine-Tuning, also Training mit beschrifteten Beispielen. Google nennt die Plattform in der aktuellen Dokumentation Gemini Enterprise Agent Platform; die frühere Vertex-AI-Dokumentation zum Tuning leitet dorthin weiter. Das Modell liefert unten eine konkrete Kalkulationsgrundlage. Daraus folgt nicht, dass es bei der jeweiligen Aufgabe am besten abschneidet. Für Tuning unterstützte Modelle.

Die Bereitstellung hat eine wichtige Einschränkung: Das Tuning dieses Modells läuft in us-central1 oder europe-west4; für die Inferenz feinabgestimmter Modelle werden dagegen die multiregionalen Endpunkte us oder eu verwendet. In die Kalkulation gehören deren Preise, nicht der günstigere globale Tarif des Basismodells. Google nimmt überwachtes Fine-Tuning außerdem von seiner Service-Level-Garantie aus. Einschränkungen beim Tuning.

Preisgrundlage der Beispiele: Die standardmäßige Textinferenz außerhalb des globalen Endpunkts kostet $0.275 für Eingaben, $0.0275 für Eingaben aus dem Cache und $1.65 für Ausgaben je Million Tokens. Tuning kostet $3 je Million Trainingstokens, einschließlich wiederholter Epochen. Die Inferenz mit feinabgestimmten Modellen kostet das 1.5-Fache des Basistarifs, also $0.4125 für Eingaben und $2.475 für Ausgaben. Das sind Listenpreise von Google Cloud, keine Abopreise der Gemini-App. Google-Preise.

Eine Epoche ist ein vollständiger Durchlauf durch den Trainingsdatensatz. Alle Beispiele gehen von einem Modellaufruf pro Vorgang aus; die abgerechneten Ausgabetokens enthalten etwaige Reasoning-Tokens. Nicht enthalten sind Steuern, Entwicklung, Beschriftung der Daten, Evaluationsaufrufe, Wiederholungsversuche, Speicherung der Quelldokumente, Dokumentenscans und zusätzliche Suchdienste. Dafür sind eigene Budgets nötig. Eine Trainingsrechnung ist kein Angebot für die gesamte Umsetzung.

Drei Praxisfälle: Umsetzung und Kosten

Supportantworten aus Unternehmensdokumenten: mit RAG beginnen

Der Supportassistent eines Softwareunternehmens braucht zunächst aktuelle Belege, bevor Training sinnvoll wird. Fragt ein Kunde, ob eine Kündigung sofort wirksam wird, muss die Antwort der aktuellen Richtlinie und etwaigen Ausnahmen im Vertrag entsprechen.

Dafür braucht es einen Importprozess, der freigegebene Dokumente einliest, in sinnvolle Textabschnitte zerlegt und Quell-URL, Gültigkeitsdatum, Produkt und Zugriffsrechte erhält. Bei einer Anfrage wird die Suche auf Inhalte beschränkt, die der Kunde sehen darf. Die Anwendung ruft relevante Passagen ab und weist das Modell an, auf dieser Grundlage mit Quellenangaben zu antworten. Geänderte Passagen werden ersetzt, gelöschte entfernt. Eine Änderung an der Quelle aktualisiert den Index nicht automatisch im selben Moment.

OpenAI text-embedding-3-small wandelt Text in numerische Repräsentationen für die Ähnlichkeitssuche um. Das kostet $0.02 je Million Eingabetokens; die Repräsentationen haben standardmäßig 1,536 Dimensionen. Die Einbettung macht Dokumente durchsuchbar. Sie trainiert nicht das Modell, das die Antworten formuliert. Modellpreis, Embedding-Dimensionen.

Cloudflare Vectorize dient in diesem Beispiel als Vektordatenbank. Sie speichert diese Repräsentationen und findet ähnliche. Ihre Grenze liegt in der Qualität der Belege: Auch eine im Vektorraum nahe Passage kann veraltet oder irrelevant sein. Die Anwendung muss Zugriffsrechte durchsetzen und prüfen, ob der ausgewählte Text die Antwort tatsächlich stützt.

Kosten für den Aufbau: Angenommen werden 10,000 Textabschnitte mit durchschnittlich 500 Tokens nach der Aufteilung. Die erstmalige Einbettung kostet 5 Millionen Tokens × $0.02 = $0.10. Das Auslesen der Dokumente und die oben beschriebene Entwicklungsarbeit sind darin nicht enthalten.

Der Index speichert 15.36 Millionen Dimensionen und überschreitet damit das kostenlose Vectorize-Kontingent von 5 Millionen. Im kostenpflichtigen Kontingent sind 10 Millionen gespeicherte Dimensionen und 50 Millionen abgefragte Dimensionen pro Monat enthalten. Darüber hinaus fallen $0.05 je 100 Millionen gespeicherte und $0.01 je Million abgefragte Dimensionen an. Die veröffentlichte Formel von Cloudflare ergibt für diesen Index bei 10,000 monatlichen Abfragen insgesamt 30.72 Millionen abgefragte Dimensionen und bleibt damit innerhalb des Kontingents. Der zusätzliche Speicher kostet $0.00268/Monat. Dabei wird angenommen, dass die Kontingente nicht schon anderweitig im Konto genutzt werden. Vectorize-Preise.

Monatliches Komponentenbudget: 1,000 Textabschnitte zu ersetzen und 10,000 Fragen mit durchschnittlich 100 Tokens einzubetten, kostet $0.03. Für 10,000 Antworten mit jeweils 2,500 Eingabetokens insgesamt und 400 Ausgabetokens fallen $13.475 an. Mit dem Mindestpreis von $5 für das Workers-Paid-Konto und dem zusätzlichen Speicher ergibt das rund $18.51/Monat, zuzüglich der erstmaligen Einbettung. Die Ausführung der Worker bleibt annahmegemäß innerhalb der enthaltenen Kontingente. Workers-Preise.

Im Betrieb zählt, ob die Antwort die tatsächlich geltende Richtlinie verwendet, eine passende Belegstelle nennt und keine Ausnahme erfindet. Zu testen sind auch gelöschte Dokumente sowie der Versuch eines Kunden, auf den Vertrag eines anderen Kunden zuzugreifen. Tuning folgt erst dann, wenn trotz korrekter Belege ein wiederholbarer Verhaltensfehler bleibt.

Einheitlicher Schreibstil: vor dem Training Beispiele und Caching testen

Eine gefestigte redaktionelle Stimme kann Tuning rechtfertigen. Solange eine Marke noch über ihren Stil streitet, fehlt diese Grundlage. Ein Beispiel ist ein Unternehmen, dessen Produkt-E-Mails direkt klingen, auf überzogene Versprechen verzichten und mit einem konkreten nächsten Schritt enden sollen.

Den Anfang machen ein Stilleitfaden und freigegebene Beispiele im Prompt. Verfehlt das Ergebnis wiederholt feine redaktionelle Vorgaben, lassen sich Trainingspaare aufbauen: als Eingabe das ursprüngliche Briefing samt Fakten, als Ausgabe der redaktionell freigegebene Entwurf. Ein Archiv fertiger E-Mails allein zeigt nicht, welche Eingabe zu welcher Antwort führen soll.

Bei einem beispielhaften Briefing zur Einführung von Samstagssupport könnte die freigegebene Zielformulierung lauten: „Der Support ist jetzt auch samstags erreichbar. Bei Fragen einfach den Chat öffnen.“ Das Zielbeispiel zeigt den Ton; die Fakten liefert das Briefing.

Stil und Sachinhalt müssen getrennt bleiben. Die Vorliebe für kurze Einstiege lässt sich trainieren; die Produktdetails dieser Woche werden zur Anfrage mitgegeben. Für die Evaluation bleiben Briefings zurückgehalten, die im Training nicht verwendet wurden. Die Redaktion beurteilt unbelegte Behauptungen, Ton, Pflichtinhalte und den nötigen Überarbeitungsaufwand. Ein Wert für Textähnlichkeit belegt noch keine gute Markenkommunikation.

Kosten für den Aufbau: 1,000 Paare mit durchschnittlich insgesamt 1,600 Tokens × 3 Epochen = 4.8 Millionen Trainingstokens kosten $14.40 für einen Trainingslauf. Das sind Budgetannahmen, keine Empfehlung, dass genau diese Datensatzgröße oder Epochenzahl die Evaluation bestehen wird.

Monatliche Modellnutzung: 10,000 Entwürfe mit jeweils 1,200 Eingabetokens und 400 Ausgabetokens kosten beim feinabgestimmten Modell $14.85. Dasselbe Basismodell kostet mit 4,800 zusätzlichen Tokens für Stilvorgaben und Beispiele je Anfrage ohne Cache-Treffer $23.10. Im Grenzfall eines eingespielten Betriebs, in dem jedes wiederholte Präfix den impliziten Cache trifft, sinkt diese Prompt-Vergleichsbasis auf $11.22, zuzüglich der Kosten für Cache-Fehltreffer und die Aufwärmphase. Die Berechnungen verwenden die oben genannten Google-Tarife.

Damit kehrt sich das Kostenargument um. Fine-Tuning kann sich weiterhin lohnen, wenn es redaktionelle Nacharbeit reduziert. Es ist aber nicht automatisch der günstigere Weg, die wiederholten Kosten eines langen Stil-Prompts zu vermeiden. Vor dem Aufbau eines Trainingsprozesses sollten deshalb Cache-Nutzung und redaktionelle Abnahme gemessen werden.

Ticketklassifikation: stabile Entscheidungen trainieren, wechselnde Regeln abrufen

Ein Ticketklassifikator eignet sich gut für Tuning, wenn seine Kategorien stabil und seine wiederkehrenden Fehler messbar sind. Angenommen, die erlaubten Labels lauten billing, access, bug und review.

Die Nachricht „Ich kann meine Rechnung nicht öffnen“ zeigt die Schwierigkeit. Sie enthält einen Begriff aus der Abrechnung, könnte aber in die für Zugriffsprobleme zuständige Warteschlange gehören. Diese Abgrenzung muss mit den Supportverantwortlichen geklärt werden. Anschließend werden repräsentative Nachrichten beschriftet, einschließlich mehrdeutiger Fälle. Zusammengehörige Nachrichten aus derselben Unterhaltung bleiben beim Aufteilen in Trainings- und Evaluationsdaten in derselben Gruppe. Spätere Tickets helfen zusätzlich, Veränderungen bei Sprache oder Produkten sichtbar zu machen.

Die Ausgabe muss einem erlaubten Label entsprechen. Ein gültiges Format allein bedeutet aber noch keinen Erfolg. Übersehene dringende Fälle, falsche Zuordnungen, unnötige Prüfungen und der anschließende Umverteilungsaufwand werden getrennt gemessen. Die Aussage des Modells, es sei sich sicher, ist kein kalibrierter Schwellenwert für die Weiterleitung.

Kosten für den Aufbau: 5,000 beschriftete Beispiele mit durchschnittlich insgesamt 300 Tokens × 3 Epochen = 4.5 Millionen Trainingstokens kosten $13.50 für einen Trainingslauf. Monatliche Modellnutzung: 100,000 Tickets mit jeweils 250 Eingabetokens und 20 abrechenbaren Ausgabetokens kosten feinabgestimmt rund $15.26. Derselbe kurze Prompt kostet auf dem Basismodell $10.18. Das feinabgestimmte Modell muss diesen Aufpreis durch bessere Entscheidungen rechtfertigen. Google-Preise.

Anwendungscode muss ungültige Labels zurückweisen und mehrdeutige Fälle zur Prüfung weiterleiten. Googles Tuning-Dokumentation warnt davor, bei der Inferenz zusätzlich eine kontrollierte Generierung einzusetzen, die die Ausgabe auf ein Schema beschränkt: Dadurch kann eine Abweichung vom Training entstehen. Evaluiert werden muss daher genau die Kombination, die später eingesetzt werden soll. Bekannte Probleme beim Tuning.

Ändern sich die Zuständigkeiten der Warteschlangen häufig, bleibt die aktuelle Weiterleitungsrichtlinie außerhalb der Modellgewichte. Sie wird abgerufen oder im Prompt bereitgestellt. Ändern sich sogar die Abgrenzungen zwischen den Labels fortlaufend, sollte das Tuning warten, bis die Abläufe stabil genug sind, um sie zu trainieren.

Was lange Kontextfenster und Prompt-Caching 2026 verändern

Bei einer kleinen, stabilen Dokumentensammlung kann es sich inzwischen lohnen, sie direkt mitzugeben, bevor ein Retrieval-Dienst aufgebaut wird. Lange Kontextfenster und Caching wurden nicht erst 2026 erfunden. Sie verändern aber die Vergleichsbasis für heutige Entscheidungen.

Das Kontextfenster bestimmt, wie viel Material ein Modell innerhalb einer Anfrage verarbeiten kann. Für Gemini 3.1 Flash-Lite, veröffentlicht am 7. Mai 2026, ist ein Kontextfenster von 1,048,576 Tokens angegeben. Das beschreibt die Kapazität, garantiert aber nicht, dass jede Ausnahme in einem umfangreichen Handbuch korrekt berücksichtigt wird. Für Anweisungen, Frage und Generierung muss Platz bleiben; anschließend sind die schwierigen Textstellen zu testen. Modellspezifikation.

RAG vs. CAG: abrufen oder im Cache bereithalten?

Cache-Augmented Generation, kurz CAG, bezeichnet das Vorladen von Wissen und die Wiederverwendung eines zwischengespeicherten Kontexts, statt für jede Frage Dokumente abzurufen. Das ist sinnvoll, wenn der relevante Bestand in den Kontext passt, sich selten ändert und für alle Empfänger dieselben Zugriffsrechte gelten. Prompt-Caching nutzt die Verarbeitung wiederholter Eingaben erneut. Es speichert diese Fakten weder in den Modellgewichten noch garantiert es eine aktuelle Antwort.

Bei einem angenommenen Handbuch mit 80,000 Tokens, das für 10,000 Anfragen wiederverwendet wird, kostet allein dessen Eingabeanteil $220 ohne Caching beziehungsweise $22 zum Cache-Tarif, wenn jede Anfrage trifft. Neue Fragen, Ausgaben, Cache-Fehltreffer und das Anlegen des Caches verursachen weiterhin Kosten. Wird das Handbuch 720 Stunden in einem expliziten Cache gehalten, kommen $57.60 Speicherkosten hinzu, berechnet mit dem Listenpreis von $1 je Million Token-Stunden. Google-Cache-Preise.

Implizites Caching verursacht keine Speicherkosten, garantiert aber keine Treffer. Gemeinsame Inhalte gehören an den Anfang, ihr Präfix sollte unverändert bleiben. In den Antworten lässt sich cachedContentTokenCount prüfen. Dieses Modell benötigt mindestens 4,096 Tokens geeigneten Kontexts. Ein kurzer Ticket-Prompt sollte daher nicht als Cache-Treffer kalkuliert werden. Caching-Dokumentation.

Die Grenze ergibt sich aus dem Einsatzfall. Ein begrenztes Handbuch, das als Ganzes aktualisiert und freigegeben werden kann, eignet sich für die direkte Übergabe in einem langen Kontext. Retrieval ist sinnvoll, wenn der Unternehmensbestand größer ist, sich abschnittsweise ändert oder Dokumente mit unterschiedlichen Berechtigungen enthält. Auch innerhalb eines RAG-Systems lässt sich bei Bedarf ein gemeinsames Anweisungspräfix zwischenspeichern. Diese Ansätze können nebeneinander bestehen.

Nicht jede Cache-Funktion steht automatisch auch bei einem feinabgestimmten Modell zur Verfügung. Laut Googles aktueller Caching-Dokumentation für feinabgestimmte Modelle wird explizites Caching für diese Modelle nicht unterstützt. Die Unterstützung für implizites Caching hängt dagegen von der Modellversion ab.

Beides kombinieren, wenn sich Fakten ändern und Verhaltensfehler bleiben

Retrieval und Tuning gehören zusammen, wenn beide einen jeweils nachgewiesenen Fehler beheben. Ein Supportassistent könnte die aktuelle Kündigungsklausel abrufen, während ein feinabgestimmtes Modell die bevorzugte Antwortstruktur des Unternehmens einhält: Antwort, Beleg, zulässiger nächster Schritt oder Eskalation.

Die Trainingsbeispiele sollten den Belegen ähneln, die das Modell später im Betrieb erhält. Dazu gehören auch fehlende, irrelevante und widersprüchliche Passagen. Das gewünschte Verhalten umfasst dann Rückfragen oder die Weigerung, eine Antwort zu erfinden. Im laufenden Betrieb werden Zugriffsrechte weiterhin geprüft, bevor geschützte Inhalte das Modell erreichen.

Retrieval und Antwortverhalten werden getrennt evaluiert. Korrekte Quellenangaben, Berechtigungsgrenzen und die Aktualisierung der Quellen bleiben Aufgaben der Anwendung. Ein feinabgestimmtes Modell setzt sie nicht von selbst durch.

Wenn die Suche nach Belegen weitere Suchschritte erfordert, erklärt der Leitfaden zu agentischem RAG, wann eine begrenzte Retrieval-Schleife ihre zusätzliche Komplexität rechtfertigt. Sobald eine stabile Verhaltenslücke Training sinnvoll macht, behandelt die Anleitung zum Fine-Tuning eines LLM Datenvorbereitung, Checkpoints und Evaluation.

Welche Versprechen sind überzogen?

Weder „RAG gewinnt immer“ noch „durch Fine-Tuning kennt das Modell unser Unternehmen“ taugt als belastbare Entwicklungsvorgabe. Retrieval kann an veralteten Quellen, schlecht ausgewählten Passagen oder fehlendem Kontext scheitern. Tuning kann widersprüchliche Beispiele lernen und eine überholte Regel anschließend noch konsequenter reproduzieren.

Auch günstige Rechenkosten für das Training werden leicht überbewertet. Die Rechnung enthält nicht die Arbeit, gute Ergebnisse zu definieren, Uneinigkeit bei der Beschriftung aufzulösen und einen brauchbaren Testsatz zu pflegen. Größere Kontextfenster beseitigen eine Kapazitätsgrenze. Sie belegen nicht, dass das Modell aus sämtlichen bereitgestellten Fakten korrekt schließt.

Ein belastbarer Nachweis ist enger gefasst: An zurückgehaltenen Fällen aus der eigenen Arbeit behebt diese Komponente einen benannten Fehler und erfüllt weiterhin alle übrigen Anforderungen. Besteht der vorhandene Prompt den Test bereits, braucht das System keine Änderung.

Wann ist RAG sinnvoll, wann Fine-Tuning?

Fehlende Belege sollten sofort angegangen werden. Training kann warten, bis sich die Verhaltenslücke benennen und messen lässt. Bei wechselnden Richtlinien müssen Betriebsverantwortliche zuerst Quellenzuständigkeit und Aktualisierung klären. Redaktionen mit verbindlichen Beispielen und wiederkehrender Nacharbeit sollten Prompting mit Tuning vergleichen. Ein Klassifikator mit wechselnden Labels sollte warten. Ein funktionierender Prompt-Workflow wird nicht allein deshalb änderungsbedürftig, weil eine weitere Optimierungstechnik verfügbar ist.

Für den nächsten Arbeitsbeginn ergibt sich daraus:

1. 1

   Vor jeder Systemänderung die Fehlerfälle sichern

   Repräsentative Supportfragen, Schreibbriefings oder Tickets auswählen. Die freigegebene Antwort oder Entscheidung festhalten und diese Evaluationsfälle aus dem Trainingsdatensatz heraushalten.

2. 2

   Die fehlenden Belege von Hand ergänzen

   Die Aufgabe mit der richtigen Textpassage und klaren Anweisungen wiederholen. Den verbleibenden Fehler einordnen: fehlendes Wissen, unklare Regel, falsches Verhalten oder eine Aufgabe, die das Modell noch nicht bewältigt.

3. 3

   Die kleinste passende Lösung kalkulieren

   Den bestehenden Prompt, einen Prompt mit Cache oder langem Kontext und Retrieval vergleichen. Erst danach bei Bedarf ein unterstütztes Fine-Tuning einbeziehen. Tatsächlich abgerechnete Tokens, Cache-Treffer, Wiederholungsversuche und menschliche Korrekturarbeit mitzählen.

4. 4

   Anhand der Abnahmekriterien in Betrieb nehmen

   Die einfachste Lösung wählen, die den Test besteht. Die Verantwortung für Dokumentaktualisierung oder Prüfung der Trainingsbeispiele zuweisen, die eingesetzten Versionen festhalten und einen Rückweg zur vorherigen Version erhalten.

Häufige Fragen

Was bedeutet Fine-Tuning bei KI?

Fine-Tuning passt ein vortrainiertes Modell mit zusätzlichen Trainingsbeispielen an. In Unternehmensabläufen ist das sinnvolle Ziel meist ein wiederholbarer Antwortstil oder ein bestimmtes Verhalten bei einer Aufgabe.

Wie viel kostet das Fine-Tuning eines Modells?

Der einzelne Google-Trainingslauf im Schreibbeispiel kostet unter den genannten Annahmen zu Tokens und Epochen $14.40. Beschriftung, Evaluation, Inferenz und Entwicklung werden separat bezahlt. Erfolglose Experimente führen zu weiteren Trainingsläufen.

Was ist besser als RAG?

Ein direkter Prompt kann einfacher sein, wenn er bereits alle nötigen Belege enthält. Fine-Tuning kann bei einem stabilen Verhaltensproblem helfen. Muss das System aktuelle Fakten finden, auf die der Nutzer zugreifen darf, ersetzt beides das Retrieval nicht.

Was unterscheidet ein feinabgestimmtes Modell von einem RAG-Ansatz?

Fine-Tuning verändert durch Training die erlernten Parameter. RAG verändert die Belege, die bei einer Anfrage bereitgestellt werden. Einen Quellenindex zu aktualisieren, ein Modell erneut zu trainieren und eine Antwort mit einer gültigen Quellenangabe zu belegen, sind unterschiedliche Aufgaben.

Ist Fine-Tuning widerlegt?

Nein, sofern damit die Anpassung von Modellen des maschinellen Lernens gemeint ist. Der Nutzen hängt von der Aufgabe ab und sollte gegenüber einer Prompt-Vergleichsbasis mit Beispielen nachgewiesen werden, die nicht im Training vorkamen.

Wie wurde ChatGPT feinabgestimmt?

In der ursprünglichen Ankündigung von ChatGPT aus dem Jahr 2022 beschrieb OpenAI zunächst überwachtes Training mit Dialogbeispielen und anschließend Reinforcement Learning anhand menschlicher Rückmeldungen. Dieses damalige Verfahren ist von den heutigen Zugangsvoraussetzungen für geschäftliches API-Tuning zu unterscheiden.

Was sagte Stephen Hawking über Feinabstimmung?

Diese Frage betrifft die kosmologische Feinabstimmung und damit eine andere Bedeutung des Begriffs. Es geht dabei nicht um die Anpassung eines Sprachmodells. Die unternehmerische Entscheidung hier betrifft Retrieval und Training, keine Aussage über das Universum.

Wird Fine-Tuning noch eingesetzt?

Ja. Googles aktuelle Dokumentation führt unterstützte Modelle auf, darunter das hier verwendete Gemini-Modell. Die Verfügbarkeit bei Anbietern ändert sich. Deshalb müssen das konkrete Modell und die Zugangsberechtigung des Kontos vor der Vorbereitung eines Trainingsauftrags geprüft werden.

Welches Modell eignet sich am besten für Fine-Tuning?

Geeignet ist ein unterstütztes Basismodell, das die Kernaufgabe bereits bewältigt und die Anforderungen an die Bereitstellung erfüllt. Gemini 3.1 Flash-Lite dient hier als Preisbeispiel, nicht als getesteter Universalsieger. Entscheidend sind die eigenen zurückgehaltenen Testfälle.

Für praktische Entscheidungen beim Entwickeln mit KI: den Newsletter abonnieren.