Small Language Models oder LLM: Die passende Modellgröße

Small Language Models eignen sich für eng umrissene Arbeitsschritte, deren Ergebnis sich prüfen lässt. Für mehrdeutige Aufgaben mit mehreren Schritten ist ein großes Sprachmodell der leistungsfähigsten Klasse der bessere Ausgangspunkt. Die Entscheidung LLM vs SLM beginnt bei der Aufgabe: Microsoft Phi-4-mini-instruct hat 3.8 Milliarden Parameter. Allein daraus lässt sich aber nicht ableiten, ob es die Qualitätsanforderungen einer Funktion erfüllt. In gemischten Workflows sollte die Wahl zwischen SLM und LLM für jeden Schritt einzeln fallen.

Small Language Models vs. LLM: Welches Modell passt?

Für Klassifikation, Datenextraktion oder kurze Textüberarbeitungen lohnt sich der Einstieg mit einem kleinen Modell. Dazu gehören eine klar begrenzte Eingabe, festgelegte zulässige Ausgaben und ein Vergleich der Fehler mit der bisherigen Lösung. Ein Support-Ticket zu kategorisieren ist ein besserer erster Anwendungsfall als ein Agent, der jeden Kundenstreit eigenständig lösen soll.

Für Recherche, Planung oder freies Schreiben ist zunächst ein Frontier-Modell sinnvoll. Gemeint sind damit die leistungsfähigsten Allzweckmodelle eines Anbieters. Zuerst muss feststehen, wie ein gutes Ergebnis aussieht. Erst dann lässt sich prüfen, ob ein kleineres Modell dieselbe Qualität erreicht.

Bei Offline-Funktionen oder vertraulichen Daten entscheidet zuerst, wo die Verarbeitung stattfinden darf. Eine effiziente Cloud-API erfüllt keine Vorgabe zur Ausführung direkt auf dem Gerät. Ein herunterladbares kleines Modell hilft nur dann, wenn auch Anwendung, Tools und Protokolle die Daten innerhalb der vorgesehenen Grenzen halten.

Diese Empfehlungen dienen als Ausgangspunkt; sie sind keine Ergebnisse eines Modellvergleichstests. Die Herstellerseiten wurden am 26. Oktober 2026 geprüft. Der Vergleich stützt sich auf dokumentierte Fähigkeiten, Bereitstellungsgrenzen und aufgabenspezifische Abnahmekriterien. Für diesen Artikel wurden keine Leistungstests mit den Modellen durchgeführt.

Was bedeutet „klein“ bei Sprachmodellen?

„Klein“ beschreibt die relative Größe eines Modells, keine eigene Art von Intelligenz. Ein Parameter ist ein erlerntes numerisches Gewicht; B steht für Milliarden. Die Abgrenzung ist so unscharf, dass Meta seine Llama-3.2-Modelle mit 1B und 3B selbst als Large Language Models bezeichnet.

Auch ein kleines Modell kann breit trainiert sein. Sein geringer Ressourcenbedarf bedeutet nicht, dass es die Erstattungsregeln eines Unternehmens kennt. Erst Anweisungen, mitgelieferte Belege, zulässige Ausgaben und gegebenenfalls zusätzliches Training grenzen seine Aufgabe ein.

SLM-Modellgrößen: Was die Bezeichnungen aussagen

Drei Fragen müssen getrennt betrachtet werden: Wie viele Gewichte gibt es insgesamt? Wie viel Rechenarbeit fällt pro Token an? Und wo läuft das Modell? Ein Token ist ein Textbaustein, den das Modell verarbeitet.

Die Modellnamen von Google Gemma machen den Unterschied deutlich. E2B und E4B bezeichnen effektive Parameter; zusätzliche Embedding-Gewichte benötigen ebenfalls Speicher. 26B A4B bezeichnet ein Mixture-of-Experts-Modell, das für jedes Token einen Teil seines Netzwerks auswählt. Laut Google aktiviert es 4 Milliarden Parameter, lädt für schnelle Inferenz aber alle 26 Milliarden. Der Speicherbedarf entspricht also nicht dem eines 4B-Modells. Googles Hinweise zum Speicherbedarf erläutern diese Unterscheidung.

Quantisierung speichert Gewichte mit geringerer numerischer Genauigkeit und kann so den Speicherbedarf senken. Speicher für den Kontext und die unterstützende Software wird trotzdem benötigt. Der KV-Cache hält während der Generierung Zwischeninformationen zum Kontext vor; längere Anfragen und Antworten können ihn vergrößern. Maßgeblich für die Planung sind der konkrete Checkpoint und die Anforderungen der Laufzeitumgebung. Anschließend muss auf dem Zielgerät gemessen werden.

Eine als schnell oder effizient beworbene API-Modellvariante beantwortet eine andere Frage. Sie kann Antwortzeiten und Betriebskosten verbessern, ohne ihre Parameterzahl offenzulegen oder herunterladbare Gewichte bereitzustellen.

SLM-Beispiele: Diese Modellfamilien kommen infrage

Die folgenden, von den Herstellern benannten Checkpoints sind Kandidaten für konkrete Aufgaben. Aus dem Namen einer Modellfamilie allein lassen sich weder Eingabetypen noch Speicherbedarf oder Zuverlässigkeit ablesen.

Microsoft Phi: Begrenzte Textaufgaben, begrenztes Faktenwissen

Microsoft Phi-4-mini-instruct ist ein offenes Textmodell mit 3.8B Parametern und einem Kontextfenster von 128K Token. Die Modellkarte dokumentiert das Befolgen von Anweisungen, ein Format für Funktionsaufrufe und die lokale Bereitstellung. Das Modell kommt etwa für die Extraktion von Feldern aus bereitgestellten Texten oder die Überarbeitung einer kurzen Antwort in ein vorgegebenes Format infrage. Microsofts Modellkarte.

Die wichtigste Grenze betrifft das Faktenwissen: Microsoft weist darauf hin, dass das Modell kein umfangreiches Faktenwissen speichern kann und falsche Tatsachen ausgeben kann. Ein Support-Assistent sollte deshalb die einschlägigen Richtlinien erhalten, statt die Geschäftsregeln aus seinen Modellgewichten kennen zu müssen.

Das verwandte Phi-4-mini-reasoning hat ebenfalls 3.8B Parameter. Laut Microsoft wurde es jedoch für mathematisches Schlussfolgern entwickelt und getestet. Diese Spezialisierung belegt nicht, dass es einen Kundenservice-Agenten mit offenem Aufgabenbereich steuern kann. Modellkarte zu Phi-4-mini-reasoning.

Google Gemma: Mobile Modelle mit erklärungsbedürftigen Größenangaben

Google Gemma 4 umfasst E2B und E4B, die Modelle mit 2B und 4B effektiven Parametern für Mobilgeräte und Edge-Anwendungen. Google dokumentiert für diese Größen Text-, Bild- und native Audioeingaben, ein 128K-Kontextfenster, konfigurierbares Thinking und Funktionsaufrufe. Sie sind ein sinnvoller Ausgangspunkt, wenn eine Funktion lokal multimodale Eingaben verarbeiten soll, also mehr als nur Text. Überblick zu Gemma 4.

Ob die Bereitstellung passt, muss trotzdem geprüft werden. Die effektive Parameterzahl entspricht nicht der Gesamtzahl der Gewichte, und die Nutzung des gesamten Kontextfensters benötigt zusätzlichen Speicher. Auch ein grundsätzlich für Smartphones geeignetes Modell braucht eine kompatible Laufzeitumgebung und eine akzeptable Dauerleistung auf dem konkreten Gerät.

Alibaba Qwen: Mehrere Größen und eine Warnung beim kleinsten Modell

Alibaba Qwen3.5 führt in der Sammlung des Herstellers kleine Checkpoints mit den Größenbezeichnungen 0.8B, 2B, 4B und 9B. Die Modellkarte von Qwen3.5-4B nennt 4B für die Sprachmodellkomponente und führt zusätzlich einen Vision-Encoder auf. Für die Ressourcenplanung zählt das Gesamtpaket, nicht nur das Kürzel im Namen.

Qwen3.5-4B unterstützt laut Dokumentation Text-, Bild- und Videoeingaben sowie einen nativen Kontext von 262,144 Token. Damit lohnt sich eine Evaluation für Funktionen zur Dokumentenverarbeitung. Die Fenstergröße beschreibt jedoch eine Kapazität und belegt nicht, dass das Modell über ein langes Dokument hinweg zuverlässig schlussfolgert.

Besonders deutlich fällt die Warnung zu Qwen3.5-0.8B aus. Der Hersteller sieht es für Prototypen, aufgabenspezifisches Fine-Tuning sowie Forschung und Entwicklung vor. Er warnt außerdem, dass aktiviertes Thinking die Anfälligkeit für Schleifen erhöht, durch die die Generierung möglicherweise nicht endet. Für unbeaufsichtigte Reasoning-Schleifen müssen deshalb zunächst das Beenden der Generierung getestet und feste Grenzen durchgesetzt werden. Warnhinweis von Qwen.

Meta Llama: Kleine Textmodelle mit klarer Modalitätsgrenze

Meta Llama 3.2 bietet Modelle mit 1B und 3B, die Text einlesen und Text ausgeben. Meta nennt für die auf Anweisungen abgestimmten Varianten unter anderem Dialoge, Retrieval, Zusammenfassungen und mobile Schreibassistenz. Sie kommen für lokale Textfunktionen infrage, die keine Bilder auswerten müssen. Metas Modellkarte.

Diese kleinen Checkpoints verarbeiten ausschließlich Text. Für sie gelten außerdem Metas Llama 3.2 Community License und Acceptable Use Policy. Die Lizenzbedingungen müssen daher unabhängig von der technischen Eignung geprüft werden.

Eine nach Hardware geordnete Vorauswahl bietet der Beitrag zu den besten lokalen LLMs 2026. Hier geht es darum, welche Rolle das Modell übernehmen soll.

Effiziente API-Modelle separat vergleichen

Gehostete effiziente Modelle sind naheliegende Kandidaten, wenn der Infrastrukturaufwand gering bleiben soll. Die folgenden Seiten veröffentlichen keine Parameterzahlen. Jede dieser Varianten als SLM zu bezeichnen, würde deshalb eine Modellgröße unterstellen, die dort nicht belegt ist.

OpenAI: GPT-6 Luna für klar begrenzte Aufgaben

OpenAI GPT-6 Luna ist für fokussierte Aufgaben mit hohem Anfragevolumen vorgesehen. Die Auswahlhilfe von OpenAI ordnet Luna klar eingegrenzten Aufgaben und der Vorsortierung zu, GPT-6 Astra dagegen mehrdeutigen Problemen und tiefgehenden Analysen. Damit lässt sich sinnvoll zwischen begrenzten Arbeitsschritten und Aufgaben für Frontier-Modelle unterscheiden, ohne für eines der Modelle eine Parameterzahl zu erfinden.

Bei Luna hängt die Tool-Nutzung vom Endpunkt ab. Laut Modellseite erfordert Function Calling in Chat Completions die Einstellung reasoning_effort auf none; die Responses API unterstützt integrierte Tools und Funktionsaufrufe. Vor dem Austausch eines Agentenmodells müssen daher die Vorgaben des jeweiligen Endpunkts geprüft werden.

Anthropic: Claude Haiku 5.5 für wiederkehrende Agentenschritte

Anthropic Claude Haiku 5.5 ist laut Dokumentation für Klassifikation, Extraktion, Routing und Aufgaben als Subagent vorgesehen. Es bietet adaptives Thinking und ein Kontextfenster von 1M Token. Damit kommt es für wiederkehrende, klar begrenzte Schritte innerhalb eines größeren Agenten infrage. Dokumentation zu Haiku 5.5.

Vor einer Migration muss geprüft werden, ob die Anfragen kompatibel sind: Laut Anthropic sind temperature, top_p und top_k wegzulassen. Eine gemeinsame API-Abstraktionsschicht muss solche modellspezifischen Einstellungen berücksichtigen. Auch das große Kontextfenster bedeutet nicht, dass jede Aufgabe mit langem Kontext für eine kleinere Modellvariante geeignet ist.

Google: Gemini 3.5 Flash-Lite für multimodale Eingaben

Google Gemini 3.5 Flash-Lite ist laut Dokumentation für Subagentenaufgaben mit hohem Durchsatz und das Auslesen von Dokumenten vorgesehen. Es nimmt Text, Bilder, Video, Audio und PDFs entgegen, gibt Text zurück und unterstützt strukturierte Ausgaben sowie Funktionsaufrufe. Damit kommt es infrage, um eingehendes Material in einen klar definierten Datensatz umzuwandeln. Dokumentation zu Gemini 3.5 Flash-Lite.

Bei Sprachfunktionen müssen Eingabe und Interaktion unterschieden werden: Audioeingaben bedeuten nicht, dass ein Modell auch Audio erzeugen kann. Dieses Modell unterstützt zudem die Live API nicht. Für das Auslesen eines Dokuments gelten andere Anforderungen als für ein Sprachgespräch in Echtzeit.

SLM vs LLM: Welches Modell für welche Aufgabe?

Die erste Modellwahl richtet sich nach dem Ergebnis, das geprüft werden muss. Die folgenden Empfehlungen setzen voraus, dass der gewählte Checkpoint die Eingabe und die vorgesehene Ausführungsumgebung unterstützt.

Die entscheidende Regel für einen Wechsel: Der kleinere Kandidat bleibt nur dann im Einsatz, wenn er dieselben Abnahmekriterien erfüllt und die maßgebliche Anforderung besser erfüllt. Braucht er häufig Korrekturen, führt der günstige Aufruf noch lange nicht zu einem günstigen Ergebnis.

Wo welche Modellklasse ihre Stärken hat

Kleine Modelle: Begrenzte Aufgaben, Latenz und Kosten pro Aufruf

Für wiederkehrende, klar umrissene Aufgaben sollten kleine Modelle zuerst evaluiert werden. Ein kurzer Klassifikations- oder Extraktionsschritt liefert ein eindeutig prüfbares Ergebnis. Es gibt wenig Anlass, bei jeder Anfrage für umfangreiches Schlussfolgern zu bezahlen.

Die Modellgröße ist allerdings kein Maß für Latenz. Lokale Ausführung spart den Hin- und Rückweg zu einem entfernten Inferenzdienst; ein überlastetes Gerät kann trotzdem später fertig sein als ein gehostetes Modell. Entscheidend ist die Zeit bis zu einem akzeptierten Ergebnis, einschließlich Eingabeverarbeitung, Generierung, Validierung und Wiederholungsversuchen.

Ebenso sollten die Kosten pro akzeptiertem Ergebnis verglichen werden. Bei einer Modellkaskade fallen zunächst der Aufruf des kleinen Modells und die Prüfungen an. Bei jeder Eskalation kommt der Aufruf des größeren Modells hinzu. Selbsthosting verursacht außerdem Aufwand für Hardware, ungenutzte Kapazität und Betrieb. Der kleine Verarbeitungspfad lohnt sich, wenn er den gemessenen Durchsatz akzeptierter Ergebnisse verbessert. Offensichtlich schwierige Aufgaben sollten direkt zum stärkeren Modell gehen.

Lokale kleine Modelle: Verarbeitung auf dem Gerät und vertrauliche Daten

Lokale kleine Modelle haben den Vorteil, wenn eine Funktion ohne entfernten Inferenzdienst arbeiten muss. Beispiele sind Außendienstmitarbeitende, die ohne Verbindung Notizen kategorisieren, oder eine Desktop-Funktion, deren Quelldokumente auf dem Rechner bleiben müssen.

Datenschutz hängt vom Verarbeitungsweg ab, nicht vom Adjektiv „klein“. Zu prüfen sind Telemetrie, Protokolle, Retrieval-Dienste, Tools und Ziele für Rückfalloptionen. Ein lokaler erster Versuch mit anschließendem automatischem Cloud-Aufruf überschreitet dieselbe Grenze wie ein direkter Cloud-Aufruf. Der Leitfaden zu KI auf dem Gerät behandelt diese Entscheidung auf Geräteebene.

Frontier-Modelle: Schlussfolgern über mehrere Schritte

Für unbekannte Planungsaufgaben und mehrdeutige Ausnahmefälle sind Frontier-Modelle der stärkere Ausgangspunkt. Bei einer strittigen Erstattung müssen möglicherweise Versanddaten, eine Ausnahme in den Richtlinien und eine frühere Vereinbarung mit dem Kunden miteinander abgeglichen werden. Alle Felder korrekt zu extrahieren ist dabei nur ein Teil der Fallbearbeitung.

Kleine Reasoning-Modelle widerlegen die pauschale Behauptung, kleine Modelle könnten nicht schlussfolgern. Entscheidend ist, ob ihre Spezialisierung zum Arbeitsschritt passt. Die auf Mathematik ausgerichtete Evaluation von Phi belegt keine allgemeine Zuverlässigkeit als Agent. Für eine unabhängig prüfbare Teilaufgabe kann ein kleines Modell sinnvoll sein. Wo die Interpretation widersprüchlicher Belege über das Ergebnis entscheidet, sollte das Frontier-Modell bleiben.

Frontier-Modelle: Lange Kontexte zusammenführen, bis kleinere Modelle sich bewähren

Für den Abgleich von Belegen in einem langen Fall ist das Frontier-Modell der Ausgangspunkt. Soll dagegen ein Feld in einem bereitgestellten Abschnitt gefunden werden, lohnt sich zuerst die Evaluation eines kleinen Modells. Beide Aufgaben nutzen Kontext, stellen aber unterschiedliche Anforderungen an das Schlussfolgern.

Das 262,144-Token-Fenster von Qwen3.5-4B und das 1M-Token-Fenster von Haiku 5.5 widerlegen die pauschale Annahme, kleine oder effiziente Modelle hätten stets kurze Kontextfenster. Sie belegen aber nicht, dass eines der Modelle alle relevanten Passagen korrekt miteinander verknüpft. Qwen-Modellkarte, Haiku-Dokumentation.

Zum Test gehören widersprüchliche Klauseln, eine Korrektur gegen Ende und eine Antwort, die Belege aus verschiedenen Abschnitten erfordert. Ein Modell hat diesen Test nicht schon dadurch bestanden, dass es die Eingabe annimmt. Retrieval, also die Auswahl relevanter Belege vor der Generierung, kann beide Modellgrößen entlasten.

Frontier-Modelle: Schreiben ohne enge Vorgaben

Wenn Qualität von Urteilsvermögen, Tonalität und einer durchgängigen Struktur abhängt, sollten Frontier-Modelle den ersten Entwurf übernehmen. OpenAIs Auswahlhilfe unterscheidet ausdrücklich zwischen klar begrenzten Änderungen und nuanciertem Schreiben beziehungsweise anspruchsvollen Arbeitsergebnissen. Auswahlhilfe für Modelle.

Eine kurze Überarbeitung nach einer freigegebenen Vorlage ist ein sehr guter Kandidat für ein kleines Modell. Eine ausformulierte Produktstrategie bei unvollständiger Beleglage ist eine andere Aufgabe. Beide Ergebnisse müssen anhand der geforderten Fakten, Einschränkungen, Zielgruppe und Tonalität geprüft werden. Länge und flüssige Sprache allein belegen keine Qualität. Keine der beiden Modellklassen garantiert sachliche Richtigkeit oder Freiheit von Verzerrungen.

Wie lassen sich beide Modellklassen in einer Funktion kombinieren?

Zuerst sollte die Weiterleitung den festgelegten Anforderungen des Arbeitsschritts folgen. Ein Modell, das über alles entscheidet, kann später hinzukommen. Ein Router wählt aus, welches Modell eine Anfrage bearbeitet. Eine Kaskade versucht zunächst den günstigeren Weg und eskaliert, wenn dessen Prüfungen fehlschlagen. Der Leitfaden zu Modell-Routern erläutert diese Ansätze genauer.

Ein hypothetischer Support-Assistent erhält die Nachricht: „Mein Paket ist beschädigt angekommen, und ich möchte die Versandkosten erstattet bekommen.“ Die Funktion muss das Anliegen kategorisieren, die Bestellung nachschlagen, die Richtlinien auslegen und eine Antwort vorschlagen. Für diese Schritte ist nicht überall dieselbe Modellleistung nötig.

1. 1

   Zuerst die Grenzen der Datenverarbeitung prüfen

   Bevor das Ticket an ein Modell geht, müssen die Kontorichtlinien der Anwendung und die zulässigen Verarbeitungsziele geprüft werden. Ist eine entfernte Verarbeitung verboten, darf jeder Zweig ausschließlich zu freigegebenen lokalen Diensten oder in eine Warteschlange für menschliche Bearbeitung führen. Eine schwierige Aufgabe darf diese Regel nicht stillschweigend außer Kraft setzen.

2. 2

   Dem kleinen Modell eine klar begrenzte Extraktion zuweisen

   Das Modell soll die Kategorie des Anliegens, eine gegebenenfalls vorhandene Bestellreferenz und den genauen Wortlaut der stützenden Ticketpassagen ausgeben. Fehlende Angaben bleiben leer. Der Anwendungscode prüft zulässige Kategorien, Pflichtfelder, Quellenzitate und die Existenz der Bestellreferenz. Diese Prüfungen erkennen bestimmte Fehler; sie beweisen nicht, dass die gesamte Interpretation stimmt.

3. 3

   Mehrdeutige Fälle mit den Originalbelegen weitergeben

   Strittige Richtlinienauslegungen, gemischte Anliegen und fehlgeschlagene Prüfungen gehen an ein freigegebenes Frontier-Modell oder einen Menschen. Mitgegeben werden das ursprüngliche Ticket, die abgerufenen Richtlinien und die fehlgeschlagene Prüfung, nicht nur die Zusammenfassung des kleinen Modells. Die Selbsteinschätzung eines Modells zur eigenen Sicherheit ersetzt kein Routing-Signal, dessen Aussagekraft durch Evaluation belegt ist.

4. 4

   Handlungsbefugnisse außerhalb der Generierung durchsetzen

   Das Modell darf eine Antwort oder einen Tool-Aufruf vorschlagen. Der Anwendungscode setzt Kontoberechtigungen, zulässige Aktionen und gegebenenfalls erforderliche menschliche Freigaben durch. Eine korrekt wirkende Antwort ist noch keine Erlaubnis, eine Erstattung auszulösen.

Für jede Anfrage sollte erfasst werden, warum sie eskaliert wurde, ob die abschließende Antwort die Prüfung bestanden hat und wie lange der gesamte Vorgang dauerte. Auch akzeptierte Ausgaben des kleinen Modells brauchen Stichprobenkontrollen: Validierungen übersehen plausible Fehler. Wird eine Aufgabenkategorie fast immer eskaliert, sollte sie direkt an das Frontier-Modell gehen.

Darum ist die Kombination beider Klassen für gemischte Aufgaben im Produktivbetrieb sinnvoll: Günstige, prüfbare Schritte und schwierige Beurteilungen gehören zu derselben Funktion. Routing ermöglicht es, für jeden Schritt die jeweils nötige Qualität und Antwortzeit einzuhalten.

SLM vs LLM: Welchen Aufwand verursacht ein Wechsel?

Zunächst sollte ein einzelner Schritt umgestellt werden, bevor die gesamte Funktion wechselt. Eingaben, Ausgabeschema, Belegverweise und Verhalten im Fehlerfall bleiben erhalten; Prompts und API-Einstellungen werden an das neue Modell angepasst. Dieselbe HTTP-Schnittstelle garantiert weder dieselben Tool-Aufrufe noch dieselben Antworten.

Beim Wechsel zu lokalen Modellgewichten geht auch die Verantwortung für die Bereitstellung des Modells, Speicherverwaltung, Versionsupdates und Kapazitätsplanung auf den Betreiber über. Ein Wechsel zwischen gehosteten Modellen kann Anfrageparameter und verfügbare Tools verändern. Ein Adapter sollte diese Unterschiede abfangen. Außerdem muss dokumentiert werden, welcher konkrete Checkpoint oder welche Modellversion evaluiert wurde.

Erfüllt das bisherige Modell die Anforderungen bereits und gibt es keinen durch Messungen belegten Grund hinsichtlich Latenz, Betriebskosten oder Datenstandort, ist ein Wechsel nicht sinnvoll. Ein winziges Modell ist für sich genommen noch keine architektonische Leistung.

Wenn eine stabile, eng begrenzte Aufgabe weiterhin ein besseres Modellverhalten erfordert, kommt Modelldestillation infrage: Ein Schülermodell lernt dabei anhand von Beispielen eines Lehrermodells. Zuvor muss geklärt sein, ob der vorgesehene Trainingsweg zulässig ist. Der Einstieg sollte über Prompts und bereitgestellte Belege erfolgen. Modellgewichte zu verändern ist eine weitreichendere Entscheidung als eine andere Weiterleitung.

Häufige Fragen zu SLM und LLM

Ist ChatGPT ein LLM oder ein SLM?

ChatGPT ist eine Anwendung auf Basis von Sprachmodellen und steht nicht für eine feste Parametergröße. OpenAIs Dokumentation zu chat-latest unterscheidet zwischen dem in der Anwendung verwendeten Modell und einem festen Modell-Snapshot. Verglichen werden muss das zugrunde liegende Modell, nicht der Name der App.

Ist DeepSeek ein SLM oder ein LLM?

Das hängt vom konkreten Checkpoint ab. Ein historisches Beispiel: DeepSeek-R1 hat insgesamt 671B Parameter, während DeepSeek-R1-Distill-Qwen-1.5B ein erheblich kleineres, destilliertes Modell ist. Beide stehen in der R1-Modellkarte von DeepSeek. Der Markenname allein sagt nichts Abschließendes über die Größe aus.

Wann sollte ein LLM zum Einsatz kommen, wann ein SLM?

Für eine eng begrenzte, überprüfbare Aufgabe ist ein kleines Modell der Ausgangspunkt. Für ungewohntes Schlussfolgern, widersprüchliche Belege oder freies Schreiben bietet sich zunächst ein Frontier-Modell an. Muss die Ausführung zwingend lokal erfolgen, schränkt das die Auswahl bereits vor jedem Qualitätsvergleich ein.

Was bedeutet SLM bei KI?

SLM steht für Small Language Model, also kleines Sprachmodell. Der Begriff beschreibt relativ zu anderen Modellen einen geringeren Rechen- und Ressourcenbedarf. Er bedeutet nicht automatisch spezialisiert, datenschutzfreundlich, offline oder zuverlässig.

Was unterscheidet ein SLM von einem LLM?

Der wesentliche Unterschied liegt in der relativen Größe und deren Folgen für Bereitstellung und Fähigkeiten. Es gibt keine allgemeingültige Parametergrenze, und die Bezeichnungen überschneiden sich: Meta nennt auch seine kleinen Llama-3.2-Checkpoints LLMs. Entscheidend sind das konkrete Modell und die Aufgabe.

Welche vier Arten von LLM gibt es?

Es gibt keine einheitliche Einteilung in vier Arten. Architektur, Trainingsverfahren, Eingabemodalitäten und Parametergröße beschreiben jeweils unterschiedliche Aspekte eines Modells. Eine Liste nach einem dieser Kriterien klärt nicht, ob ein anderes Modell klein genug für ein bestimmtes Gerät ist.

Welche sind die 5 besten LLM-Modelle?

Eine feste Top Five würde die Aufgabe und die Grenzen der Bereitstellung ausblenden. Für diese Entscheidung gehören eine leistungsfähige Referenz und ein effizienter Kandidat mit den nötigen Eingaben und Tools in die engere Auswahl. Anschließend werden beide anhand repräsentativer Aufgaben verglichen. Eine allgemeine Rangliste bestimmt nicht, welches Modell für eine konkrete Funktion gewinnt.

Was ist der Unterschied zwischen LLM und GPT?

LLM ist die übergeordnete Kategorie. GPT, die Abkürzung für Generative Pre-trained Transformer, bezeichnet darin eine Modellfamilie von OpenAI. Googles Glossar zu Sprachmodellen erläutert die Begriffe.

Welche sind die 5 wichtigsten KI-Modelle?

Eine allgemeingültige Liste mit fünf Modellen gibt es nicht. Gemeint sein können Lernverfahren, Architekturen oder kommerzielle Modellfamilien. Bei einer Sprachfunktion müssen zunächst Eingabe, Ausgabe, Grenzen der Bereitstellung und Qualitätsanforderungen feststehen. Erst dann werden konkrete Modelle ausgewählt.

Was bedeutet SLM vs LLM?

Die umgekehrte Reihenfolge bezeichnet denselben Vergleich zwischen kleinen und großen Sprachmodellen. Gewählt werden sollte der ressourcensparendste Kandidat, der die Aufgabe besteht. Für Aufgaben außerhalb seines geprüften Einsatzbereichs bleibt ein stärkeres Modell oder ein Mensch als Alternative nötig.

LLM, SLM und MLM: Was ist der Unterschied?

MLM ist mehrdeutig: Es kann für Masked Language Model stehen, ein Modell, das verdeckte Textteile vorhersagt. Informell wird die Abkürzung auch für Multimodal Language Model verwendet. Keine der beiden Bedeutungen definiert eine dritte Parametergrößenklasse zwischen klein und groß. Googles Glossar unterscheidet zwischen maskierter Sprachmodellierung und multimodalen Eingaben.

Wie unterscheiden sich LLM, SLM und RAG?

Retrieval-Augmented Generation, kurz RAG, stellt einem generierenden Modell abgerufene Belege zur Verfügung. Das funktioniert sowohl mit kleinen als auch mit großen Sprachmodellen. RAG kann fehlende Informationen ergänzen, garantiert aber nicht, dass das Modell die Belege richtig interpretiert.

Der nächste Schritt für die Umsetzung

Für die kommende Woche genügt ein wiederkehrender Arbeitsschritt. Vor dem Modellvergleich werden seine Abnahmekriterien festgelegt. Verwendet werden zurückgehaltene Testbeispiele, also Fälle, die nicht zur Anpassung des Prompts gedient haben. Dazu gehören Routineanfragen, mehrdeutige Fälle, fehlende Belege und Eingaben außerhalb des vorgesehenen Aufgabenbereichs.

Der kleine Kandidat läuft parallel zur bisherigen Lösung, ohne produktive Datensätze verändern zu dürfen. Verglichen werden Korrektheit, abgelehnte Ausgaben, übersehene Ausnahmen, Gesamtlatenz und Betriebsaufwand. In den produktiven Einsatz gelangen nur die Kategorien, die bestehen. Die Rückfalloption bleibt erhalten, und akzeptierte Ergebnisse werden weiter geprüft.

Die Checkliste zur Prüfung von KI-Geschäftsworkflows hilft, den ersten Arbeitsschritt auszuwählen, dessen Optimierung sich lohnt.