Open Source KI 2026: Die 8 besten offenen LLMs im Vergleich

Open Source KI ist 2026 weder amerikanisch dominiert noch eine Notlösung. GLM-5.2 erzielt auf SWE-bench Pro ein höheres Ergebnis als GPT-5.5, steht unter der MIT-Lizenz und kostet pauschal $18 pro Monat. Was bislang nur gemietet werden konnte, lässt sich heute herunterladen.

Das Urteil

Für anspruchsvolle agentische Aufgaben und Coding ist GLM-5.2 die beste Wahl unter den offenen Modellen. Bei großen Arbeitsmengen und möglichst niedrigen Kosten empfiehlt sich DeepSeek V4 Flash. Soll alles auf eigener Hardware und einer einzelnen GPU laufen, ist gpt-oss-120b die passende Option. Und wenn eine rechtlich unkomplizierte Lizenz Vorrang hat, sind Qwen3 oder Mistral unter Apache 2.0 die sichere Standardwahl.

Bei einem Open-Weight-Modell lassen sich die trainierten Parameter herunterladen und selbst betreiben, statt das Modell ausschließlich über eine API zu mieten. Dieser Unterschied verändert die Wirtschaftlichkeit von KI-Projekten grundlegend: Aus einem laufenden Verbrauchszähler wird ein Kostenfaktor, der sich selbst steuern lässt. Der folgende Vergleich ordnet die Modelle danach, was sie in der Praxis leisten.

Ein Hinweis zu den Preisen in der Tabelle: Bei einem herunterladbaren Modell entspricht der Preis pro Token dem Tarif des günstigsten Hosting-Anbieters, denn die Gewichte selbst sind kostenlos. Die genannten Werte sind die jeweils eigenen API-Preise der Anbieter und wurden in dieser Woche erfasst. Beim Self-Hosting entfällt dieser Zähler, dafür kommt die GPU-Rechnung hinzu.

Warum Open Source KI kein Kompromiss mehr ist

Zwei Jahre lang bedeutete „offenes Modell“ sinngemäß: ausreichend gut, wenn das eigentliche Spitzenmodell zu teuer ist. Das stimmt nicht mehr, und ein Benchmark zeigt den Wandel besonders deutlich. SWE-bench Pro misst, ob ein Modell reale Tickets aus der Softwareentwicklung lösen kann. GLM-5.2 erreicht dort 62.1, GPT-5.5 kommt auf 58.6 und Gemini 3.1 Pro auf 54.2. Nur Claude Opus 4.8 liegt mit 69.2 noch klar davor. Damit schlägt ein offenes Modell mit MIT-Lizenz aus einer Tsinghua-Ausgründung zwei der drei westlichen Frontier-Labore ausgerechnet in dem Benchmark, der für Entwicklungsarbeit besonders relevant ist.

Ob sich ein Modell tatsächlich einsetzen lässt, entscheidet sich jedoch an einem Punkt, den fast kein Vergleich sauber erklärt: „Open Weight“ und „Open Source“ sind nicht dasselbe Versprechen. Open Weight heißt, dass die Parameter heruntergeladen werden können. Open Source bedeutet im geschäftlich relevanten Sinn zusätzlich, dass die Lizenz Bereitstellung, Anpassung und Verkauf des eigenen Produkts ohne vorherige Genehmigung erlaubt. DeepSeek, GLM und Qwen stehen unter MIT oder Apache 2.0 und sind damit tatsächlich freizügig lizenziert – auch eine kommerzielle Nutzung ist möglich. Llama und MiniMax verwenden dagegen „Community-Lizenzen“, deren Bedingungen Einschränkungen enthalten. Das ist keine akademische Feinheit: Es entscheidet darüber, ob ein Produkt mit dem Modell ausgeliefert werden kann oder drei Monate später ein Schreiben der Rechtsabteilung folgt.

GLM-5.2 setzt den Maßstab für offene Modelle

GLM-5.2 vom chinesischen Labor Z.ai, früher Zhipu, ist weltweit das stärkste Open-Weight-Modell für langfristige Entwicklungsaufgaben und damit die erste Wahl. Es erschien Mitte Juni 2026 mit einem in der Praxis nutzbaren Kontextfenster von 1M Token – gegenüber 200K in der Vorgängerversion – und hält die Qualität über dieses Fenster hinweg, statt die Token lediglich anzunehmen. Das Kontextfenster bestimmt, wie viel Text ein Modell gleichzeitig im Arbeitsgedächtnis behalten kann. Mit 1M passen eine vollständige mittelgroße Codebasis, ihre Tests und die zugehörigen Konventionen in denselben Arbeitskontext.

Im Terminal-Bench 2.1, der prüft, ob ein Modell über ein echtes Terminal eine Aufgabe abschließen kann, erzielt GLM-5.2 einen Wert von 81.0. Damit liegt es nur wenige Punkte hinter Claude Opus 4.8 mit 85.0 und vor Gemini 3.1 Pro mit 74.0. In den von Z.ai veröffentlichten Messungen ist es bei jedem getesteten Langzeittest das bestplatzierte Open-Source-Modell. Dank MIT-Lizenz kann ein Startup mit 12 Beschäftigten das Modell selbst hosten, mit dem eigenen Code feinabstimmen und ohne Genehmigung oder Lizenzgebühr in ein kostenpflichtiges Produkt integrieren.

Der Haken ist die Hardware. Mit rund 745 Milliarden Parametern verlangt ein guter Eigenbetrieb nach einem leistungsfähigen System mit mehreren GPUs. Die meisten Teams werden es deshalb nicht selbst betreiben, sondern die API nutzen. Dort liegt der veröffentlichte Tarif bei etwa $1.40 pro Million Eingabe-Token und $4.40 pro Million Ausgabe-Token; alternativ gibt es den pauschalen GLM Coding Plan für rund $18 im Monat. Für Gründer, die bislang Frontier-API-Preise zahlen, ist genau dieser Tarif die Hauptnachricht: Coding auf Frontier-Niveau für ungefähr den Preis von zwei Kaffees im Monat – mit der Möglichkeit, die Gewichte später ins eigene Unternehmen zu holen, falls Datenkontrolle zur Voraussetzung wird.

DeepSeek V4 setzt eine unerreichte Kostenuntergrenze

Bei DeepSeek V4 lässt sich die Rechnung nicht mehr ignorieren: Das Modell liefert nahezu Frontier-Qualität zu Kosten, die praktisch gegen null gehen. Es erschien im April 2026 beim chinesischen Labor DeepSeek und ist in zwei Größen verfügbar, beide mit MIT-Lizenz und einem Kontext von 1M Token. V4-Pro ist ein Mixture-of-Experts-Modell mit 1.6 Billionen Parametern, V4-Flash eine schlankere Variante mit 284 Milliarden. Ein Mixture-of-Experts-Modell aktiviert für ein einzelnes Token jeweils nur einen kleinen Teil seiner Parameter. So bleibt selbst ein Modell dieser Größe günstig im Betrieb.

Entscheidend sind die Preise. Über die eigene API von DeepSeek kostet V4-Flash $0.14 pro Million Eingabe-Token und $0.28 pro Million Ausgabe-Token. Selbst das große V4-Pro liegt nur bei $0.435 für die Eingabe und $0.87 für die Ausgabe. Zum Vergleich: Ein Arbeitsvolumen, das bei einem geschlossenen Frontier-Modell monatlich einige Hundert Dollar kostet, landet mit V4-Flash häufig im niedrigen zweistelligen Dollarbereich – bei derselben Aufgabe und einer Ausgabequalität, die die meisten Nutzer im Alltag nicht unterscheiden können. Beide Varianten bieten einen Thinking-Modus für anspruchsvolleres Reasoning und Tool-Aufrufe für agentische Abläufe.

Die ehrliche Grenze: DeepSeek ist stark bei Reasoning, Mathematik und Code. Für besonders anspruchsvolle multimodale Aufgaben oder die längsten agentischen Coding-Läufe wären GLM-5.2 und Kimi dennoch die bessere Wahl. V4-Flash eignet sich als Standard für alles mit hohem Volumen – Klassifikation, Extraktion, Zusammenfassung und Entwürfe. Ein teureres Modell bleibt den 5% der Aufgaben vorbehalten, die es wirklich benötigen.

Kimi K2.7 Code ist für programmierende Agenten gebaut

Kimi K2.7 Code von Moonshot AI wurde gezielt für Coding-Agenten entwickelt, die über Stunden arbeiten, und erschien im Juni 2026. Das Mixture-of-Experts-Modell mit 1 Billion Parametern verarbeitet nativ multimodale Eingaben, liest also neben Text auch Bilder und Videos, und bietet ein Kontextfenster von 256K Token. GLM-5.2 ist ein Generalist mit besonderer Coding-Stärke; Kimi hingegen ist ausdrücklich auf die langen, mehrstufigen Agentenschleifen moderner Entwicklungswerkzeuge abgestimmt.

Nach den von Moonshot veröffentlichten Zahlen erreichte bereits K2.6 im SWE-bench Verified 80.2% und lag damit auf dem Niveau der geschlossenen Frontier-Modelle. K2.7 Code kostet über die offizielle API $0.95 pro Million Eingabe-Token und $4.00 pro Million Ausgabe-Token. Bei zwischengespeicherten Prompts sinkt der Preis deutlich auf $0.19 – ein wichtiger Vorteil für Agenten, die bei jedem Schritt denselben großen Kontext erneut senden. Das Modell steht unter einer modifizierten MIT-Lizenz, kommerzielles Self-Hosting ist also möglich.

Der Preis für diese Spezialisierung ist ein engerer Fokus. Kimi überzeugt bei Coding und agentischer Ausführung, ist für allgemeine Texte oder Analysen aber weniger vielseitig. Für ein Produkt rund um Coding-Agenten oder ein internes Entwicklungswerkzeug gehört es zu den besten Optionen. Soll ein einziges Modell alle Aufgaben abdecken, sind GLM-5.2 oder DeepSeek ausgewogener. Wie sich diese Modelle in die Werkzeuge einfügen, die sie tatsächlich ausführen, zeigt der Vergleich der besten KI-Coding-Agenten.

Qwen3 ist das ernstzunehmende offene Modell mit der freizügigsten Lizenz

Qwen3 von Alibaba ist die richtige Wahl, wenn eine rechtlich klare Lizenz und breite Sprachabdeckung wichtiger sind als Platz eins in einem einzelnen Benchmark. Das offene Spitzenmodell Qwen3-235B-A22B ist ein Mixture-of-Experts-Modell mit 235 Milliarden Parametern, davon 22 Milliarden aktiv, einem Kontextfenster von 256K Token und Unterstützung für 119 Sprachen. Vor allem steht es unter Apache 2.0, der freizügigsten Lizenz in diesem Vergleich. Für Unternehmen, deren Rechtsabteilung bei individuellen Bedingungen zurückschreckt, ist es deshalb die naheliegende Standardoption.

Dasselbe Modell kann zwischen einem Thinking-Modus für schwieriges Reasoning und einem schnelleren Non-Thinking-Modus für alltägliche Chats wechseln. So fallen keine Kosten für Denkarbeit an, die gar nicht benötigt wird. Die Gewichte stehen kostenlos zum Download bereit und lassen sich über Alibaba Cloud oder jeden anderen Anbieter betreiben, der sie hostet.

Ein Punkt muss klar sein, weil das Marketing die Grenze verwischt: Alibabas neuestes Spitzenmodell Qwen3.7-Max ist geschlossen und ausschließlich per API verfügbar. Wirklich offen sind die veröffentlichten Modelle der mittleren Klassen und die 235B-Gewichte, nicht die Max-Stufe. Für die Beschaffung ohne technischen Hintergrund gilt eine einfache Regel: Wer das Modell selbst besitzen möchte, wählt ein namentlich ausgewiesenes offenes Qwen-Gewicht und nicht Max. Das offene 235B liegt bei den schwierigsten Coding-Benchmarks knapp hinter GLM-5.2 und DeepSeek V4. Seine freizügige Lizenz und die breite Sprachabdeckung machen es dennoch zur sichersten souveränen Standardwahl für ein globales Produkt.

MiniMax M3 bringt Multimodalität an die offene Spitze

MiniMax M3 ist besonders interessant, wenn Text, Bilder und Video gemeinsam verarbeitet werden und ein enormer Kontext nötig ist. Mit der Veröffentlichung am 1. Juni 2026 ist es zugleich das jüngste Modell in diesem Vergleich. Das Mixture-of-Experts-Modell umfasst 428 Milliarden Parameter, davon 23 Milliarden aktiv, bietet einen Kontext von 1M Token und verarbeitet multimodale Eingaben nativ. Eine vom Labor MiniMax Sparse Attention genannte Attention-Architektur soll die Inferenz über lange Kontexte bezahlbar halten.

Auch preislich tritt MiniMax offensiv auf: Die eigene API führt M3 unter einem dauerhaft geltenden Rabatt von 50% mit $0.30 pro Million Eingabe-Token und $1.20 pro Million Ausgabe-Token. Benchmark-Ergebnisse wie 93.0 bei GPQA Diamond ordnen das Modell unter den stärksten Reasoning-Systemen ein – unabhängig davon, ob sie offen oder geschlossen sind.

Das Sternchen steht bei der Lizenz. Die Gewichte von M3 lassen sich herunterladen, doch die kommerzielle Nutzung des Modells oder daraus abgeleiteter Varianten erfordert über die standardmäßige MiniMax Community License hinaus eine gesonderte Vereinbarung. Praktisch heißt das: hervorragend zum Experimentieren, aber die kommerziellen Bedingungen sollten schriftlich vorliegen, bevor darauf ein Unternehmen aufgebaut wird. Allein diese Klausel platziert M3 für Produktanbieter hinter Modellen mit MIT- oder Apache-Lizenz.

gpt-oss läuft auf der eigenen GPU

Die Open-Weight-Familie gpt-oss von OpenAI ist für Fälle gedacht, in denen der Betrieb auf kontrollierter eigener Hardware ohne Cluster unverzichtbar ist. Das größere gpt-oss-120b besitzt 117 Milliarden Parameter, von denen nur 5.1 Milliarden aktiv sind, und ist für eine einzelne GPU mit 80GB wie die NVIDIA H100 ausgelegt. Das kleinere gpt-oss-20b kommt mit 16GB Arbeitsspeicher aus und passt damit auf eine gut ausgestattete Workstation. Beide Modelle stehen unter Apache 2.0.

Für den Betrieb im eigenen Rechenzentrum ist das die pragmatische Wahl. Bei einem regulierten Unternehmen, einem Krankenhaus, einer Bank oder einem Rüstungsunternehmen, das keine Daten an eine externe API senden darf, kann „passt auf eine H100“ bereits die gesamte Entscheidung bestimmen. Der Reasoning-Aufwand ist konfigurierbar und lässt sich zwischen schnell und günstig sowie langsam und sorgfältig abstufen. Für die Fehlersuche steht zudem der vollständige Chain of Thought bereit. Native Funktionsaufrufe, Web-Browsing und Python-Ausführung machen das Modell tatsächlich agentisch.

Die realistische Einordnung: gpt-oss zielt nicht so konsequent auf die Spitze der Benchmark-Tabellen wie GLM-5.2 oder DeepSeek V4 und ist innerhalb dieser Gruppe die ältere Veröffentlichung. Ausschlaggebend ist das Bereitstellungsmodell – ein leistungsfähiges Modell unter sauberer Lizenz, das auf vorhandener Hardware läuft – und nicht der Anspruch, die intelligenteste Option überhaupt zu sein.

Mistral ist die offene europäische Option

Mistral aus Frankreich ist das offene Modell für Beschaffungsprozesse, in denen europäische Datenresidenz und ein vertrauter westlicher Anbieter zählen. Zum offenen Portfolio gehören Mistral Small 4, ein Hybridmodell, das Anweisungsbefolgung, Reasoning und Coding in einem effizienten Paket vereint, außerdem das multimodale Frontier-Modell Mistral Medium 3.5 sowie Devstral 2 für die Arbeit mit Coding-Agenten.

Für ein europäisches Unternehmen mit europäischen Kunden ist die Beschaffung bei einem Anbieter aus Paris leichter zu vermitteln als bei einem Anbieter aus Peking – unabhängig von der reinen Leistung der Gewichte. Mistrals Modelle sind kleiner und sparsamer als die riesigen chinesischen MoE-Systeme. Das ist ein Vorteil, wenn Effizienz gefragt ist, und eine Grenze, wenn nur die absolute Spitze der Coding-Ranglisten zählt. Mistral ist die vertraute, regelkonforme Wahl und nicht der Benchmark-Sieger.

Llama 4 steht für das Ökosystem, nicht für die Spitze

Llama 4 von Meta ist nicht mehr das Modell, das wegen seiner Benchmark-Siege gewählt wird. Es besitzt aber weiterhin das ausgereifteste Tooling und die größte Community. Die aktuelle Generation erschien 2025 und umfasst Scout und Maverick, zwei nativ multimodale Mixture-of-Experts-Modelle mit jeweils 17 Milliarden aktiven Parametern. Maverick verteilt insgesamt 400 Milliarden Parameter auf 128 Experten. Das größte Modell Behemoth ist weiterhin unveröffentlicht.

Llamas eigentlicher Trumpf im Jahr 2026 ist seine Anziehungskraft: Für kein anderes offenes Modell gibt es mehr Fine-Tunes, Quantisierungen und Anleitungen zur Bereitstellung oder mehr Erfahrung auf dem Arbeitsmarkt. Wenn ein Team bereits Llama betreibt und die eigenen Aufgaben gut damit löst, besteht kein dringender Wechselbedarf. Bei der Lizenz ist allerdings Präzision wichtig. Llama verwendet Metas Community-Lizenz statt Apache oder MIT; sie enthält kommerzielle Einschränkungen, die eine echte Open-Source-Lizenz nicht kennt. Bei einem neuen Projekt ohne Lizenzvorgabe bieten die neueren chinesischen MIT- und Apache-Modelle sowohl mehr Leistung als auch klarere Bedingungen.

Welches Modell passt zu welchem Einsatz?

Nicht ein einzelner Sieger, sondern die entscheidende Einschränkung bestimmt die richtige Wahl. Die folgende Tabelle ordnet typische Anforderungen dem passenden Modell zu.

Die tatsächliche Kostenrechnung

Für Unternehmen zählt am Ende die Rechnung. Ohne Marketing bleiben drei Arten, für ein offenes Modell zu zahlen, und jede eignet sich für eine andere Größenordnung.

1. 1

   API mieten (geringste Bindung)

   Das Modell wird über die API des Anbieters aufgerufen und pro Token abgerechnet. Bei den Preisen von DeepSeek V4-Flash kosten eine Million Ausgabe-Token 28 Cent. Ein Team mit einigen Hundert Millionen Token im Monat – für ein gut ausgelastetes Produkt durchaus realistisch – zahlt damit Dutzende statt Tausende Dollar. Für fast alle ist dies der beste Einstieg.

2. 2

   Pauschaltarif buchen (planbare Ausgaben)

   Bei intensiver Coding-Nutzung beseitigt ein Abonnement wie der GLM Coding Plan für rund $18 im Monat die Sorge um jedes einzelne Token. Ein Festpreis ersetzt das laufende Zählen. Für ein kleines Entwicklungsteam, das den ganzen Tag mit KI programmiert, ist das der attraktivste Mittelweg.

3. 3

   Gewichte selbst hosten (größte Bindung, niedrigste Grenzkosten)

   Die MIT- oder Apache-Gewichte werden heruntergeladen und auf eigenen GPUs betrieben. Statt eines Preises pro Token fallen eine feste GPU-Rechnung und Arbeitszeit für den Betrieb an. Das rechnet sich erst bei hohem, gleichmäßigem Volumen oder wenn vollständige Datenkontrolle unverhandelbar ist. gpt-oss-120b auf einer einzelnen H100 ist der realistische Einstieg; die MoE-Modelle mit Billionen Parametern benötigen einen Cluster.

Die häufig wiederholte Aussage, ein Team könne statt $10,000 im Monat für ein geschlossenes Modell nur $1,000 bis $2,000 für ein offenes ausgeben, stimmt in der Größenordnung und lässt sich anhand der obigen Preise leicht nachvollziehen: GLM-5.2 und DeepSeek V4 unterbieten die API-Tarife geschlossener Frontier-Modelle bei vergleichbarer Arbeit ungefähr um den Faktor fünf bis zehn. Die Ersparnis ist real. Ausgeblendet werden dabei die Entwicklungskosten für einen zuverlässigen eigenen Inferenzbetrieb. Deshalb sind API und Pauschaltarif für die meisten Teams wirtschaftlicher als Self-Hosting, bis ein großes Volumen erreicht ist. Einen direkten Coding-Vergleich dieser offenen Modelle mit den geschlossenen Modellen Claude, GPT und Gemini bietet der Beitrag über die [besten KI-Modelle fürs Coding](/blog/best-ai-model-for-coding-2026).

Die Entscheidungsregel

Eine einzige Einschränkung stellt die gesamte Auswahl auf den Kopf. Wenn eine API genutzt werden kann, geht es um das Verhältnis von Kosten und Leistung: GLM-5.2 ist die Antwort für anspruchsvolle agentische Aufgaben, DeepSeek V4 Flash für alles mit hohem Volumen. Ist eine API wegen Datenresidenz, Regulierung oder einer isolierten Infrastruktur ausgeschlossen, zählt nur, welches Modell auf der vorhandenen Hardware läuft. Dann fällt die Wahl auf gpt-oss-120b für eine einzelne GPU oder Qwen3 für ein etwas größeres System. Zuerst muss also die API-Frage geklärt werden; alles Weitere ergibt sich daraus.

Welches ist das beste Open-Source-LLM 2026?

Für anspruchsvolle agentische Aufgaben und Coding ist es GLM-5.2: Das Modell führt sämtliche offenen Langzeit-Benchmarks an, steht unter der MIT-Lizenz und ist mit einem Pauschaltarif für $18 pro Monat verfügbar. Bei günstigen Aufgaben mit hohem Volumen ist DeepSeek V4 Flash mit $0.14 für die Eingabe und $0.28 für die Ausgabe pro Million Token preislich nicht zu schlagen.

Sind Open Weight und Open Source dasselbe?

Nein, und der Unterschied kann teuer werden. Open Weight bedeutet, dass das Modell heruntergeladen werden kann. Open Source heißt für ein Unternehmen zusätzlich, dass die Lizenz Bereitstellung und Verkauf des eigenen Produkts erlaubt. DeepSeek, GLM, Qwen und gpt-oss verwenden freizügige MIT- oder Apache-2.0-Lizenzen. Llama und MiniMax stehen unter eingeschränkten Community-Lizenzen, die vor einer kommerziellen Nutzung juristisch geprüft werden sollten.

Kann ich diese LLMs lokal ausführen?

Wer ein LLM lokal ausführen will, hat bei einigen Modellen leichtes Spiel. gpt-oss-120b passt auf eine einzelne 80GB H100, gpt-oss-20b läuft mit 16GB. Die riesigen Mixture-of-Experts-Modelle DeepSeek V4, GLM-5.2 und Kimi K2.7 benötigen für gutes Self-Hosting einen Cluster mit mehreren GPUs. Die meisten Teams mieten sie deshalb über eine API.

Sind offene chinesische Modelle für US-Unternehmen sicher?

Heruntergeladene Gewichte laufen vollständig auf der eigenen Infrastruktur und senden keine Daten nach außen. Self-Hosting umgeht die Frage der Datenresidenz damit vollständig. Relevant wird sie erst bei der gehosteten API eines Anbieters, denn dann fließen Daten an diesen Host. Falls das problematisch ist, bleiben der Eigenbetrieb der offenen Gewichte oder ein westlicher Hosting-Anbieter, der sie im Programm hat.

Welches offene LLM läuft lokal auf einem normalen Rechner am besten?

gpt-oss-20b läuft mit 16GB Arbeitsspeicher; alternativ eignet sich ein Qwen3-Gewicht der mittleren Klasse. Beide bringen ein leistungsfähiges, freizügig lizenziertes Modell auf eine einzelne Workstation, ohne dass dafür ein externer Dienst gemietet werden muss.

Soll nicht nur die Modelllandschaft, sondern auch das Zusammenspiel von Agenten, Tools und Stacks für das eigene Unternehmen klar werden? Die KI-Tool-Landkarte für Unternehmen plus ein kurzer wöchentlicher Überblick zeigen, was tatsächlich erschienen ist und welche Konsequenzen sich daraus ergeben.