Lokale KI-Modelle fürs Programmieren 2026: Qwen3.6, Devstral Small 2 und GLM-4.7-Flash im Vergleich

Lokale KI-Modelle fürs Programmieren: Qwen3.6-27B ist 2026 für die meisten Entwickler das beste KI-Modell fürs Programmieren. Doch das 17 GB große Ollama-Paket bildet nur den Anfang der Speicherrechnung. Wer Hardware ausschließlich kauft, um einen Copilot-Pro-Platz für monatlich $10 einzusparen, erreicht bei einer RTX 5090 für $1,999 den Kostenschnittpunkt erst nach 199.9 Monaten – noch vor Strom, dem restlichen Rechner und der eigenen Zeit.

Kurzfassung: Lokale KI-Modelle nach verfügbarem Speicher wählen

Qwen3.6-27B ist die beste Wahl für einen Rechner mit einer GPU oder gemeinsamem Speicher der 24-GB-Klasse, wenn ein einziges starkes lokales Standardmodell Repository-Arbeit, Tool-Nutzung und alltägliche Denkaufgaben übernehmen soll. Devstral Small 2 empfiehlt sich speziell für Softwareentwicklung über mehrere Dateien hinweg – vorausgesetzt, der Rechner entspricht Mistrals Empfehlung einer einzelnen RTX 4090 oder eines Mac mit 32 GB. GLM-4.7-Flash passt, wenn ein effizienter Agent gefragt ist und ein noch junger lokaler Serving-Stack akzeptabel ist. Qwen3-Coder-Next gehört auf einen Rechner mit 64 GB oder einen gemeinsam genutzten Server. Auf einem System der 8-GB-Klasse eignet sich Qwen3.5-9B für klar begrenzte Änderungen – nicht als vermeintlich autonomer Entwickler für ein ganzes Repository.

Preise, Modellkarten, Laufzeitspeicherangaben und Lizenzen wurden am 15. August 2026 anhand der aktuellen Anbieterseiten geprüft.

Die Rangfolge folgt einer klaren Priorität: zuerst verfügbarer beschleunigter oder gemeinsamer Speicher, dann der Coding-Workflow, zuletzt der Benchmark-Wert. So lässt sich der häufigste Fehlkauf bei lokaler KI vermeiden. Ein Modell kann als Datei in den Speicher passen und trotzdem zu wenig Platz für ein brauchbares Kontextfenster, die Laufzeitumgebung, das Betriebssystem und den Coding-Agenten lassen, der Dateien und Tool-Ergebnisse einspeist.

Drei ähnlich klingende Angaben beschreiben unterschiedliche Grenzen:

1. Paketgröße bezeichnet den Download des quantisierten Modells. Ollama gibt für das Paket qwen3.6:27b 17 GB an.
2. Mindestsystemspeicher ist die Untergrenze zum Laden in der Laufzeitumgebung. LM Studio nennt für dasselbe Modell 16 GB, doch ein Minimum ist kein komfortabler Arbeitswert.
3. Kontextspeicher wächst mit der Unterhaltung, den Quelldateien, der Befehlsausgabe und dem Tool-Verlauf. Qwen weist ausdrücklich darauf hin, den Kontext nach einem Fehler wegen unzureichenden Speichers zu verkleinern, obwohl das Modell ein wesentlich größeres natives Fenster unterstützt.

Das Modell lässt sich mit einer Person vergleichen, die einen Aufzug betritt. Dass sie durch die Tür passt, beweist nur, dass sie hineinkommt. Ein Coding-Agent braucht zusätzlich Platz für Gepäck: Repository-Kontext, erzeugte Tokens, Laufzeitpuffer und die umgebenden Tools. Den Aufzug bis zur angegebenen Höchstlast zu füllen, ist keine gute Grundlage für einen produktiven Arbeitstag.

Geht es um das vollständige Erlebnis aus Editor, Review und Cloud-Agenten statt nur um das zugrunde liegende Modell, lohnt sich ein Vergleich der aktuellen KI-Coding-Assistenten. Ein lokales Modell ist lediglich eine Komponente. Repository-Indexierung, Berechtigungskontrollen, eine Oberfläche zur Patch-Prüfung, Sandboxing oder eine sichere Befehlsausführung bringt es nicht automatisch mit.

1. Qwen3.6-27B: bestes lokales KI-Modell fürs Programmieren insgesamt

Qwen3.6-27B ist die beste Standardwahl, weil aktuelle agentische Coding-Fähigkeiten, Tool-Nutzung, Bildeingaben und Schlussfolgerungen auf Repository-Ebene in einem 17 GB großen Ollama-Paket stecken. Das Modell eignet sich für Entwickler, die mit einem einzigen Modell ein TypeScript-Monorepo untersuchen, einen fehlgeschlagenen Test erklären, einen Patch entwerfen und die angrenzende Produktlogik nachvollziehen möchten. Die Grenze setzt der freie Speicher: Weder das von LM Studio genannte Minimum von 16 GB noch das 17-GB-Paket von Ollama machen einen Rechner mit 16 GB zu einer komfortablen Coding-Workstation für lange Kontexte. Maßgeblich ist der tatsächlich benötigte Kontext – nicht die kleinste Zahl auf der Downloadseite.

Die offizielle Modellkarte von Qwen beschreibt ein Modell mit 27B Parametern und einem nativen Kontextfenster von 262,144 Tokens, das sich auf 1,010,000 Tokens erweitern lässt. Genannt werden außerdem agentisches Coding, Tool-Nutzung, Frontend-Workflows, Schlussfolgerungen über Repositories hinweg, Bildeingaben und das Bewahren des Denkzusammenhangs über frühere Nachrichten. Für Coding-Agenten sind das wichtige Fähigkeiten, denn eine Repository-Aufgabe endet selten nach einer Antwort. Das Modell muss noch wissen, warum es einen Ansatz gewählt hat, nachdem Tests, Protokolle und weitere Dateien zur Unterhaltung hinzugekommen sind.

Die aktuelle Tag-Liste von Ollama macht die Veröffentlichung praktisch nutzbar: qwen3.6:27b ist ein Download von 17 GB mit ausgewiesenem 256K-Kontext. Ein auf Coding ausgerichtetes NVFP4-Paket belegt 20 GB. LM Studio nennt 16 GB Mindestsystemspeicher, doch das ist lediglich ein Signal für die Ladeuntergrenze. Auf einer GPU oder einem Rechner mit gemeinsamem Speicher der 24-GB-Klasse lässt das 17-GB-Paket spürbar mehr Platz für Kontext und Laufzeit-Overhead. Bei 16 GB sollte mit einem kleineren Kontext oder Modell begonnen werden.

Der wichtigste Benchmark ist stark, muss aber zusammen mit seiner Methodik gelesen werden. Qwen meldet 77.2 bei SWE-bench Verified, 53.5 bei SWE-bench Pro, 71.3 bei SWE-bench Multilingual und 59.3 bei Terminal-Bench 2.0. Für die SWE-bench-Ergebnisse kam ein internes Agentengerüst mit Bash- und Dateibearbeitungs-Tools sowie einem 200K-Kontextfenster zum Einsatz. Terminal-Bench lief mit einem 256K-Kontextfenster auf einem Testsystem mit 32 CPUs und 48 GB RAM. Die Werte belegen Leistungsfähigkeit unter Qwens Bedingungen; dieselben Ergebnisse oder dieselbe Geschwindigkeit auf einem Desktop mit 24 GB versprechen sie nicht.

In der Anbieterdokumentation findet sich ein zweiter Hinweis zum Kontext. Qwen empfiehlt nach einem Fehler wegen unzureichenden Speichers, den Kontext zu reduzieren, rät für den Erhalt der Denkfähigkeit bei komplexen Aufgaben jedoch zugleich zu mindestens 128K Kontext. Genau in diesem Spannungsfeld liegt die benannte Grenze des Modells. Es kann ein 256K-Fenster anbieten, doch auf einem kompakten lokalen Rechner muss möglicherweise nur ein Teil davon genutzt werden.

Am besten geeignet für: Entwickler mit einer GPU oder einem Rechner mit gemeinsamem Speicher der 24-GB-Klasse, die ein vielseitiges lokales Coding-Modell suchen

Besonderheit: Ein 17 GB großes Ein-Klick-Paket mit aktueller Tool-Nutzung, Repository-Schlussfolgerungen und einem vom Anbieter gemeldeten Wert von 77.2 bei SWE-bench Verified

Preis: $0 über die lokale kostenlose Stufe von LM Studio, geprüft am 15. August 2026

Kostenlose Testversion: Nicht zutreffend; die lokale Laufzeitstufe und der Modelldownload sind kostenlos

Qwen3.6-27B einrichten, ohne den maximalen Kontext zum Ziel zu machen

1. 1

   Vor dem Download den Speicher prüfen

   Den verfügbaren VRAM oder gemeinsamen Speicher erfassen, nicht nur den gesamten Festplattenplatz. Für das 17-GB-Paket sollte die 24-GB-Klasse als praktischer Einstieg gelten. Stehen nur 8 GB zur Verfügung, ist Qwen3.5-9B die passende Wahl.

2. 2

   LM Studio installieren und das genaue Modell auswählen

   LM Studio auf einem unterstützten Rechner mit Apple Silicon, Windows oder Linux installieren. Nach Qwen3.6-27B suchen, Qwen als Herausgeber bestätigen und eine Quantisierung wählen, deren angezeigte Größe genügend Arbeitsspeicher frei lässt.

3. 3

   Unterhalb des maximalen Kontexts beginnen

   Nicht allein deshalb mit 256K starten, weil das Modell diesen Wert unterstützt. Zunächst einen Kontext für eine repräsentative Repository-Aufgabe wählen, die Speichernutzung beobachten und erst erhöhen, wenn zusätzliche Dateien den Patch stärker verbessern, als sie den Lauf verlangsamen oder instabil machen.

4. 4

   Den lokalen Server mit genau einem Coding-Agenten verbinden

   Den lokalen Server von LM Studio aktivieren und einen OpenAI-kompatiblen Coding-Client damit verbinden. Der Server bleibt an den lokalen Rechner gebunden, sofern nicht bewusst Netzwerkauthentifizierung und Zugriffskontrollen eingerichtet wurden.

5. 5

   Eine begrenzte Repository-Aufgabe als Pilot durchführen

   Einen Fehler mit bekanntem fehlgeschlagenem Test, eine kleine Änderung über mehrere Dateien und eine Erklärungsaufgabe verwenden. Jeden vorgeschlagenen Befehl und Diff prüfen. Akzeptierte Patches, Korrekturzeit, Spitzenspeicher und verlorene frühere Vorgaben dokumentieren.

2. Devstral Small 2: bester spezialisierter lokaler Coding-Agent

Devstral Small 2 ist die fokussierte Wahl für Entwickler, deren Modell eine Codebasis erkunden, mehrere Dateien bearbeiten und mit Softwareentwicklungs-Tools arbeiten soll. Mistral hat das 24B-Modell gezielt für agentisches Coding entwickelt, statt es als allgemeinen Assistenten zu positionieren, der nebenbei Code schreibt. Ein Team, das einen großen Python-Dienst betreut, kann ihm ein klar abgegrenztes Problem übergeben, über das Agentengerüst suchen und bearbeiten lassen und anschließend einen zusammenhängenden Patch über mehrere Dateien prüfen. Die Grenze liegt zwischen bloßem Laden und komfortablem Arbeiten: LM Studio nennt 16 GB als Minimum, Mistral dagegen eine einzelne RTX 4090 oder einen Mac mit 32 GB RAM als lokales Zielsystem.

Laut offizieller Modellkarte von Mistral bietet Devstral Small 2 ein Kontextfenster von 256K, Bildeingaben und Tool-Nutzung zur Erkundung von Repositories und für Änderungen über mehrere Dateien. Hinzu kommt die Apache-2.0-Lizenz, die kommerziellen Teams eine klarere Ausgangslage für Nutzung und Anpassung bietet als ein ungenau deklarierter Community-Upload. Für den umgebenden Code und die Bereitstellung kann weiterhin eine rechtliche Prüfung nötig sein, die Modelllizenz selbst ist jedoch eindeutig.

Mistral meldet 68.0% bei SWE-bench Verified, 55.7% bei SWE-bench Multilingual und 22.5% bei Terminal Bench 2. Bei zwei überschneidenden Benchmarks liegen diese Werte unter den gemeldeten Spitzenwerten von Qwen3.6, doch die reine Rangfolge entscheidet nicht allein. Devstrals Produktgrenze ist enger und leichter zu erklären: Es handelt sich um ein Agentenmodell für Softwareentwicklung, das Tools nutzt, Code untersucht und Dateien bearbeitet.

Die Speicherempfehlung sollte die Hardwarefrage klären. LM Studio nennt 16 GB als Minimum, Mistral hält das Modell dagegen für kompakt genug für eine einzelne RTX 4090 oder einen Mac mit 32 GB. Beim Hardwarekauf ist diese konkrete Rechnerempfehlung maßgeblich. Die kleinere Zahl zeigt lediglich, dass eine quantisierte Datei geladen werden kann – nicht, dass ein langer Agentenlauf den gewünschten Kontext behält.

Am besten geeignet für: Einen spezialisierten Coding-Agenten für mehrere Dateien auf einer einzelnen High-End-Workstation

Besonderheit: Explizites Training als Softwareentwicklungs-Agent, 256K Kontext, Bildeingaben und Apache-2.0-Lizenz

Preis: $0 über die lokale kostenlose Stufe von LM Studio, geprüft am 15. August 2026

Kostenlose Testversion: Nicht zutreffend; die lokale Laufzeitstufe und der Modelldownload sind kostenlos

3. GLM-4.7-Flash: beste effiziente Mixture-of-Experts-Option

GLM-4.7-Flash ist die effiziente Wahl für Experimentierfreudige: ein 30B-Mixture-of-Experts-Modell, das pro Token 3B Parameter aktiviert und bei Ollama als 19-GB-Paket angeboten wird. Es eignet sich für Entwickler, die Agentenverhalten auf einem Rechner der 24-GB-Klasse erproben und einen neueren Serving-Pfad gründlich prüfen möchten, bevor er zum Teamstandard wird. Z.ai meldet für diese Größenklasse konkurrenzfähige Coding-Ergebnisse, während LM Studio Tool- und Denksteuerungen bereitstellt. Die Grenze ist der Reifegrad der Integration: Laut offizieller Modellkarte benötigten vLLM und SGLang Unterstützung aus ihren jeweiligen Hauptentwicklungszweigen – ein Warnsignal für Produktivumgebungen, die auf festgeschriebene stabile Versionen setzen.

Ein Mixture-of-Experts-Modell speichert viele Parametergruppen, aktiviert pro Token aber nur einen Teil davon. Die Angabe 3B aktiv erklärt die Recheneffizienz; sie macht aus dem Modell keinen 3B-Download. Die Ollama-Tag-Seite führt das Q4-Paket mit 19 GB auf. LM Studio nennt dagegen 16 GB Mindestsystemspeicher und einen 128K-Kontext. Für die Planung des beschleunigten Speichers ist die Paketgröße die wichtigere Erinnerung.

Die offizielle Modellkarte von Z.ai weist 59.2 bei SWE-bench Verified und 64.0 bei LiveCodeBench v6 aus. Das Modell wurde für Tools trainiert und bietet über LM Studio Steuerungen für das Denken. Wenn der Durchsatz pro aktivem Parameter zählt, kann es als lokaler Agent überzeugen. Die Auswertungen stammen jedoch weiterhin vom Anbieter, und der Serving-Stack verlangt einen Pilottest.

Für ein kleines internes Plattformteam bietet sich ein einzelner lokaler Dienst hinter einem Coding-Client an, festgelegt auf eine bekannte Modelldatei und Laufzeitversion. Vor der Freigabe als gemeinsamer Endpunkt sollten Repository-Suche, Patch-Erstellung, das Parsen von Tool-Aufrufen und lange Ausgaben getestet werden. Lässt sich die Umgebung nach einer Aktualisierung nicht reproduzieren, ist aus dem Effizienzgewinn noch kein betrieblicher Vorteil geworden.

Am besten geeignet für: Entwickler, die ein effizientes Agentenmodell auf einem Rechner der 24-GB-Klasse testen

Besonderheit: Insgesamt 30B Parameter, davon 3B pro Token aktiv, Tool-Training und ein 19 GB großes Ollama-Paket

Preis: $0 über die lokale kostenlose Stufe von LM Studio, geprüft am 15. August 2026

Kostenlose Testversion: Nicht zutreffend; die lokale Laufzeitstufe und der Modelldownload sind kostenlos

4. Qwen3-Coder-Next: beste Wahl für einen lokalen Agentenserver mit 64 GB

Qwen3-Coder-Next ist der Spezialist für einen lokalen Server mit viel Speicher – nicht das vermeintliche Sparmodell, das die Angabe von 3B aktiven Parametern nahelegen könnte. Qwen hat es speziell für Coding-Agenten und lokale Entwicklung konzipiert, einschließlich langfristiger Schlussfolgerungen, komplexer Tool-Nutzung und der Erholung nach Ausführungsfehlern. Sinnvoll ist es für ein kleines Plattformteam, das einen kontrollierten lokalen Agentenendpunkt auf einem System mit 64 GB gemeinsamem oder Systemarbeitsspeicher bündelt. Die Grenze ist physisch: Das aktuelle Q4-Paket von Ollama belegt 52 GB, weshalb eine gewöhnliche Entwickler-GPU mit 24 GB nicht das Zielsystem ist.

Die Modellkarte von Qwen beschreibt 80B Parameter insgesamt, von denen 3B pro Token aktiv sind, einen nativen Kontext von 262,144 Tokens und ausschließlich den Non-Thinking-Modus. Das Training zielt auf Coding-Agenten statt nur auf statische Codevervollständigung. Qwen nennt ausdrücklich langfristige Aufgaben, Tool-Nutzung, IDE- und CLI-Integration sowie die Erholung nach einem Ausführungsfehler.

Der Download macht die Hardwareanforderung deutlich. Ollama führt das Q4-Paket mit 52 GB und Q8 mit 85 GB auf, jeweils mit ausgewiesenem 256K-Kontext. LM Studio nennt 42 GB Mindestsystemspeicher. Wer für Q4 mit 64 GB plant, lässt dem Betriebssystem und einem verkleinerten Kontext etwas Platz. Das garantiert dennoch nicht, dass das vollständige native Fenster komfortabel nutzbar ist.

Qwen benennt diese Grenze offen. Falls der Server nicht startet oder ein Fehler wegen unzureichenden Speichers auftritt, empfiehlt die offizielle Anleitung, den Kontext auf 32,768 zu reduzieren. Für die Bereitstellung ist das hilfreicher als die maximale Kontextzahl. Eine zuverlässige Agentensitzung mit 32,768 Tokens, die die richtigen Dateien bearbeitet und testet, ist wertvoller als ein 256K-Kontrollkästchen, das wiederholt Abstürze verursacht.

Der Non-Thinking-Modus kann ebenfalls Vorteil oder Einschränkung sein. Er vermeidet eine lange sichtbare Denkphase und hält die Interaktion direkt. Wer ausdrücklich bewahrtes Denken benötigt, sollte dagegen Qwen3.6 wählen oder ein anderes Modell prüfen. Aus dem gemeinsamen Namen Qwen lässt sich kein identisches Verhalten ableiten.

Am besten geeignet für: Einen lokalen Server mit 64 GB für einen oder wenige kontrollierte Coding-Agenten-Workloads

Besonderheit: Spezialisierung auf Coding-Agenten mit insgesamt 80B Parametern, davon 3B aktiv pro Token, und einem auf Fehlererholung ausgerichteten Training

Preis: $0 über die lokale kostenlose Stufe von LM Studio, geprüft am 15. August 2026

Kostenlose Testversion: Nicht zutreffend; die lokale Laufzeitstufe und der Modelldownload sind kostenlos

5. Qwen3.5-9B: beste Wahl für Hardware der 8-GB-Klasse

Qwen3.5-9B ist auf kleinen Rechnern die vernünftige Wahl für Erklärungen, Snippets, Testgenerierung und eng begrenzte Änderungen. LM Studio nennt ein Minimum von 7 GB. Damit kann das Modell Entwickler auf einem Rechner der 8-GB-Klasse unterstützen, auf den die oben genannten Pakete mit 17 GB bis 52 GB nicht passen. Die Modellkarte führt Denk-, Tool-, Bild- und Agentenfähigkeiten auf, was es vielseitiger als ein älteres reines Autocomplete-Modell macht. Die Grenze ist der Aufgabenumfang: Ein allgemeines 9B-Basismodell ist kein Freibrief, einem unbeaufsichtigten Agenten ein vollständiges Repository zu überlassen.

Die offizielle Modellkarte von Qwen3.5-9B gibt für das dichte Modell einen nativen Kontext von 262,144 Tokens an, der sich auf 1,010,000 Tokens erweitern lässt. Qwen meldet 65.6 bei LiveCodeBench v6, 66.1 bei BFCL-V4 und 79.1 bei TAU2-Bench. LiveCodeBench misst die Codegenerierung, während BFCL und TAU2 Tool- und Agentenverhalten untersuchen. Keiner dieser Tests entspricht der Bearbeitung eines bestimmten Repository-Problems mit dem eigenen Coding-Testsystem.

Auch die große Kontextangabe verlangt Zurückhaltung. Qwen empfiehlt nach einem Fehler wegen unzureichenden Speichers einen kleineren Kontext und rät zum Erhalt des Denkvermögens bei komplexen Aufgaben zu mindestens 128K. Ein Rechner der 8-GB-Klasse kann das Modell voraussichtlich nicht komfortabel mit so viel Arbeitskontext kombinieren. Deshalb sollte der Kontext überschaubar bleiben, nur die wirklich benötigten Dateien umfassen und eine Folge prüfbarer Änderungen einem langen autonomen Lauf vorgezogen werden.

Ein gutes Einsatzszenario ist ein Entwickler, der eine unbekannte Funktion verstehen möchte: Funktion, Tests und relevante Typdefinitionen bereitstellen, eine Erklärung und einen minimalen Patch anfordern und die Tests anschließend selbst ausführen. Ungeeignet ist der Auftrag, ein großes Monorepo zu untersuchen, eine Architektur neu zu entwerfen, Dutzende Dateien zu bearbeiten und sich unbeaufsichtigt von Fehlern zu erholen. Das kleinere Modell gewinnt durch seine Verfügbarkeit, nicht weil es die Kosten von Komplexität beseitigt.

Am besten geeignet für: Snippets, Erklärungen, Tests und begrenzte Diffs auf einem Rechner der 8-GB-Klasse

Besonderheit: 7 GB Mindestanforderung in LM Studio mit aktuellen Denk-, Bild- und Tool-Fähigkeiten

Preis: $0 über die lokale kostenlose Stufe von LM Studio, geprüft am 15. August 2026

Kostenlose Testversion: Nicht zutreffend; die lokale Laufzeitstufe und der Modelldownload sind kostenlos

Welches lokale KI-Modell passt zu welchem Rechner?

Sobald Speicher und Arbeitslast gemeinsam betrachtet werden, wird die Wahl übersichtlich.

Auf einem Mac mit 8 GB oder einem vergleichbaren kleinen Rechner: Qwen3.5-9B wählen und den Kontext überschaubar halten. Die Systemanforderungen von LM Studio empfehlen Nutzern eines Mac mit 8 GB, bei kleineren Modellen und moderatem Kontext zu bleiben. Zu erwarten sind hilfreiche Erklärungen, Snippets und begrenzte Diffs – keine unbeaufsichtigte Arbeit am gesamten Repository.

Auf einem Rechner mit 16 GB: Nicht automatisch das größte Modell wählen, das gerade noch lädt. LM Studio nennt für Qwen3.6 und Devstral jeweils 16 GB als Minimum, doch rund um das Modell bleibt dann fast kein Platz. Eine kleinere Quantisierung, Qwen3.5-9B oder ein Pilot mit kurzem Kontext ist der sicherere Einstieg.

Auf einer GPU oder einem Rechner mit gemeinsamem Speicher der 24-GB-Klasse: Qwen3.6-27B ist die Standardwahl. Devstral Small 2 übernimmt, wenn Softwareentwicklung über mehrere Dateien nahezu die gesamte Arbeitslast ausmacht. GLM-4.7-Flash wird interessant, wenn die Effizienz eines Mixture-of-Experts-Modells zusätzliche Prüfung der Laufzeit rechtfertigt.

Auf einem Mac mit 32 GB oder einer Workstation der RTX-4090-Klasse: Devstral Small 2 bietet die klarste vom Anbieter bestätigte Passung. Qwen3.6 bleibt der vielseitigere Assistent; die Entscheidung lautet daher fokussierter Coding-Agent oder breiteres Schlussfolgern und Arbeiten mit Bildern.

Auf einem Rechner oder lokalen Server mit 64 GB: Qwen3-Coder-Next wird praktikabel. Sein 52 GB großes Q4-Paket verlangt weiterhin ein Kontextbudget, und für den Server braucht es ein Zugriffs- und Parallelitätskonzept. Lokal bedeutet nicht, dass jeder Entwickler einen nicht authentifizierten Endpunkt im Büronetz verfügbar machen sollte.

Die Umschaltregel ist knapp: Passen zwei Modelle, gewinnt das Modell, dessen Training der Aufgabe am nächsten kommt; lässt nur eines ausreichend freien Speicher, gewinnt dieses. Kein Benchmark-Rang rettet ein Modell, das den Arbeitstag mit Auslagern oder Abstürzen verbringt oder nur mit zu wenig Kontext läuft, um die Änderung zu verstehen.

Lokale Modelle gegen Cloud-Plätze: Wann Hardware ins Budget gehört

Lokale Gewichte beginnen bei $0, lokales Coding nicht. Statt einer Abogebühr entstehen Kosten für Hardware, Strom, Einrichtung, Aktualisierungen, Zugriffskontrolle und Entwicklungszeit. Ist ein geeigneter Rechner bereits vorhanden, verändert das die Rechnung. Ein nur für lokale Inferenz gekaufter Rechner muss seinen eigenen Budgetposten rechtfertigen.

Die kostenlose Stufe von LM Studio kostet $0, führt lokale Modelle auf dem Rechner des Nutzers aus und gibt an, dass keine Daten das Gerät verlassen. Laut Systemdokumentation kann die Anwendung nach dem Download der Modelldateien vollständig offline laufen. Diese Datenschutz- und Offline-Grenze kann lokale Inferenz selbst dann rechtfertigen, wenn der Abonnementvergleich dagegen spricht. Relevant ist das etwa bei unveröffentlichtem Quellcode, Außeneinsätzen ohne stabile Verbindung oder wenn ein Team unabhängig von Ausfällen eines Anbieters auf das Modell zugreifen muss.

Ein sauberer Budgetvergleich verwendet öffentlich ausgewiesene Preise statt eines vermeintlichen Gesamtpreises. NVIDIA brachte die RTX 5090 mit 32 GB zu einem Einstiegspreis von $1,999 auf den Markt. Die aktuellen Einzelpläne von GitHub führen Copilot Free für $0, Pro für $10 pro Nutzer und Monat, Pro+ für $39 und Max für $100 auf. Die Preise für Organisationen betragen $19 pro Nutzer und Monat für Business und $39 für Enterprise.

• Ein Pro-Platz für $10 benötigt 199.9 Monate, also rund 16.7 Jahre, um den Einstiegspreis einer GPU von $1,999 zu erreichen.
• Zehn Business-Plätze kosten $190 pro Monat. Der GPU-Listenpreis entspricht 10.5 Monaten dieses Budgetpostens.
• Zehn Enterprise-Plätze kosten $390 pro Monat. Der GPU-Listenpreis entspricht 5.1 Monaten dieses Budgetpostens.

Wichtiger als eine Veröffentlichungsspezifikation ist die praktische Konsequenz: Keine High-End-GPU kaufen, nur um einen einzelnen Cloud-Platz für $10 abzuschaffen. Ein Kauf ist sinnvoll, wenn der Code zwingend lokal bleiben muss, Offline-Zugriff betrieblichen Wert hat, die Hardware bereits vorhanden ist oder ein Team die Kapazität teilen kann, ohne einen einzelnen Rechner zur Warteschlange zu machen.

Cloud-Plätze bezahlen außerdem mehr als Inferenz. Ein Coding-Assistent kann gehostete Modelle, Editor-Integration, Cloud-Agenten, Code-Review, Identitätsverwaltung, Richtlinien und Support enthalten. Ein lokaler Modelldownload liefert diese Kontrollen nicht automatisch mit. Wenn verbrauchsabhängige Inferenz der passendere Vergleich als ein Platz ist, zeigt die Analyse der günstigsten KI-API, warum der Tokenpreis nur einen Teil der Anwendungskosten ausmacht.

Die Entscheidung für Montag fällt deshalb je nach Ausgangslage unterschiedlich aus. Ein einzelner Entwickler mit vorhandener 24-GB-GPU sollte Qwen3.6 ausprobieren, bevor ein weiterer Dienst bezahlt wird. Wer allein arbeitet und keine geeignete Hardware besitzt, beginnt mit einem Cloud-Platz oder Qwen3.5 auf dem vorhandenen Rechner. Ein zehnköpfiges Team mit sensiblem Code sollte einen zweiwöchigen Pilotbetrieb auf einem gemeinsam genutzten Server durchführen und Parallelität, akzeptierte Patches, Korrekturzeit und Betriebsstunden messen, bevor eine Geräteflotte gekauft wird.

Nach welchen Kriterien wurden die lokalen Coding-Modelle ausgewählt?

Die fünf Modelle wurden für eine Entscheidung ausgewählt, die Entwickler heute umsetzen können – nicht für eine möglichst lange Namensliste. Jede Empfehlung deckt eine eigene Speicherklasse oder Coding-Aufgabe ab und ist so umfassend dokumentiert, dass sich erkennen lässt, auf welchem Rechner und in welchem Workflow sie nicht mehr die richtige Wahl ist.

Sechs Kriterien bestimmen die Reihenfolge:

1. Lokale Verfügbarkeit: Das Modell braucht eine aktuelle offizielle Modellkarte sowie einen aktuellen Ein-Klick-Eintrag bei LM Studio oder Ollama.
2. Hardwarepassung: Paketgröße, Mindestspeicher, Kontextdruck und die konkrete Rechnerempfehlung des Anbieters werden gemeinsam betrachtet.
3. Verhalten als Coding-Agent: Tool-Nutzung, Änderungen über mehrere Dateien, Repository-Schlussfolgerungen, Erholung nach Fehlern und Unterstützung durch Coding-Testsysteme zählen mehr als reine Autovervollständigung.
4. Betriebliche Reife: Eine reproduzierbare Laufzeit und klare Hinweise für unzureichenden Speicher sind relevant. Unterstützung nur im Hauptentwicklungszweig verursacht Kosten, selbst wenn die Gewichte kostenlos sind.
5. Aktuelle Bedingungen: Preise und Lizenzen stammen von aktuellen Anbieterseiten. Eine eindeutige Lizenz ist für eine kommerzielle Bereitstellung ein echter Vorteil.
6. Nachvollziehbare Belege: Anbieterbenchmarks sind nur zusammen mit ihrem Umfang und Testsystem aussagekräftig. Werte aus verschiedenen Agentengerüsten werden nicht wie eine einheitliche Rangliste behandelt.

In diesem Durchlauf wurde kein Modell praktisch getestet. Deshalb heißt es im Titel Verglichen, nicht Getestet. Die Rangfolge stützt sich auf aktuelle Modellkarten, Laufzeitseiten, offengelegte Auswertungsmethoden und eine eigene Kostenanalyse. Ein Anbieterbenchmark und ein im eigenen Repository akzeptierter Patch bleiben unterschiedliche Arten von Belegen.

Die Liste schließt Modelle aus, die beeindruckend, aber auf einer einzelnen aktuellen Workstation unpraktisch sind. Ein 480B-Modell kann Open Weight und technisch selbst hostbar sein und dennoch die falsche Antwort für Entwickler darstellen, die lokal arbeiten möchten. Ebenfalls ausgeschlossen sind Modelle ohne aktuelles, reproduzierbares lokales Paket oder solche, die sich nur mit allgemeinem Lob beschreiben lassen.

Welche Modelle und Setups sich für diese Aufgabe nicht eignen

Riesige Modelle vermeiden, die als gewöhnliche lokale Wahl dargestellt werden. Die größten Flaggschiffe von Qwen3-Coder, Kimi und GLM mögen offen und selbst hostbar sein, doch damit werden sie noch nicht zur Empfehlung für eine einzelne Workstation. Ohne genaue Quantisierung, Speicherplanung, Laufzeit und Ziel für parallele Nutzung ist „lokal“ lediglich eine mögliche Bereitstellungsform.

Nicht allein nach der Zahl aktiver Parameter entscheiden. GLM-4.7-Flash und Qwen3-Coder-Next aktivieren pro Token jeweils 3B Parameter, ihre quantisierten Ollama-Pakete belegen jedoch 19 GB beziehungsweise 52 GB. Aktive Berechnung und gespeicherte Gewichte beantworten unterschiedliche Fragen. Die GPU muss das verwendete Paket trotzdem halten oder bewegen.

Code Llama oder StarCoder2 nicht als neuen Standard wählen. Ältere Code-Modelle können in einem festgeschriebenen Workflow weiterhin nützlich sein, insbesondere wenn ein Team ihr Verhalten bereits kennt. Für eine neue Einrichtung im Jahr 2026 bringen aktuelle, für Agenten trainierte Modelle Tool-Nutzung, Verhalten mit längerem Kontext und auf Fehlererholung ausgerichtetes Training mit – und entsprechen damit besser der Arbeitsweise von Coding-Agenten.

Keine experimentelle Community-Quantisierung als Teamstandard einführen. Ein Community-Build kann hervorragend sein. Bevor mehrere Entwickler davon abhängen, müssen jedoch die genaue Datei, Quantisierung, Prompt-Vorlage, Laufzeitversion, Lizenz und Prüfsumme dokumentiert werden. Lässt sich das Ergebnis nach einer Aktualisierung nicht reproduzieren, wurde die Abhängigkeit vom Anbieter lediglich gegen eine Abhängigkeit vom Artefakt getauscht.

Nicht am ersten Tag den maximalen Kontext einstellen. Eine Modellseite mit 256K ist keine Anweisung, jeder Aufgabe 256K zuzuweisen. Ausgangspunkt ist der kleinste Kontext, der den relevanten Code und Tool-Verlauf enthält. Erhöht wird erst, wenn ein fehlgeschlagener Patch fehlende Informationen erkennen lässt – nicht weil ein Regler mehr zulässt.

Häufig gestellte Fragen

Welches ist das beste KI-Modell für Programmierer?

Für eine lokale Einrichtung ist Qwen3.6-27B auf einem Rechner der 24-GB-Klasse die beste allgemeine Standardwahl. Devstral Small 2 eignet sich besser, wenn die Arbeitslast gezielt aus Softwareentwicklung über mehrere Dateien besteht. Ein verwaltetes Cloud-Modell kann dennoch das bessere Gesamtsystem sein, wenn Parallelität, Wartung oder gehostete Tools den Ausschlag geben.

Welches ist 2026 das beste lokale KI-Modell fürs Programmieren?

Qwen3.6-27B ist insgesamt die beste Wahl, weil sein 17 GB großes Ollama-Paket aktuelle Fähigkeiten eines Coding-Agenten mit breitem Schlussfolgern und Bildeingaben verbindet. Devstral Small 2 passt als fokussierter Code-Agent, Qwen3-Coder-Next auf einen Server mit 64 GB und Qwen3.5-9B auf einen Rechner der 8-GB-Klasse.

Welches ist derzeit das beste lokale LLM?

Das beste Modell ist das leistungsfähigste, das noch Speicher für einen brauchbaren Kontext und die Laufzeitumgebung frei lässt. Qwen3.6-27B gewinnt in der verbreiteten 24-GB-Klasse. Auf einem Rechner mit 8 GB kann das kleinere Qwen3.5-9B besser sein, weil es mit einem arbeitsfähigen Kontext läuft, statt nur gerade eben zu laden.

Welches ist das beste selbst gehostete KI-Modell fürs Programmieren?

Qwen3-Coder-Next ist für einen lokalen Server mit 64 GB die spezialisierte Wahl, weil es für Coding-Agenten, langfristige Tool-Nutzung und Erholung nach Fehlern entwickelt wurde. Qwen3.6-27B ist der praktischere selbst gehostete Standard, wenn Server oder Workstation rund 24 GB beschleunigten oder gemeinsamen Speicher bieten.

Welches Ollama-Modell eignet sich am besten fürs Programmieren?

Bei genügend Platz für das 17-GB-Paket samt Kontext und Laufzeit-Overhead ist qwen3.6:27b der beste Einstieg. Auf einem kompakten Rechner empfiehlt sich ein kleineres Qwen3.5-Paket. Auf einem Server mit 64 GB sollte Qwen3-Coder-Next geprüft und zunächst mit reduziertem Kontext betrieben werden.

Wie viel RAM oder VRAM braucht ein lokales Coding-Modell?

Hardware der 8-GB-Klasse eignet sich für Qwen3.5-9B und begrenzte Aufgaben, rund 24 GB für Qwen3.6-27B oder GLM-4.7-Flash, ein PC der 4090-Klasse oder ein Mac mit 32 GB für Devstral Small 2 und rund 64 GB für das 52 GB große Qwen3-Coder-Next-Paket. Das sind praktische Zielwerte, keine Garantien; Kontext, Quantisierung, Laufzeit, Betriebssystem und GPU-Offloading verändern den endgültigen Bedarf.

Sind lokale KI-Coding-Modelle kostenlos?

Die fünf Modelldownloads und die lokale Stufe von LM Studio beginnen bei $0. Das Gesamtsystem verursacht trotzdem Kosten: Hardware, Strom, Einrichtung, Aktualisierungen, Zugriffskontrolle, Backups und Entwicklungszeit gehören weiterhin zum Betrieb.

Der konkrete Plan für die kommende Woche

Nicht mit einer GPU-Bestellung beginnen, sondern mit einem Passungstest in genau einem Repository.

Montag: Rechner erfassen und einen Kandidaten wählen

Verfügbaren VRAM oder gemeinsamen Speicher, System-RAM, Betriebssystem und die Unterstützung für LM Studio dokumentieren. Für ein System der 8-GB-Klasse Qwen3.5-9B wählen, für eines der 24-GB-Klasse Qwen3.6-27B und für einen Mac mit 32 GB oder eine 4090 Devstral Small 2. Nicht alle fünf herunterladen.

Dienstag: drei repräsentative Aufgaben festlegen

Einen fehlgeschlagenen Test mit bekannter Lösung, eine kleine Änderung über mehrere Dateien und eine Erklärungsaufgabe aus einem dem Team vertrauten Repository verwenden. Geheimnisse entfernen und dem Coding-Agenten nur die für die Aufgabe nötigen Tools erlauben. Das erwartete Verhalten vor dem Start festhalten.

Mittwoch: unterhalb des maximalen Kontexts testen

Mit einem begrenzten Kontext und dem kleinstmöglichen relevanten Dateisatz beginnen. Spitzenspeicher, Zeit bis zum ersten brauchbaren Patch, angeforderte Befehle, bestandene Tests und menschliche Korrekturen dokumentieren. Übersieht das Modell eine Abhängigkeit, zunächst die fehlende Datei ergänzen, statt sofort das gesamte Kontextfenster zu vergrößern.

Donnerstag: mit dem aktuellen Cloud-Weg vergleichen

Dieselben drei Aufgaben mit dem bereits bezahlten Assistenten oder der vorhandenen API ausführen. Akzeptierte Patches und Korrekturminuten vergleichen, nicht die selbstbewusste Formulierung der Antwort. Auf der lokalen Seite gehören Einrichtungs- und Betriebszeit in die Rechnung.

Freitag: eine von drei Entscheidungen treffen

Lokal bleiben, wenn Datenschutz, Offline-Nutzung, Kontrolle oder die Wirtschaftlichkeit akzeptierter Patches besser ausfallen. Den Cloud-Platz behalten, wenn er weiterhin günstiger und einfacher ist. Hardware erst aufrüsten, wenn der Pilottest den Speicher als begrenzenden Faktor identifiziert und der lokale Vorteil den Besitz des Rechners rechtfertigt.