Groq Pricing 2026: Warum der Durchsatz das Upgrade erzwingt

Groq Pricing im Detail: alle Modellpreise, Free-Limits, Batch- und Cache-Rabatte – plus der Punkt, an dem sich der Wechsel zu Developer lohnt.

Thursday, September 3, 2026Omid Saffari
Groq Pricing 2026: Warum der Durchsatz das Upgrade erzwingt

Groq Pricing beginnt bei $0 – bis die modellspezifischen Limits des Free-Tarifs den Workflow ausbremsen. Danach fällt im Developer-Tarif keine Grundgebühr an; abgerechnet wird ausschließlich nach Nutzung. Beim durchgerechneten GPT-OSS-120B-Workload entspricht das tägliche Token-Limit von Free gerade einmal $1.44 an monatlichem Bezahlvolumen. Der Wechsel wird daher vom Durchsatz erzwungen, nicht von den Tokenkosten.

Groq Pricing auf einen Blick

Bei Groq gibt es keinen monatlichen Self-Service-Preis pro Nutzerplatz, den man sich merken müsste. Zur Wahl stehen ein Free-Tarif mit Ratenbegrenzung, der nutzungsabhängig abgerechnete Developer-Tarif und individuell bereitgestellte Enterprise-Kapazität.

Diese Preise und Limits wurden am 15. August 2026 anhand der aktuellen Groq-Preisseite, der Übersicht Supported Models, der Billing FAQs und der Dokumentation zu Ratenlimits geprüft.

Aktuelle Groq-Preisseite mit Tarifen für Modelle und integrierte Tools
Groq Pricing, geprüft im August 2026
TarifPreisKapazitätGeeignet für
Free$0Modellspezifische OrganisationslimitsTests und leichte interne Nutzung
DeveloperKeine Grundgebühr; Abrechnung nach NutzungBasislimits für Textmodelle von bis zu 300K TPM und 1K RPMSelf-Service-Produktion
EnterpriseIndividuell bereitgestellte KapazitätVertraglich vereinbarte Pakete für Ein- und AusgabeKritische Abläufe mit SLA-Bedarf

Ein Token ist die Einheit, nach der das Modell abgerechnet wird. Zu den Eingabetoken zählen Anweisungen, Gesprächsverläufe, Dokumente und Tool-Definitionen, die an das Modell gesendet werden. Ausgabetoken sind die vom Modell erzeugten Inhalte. Groq weist beide Seiten je eine Million Token aus. Die monatlichen Gesamtkosten setzen sich daher aus Eingabe, Ausgabe, Audio und der Nutzung integrierter Tools zusammen.

Für Developer gibt es weder eine monatliche noch eine jährliche Abnahmeverpflichtung. Groq verlangt eine Zahlungsmethode, erfasst die Nutzung und rechnet üblicherweise nachträglich ab. Einen gesonderten Mehrverbrauchspreis gibt es nicht: Bei Free wird zusätzlicher Traffic am jeweils geltenden Limit blockiert. Developer rechnet die weitere Nutzung zu denselben Modellpreisen ab, bis ein Konto- oder Spend Limit greift. Enterprise Performance funktioniert anders: Hier wird bereitgestellte Ein- und Ausgabekapazität gekauft, nicht die öffentliche On-Demand-Tokenrate bezahlt.

Der Free-Tarif reicht, bis ein gemeinsames Limit produktionskritisch wird

Der Free-Tarif von Groq reicht für einen Prototyp, einen internen Assistenten und überraschend viel Automatisierung mit geringem Volumen. Als kostenlose Infrastruktur taugt er nicht mehr, sobald ein Fehler wegen eines Ratenlimits bei Kunden ankommt.

Die Limits gelten für die gesamte Organisation, nicht für jeden einzelnen API-Schlüssel. Zusätzliche Schlüssel vervielfachen die Kapazität also nicht. Groq überwacht zudem mehrere Dimensionen parallel: Anfragen pro Minute, Anfragen pro Tag, Token pro Minute und Token pro Tag. Sobald die erste Obergrenze erreicht ist, wird der nächste Aufruf mit HTTP 429 abgewiesen.

Für die aktuellen produktiven Textmodelle gelten unter anderem diese veröffentlichten Free-Limits:

  • GPT-OSS 120B und GPT-OSS 20B: 30 RPM, 1,000 RPD, 8,000 TPM und 200,000 TPD.
  • Llama 3.3 70B Versatile: 30 RPM, 1,000 RPD, 12,000 TPM und 100,000 TPD.
  • Llama 3.1 8B Instant: 30 RPM, 14,400 RPD, 6,000 TPM und 500,000 TPD.
  • Compound und Compound Mini: 30 RPM, 250 RPD und 70,000 TPM.
  • Whisper Large V3 und Turbo: 20 RPM, 2,000 RPD, 7,200 Audiosekunden pro Stunde und 28,800 Audiosekunden pro Tag.

Groq bezeichnet diese öffentliche Tabelle als grobe Übersicht. Maßgeblich für das aktuelle Kontingent einer konkreten Organisation ist die Limits-Seite in der Console.

Häufig greift das tägliche Token-Limit früher als die Obergrenze für Anfragen. Ein GPT-OSS-120B-Aufruf mit 2,000 Eingabetoken und 500 Ausgabetoken umfasst insgesamt 2,500 Token. Das Limit von 200,000 TPD erlaubt damit 80 solcher Anfragen pro Tag. Die Obergrenze von 8,000 TPM lässt drei davon innerhalb einer Minute zu; eine vierte vergleichbare Anfrage würde das Token-Limit überschreiten, obwohl der Tarif mit 30 RPM beworben wird.

Genau hier liegt der Übergang von kostenlos zu kostenpflichtig. Dieselbe Anfrage kostet bei Developer $0.0006. Bei 80 Anfragen täglich und einem Monat mit 30 Tagen ergeben sich rund $1.44. Es gibt kaum einen finanziellen Grund, einen produktiven Workflow um das Free-Limit herumzubauen. Mit dem Upgrade wird Kapazität gekauft, während die Modellrechnung noch unter den meisten SaaS-Zusatzoptionen liegt.

Entscheidungsweg von Groq Free über Developer bis Enterprise für einen durchgerechneten GPT-OSS-120B-Workload
Beim durchgerechneten Aufruf mit 2,500 Token ist Free nach 80 Anfragen pro Tag ausgeschöpft; derselbe monatliche Traffic kostet bei Developer rund $1.44

Wer dauerhaft kostenlos bleiben kann

Developer ist möglicherweise nie nötig, wenn Groq nur für die lokale Entwicklung, gelegentliche Tests, ein persönliches internes Skript oder eine Demo genutzt wird und der Traffic unter den jeweiligen Token- und Anfragegrenzen bleibt. Free passt auch dann, wenn ein 429 auf einen späteren Wiederholungsversuch warten kann und niemand einen durchgängigen Dienst erwartet.

Sobald ein Workflow einen Nutzer, eine Frist oder eine Warteschlange hat, die das gemeinsame Limit nicht verkraftet, ist der kostenpflichtige Tarif fällig. Developer ergänzt außerdem Batch, Flex, Chatsupport und Spend Limits. Diese operativen Kontrollen markieren in der Praxis die Grenze – nicht ein anderer Modellkatalog.

Alle aktuellen Groq-Modellpreise

Der aktuelle Produktionskatalog von Groq ist überschaubar: vier Textmodelle, zwei Speech-to-Text-Modelle und zwei Compound-Systeme. Daneben gibt es einen separaten Vorschaukatalog mit Modellen, die kurzfristig verschwinden können.

Produktive Textmodelle

  • Llama 3.1 8B Instant kostet $0.05 für die Eingabe und $0.08 für die Ausgabe je eine Million Token. Damit ist es das günstigste produktive Textmodell. Das Developer-Basislimit liegt bei 250,000 TPM und 1,000 RPM, das Kontextfenster umfasst 131,072 Token.
  • GPT-OSS 20B kostet $0.075 für die Eingabe und $0.30 für die Ausgabe je eine Million Token. Zwischengespeicherte Eingaben kosten $0.0375 je eine Million. Das Developer-Basislimit liegt bei 250,000 TPM und 1,000 RPM, das Kontextfenster umfasst 131,072 Token.
  • GPT-OSS 120B kostet $0.15 für die Eingabe und $0.60 für die Ausgabe je eine Million Token. Zwischengespeicherte Eingaben kosten $0.075 je eine Million. Das Developer-Basislimit liegt bei 250,000 TPM und 1,000 RPM, das Kontextfenster umfasst 131,072 Token.
  • Llama 3.3 70B Versatile kostet $0.59 für die Eingabe und $0.79 für die Ausgabe je eine Million Token. Das Developer-Basislimit liegt bei 300,000 TPM und 1,000 RPM, das Kontextfenster umfasst 131,072 Token.

Wenn ein größeres Open-Weight-Modell benötigt wird und eine Ausweichmöglichkeit zum selben Modell bei einem anderen Anbieter wichtig ist, sollte die Produktionsevaluierung mit GPT-OSS 120B beginnen. Der Wechsel zu GPT-OSS 20B oder Llama 3.1 8B ist erst sinnvoll, wenn ein Akzeptanztest bestätigt, dass das kleinere Modell die Ergebnisqualität hält. Llama 3.3 70B kommt nur infrage, wenn seine Ergebnisse den gegenüber GPT-OSS 120B um das 3.93-Fache höheren Eingabepreis und den 1.32-fachen Ausgabepreis rechtfertigen.

Diese Faktoren beweisen nicht, dass ein Modell besser ist. Sie zeigen, welchen Mehrwert das Ergebnis durch weniger Wiederholungsversuche, kürzere Antworten, geringeren Prüfaufwand oder eine Fähigkeit erwirtschaften muss, die der günstigeren Variante fehlt.

Speech-to-Text-Modelle

  • Whisper Large V3 kostet $0.111 pro Audiostunde. Die Developer-Basiskapazität beträgt 200,000 Audiosekunden pro Stunde und 300 RPM; die maximale Dateigröße liegt bei 100 MB.
  • Whisper Large V3 Turbo kostet $0.04 pro Audiostunde. Die Developer-Basiskapazität beträgt 400,000 Audiosekunden pro Stunde und 400 RPM.

Bei 1,000 Audiostunden stehen $111 für Whisper Large V3 und $40 für Turbo auf der Rechnung – eine Differenz von $71. Der niedrigere Preis ist der sinnvolle Ausgangspunkt. Ein Audioteam sollte jedoch das Modell behalten, das seine Qualitätsgrenze für Transkripte erfüllt. Ein billigeres Transkript, das korrigiert werden muss, ist im Ergebnis nicht günstiger.

Compound-Systeme und Vorschaumodelle

Groq Compound und Compound Mini verbinden produktive Modelle mit serverseitigen Tools. Dafür gibt es keinen einheitlichen Tokenpreis. Groq reicht die Kosten der zugrunde liegenden Modelle und Tools weiter. Eine Compound-Rechnung braucht deshalb einen eigenen Kostenstapel statt einer einzigen Schätzung pro Token.

Der aktuelle Vorschaukatalog führt:

  • Qwen3.6 27B: $0.60 für die Eingabe und $3.00 für die Ausgabe je eine Million Token.
  • Safety GPT-OSS 20B: $0.075 für die Eingabe und $0.30 für die Ausgabe je eine Million Token.
  • Llama Prompt Guard 2 22M: $0.03 für Ein- und Ausgabe je eine Million Token.
  • Llama Prompt Guard 2 86M: $0.04 für Ein- und Ausgabe je eine Million Token.
  • Canopy Labs Orpheus V1 English: $22 je eine Million Zeichen.
  • Canopy Labs Orpheus Arabic Saudi: $40 je eine Million Zeichen.
  • MiniMax M2.7: Enterprise-Preise auf Vertriebsanfrage.

Preview bedeutet Evaluierung, nicht Produktionszusage. Laut Groq können diese Modelle kurzfristig eingestellt werden. Wer sein Budget auf Qwen3.6 27B stützt, braucht daher schon vor dem ersten Kundeneinsatz einen getesteten Wechselpfad zu einem anderen Anbieter oder Modell.

Auf der aktuellen Seite Supported Models von Groq ist weder ein DeepSeek- noch ein Kimi-Modell aufgeführt. Ältere Beiträge und Rechner, die diese Namen weiterhin als aktive Groq-Optionen bepreisen, sind veraltet. Ist DeepSeek zwingend erforderlich, sollte der Preis bei einem aktuellen Anbieter ermittelt werden, statt von einer fortbestehenden Groq-Verfügbarkeit auszugehen. Die separate DeepSeek-Preisanalyse behandelt diese Entscheidung ausführlich.

Entscheidend sind die Kosten pro Ergebnis

Die Tokenpreise von Groq sind so niedrig, dass die Form des Traffics bis zu hohen Nutzungsvolumen meist wichtiger ist als die Modellwahl. Für einen sauberen Vergleich wird eine Anfrage festgelegt und über alle Varianten hinweg bepreist.

Als Standard dient eine Anfrage mit 2,000 Eingabetoken und 500 Ausgabetoken. Bei 100,000 Anfragen pro Monat und vor Caching, Batch, Tools oder Wiederholungsversuchen ergeben sich:

  • Llama 3.1 8B Instant: insgesamt $14 beziehungsweise $0.00014 pro Anfrage.
  • GPT-OSS 20B: insgesamt $30 beziehungsweise $0.0003 pro Anfrage.
  • GPT-OSS 120B: insgesamt $60 beziehungsweise $0.0006 pro Anfrage.
  • Llama 3.3 70B Versatile: insgesamt $157.50 beziehungsweise $0.001575 pro Anfrage.
  • Qwen3.6 27B Preview: insgesamt $270 beziehungsweise $0.0027 pro Anfrage.

Die sinnvolle Bezugsgröße ist nicht die Anfrage, sondern das akzeptierte Ergebnis. Wenn ein kleineres Modell Anfragen wiederholen muss, längere Ausgaben produziert oder mehr Arbeit an menschliche Prüfer weitergibt, kann aus der günstigen Anfrage der teure Workflow werden. Akzeptierte Ergebnisse sollten deshalb neben den Token erfasst werden. So muss sich das Modell über seinen Nutzen qualifizieren, nicht nur über den Listenpreis.

Es gibt kein kostenpflichtiges Mengenniveau, ab dem ein Groq-Modell automatisch günstiger wird als ein anderes. Alle öffentlichen On-Demand-Preise verlaufen linear, eine Grundgebühr fällt nicht an. GPT-OSS 20B kostet beim durchgerechneten Beispiel sowohl bei einer Anfrage als auch bei einer Million Anfragen halb so viel wie GPT-OSS 120B. Die Entscheidung kehrt sich erst um, wenn Ergebnisqualität oder Betriebsverhalten den nötigen Arbeitsaufwand verändern.

Für ein finanziertes Gründerteam kann das GPT-OSS 20B für Klassifizierungen und GPT-OSS 120B für mehrdeutige Fälle bedeuten. Ein CTO im Mittelstand sollte Modell- und Tokenfelder in jedem Anfrageprotokoll behalten, damit der Einkauf die Kosten pro akzeptiertem Workflow nachvollziehen kann. Für erfahrene Betriebsverantwortliche zählen Korrekturen und Wiederholungsversuche; eine einzige gelungene Demo ist noch kein Beleg für die richtige Produktionsroute.

Bei asynchroner Arbeit schlägt Batch das Caching – kombinieren lassen sich die Rabatte nicht

Groq Batch bietet den niedrigsten veröffentlichten Preis, wenn ein Ergebnis warten kann. Der Dienst kostet 50% weniger als die synchrone API, läuft außerhalb der üblichen modellbezogenen Limits und erlaubt ein Verarbeitungsfenster von 24 Stunden bis 7 Tagen.

Für den GPT-OSS-120B-Workload mit 100,000 Anfragen stehen diese Varianten zur Wahl:

  • Synchron ohne Cache: $60.
  • Synchron, 50% der Eingabetoken aus dem Cache: $52.50.
  • Synchron, 80% der Eingabetoken aus dem Cache: $48.
  • Batch: $30.

Die derzeitige Budgetregel ist eindeutig: Batch- und Prompt-Caching-Rabatte lassen sich nicht kombinieren. Jedes Batch-Token wird unabhängig vom Cache-Status zum um 50% reduzierten Batch-Preis abgerechnet. Eine Tabelle, die den Batch-Gesamtbetrag von $30 nochmals auf $15 halbiert, ist falsch.

Prompt Caching bleibt für synchronen GPT-OSS-Traffic nützlich. Es geschieht automatisch, kostet keine Feature-Gebühr und reduziert den Preis zwischengespeicherter Eingaben um 50%. Derzeit werden GPT-OSS 20B, GPT-OSS 120B und GPT-OSS Safeguard 20B unterstützt. Für einen Cache-Treffer muss das Präfix exakt übereinstimmen; die minimale cachefähige Präfixlänge liegt je nach Modell zwischen 128 und 1,024 Token. Ungenutzte Cache-Daten verfallen nach zwei Stunden. Ein Treffer erfolgt nach Best Effort und ist nicht garantiert.

Stabile Systemanweisungen und Tool-Definitionen gehören an den Anfang eines Prompts, variable Nutzerdaten dahinter. Anschließend lässt sich die Zahl der Cache-Token aus den Antworten auslesen. Ein prognostizierter Cache-Anteil ist erst dann eine belastbare Budgetgröße, wenn er in der Produktion gemessen wurde.

Batch bringt andere operative Grenzen mit. Eine JSONL-Datei darf bis zu 50,000 Zeilen umfassen und bis zu 200 MB groß sein. Aufträge, die das gewählte Verarbeitungsfenster verfehlen, laufen ab; Groq berechnet allerdings nur erfolgreich abgeschlossene Anfragen. Batch-Dateien und Ergebnisse können bis zu 30 Tage in den Systemen von Groq verbleiben. Bei sensiblen Workloads muss daher die Datenaufbewahrung geprüft werden, bevor der Preisvorteil die Entscheidung bestimmt.

Aus $60 Tokenkosten können bei Compound $560 werden

Die versteckten Kosten von Compound stecken nicht im Modell, sondern in der Tool-Schleife.

Groq berechnet für Basic Search $5 je 1,000 Anfragen, für Advanced Search $8 je 1,000, für Visit Website $1 je 1,000 und für Code Execution $0.18 pro Stunde. Diese Beträge kommen zu den Tokenkosten des zugrunde liegenden Modells hinzu.

Bei 100,000 Standardanfragen an GPT-OSS 120B kosten die Modelltoken $60. Ruft jede Anfrage einmal Basic Search auf, kommen $500 für die Suche hinzu und die Gesamtrechnung steigt auf $560. Je ein Advanced Search führt zu insgesamt $860, je ein Visit Website zu $160.

Kostenvergleich zwischen 60 Dollar für GPT-OSS-Token und 500 Dollar für Basic-Search-Aufrufe
Bei 100,000 durchgerechneten Anfragen erhöht je ein Basic Search die Tokenrechnung von $60 um $500

Dieser Budgetposten überrascht Agententeams am ehesten. Eine Tokenoptimierung kann keinen Workflow retten, dessen Agent bei jedem Schritt sucht. Die erste wirksame Kontrolle ist eine Tool-Richtlinie: festlegen, wann eine Suche nötig ist, Tool-Schleifen begrenzen, haltbare Ergebnisse außerhalb des Modells zwischenspeichern und Tool-Aufrufe pro akzeptiertem Ergebnis protokollieren.

Keine Jahresbindung, aber operative Fallstricke bei der Abrechnung

Developer wird nach Nutzung abgerechnet und ist kein verkappter jährlicher SaaS-Vertrag. Weniger offensichtlich sind die Bedingungen dafür, wann Geld vom Konto abgebucht wird, wie Limits reagieren und was mit Guthaben geschieht.

Neue Developer-Konten nutzen die progressive Abrechnung. Groq kann eine Rechnung ausstellen, sobald die kumulierte Gesamtnutzung nacheinander $1, $10, $100, $500 und $1,000 überschreitet. Nach der Schwelle von $1,000 beginnt die reguläre Monatsabrechnung. Für Konten mit indischer Rechnungsadresse gelten zunächst die Schwellen $1 und $10, danach wiederkehrende Schritte von $100. Eine Zahlung verlangt Groq erst ab einer Nutzung von mindestens $0.50.

Zu Beginn können dadurch mehrere kleine Kartenbelastungen entstehen. Das sind keine Zusatzgebühren, doch die Finanzabteilung sollte das Muster kennen, bevor sie die Buchungen für Duplikate hält.

Spend Limits blockieren Traffic – mit kurzer Meldeverzögerung

In kostenpflichtigen Tarifen lässt sich ein organisationsweites monatliches Spend Limit festlegen. Es gilt für jeden API-Schlüssel und Endpunkt, wird am ersten Tag des Monats zurückgesetzt und blockiert neue Anfragen, sobald die Überschreitung erkannt wird. Groq unterstützt Warnschwellen wie 50%, 75% und 90% des Limits.

Die Kostenerfassung wird mit 10 bis 15 Minuten Verzögerung aktualisiert. Eine Lastspitze kann die Endabrechnung deshalb leicht über den eingestellten Betrag treiben, bevor die Sperre greift. Groq empfiehlt zum Einstieg ein Limit, das 20% bis 30% über der erwarteten Monatsnutzung liegt. Bei einem kritischen Ablauf verringert dieser Puffer zugleich das Risiko, dass eine normale Traffic-Spitze den Budgetschutz in einen Ausfall verwandelt.

Guthaben verfallen, Vorauszahlungen sind endgültig

Groq Service Credits verfallen ein Jahr nach Kauf oder Ausstellung, sofern keine andere Frist genannt ist. Sie sind nicht übertragbar, können nicht gegen Bargeld eingelöst werden und werden nicht erstattet. Bei Schließung des Kontos verfällt das Restguthaben sofort.

Allgemeine Erstattungsanfragen behandelt Groq laut Billing FAQ im Einzelfall über den Support. Die spezifischen Bedingungen für Service Credits bleiben davon unberührt: Gekaufte und als Werbeaktion gewährte Guthaben sind endgültige Käufe. Sinnvoll ist daher ein Guthaben, das an eine Prognose gekoppelt ist, nicht an eine vage künftige Migration.

Flex tauscht garantierte Kapazität gegen ein höheres Limit

Flex steht zahlenden Kunden zum selben Tokenpreis wie On Demand zur Verfügung und bietet das 10-Fache des On-Demand-Ratenlimits. Dafür wird die Kapazität nur nach Best Effort bereitgestellt. Ist Flex ausgelastet, kann der Dienst schnell mit HTTP 498 und capacity_exceeded abbrechen.

Flex eignet sich für wiederholbare Warteschlangen, Evaluierungen und Massenverarbeitung, die einen schnellen Fehler verkraften. Für eine nicht wiederholbare Kundenaktion sollte es nicht die einzige Route sein. On Demand liefert berechenbare Geschwindigkeit, kann aber zu Spitzenzeiten zusätzliche Wartelatenz verursachen. Wenn diese Schwankung nicht tragbar ist, bietet Enterprise Performance die vertragliche Lösung – mit einem SLA von 99.9% Verfügbarkeit und einer Latenzgarantie von 99% im Rahmen des Enterprise-Vertrags.

Groq, Together AI und Fireworks liegen bei GPT-OSS 120B ohne Cache gleichauf

Allein mit dem öffentlichen Tokenpreis gewinnt Groq den Vergleich für GPT-OSS 120B nicht. Groq, Together AI und Fireworks AI verlangen für dasselbe Modell jeweils $0.15 für die Eingabe und $0.60 für die Ausgabe je eine Million Token.

Als normierter Workload dienen 100 Millionen Eingabetoken und 20 Millionen Ausgabetoken. Ohne Cache-Rabatt kostet jeder Anbieter $27. Gerade dieser Gleichstand ist aufschlussreich: Entscheidend werden damit Cache-Ökonomie, Ratenlimits, Bereitstellungsoptionen, Zuverlässigkeit und die tatsächlich gemessene Latenz.

Together AI

Together AI ist ein Inference-Anbieter für mehrere Modelle. Die serverlose GPT-OSS-120B-Variante kostet $0.15 für die Eingabe und $0.60 für die Ausgabe je eine Million Token. Mindestumsatz oder Bereitstellungsgebühr gibt es im serverlosen Produkt nicht.

Aktuelle Seite mit den serverlosen Preisen von Together AI und den Tarifen für GPT-OSS 120B
Preise für GPT-OSS 120B bei Together AI

In der aktuellen GPT-OSS-120B-Zeile veröffentlicht Together keinen Preis für zwischengespeicherte Eingaben. Laut Dokumentation werden bei einem Modell ohne ausgewiesenen Cache-Preis alle Eingaben zum Standardtarif abgerechnet. Im normierten Workload bleibt der Gesamtbetrag deshalb auch bei wiederholten Prompts bei $27. Für unterstützte serverlose Modelle bietet Together bis zu 50% günstigere Batch-Preise. Damit bleibt der Anbieter für asynchrone Arbeit interessant, sofern genau dieses Modell dafür zugelassen ist.

Together ist die passende Wahl, wenn der breitere Modellkatalog oder ein Weg von Serverless zu reservierter Infrastruktur wichtiger ist als das spezifische Betriebsprofil von Groq. Ein rein preisgetriebener Wechsel zwischen beiden lohnt sich erst, wenn sich im eigenen Workload ein Unterschied zeigt – der ungekürzte GPT-OSS-Posten ist identisch.

Fireworks AI

Fireworks AI listet GPT-OSS 120B mit $0.15 für die Eingabe, $0.014 für zwischengespeicherte Eingaben und $0.60 für die Ausgabe je eine Million Token. Zur Registrierung gibt es $1 Serverless-Guthaben.

Modellseite von Fireworks AI mit Standard- und Cache-Tokenpreisen für GPT-OSS 120B
Preise für GPT-OSS 120B bei Fireworks AI

Bei einem Cache-Anteil von 50% an der Eingabe kostet der normierte Workload bei Fireworks $20.20, bei Groq $23.25 und bei Together $27. Damit ist Fireworks beim öffentlichen Preis die günstigste Wahl für GPT-OSS-120B-Eingaben mit vielen Wiederholungen – vorausgesetzt, der ausgewiesene Cache-Tarif greift beim gemessenen Workload. Für asynchrone Arbeit bleibt Groq Batch mit $13.50 für denselben normierten Traffic günstiger.

OpenAI hat GPT-OSS entwickelt, stellt es aber weder über die OpenAI API noch in der Endkunden-App bereit. Ein direkter Vergleich mit der OpenAI API würde daher gleichzeitig Anbieter und Modell austauschen und die Preisnormierung unbrauchbar machen. Zuerst sollte dasselbe Modell bei verschiedenen Hosting-Anbietern verglichen werden; proprietäre Modelle werden anschließend nach den Kosten pro akzeptiertem Ergebnis bewertet. Die Übersicht der günstigsten KI-APIs deckt das breitere Feld aus Modellen und Anbietern ab.

Die Anbieterentscheidung lässt sich klar fassen:

  • Groq passt, wenn synchroner Durchsatz und die operativen Kontrollen auf der gemessenen Route überzeugen oder wenn die um 50% reduzierten Batch-Preise verzögerbare Arbeit am günstigsten machen.
  • Fireworks passt, wenn wiederholter GPT-OSS-Kontext zuverlässig den ausgewiesenen Cache-Preis von $0.014 erreicht.
  • Together passt, wenn der breitere Weg von Serverless zu Dedicated zählt und der Workload nicht von einem GPT-OSS-Cache-Tarif profitiert.

Für wen Groq die richtige Wahl ist – und wer darauf verzichten sollte

Groq ist eine starke Wahl, wenn ein offenes Modell bereits die Qualitätsanforderungen erfüllt und die Antwortgeschwindigkeit das Produkt beeinflusst. Weniger geeignet ist der Anbieter, wenn Modellbedarf, Kapazitätsgarantie oder Bereitstellungskontrolle außerhalb des aktuellen Self-Service-Katalogs liegen.

Die Stärken
Was es gut macht
12 points

  • Der Free-Tarif reicht aus, um Produktivmodelle vor dem Hinterlegen einer Zahlungsmethode zu evaluieren.
  • Developer hat weder Grundgebühr noch Jahresbindung.
  • Die öffentlichen On-Demand-Preise bleiben bei jedem produktiven Textmodell unter $1 je eine Million Token.
  • Batch reduziert geeignete asynchrone Arbeit um 50%, ohne die üblichen Modelllimits zu belasten.
  • Das Prompt Caching für GPT-OSS läuft automatisch und halbiert die Preise zwischengespeicherter Eingaben.
  • Spend Limits können die organisationsweite Nutzung stoppen, bevor ein Monatsbudget unkontrolliert überschritten wird.
  • Free-Limits gelten gemeinsam für die gesamte Organisation und können bei Token lange vor der Anfragezahl greifen.
  • Batch- und Cache-Rabatte lassen sich nicht kombinieren.
  • Die Tool-Kosten von Compound können die Ausgaben für Modelltoken deutlich übersteigen.
  • Prompt Caching unterstützt nur die aufgeführte GPT-OSS-Familie und setzt die exakte Wiederverwendung des Präfixes voraus.
  • Flex kann HTTP 498 zurückgeben, wenn keine Best-Effort-Kapazität verfügbar ist.
  • Vorschaumodelle können kurzfristig entfernt werden und eignen sich daher nicht als schwer ersetzbare Produktionsabhängigkeit.

Für ein finanziertes Gründerteam passt Groq, wenn ein schnelles offenes Modell das Produkt reaktionsfähig hält und eine Ausweichroute zum selben Modell bestehen bleibt. Ein CTO im Mittelstand sollte Developer erst einsetzen, nachdem Schlüssel zentral verwaltet, Modell- und Tool-Nutzung protokolliert und ein Organisationslimit gesetzt wurden. Für erfahrene Betriebsverantwortliche zählen die Kosten pro akzeptiertem Ergebnis – nicht die spektakuläre Schlagzeile über Token pro Dollar.

Als alleiniger Anbieter scheidet Groq aus, wenn die Anwendung ein proprietäres Modell außerhalb des Katalogs, garantierte statt nur nach Best Effort bereitgestellte Kapazität oder ein Vorschaumodell ohne stabilen Ersatz verlangt. Enterprise Performance kann für unterstützte Modelle vertraglich zugesicherte Kapazität bereitstellen, wird aber individuell bepreist und ist kein günstigerer öffentlicher Tarif.

Die klare Entscheidungsregel lautet: Groq ist nur dann die richtige Wahl, wenn ein aktuelles Produktivmodell den Akzeptanztest besteht und entweder das synchrone Betriebsverhalten oder die Batch-Kosten besser sind als bei der Ausweichroute mit demselben Modell. Trifft beides nicht zu, ist der niedrige Tokenpreis kein Migrationsgrund.

Die Preisentwicklung von Groq macht eine aktuelle Prüfung unverzichtbar

Groq Pricing verändert sich auf Feature- und Modellebene, auch wenn die Abrechnungsstruktur nutzungsabhängig bleibt. Zum Start von Developer im Februar 2025 wurde Batch mit einem Rabatt von 25% gegenüber synchronen Preisen beworben. In der aktuellen Batch-Dokumentation sind es 50%.

Außerdem hat Groq im Oktober 2025 die Preise für GPT-OSS gesenkt und schrittweise Prompt Caching für diese Familie eingeführt. Aktuell kostet GPT-OSS 120B $0.15/$0.60 und GPT-OSS 20B $0.075/$0.30; zwischengespeicherte Eingaben werden jeweils zum halben Standardpreis berechnet.

Die Fluktuation im Katalog ist ebenso wichtig wie die Preisentwicklung. Modelle, die in älteren Preisübersichten vorkamen, darunter Kimi- und DeepSeek-Varianten, fehlen auf der aktuellen Seite Supported Models. Ein Budget sollte deshalb Prüfdatum, Modell-ID und Ausweichroute festhalten, statt einen kopierten Preis für dauerhaft zu halten.

Aufgabe für Montag: einen akzeptierten Workflow bepreisen und begrenzen

Am Montag wird ein klar abgegrenzter Workflow ausgewählt und mit einem Budget versehen, das Technik und Finanzabteilung gleichermaßen prüfen können. Eine anbieterweite Migration ist nicht der erste Schritt.

  1. Traffic-Profil erfassen

    Für eine repräsentative Woche werden Anfragezahl, Eingabetoken, Ausgabetoken, Cache-Treffer-Token, Modell-IDs, Tool-Aufrufe, Wiederholungsversuche und akzeptierte Ergebnisse exportiert. Synchroner Traffic wird von Aufträgen getrennt, die warten können.

  2. Drei Varianten bepreisen

    On Demand wird mit den aktuellen Modellpreisen kalkuliert, Batch für geeignete verzögerte Arbeit mit 50% und Tools als eigene Posten. Cache-Einsparungen dürfen nicht auf Batch angewendet werden; ebenso wenig darf ein Cache-Anteil angenommen werden, den die Nutzungsfelder nicht belegen.

  3. Grenze für den kostenpflichtigen Betrieb setzen

    Unterbrechen Free-Limits den Ablauf, wechselt er zu Developer. Das monatliche Spend Limit wird 20% bis 30% über der Prognose festgelegt, Warnungen folgen bei 50%, 75% und 90%. Dabei bleibt Spielraum für die Meldeverzögerung von 10 bis 15 Minuten.

  4. Eine Ausweichroute betriebsbereit halten

    Dasselbe Modell wird über einen alternativen Anbieter mit einer kleinen Evaluierungsmenge getestet. Endpunkt, beobachtete Akzeptanzrate und Auslöser für die Umleitung werden dokumentiert, damit eine Katalogänderung oder ein Kapazitätsfehler nicht zur Notfallmigration wird.

Das Ergebnis ist eine Budgetzeile pro akzeptiertem Workflow: Modelltoken, Tools, Wiederholungsversuche und menschliche Prüfung. Die Kalkulation wird erneuert, sobald sich der aktuelle Modellkatalog, die Ratenlimits oder die Preisseite ändern.

Häufig gestellte Fragen

Was kostet Groq AI?

Groq Free kostet $0. Developer hat keine Grundgebühr und rechnet die Nutzung je Modell ab. Die aktuellen Preise für produktive Textmodelle reichen von $0.05 für die Eingabe und $0.08 für die Ausgabe je eine Million Token bei Llama 3.1 8B Instant bis zu $0.59 für die Eingabe und $0.79 für die Ausgabe bei Llama 3.3 70B Versatile.

Kann Groq kostenlos genutzt werden?

Ja, innerhalb der modellspezifischen Organisationslimits. Für GPT-OSS 120B und 20B gelten bei Free derzeit 30 RPM, 1,000 RPD, 8,000 TPM und 200,000 TPD. Wird ein geltendes Limit überschritten, antwortet der Dienst mit HTTP 429.

Welche Groq-AI-Modelle sind kostenlos nutzbar?

Der Free-Tarif öffnet den unterstützten Katalog innerhalb modellspezifischer Grenzen. Für eine belastbare Evaluierung sollten Produktivmodelle verwendet werden. Laut Groq dienen Vorschaumodelle der Evaluierung und können kurzfristig eingestellt werden.

Wie hoch sind die monatlichen Groq-Kosten?

Es gibt kein öffentliches monatliches oder jährliches Self-Service-Abonnement. Für die Monatsrechnung werden Eingabe, Ausgabe, Audio, Tools und Servicestufe zu den aktuellen Tarifen addiert. Der durchgerechnete GPT-OSS-120B-Workload mit 100,000 Anfragen kostet synchron $60 vor Cache- oder Tool-Kosten.

Bietet Groq einen Studierendenrabatt?

Auf den im August 2026 geprüften Preis- und Abrechnungsseiten führt Groq keinen speziellen Rabatt für Studierende auf. Studierende und andere Wenignutzer können den allgemeinen Free-Tarif für $0 innerhalb seiner Ratenlimits verwenden.

Welche Erstattungsregeln gelten bei Groq?

Allgemeine Erstattungsanfragen zur Abrechnung behandelt Groq über den Support im Einzelfall. Für Service Credits gelten strengere Regeln: Gekaufte und als Werbeaktion gewährte Guthaben sind nicht erstattungsfähig, nicht übertragbar und verfallen nach einem Jahr, sofern keine andere Frist genannt ist.

Hat sich Groq Pricing geändert?

Ja. Batch startete im Februar 2025 mit 25% Rabatt auf synchrone Preise; heute sind es 50%. Groq senkte im Oktober 2025 die GPT-OSS-Preise und ergänzte die Familie um Caching. Weil sich Katalog und Modellpreise verändern, sollte stets die aktuelle Seite geprüft werden.

Wie schneidet Groq im Vergleich zu OpenAI-Preisen ab?

OpenAI stellt GPT-OSS nicht über die eigene API bereit, sodass ein direkter Vergleich auch das Modell austauschen würde. Beim normierten GPT-OSS-120B-Workload kosten Groq, Together AI und Fireworks AI vor Cache-Rabatten jeweils $27 für 100 Millionen Eingabe- und 20 Millionen Ausgabetoken.

Die KI-Tool-Landkarte für Unternehmen

Die KI-Tool-Landkarte für Unternehmen übersetzt Modellpreise in eine Einführungsroute: Jedes Tool muss Qualitätsuntergrenze, betriebliche Rolle und Kostenschwelle rechtfertigen. Kostenlos die nächste Ausgabe abonnieren.

Zuletzt aktualisiert

3. Sept. 2026

KategorieAI

Diese Seite in Google bevorzugen

omidsaffari.com als bevorzugte Quelle in der Google-Suche hinzufügen

Markieren Sie omidsaffari.com als bevorzugte Quelle, und Google hebt die Seite für Sie in Top Stories, AI Overviews und AI Mode hervor.

Newsletter

Ein Brief, jeden Sonntag. Funktionierende Systeme, keine heißen Takes.

Build-Logs, funktionierende Systeme und Feldnotizen aus einem Portfolio laufender KI-Ventures.

Wöchentlich. Kein Spam. Jederzeit abbestellbar.