KI-Agenten: Die 6 besten LLM-Gateways im Vergleich

Für Teams mit KI-Agenten ist Vercel AI Gateway meist die beste Wahl: Ein einziger Befehl richtet inzwischen neun Agenten ein, während auf der grundlegenden Token-Ebene kein Aufschlag anfällt. Bei monatlichen Modellkosten von $2,000 kostet das Gateway bei Vercel $0, bei Requesty $100 und bei OpenRouter $110 – optionale Kontrollfunktionen noch nicht eingerechnet. Damit gehört die Entscheidung inzwischen ins Engineering-Budget und nicht mehr in die Experimentierecke.

Kurzantwort: Welches LLM-Gateway passt zu KI-Agenten?

Sofern keine besonderen Anforderungen an Betrieb, Kostenzuordnung oder Governance dagegen sprechen, ist Vercel AI Gateway die überzeugendste Standardwahl. Derzeit führt kein anderer Anbieter so geradlinig von getrennten Konfigurationen für Claude Code, Codex, Cursor und OpenCode zu einer gemeinsamen Modellrechnung, einheitlichen Fallbacks und einer zentralen Kostenübersicht.

In fünf klaren Fällen fällt die Entscheidung nicht auf Vercel. Requesty ist richtig, wenn die Finanzabteilung wissen muss, welches Repository, welcher Branch oder welcher Entwickler die Kosten verursacht hat. LiteLLM passt, wenn Modellverkehr und Anbieterschlüssel in der eigenen Infrastruktur bleiben müssen. OpenRouter empfiehlt sich, wenn ein möglichst großer Modell- und Anbieterkatalog wichtiger ist als die Einrichtung für bestimmte Agenten. Portkey ist die Wahl, wenn das Budget ausdrücklich für verwaltete Schutzregeln, Circuit Breaker und Richtlinien vorgesehen ist. Cloudflare AI Gateway bietet sich an, wenn Workers, Cloudflare-Protokollierung und Cloudflare-Sicherheit bereits die Kontrollebene bilden.

Ein KI-Gateway ist die Steuerungsschicht zwischen einem Coding-Agenten und den Modellanbietern. Der Coding-Agent plant weiterhin, bearbeitet Dateien, führt Befehle aus und ruft Tools auf. Das Gateway bestimmt dagegen, wohin Modellanfragen gehen, wie viel sie kosten dürfen, welcher Anbieter sie erhält, was nach einem Timeout geschieht und welche Daten protokolliert werden.

Diese Trennung ist entscheidend. Ein Gateway verbessert weder ein schwaches Coding-Modell noch eine mangelhafte Anweisungsdatei im Repository, und es prüft auch keinen unsicheren Code. Es kann jedoch verhindern, dass der Ausfall eines Anbieters einen langen Lauf beendet, einen ausufernden Schlüssel deckeln und sichtbar machen, dass ein Migrations-Branch viermal so viel Modellbudget verbraucht hat wie eine gewöhnliche Fehlerbehebung. Der Kaufgrund ist Kontrolle, nicht Intelligenz.

Warum KI-Agenten das Gateway zum Budgetposten machen

Bei Coding-Agenten wird aus einer kleinen Routing-Entscheidung schnell eine Frage der Betriebskosten, denn eine einzige Aufgabe kann eine ganze Kette von Modellaufrufen auslösen. Für eine Chat-Antwort genügt womöglich eine Reaktion. Ein Coding-Agent kann dagegen ein Repository untersuchen, Symbole suchen, einen Patch vorschlagen, Tests ausführen, Fehler auswerten, den Patch überarbeiten und anschließend ein leistungsfähigeres Modell um eine Prüfung bitten.

Vercels Produktionsindex zeigt, dass 22.2% der Anfragen 58.9% der Tokens verursachten. Anfragen mit Tool-Nutzung waren damit etwa 2.6-mal tokenintensiver als der übrige Datenverkehr. Derselbe Datensatz weist aus, dass Fallbacks 3.5% der Anfragen auffingen. Entspräche eine Last von 10,000 Anfragen diesem Gesamtbild, würden ungefähr 350 Anfragen über einen Fallback abgeschlossen, statt beim ersten Anbieter zu scheitern. Das ist ein Rechenbeispiel und keine zugesicherte Erfolgsquote für andere Lastprofile. Es macht aber deutlich, warum Zuverlässigkeit neben dem Modellpreis stehen muss.

Die Grundgebühren der Gateways lassen sich am besten vergleichen, wenn die vorgelagerte Modellrechnung konstant bleibt. Bei $2,000 pro Monat für Inferenz zu Anbieterpreisen gilt:

• Vercel berechnet $0 Token-Aufschlag.
• Requestys Aufschlag von 5% entspricht $100.
• OpenRouters Pay-as-you-go-Gebühr von 5.5% entspricht $110.
• Cloudflare Unified Billing kostet $100 zusätzlich, wenn Guthaben darüber gekauft wird.
• Portkey beginnt bei $49 pro Monat für 100,000 erfasste Logs – hier gilt also eine andere Messgröße als beim Token-Verbrauch.
• Die Open-Source-Lizenz von LiteLLM kostet $0; Hosting und Arbeitszeit für den Betrieb bleiben Aufgabe des Unternehmens.

Der prozentuale Unterschied allein entscheidet noch nichts. Die zusätzlichen $100 für Requesty können günstig sein, wenn die Zuordnung auf Branch-Ebene verhindert, dass ein unkontrolliertes Repository deutlich mehr verbraucht. Portkeys $49 rechnen sich womöglich, wenn ein Circuit Breaker einen Release-Workflow rettet. Und LiteLLMs fehlende Lizenzgebühr kann teuer werden, sobald ein Plattformtechniker dauerhaft Rufbereitschaft für den Proxy übernimmt.

Ein Gateway sollte die Wechselkosten zwischen Modellen, Anbietern und Agenten senken. Ersetzt es lediglich sechs Anbieterrechnungen durch eine siebte, rechtfertigt es seinen Platz nicht.

Nach welchen Kriterien die Gateways ausgewählt wurden

Bewertet wurden die sechs Kandidaten nach der Arbeit, die Coding-Agenten tatsächlich erzeugen – nicht anhand einer allgemeinen API-Checkliste. Preise und Produktseiten wurden am 15. August 2026 geprüft. Die Tools kamen in diesem Durchlauf nicht produktiv zum Einsatz; die Rangfolge beruht daher auf der aktuellen Dokumentation, einer vereinheitlichten Kostenanalyse und den praktischen Folgen der jeweiligen Produktgrenzen.

Sechs Kriterien bestimmen die Reihenfolge:

1. Einrichtung der Coding-Tools: Ein Gateway mit dokumentierter Unterstützung für Claude Code, Codex, Cursor und verwandte Agenten birgt weniger Integrationsrisiko als ein Dienst, der lediglich einen OpenAI-kompatiblen Endpunkt verspricht.
2. Zuverlässigkeit des Routings: Anbieterreihenfolge, Timeouts, Wiederholungen, Modell-Fallbacks und Circuit Breaker sind wichtig, weil ein Agent eine lange Aufrufkette noch beim letzten Modellkontakt verlieren kann.
3. Kostentransparenz: Modellkosten sollten einem Schlüssel, Agenten, Repository, Entwickler, Team oder einer Richtlinie zugeordnet werden können, statt nur als undifferenzierte Tokensumme aufzutauchen.
4. Richtlinienkontrolle: Freigabelisten für Anbieter, Listen genehmigter Modelle, Budgets, Regeln zur Datenspeicherung und Audit-Logs entscheiden darüber, ob ein Team über Einzelexperimente hinauskommt.
5. Betriebsaufwand: Verwaltete Gateways kosten Geld, um Betriebsarbeit abzunehmen. Selbst gehostete Gateways sparen Plattformgebühren, geben Verfügbarkeit, Upgrades, Speicherung und Störungsbehebung aber an den Käufer zurück.
6. Aktueller Preis: Sämtliche Tarife und Grenzen stammen von den aktuellen Anbieterseiten. Die Inferenzpreise der Modelle fließen nicht in die Rangfolge ein, weil sie sich je nach Modell und Anbieter ändern und der Vergleich die vorgelagerte Rechnung bewusst konstant hält.

Helicone wurde geprüft, aber nicht in die Rangliste aufgenommen. Es ist ein leistungsfähiges Observability-Produkt mit Gateway-Funktionen, spielt seine größte Stärke jedoch bei Tracing und Analyse aus – nicht bei einer breiten Konfiguration verschiedener Coding-Tools. Allgemeine API-Gateways schieden ebenfalls aus. Sie können HTTP-Verkehr weiterleiten, doch Coding-Agenten benötigen modellbewusste Fallbacks, Token-Budgets, Kontrollen für Prompts und Antworten sowie Kompatibilität mit mehreren Übertragungsprotokollen.

Übrig bleibt eine kürzere Liste mit einer strengeren Entscheidungsregel: Jedes der folgenden Produkte hat eine Aufgabe, bei der es gewinnt, und eine klare Grenze, ab der ein anderer Anbieter sinnvoller ist.

1. Vercel AI Gateway: insgesamt das beste Gateway für KI-Agenten

Vercel AI Gateway ist die beste Standardwahl, weil es genau den Einrichtungsaufwand beseitigt, der Gateways bislang aus den persönlichen Workflows vieler Coding-Agenten fernhielt. Die aktuelle CLI kann einen Schlüssel bereitstellen, die geplanten Konfigurationsänderungen vorab anzeigen und mit vercel ai-gateway coding-agents setup neun unterstützte Agenten einrichten.

In der aktuellen Support-Tabelle stehen Claude Code, Cline, OpenAI Codex, Cursor, Hermes, Kilo Code, OpenClaw, OpenCode und Pi. Für weitere Tools beschreibt Vercel außerdem manuelle Wege. Claude Code, Codex und Cursor erhalten eigene Kompatibilitätsendpunkte, weil ihr Protokollverhalten mehr verlangt als eine generische OpenAI-Schnittstelle. Genau dieses Feature verändert die Kaufentscheidung: Das Gateway ist nicht mehr bloß Infrastruktur hinter einer selbst entwickelten Anwendung. Es kann direkt hinter den Coding-Tools arbeiten, die Entwickler bereits verwenden.

Für ein Produktteam mit 12 Personen bedeutet das in der Praxis: ein Budget und eine Fallback-Richtlinie für unterschiedliche Arbeitsweisen. Ein Entwickler kann bei Claude Code bleiben, ein anderer Codex im Terminal ausführen und ein dritter Cursor nutzen. Trotzdem laufen ihre Anfragen in einer gemeinsamen Kostenansicht zusammen, ohne dass das Unternehmen einen einzigen Editor oder ein bestimmtes Modelllabor vorgeben muss.

Am besten geeignet für: Teams mit mehreren Coding-Agenten, die eine möglichst schnelle verwaltete Einrichtung suchen
Besonderheit: Ein CLI-Workflow für neun unterstützte Agenten sowie eigene Endpunkte für Claude Code, Codex und Cursor
Preis: $5 kostenloses Monatsguthaben; bezahlte Inferenz zu den Listenpreisen der Anbieter ohne Token-Aufschlag
Kostenlos testen: Dauerhaft kostenloser Tarif für geeignete Modelle, keine zeitlich begrenzte Testphase

Die Preisgestaltung der Grundschicht ist ungewöhnlich übersichtlich. Laut Vercels aktueller Preisseite gibt es weder einen Aufschlag noch eine Plattformgebühr auf Tokens. Der kostenlose Tarif umfasst $5 Monatsguthaben, eine Auswahl geeigneter Modelle und niedrigere Limits pro Modell. Wer Guthaben kauft, wechselt zu Pay as you go und verliert das monatliche Gratisguthaben. Bring Your Own Key steht erst nach dem Wechsel in den Bezahltarif zur Verfügung; eine BYOK-Gebühr erhebt Vercel nicht.

Zwei Einschränkungen sind wichtig. Erstens gilt der fehlende Aufschlag nur für die Token-Schicht, nicht für jede Kontrollfunktion. Eine teamweite Anbieter-Freigabeliste und teamweite Zero Data Retention kosten jeweils $0.10 pro 1,000 Anfragen. Trace Drains kosten $0.05 pro 1,000 Traces zuzüglich $0.50 pro GB Egress. Für benutzerdefiniertes Reporting gelten eigene Schreib- und Abfragemetriken. Kleine Teams können das meiste davon ignorieren; regulierte Unternehmen sollten die Posten einkalkulieren, bevor sie das Gateway als kostenlos bezeichnen.

Zweitens kann eine fehlgeschlagene BYOK-Anfrage mit Vercel-Systemzugangsdaten wiederholt werden. Die Nutzung des Fallbacks wird dann möglicherweise vom Gateway-Guthaben abgezogen. Das ist ein sinnvoller Zuverlässigkeitsstandard, aber zugleich eine Besonderheit für die Budgetplanung. Erwartet die Finanzabteilung, dass jede Anfrage über einen bestehenden Anbietervertrag läuft, muss der Fallback-Pfad geprüft werden.

Für die meisten Produktteams reichen die Routing-Funktionen aus. Vercel dokumentiert Anbieterfilterung und -reihenfolge, Sortierung, automatisches Caching, Anbieter-Timeouts sowie Modell-Fallbacks. Gewöhnlicher Code-Completion-Verkehr kann an den bevorzugten Anbieter gehen, bei zu hoher Latenz schnell wechseln und als letzte Absicherung ein teureres Modell bereithalten.

Die entscheidende Grenze ist die Betriebshoheit: Vercel AI Gateway ist ein verwalteter Dienst. Es passt nicht zu Teams, die Gateway-Prozess, Datenbank, Schlüssel und Logs im eigenen Netzwerk betreiben müssen. Bei dieser Vorgabe gewinnt LiteLLM, noch bevor einzelne Features verglichen werden.

Vercel AI Gateway einrichten, ohne daraus ein Migrationsprojekt zu machen

Die sicherste Einführung erhält einen direkten Rückweg zum Anbieter und beginnt mit einem einzigen Repository. Es ist nicht sinnvoll, alle Entwickler und sämtliche Agenten gleichzeitig umzustellen.

1. 1

   Einen klar begrenzten Pilotschlüssel anlegen

   Für das Pilot-Repository wird ein eigener Gateway-Schlüssel mit Wochen- oder Monatsbudget angelegt. Ein unternehmensweit genutzter Anwendungsschlüssel ist ungeeignet, weil Schleifen von Coding-Agenten eine eigene Abbruchgrenze benötigen.

2. 2

   Den dokumentierten Einrichtungsbefehl ausführen

   Führen Sie vercel ai-gateway coding-agents setup aus. Die CLI erkennt installierte Agenten; ausgewählt werden nur die Pilot-Tools. Vor jedem Schreibvorgang sollte die angezeigte Änderung geprüft werden.

3. 3

   Bei einem Hauptmodell und einem Fallback bleiben

   Am Anfang steht das Modell, dem das Team bereits vertraut. Hinzu kommt ein Anbieter- oder Modell-Fallback mit vergleichbarem Tool-Verhalten. Ein großer Routing-Baum erschwert die Ursachenanalyse fehlgeschlagener Läufe.

4. 4

   Identität und Kostenkennzeichnungen prüfen

   Führen Sie mit jedem eingerichteten Agenten eine klar begrenzte Aufgabe aus. Anschließend muss das Dashboard Agent, Modell, Anbieter, Token-Nutzung, Kosten, Latenz und Fallback-Status so ausweisen, wie es der Käufer erwartet.

5. 5

   Den direkten Weg erhalten

   Die bisherige Anbieterkonfiguration bleibt in einer dokumentierten Rollback-Datei erhalten. Verändert das Gateway Tool-Aufrufe, Modellerkennung oder Latenz, muss sich der Pilot binnen Minuten zurückdrehen lassen.

2. Requesty: beste Kostenzuordnung nach Branch, Repository und Entwickler

Requesty ist das beste Gateway, wenn Engineering-Verantwortliche die Modellkosten mit der verursachenden Arbeit verknüpfen müssen. Die Claude-Code-Integration kann Anfragen nach Branch, Repository, Entwickler und Agentenversion kennzeichnen. Aus einer bloßen Token-Rechnung wird damit ein Sachverhalt, den das Team gezielt untersuchen kann.

Für Teams mit parallelen Migrationen, Feature-Branches und automatisierten Reviews ist diese Zuordnung wertvoller als eine niedrige Gebühr. Ein B2B-SaaS-Team könnte beispielsweise erkennen, dass Hintergrundprüfungen wenig kosten, während die Test-und-Fix-Schleife eines einzelnen Repositorys den Großteil des Monatsbudgets verbraucht. Die Reaktion fällt dann präzise aus: Die Richtlinie für dieses Repository oder Modell wird angepasst, statt den Zugriff aller Entwickler einzuschränken.

Am besten geeignet für: Teams, die Kosten von Coding-Agenten nach Branch, Repository oder Entwickler aufschlüsseln müssen
Besonderheit: Analyse-Tags für Claude Code, Routing-Richtlinien, EU-Datenresidenz und ein MCP-Gateway
Preis: $0 bei kostenlosen Modellen; Pay as you go schlägt 5% auf die Grundkosten der Modelle auf; Enterprise nach Angebot
Kostenlos testen: Kostenloser Tarif mit 200 Anfragen pro Tag und ohne Kreditkarte

Requestys aktuelle Preisseite nennt 600+ Modelle von 20+ Anbietern. Bei Pay as you go gibt es weder Abonnement noch Sitzplatzgebühr, Mindestumsatz oder gesonderte Kosten für Routing, Caching, Fallbacks und EU-Datenresidenz. Bei monatlicher Inferenz im Wert von $2,000 entsprechen 5% Aufschlag genau $100.

Diese $100 lassen sich gut begründen, wenn die Metadaten einen größeren unkontrollierten Lauf verhindern oder interne Verrechnung ermöglichen. Für einen einzelnen Entwickler, der nur eine andere Basis-URL benötigt, fällt die Rechnung schlechter aus. OpenRouter wirbt mit dem breiteren Katalog, Vercel bietet für unterstützte Coding-Agenten den saubereren Weg ohne Aufschlag.

Requesty Enterprise ergänzt SSO, RBAC, Audit-Logs, Richtlinien für genehmigte Modelle, PII-Erkennung, Gruppenbudgets, Servicekonten für CI/CD und individuelle SLAs. Damit eignet sich der Dienst grundsätzlich für größere Engineering-Organisationen, doch der Preis wird individuell vereinbart. Ohne Angebot und ein repräsentatives Anfrageprofil ist kein belastbarer Enterprise-Vergleich möglich.

Eine Abweichung in der Dokumentation sollte bekannt sein: Die kommerzielle Preisseite spricht von 600+ Modellen, die am 10. August 2026 geänderte Claude-Code-Integrationsseite weiterhin von 300+ Modellen. Für den kostenpflichtigen Katalog legt dieser Vergleich die höhere Zahl zugrunde, weil die aktuelle Preisseite das Angebot definiert. Dennoch sollten Käufer die konkret benötigten Modelle in der Bibliothek ihres Kontos prüfen, statt eine der beiden Überschriften als Garantie zu verstehen.

Die Einrichtung für Claude Code ist enger gefasst als Vercels Multi-Agenten-CLI, bietet aber eine tiefere Zuordnung. Requestys CLI kann die Claude-Konfiguration schreiben und die bestehende Datei sichern. Ein optionaler Shell-Wrapper ergänzt beim Sitzungsstart Header für Repository, Branch, Nutzer und Agentenversion. Der Wrapper ist in der Shell-Konfiguration sichtbar; vor der Weiterleitung an den Modellanbieter werden die Header entfernt.

Die Grenze liegt beim prozentualen Preismodell. Der Aufschlag von 5% wächst mit den Modellkosten, obwohl die Arbeit der Gateway-Kontrollebene nicht proportional steigt. Bei $20,000 pro Monat werden daraus $1,000. Größere Kunden sollten diese Rechnung Portkeys Abonnement, den Betriebskosten von LiteLLM und einem individuellen Requesty-Enterprise-Angebot gegenüberstellen.

3. LiteLLM: das beste selbst gehostete Gateway

LiteLLM ist die beste Wahl, wenn Kontrolle über Bereitstellung und Daten mehr zählt als Bequemlichkeit. Der Open-Source-Proxy lässt sich kostenlos produktiv selbst hosten und stellt 100+ Anbieter hinter einer einzigen OpenAI-kompatiblen API bereit.

Für einen CTO im Mittelstand mit klarer privater Netzwerkgrenze ist der Vorteil unmittelbar: Modellschlüssel, Anfrageverkehr, virtuelle Schlüssel, Budgets, Logs und Prometheus-Metriken liegen in der Infrastruktur des eigenen Unternehmens. LiteLLM erklärt, beim selbst gehosteten Produkt weder Kundendaten noch Datenverkehr zu sehen. Damit verschwindet ein verwaltetes Gateway aus dem Pfad der Modelldaten.

Am besten geeignet für: Plattformteams, die selbst gehosteten oder isolierten Modellzugriff benötigen
Besonderheit: Kostenloser Open-Source-Proxy mit 100+ Anbietern, virtuellen Schlüsseln, Budgets, Fallbacks und Prometheus
Preis: $0 für Open Source; Enterprise wird jährlich und individuell nach Kapazität und Bereitstellung berechnet
Kostenlos testen: 30-tägige Enterprise-Testphase ohne Kreditkarte; Open Source bleibt kostenlos

Der Softwarepreis ist die einfachste Zahl im Vergleich – und diejenige, die am ehesten falsch verstanden wird. Das Open-Source-Gateway kostet $0, auch im produktiven Self-Hosting. Enthalten sind Nutzer und Teams, Kostenerfassung, Ratenlimits, Protokollierung von Anfragen und Antworten sowie LLM-Fallbacks. Eine LiteLLM-Lizenzgebühr pro Token gibt es nicht.

Die Betriebskosten liegen trotzdem nicht bei $0. Jemand muss den Proxy bereitstellen, Datenbank und Secrets verwalten, skalieren, überwachen, bei API-Änderungen der Anbieter aktualisieren, Logs erhalten, Fallbacks testen und reagieren, wenn das Gateway zum gemeinsamen Ausfallpunkt wird. LiteLLM tauscht eine Anbieterrechnung gegen Infrastrukturverantwortung. Für ein Plattformteam kann das ein guter Tausch sein, für ein Startup mit fünf Personen ein schlechter.

Enterprise ergänzt SSO, SCIM, OIDC- oder JWT-Authentifizierung, Audit-Logs, Anbindungen an Secret Manager, Schlüsselrotation, Organisationskontrollen, eine Multi-Region-Kontrollebene, Support, SLAs und Air-Gap-Bereitstellung. Der Preis wird jährlich festgelegt und richtet sich nach Anfragekapazität, Bereitstellungsarchitektur und Support statt nach Tokens. Diese Grenze ist relevant: Ein reguliertes Unternehmen kann mit Open Source starten und Enterprise benötigen, sobald Identität, Audits oder Support rund um die Uhr verpflichtend werden.

LiteLLM hat zudem zwei Produktoberflächen, die Käufer häufig vermischen. Das Python SDK ist eine Anwendungsbibliothek. Der Proxy Server ist das zentrale Gateway mit Authentifizierung, mandantenfähiger Kostenerfassung, virtuellen Schlüsseln und Administrations-Dashboard. Wer gemeinsame Richtlinien für Coding-Agenten einführen will, sollte den Proxy bewerten und nicht lediglich das SDK in einige Skripte einbauen.

Bei Coding-Agenten liegen die Grenzen in Dokumentation und Betriebshoheit. LiteLLM bietet einen kompatiblen Endpunkt, den viele Agenten verwenden können, aber keinen aktuellen Einzelinstaller wie Vercel für neun namentlich aufgeführte Tools. Umgebungsvariablen, Antwortformat, Modellerkennung und Tool-Nutzung müssen für jeden Agenten separat geprüft werden. Das Verhalten von Codex mit der Responses API und das Anthropic-Protokoll von Claude Code verdienen jeweils einen eigenen Pilottest.

4. OpenRouter: beste Wahl für Modellvielfalt und schnelle Experimente

OpenRouter ist das beste Gateway, um einen großen Modellmarkt über ein einziges Konto zu vergleichen. Die aktuelle Pay-as-you-go-Seite listet 500+ Modelle von 80+ Anbietern – der größte veröffentlichte Katalog in dieser Auswahl.

Für allein arbeitende technische Entwickler oder ein kleines, forschungsnahes Team ist diese Breite wertvoll. Ein Coding-Agent kann ein Frontier-Modell für die Repository-Planung, ein schnelleres Modell für Suche und Klassifizierung sowie ein offenes Modell für Routineumformungen vergleichen, ohne bei jedem Anbieter ein eigenes Abrechnungskonto einzurichten.

Am besten geeignet für: Schnelle Modellvergleiche und den Zugang zu einem breiten Anbietermarkt
Besonderheit: 500+ Modelle, 80+ Anbieter und ein aufgabengesteuerter Auto Router
Preis: $0 kostenlos; Pay as you go kostet 5.5% Plattformgebühr; Enterprise-Rabatte nach individuellem Angebot
Kostenlos testen: Kostenloser Tarif mit 25+ Modellen, 4 Anbietern und 50 Anfragen pro Tag

Der wirtschaftliche Kompromiss ist eindeutig. OpenRouters Pay-as-you-go-Tarif verlangt keinen Mindestumsatz, erhebt aber 5.5% Plattformgebühr. Bei gekauftem Guthaben im Wert von $2,000 sind das $110. Bring Your Own Key umfasst derzeit monatlich $25,000 Inferenz zum Listenpreis, bevor eine Gebühr von 5% anfällt. Bei Enterprise steigt diese Freimenge auf $200,000; Rabatte werden individuell angeboten.

Der kostenlose Tarif genügt zum Prüfen der Kompatibilität, nicht aber für dauerhafte Agentenarbeit. Fünfzig Anfragen pro Tag können bereits in einer langen Coding-Schleife aufgebraucht sein. Das ist ein Verbindungstest, kein Teambudget.

Interessanter als die reine Kataloggröße ist OpenRouters Auto Router. Laut aktueller Routing-Dokumentation ordnet er Prompts ungefähr 30 Aufgabentypen zu, darunter Code-Debugging und mehrstufige Agentenplanung. Anschließend bewertet er Modelle anhand der aggregierten Ausgaben in einem zurückliegenden Zeitraum von sieben Tagen. Berücksichtigt werden Fähigkeiten, Tool-Unterstützung, Kosten, Kontobeschränkungen und Fallback-Möglichkeiten.

Dieses Marktsignal erleichtert Experimente, erschwert aber die Reproduzierbarkeit. Der Router kann in jedem Durchgang ein anderes Modell wählen. Session Stickiness bevorzugt das vorherige Modell, solange es zu den besten Kandidaten gehört; bei einem Aufgabenwechsel kann die Auswahl dennoch wechseln. Erstellt ein Coding-Agent über viele Schritte hinweg einen Patch, kann ein Modellwechsel mitten in der Sitzung Tool-Syntax, Denkstil oder Ausgabedisziplin verändern.

Die Lösung besteht nicht darin, Routing grundsätzlich zu meiden, sondern seinen Einsatzbereich festzulegen. Dynamisches Routing passt zu Evaluierungen, risikoarmen Klassifizierungen oder klar abgegrenzten Hintergrundschritten. Für einen releasekritischen Patch sollte ein genehmigtes Modell samt Anbieterrichtlinie fest eingestellt bleiben, sofern das Team die Kontinuität zwischen Modellen nicht getestet hat.

OpenRouter bietet außerdem richtliniengesteuertes Routing und Fallbacks über mehrere Anbieter hinweg. Das hilft, wenn dasselbe Modell von verschiedenen Inferenz-Hosts angeboten wird. Weniger nützlich ist es bei Anforderungen wie interner Verrechnung auf Repository-Ebene, selbst gehosteter Kontrolle oder verwalteten Enterprise-Schutzregeln. Für diese jeweils eigenen Aufgaben sind Requesty, LiteLLM und Portkey stärker.

5. Portkey: beste verwaltete Governance-Schicht

Portkey ist die beste Wahl, wenn das Budget einer verwalteten Kontrollebene gilt und nicht bloß einem einheitlichen Endpunkt. Das Gateway kombiniert Fallbacks, bedingtes Routing, Wiederholungen, einen Circuit Breaker, Lastverteilung, Canary-Tests, MCP-Unterstützung, Budgets, Ratenlimits, Caches und Schutzregeln.

Diese Ausstattung passt zu einem Plattformteam im Mittelstand, das von individuellen Agentenschlüsseln auf einen genehmigten Zugang umstellt. Eine Richtlinie kann Modelle begrenzen, ein Budget ein Team deckeln und ein Circuit Breaker wiederholte Aufrufe an einen ausgefallenen Anbieter stoppen. Das Produkt ist für den Moment gedacht, in dem „Entwicklern einen Gateway-Schlüssel geben“ zu einer Aufgabe für Identität, Richtlinien und Störungsmanagement wird.

Am besten geeignet für: Verwaltetes Routing, Schutzregeln und Governance in einem wachsenden Plattformteam
Besonderheit: Circuit Breaker, Canary-Tests, MCP-Kontrollen, bedingtes Routing und ein lokales Open-Source-Gateway
Preis: $0 Developer, $49/Monat Production, Enterprise nach Angebot
Kostenlos testen: Der Developer-Tarif bleibt dauerhaft kostenlos, ist aber ausdrücklich nicht für den Produktivbetrieb geeignet

Die Tarifgrenzen sind ungewöhnlich offen formuliert. Portkeys Developer-Tarif erfasst monatlich 10,000 Logs, speichert Logs drei Tage und Metriken 30 Tage. Die Seite weist ausdrücklich darauf hin, dass der Tarif nicht für den Produktivbetrieb geeignet ist.

Production kostet $49 pro Monat und erfasst 100,000 Logs. Bis zur veröffentlichten Schwelle fallen $9 für jeweils weitere 100,000 Anfragen an. Logs werden 30 Tage, Metriken 90 Tage gespeichert. Bei 200,000 erfassten Logs kostet das Abonnement vor der vorgelagerten Inferenz $58. Dieselbe Seite erklärt Production für nicht empfehlenswert, wenn individuelle Sicherheitskontrollen oder garantierte Datenresidenz erforderlich sind.

Für solche Anforderungen ist Enterprise notwendig. Der Tarif wird individuell bepreist und ergänzt 10 Millionen+ erfasste Logs, frei wählbare Aufbewahrung, SSO, fein abgestufte Budgets und Ratenlimits, Private-Cloud- und VPC-Hosting, Data-Lake-Export sowie erweiterte Compliance. Von einer Karte mit $49 führt damit ein deutlicher Sprung in einen Beschaffungsprozess.

Portkey veröffentlicht außerdem ein lokales Open-Source-Gateway, das mit npx @portkey-ai/gateway läuft. Damit lässt sich die Routing-Oberfläche testen oder der Datenpfad selbst hosten. Käufer sollten das lokale Gateway dennoch von verwalteter Beobachtbarkeit, Richtliniensteuerung, Support und den Enterprise-Kontrollen unterscheiden, die Portkeys Platz in dieser Rangliste begründen.

Der laufende Produktübergang verdient Aufmerksamkeit. In Portkeys Dokumentation heißt das Angebot inzwischen Prisma AIRS AI Gateway. Gateway-Seiten und Preise sind weiterhin verfügbar, doch Käufer sollten klären, welcher Produktname im Vertrag steht, welche Roadmap gilt und wie eigenständige Portkey-Konten in das Portfolio von Palo Alto Networks übergehen. Das ist kaufmännische Sorgfalt und kein Grund, das Tool abzulehnen.

Bei Coding-Agenten ist die Einrichtung die Grenze. Portkey kann hinter kompatiblen Agentenprotokollen arbeiten und bietet eine umfassendere allgemeine Kontrollebene als Vercel. Eine vergleichbare Ein-Befehl-Erfahrung für neun Coding-Tools gibt es derzeit jedoch nicht. Die Wahl fällt auf Portkey, wenn die Richtlinienfunktionen den Integrationsaufwand rechtfertigen – nicht weil die Feature-Liste länger ist.

6. Cloudflare AI Gateway: beste Wahl für bestehende Workers-Teams

Cloudflare AI Gateway ist die reibungsärmste Wahl, wenn Cloudflare bereits Edge, Protokollierung und Sicherheit der Anwendung übernimmt. Die Kernfunktionen des Gateways sind derzeit in jedem Tarif kostenlos, einschließlich Analyse, Caching und Ratenbegrenzung.

Besonders attraktiv ist das Produkt für Teams, deren Agent oder interne Entwicklerplattform bereits auf Workers läuft. Über dasselbe Konto lassen sich Modelle von Drittanbietern und Cloudflare über eine OpenAI-kompatible REST-Oberfläche ansprechen, Kosten und Fehler erfassen, unkritische wiederkehrende Anfragen cachen, Ratenlimits anwenden, sensible Daten erkennen und fehlgeschlagene Aufrufe wiederholen.

Am besten geeignet für: Teams, die bereits Workers, Cloudflare-Protokollierung oder Cloudflare-Sicherheitsfunktionen einsetzen
Besonderheit: Kostenloses Kern-Gateway, Edge-Integration, DLP, Caching und OpenAI-kompatibler Zugriff auf Modelle von Drittanbietern
Preis: Kernfunktionen $0; Guthabenkäufe über Unified Billing kosten 5% zusätzlich; Schutzregeln werden nach Workers-AI-Preisen abgerechnet
Kostenlos testen: Die Kernfunktionen des Gateways sind kostenlos und nicht zeitlich begrenzt

Die Preisseite zieht eine konkrete Grenze um das kostenlose Angebot. Workers Free speichert insgesamt 100,000 Logs über alle Gateways hinweg. Workers Paid speichert 10 Millionen Logs je Gateway. Dauerhafte Logs, Analysen, Caching und Ratenbegrenzung stehen in allen Tarifen zur Verfügung.

Beim Kauf von Guthaben über Unified Billing fällt eine Gebühr von 5% an. Ein Guthabenkauf von $2,000 kostet somit $2,100, während die Inferenz des Anbieters weiterhin ohne Aufschlag durchgereicht wird. Die Unterscheidung ist wichtig: Der Modellpreis bleibt unverändert, aber die Bündelung von Zugangsdaten und Abrechnung kostet Geld.

Data-Loss-Prevention-Scans sind in allen Tarifen kostenlos. Konten ohne Zero-Trust-Abonnement erhalten zwei vordefinierte DLP-Profile; weitere Profile hängen vom Cloudflare-One-Abonnement ab. Schutzregeln gehören nicht zum kostenlosen Kern: Cloudflare rechnet die Prüfung von Prompt und Antwort als Workers-AI-Token-Inferenz ab.

Cloudflare stellt zudem nützliche Kontrollen je Anfrage bereit. Die REST-Dokumentation unterstützt individuelle Timeouts, Wiederholungsmethoden, bis zu fünf Versuche und maximal 5,000 Millisekunden Verzögerung zwischen Wiederholungen. So lässt sich verhindern, dass ein langsamer Anbieter eine Agentenschleife unbegrenzt festhält.

Die Grenze liegt bei der Ergonomie für Coding-Tools. Cloudflare beschreibt, wie Anwendungen das Gateway aufrufen, bietet aber keine vergleichbare Einrichtungsschicht für namentlich genannte Agenten wie Vercel oder den Claude-Code-Workflow von Requesty. Für jedes Tool muss geprüft werden, wie Basis-URL, Authentifizierung, Modellerkennung und Protokoll geändert werden. In der Softwarezeile können $0 stehen, während der Integrationsaufwand beim Engineering-Team landet.

Welches Gateway passt zu welchem Team?

Das beste Gateway beseitigt die aktuellen Abstimmungskosten eines Teams, ohne eine größere Betriebslast zu schaffen. Ausgangspunkt ist die unverhandelbare Anforderung; erst danach werden Gebühren verglichen.

Vercel AI Gateway eignet sich für gemischte Teams mit Claude Code, Codex, Cursor, OpenCode und verwandten Agenten. Die Wahl kippt, sobald Self-Hosting Pflicht ist oder Kosten einem Repository und Entwickler statt nur einem Agenten, Schlüssel und Modell zugeordnet werden müssen.

Requesty passt zu Agenturen, Beratungen und Produktorganisationen, die eine Zuordnung nach Branch, Repository und Entwickler brauchen. Ändern diese Metadaten keine Budgetentscheidung, lohnt sich der Aufschlag von 5% nicht: Dann wird Information bezahlt, die niemand nutzt.

LiteLLM ist für Plattformteams mit eingespieltem Betrieb von Containern, Datenbanken, Secrets, Protokollierung und Rufbereitschaft gedacht. Fehlt ein formeller Betreiber und würde ein Produktentwickler den Proxy nebenbei übernehmen, ist ein verwaltetes Gateway sinnvoller.

OpenRouter eignet sich für allein arbeitende Entwickler oder Forschungsteams, die Modelle und Anbieter noch vergleichen. Sobald die Auswahl feststeht und die wiederkehrende Gebühr von 5.5% den Nutzen des breiten Katalogs übersteigt, kippt die Entscheidung.

Portkey passt, wenn genehmigte Modelle, Schutzregeln, Circuit Breaker, Canary-Tests und verwaltete Governance den Kauf begründen. Benötigt die Organisation lediglich einen Endpunkt und ein Kosten-Dashboard, fällt die Wahl anders aus.

Cloudflare AI Gateway ist richtig, wenn Workers und Cloudflare-Sicherheit bereits bezahlt und im Team verstanden werden. Müsste die umgebende Plattform erst eingeführt werden, kann der Integrationsaufwand größer sein als die Entlastung durch das Gateway.

Eine weitere Regel: Gateway- und Coding-Tool-Entscheidung bleiben getrennt. Claude Code, Codex und Cursor lösen unterschiedliche Engineering-Aufgaben, während das Gateway ihren Modellverkehr kontrolliert. Ein Unternehmen kann das Gateway standardisieren, ohne den Editor vorzuschreiben. Häufig ist genau das die nützlichere Kontrollgrenze.

Für eine breitere Auswahl lohnt sich der Vergleich der besten KI-Coding-Agenten. Fragen zu SSO, Aufbewahrung, Audits und Einführung, die über das Gateway hinausgehen, beantwortet der Enterprise-Vergleich für Coding-Agenten.

Welche Lösungen sich für diese Aufgabe nicht eignen

Helicone sollte nicht die erste Wahl sein, wenn die unmittelbare Herausforderung in der Einrichtung der Coding-Tools liegt. Der Hobby-Tarif ist für 10,000 Anfragen kostenlos, Pro kostet $79 pro Monat und Team $799 pro Monat. Observability, Sessions, Prompts und Analyse können wertvoll sein. Die Rangfolge ändert sich jedoch nur, wenn Sichtbarkeit das Hauptproblem ist. Bei dieser Suchabsicht übertrifft Helicone weder Vercels aktuellen Einrichtungsweg noch Requestys Repository-Zuordnung oder LiteLLMs Bereitstellungskontrolle.

Auch ein allgemeines API-Gateway ist keine gute Wahl, nur weil das Unternehmen es bereits besitzt. Klassische Gateways beherrschen Routen, Authentifizierung und HTTP-Richtlinien. Der Verkehr von Coding-Agenten bringt zusätzlich anbieterspezifische Modelle, Token-Abrechnung, Kompatibilität der Tool-Nutzung, Prompt-Caching, Modell-Fallbacks und mehrere Antwortprotokolle mit. Für ein Plattformteam kann die Erweiterung eines allgemeinen Gateways sinnvoll sein, doch „Kong haben wir schon“ ist kein Implementierungsplan.

Ein selbst gebauter Passthrough-Proxy sollte ausscheiden, sobald mehrere Agenten von ihm abhängen. Eine Basis-URL ist schnell geändert. Anbieteradapter, sichere Wiederholungen, Streaming-Antworten, Budgetzähler, Schlüsseltrennung, Log-Aufbewahrung und Modellabkündigungen dauerhaft zu pflegen, ist dagegen ein eigenes Produkt. Eigenentwicklung lohnt sich nur, wenn eine besondere Richtlinie oder Bereitstellungsanforderung die dauerhafte Verantwortung rechtfertigt.

Dynamisches Modell-Routing sollte nicht jeden Schritt einer releasekritischen Agentenschleife steuern, bevor die Kontinuität zwischen Modellen bewertet wurde. Ein Router kann für jede Aufgabe ein effizientes Modell wählen und einen langen Patch trotzdem schwerer reproduzierbar machen. Das Modell bleibt für die änderungserzeugenden Schritte fest eingestellt; dynamisches Routing gehört zunächst in klar begrenzte Zuarbeiten.

Schließlich sollte nicht am ersten Tag jeder Entwickler über das Gateway geleitet werden. Authentifizierung, Modellerkennung, Caching, Fehlerverhalten und Fallback-Auswahl können sich ändern, obwohl die Oberfläche des Coding-Agenten gleich aussieht. Deshalb gehören ein begrenzter Pilot und ein direkter Rückweg zum Anbieter in die Einführung.

Häufig gestellte Fragen

Welches LLM-Gateway ist das beste?

Vercel AI Gateway ist die beste Standardwahl für Coding-Agenten, weil es die Einrichtung von neun unterstützten Agenten mit einem Befehl und ohne Token-Aufschlag verbindet. LiteLLM ist besser, wenn Self-Hosting Pflicht ist, Requesty bei vorrangiger Zuordnung nach Repository und Entwickler und Portkey, wenn verwaltete Governance den Kauf begründet.

Welche Preise und Gebühren verlangt OpenRouter 2026?

Der aktuelle Pay-as-you-go-Tarif von OpenRouter kostet 5.5% Plattformgebühr, umfasst 500+ Modelle und 80+ Anbieter und hat keinen Mindestumsatz. Der kostenlose Tarif ist auf 25+ Modelle, 4 Anbieter und 50 Anfragen pro Tag begrenzt. Das aktuelle BYOK-Kontingent von Pay as you go deckt monatlich $25,000 Inferenz zum Listenpreis ab; danach fallen 5% Gebühr an.

Was kostet Cloudflare AI Gateway 2026?

Die Kernfunktionen von Cloudflare AI Gateway sind kostenlos. Guthabenkäufe über Unified Billing kosten 5% zusätzlich, Workers Free speichert kontoweit 100,000 Logs, Workers Paid 10 Millionen Logs pro Gateway, und Schutzregeln werden separat als Workers-AI-Inferenz berechnet.

Kann ein Gateway sowohl Claude Code als auch Codex routen?

Ja. Das Gateway muss die von den jeweiligen Coding-Tools erwarteten Protokolle unterstützen oder eigene Kompatibilitätsendpunkte bereitstellen. Vercel dokumentiert getrennte Endpunkte für Claude Code und Codex; bei selbst gehosteten und allgemeinen Gateways muss der Käufer die Konfiguration jedes Tools prüfen.

Der konkrete Wochenplan

Am Montag sollte nicht das gesamte Unternehmen migriert werden. Zuerst muss ein Gateway an einem repräsentativen Repository beweisen, dass es Kostenunklarheit und Anbieterrisiko reduziert.

Montag: Kontrollgrenze festlegen

Ausgewählt werden ein Repository, eine kleine Entwicklergruppe und die beiden Coding-Agenten, die sie bereits nutzt. Der finanzierte Grund passt in einen Satz: Abrechnung bündeln, Anbieterausfälle auffangen, Kosten zuordnen, genehmigte Modelle durchsetzen oder den Datenverkehr in einer privaten Bereitstellung halten. Nennt dieser Satz drei voneinander unabhängige Ziele, ist der Pilot noch zu breit.

Für das Gateway wird ein eigener Schlüssel mit harter Ausgabengrenze erstellt. Hinzu kommen ein Hauptmodell und ein Fallback mit vergleichbarer Unterstützung für Tool-Nutzung. Die direkte Anbieterkonfiguration bleibt in einer Rollback-Datei erhalten; außerdem wird die aktuelle Anbieterrechnung festgehalten, bevor Datenverkehr umgestellt wird.

Dienstag: verbinden und Änderungen prüfen

Bei Vercel wird der dokumentierte Einrichtungsbefehl ausgeführt und jede Änderung vor dem Schreiben geprüft. Bei Requesty werden die Claude-Code-Einstellungen gesichert und nur die tatsächlich benötigten Zuordnungs-Header aktiviert. LiteLLM wird über den üblichen Infrastrukturweg bereitgestellt, nicht auf einem Laptop. Unabhängig vom Gateway muss bestätigt werden, dass Secrets im genehmigten Speicher landen.

Anschließend führt jeder Agent eine klar abgegrenzte Aufgabe aus. Geprüft werden Modellauswahl, Tool-Aufrufe, Streaming, Fehler, Cache-Verhalten, Kosten und die der Anfrage zugeordnete Identität. Eine erfolgreiche Antwort allein reicht nicht, wenn das Dashboard weder den Verursacher der Kosten noch den antwortenden Fallback erklären kann.

Mittwoch und Donnerstag: den Fehlerpfad erzwingen

Ein kontrollierter Timeout oder eine Testroute zu einem nicht verfügbaren Hauptanbieter erzwingt den Fehlerfall. Dabei muss der Fallback das vom Coding-Agenten erwartete Protokollformat erhalten. Zu prüfen ist außerdem, ob der fehlgeschlagene Versuch berechnet wird, ob der Fallback andere Zugangsdaten verwendet und ob der Trace beide Versuche ausweist.

Der Pilot erhält eine gewöhnliche Fehlerbehebung, eine Änderung über mehrere Dateien, eine Test-und-Reparatur-Schleife und eine Review-Aufgabe. Erfasst werden Kosten pro abgeschlossener Aufgabe, Anbieterausfälle, gerettete Anfragen, Zeitaufwand für Konfigurationsänderungen und die von Entwicklern gemeldeten Reibungsverluste. Die Anzahl der Prompts ist ohne Arbeitsergebnis keine sinnvolle Vergleichsgröße.

Freitag: die Kontrolle kaufen, die eine Entscheidung verändert hat

Das Gateway wird nur übernommen, wenn seine Informationen oder seine Zuverlässigkeit eine Betriebsentscheidung verändern. Eine gerettete Anfrage zählt. Eine Budgetüberschreitung in einem Repository zählt. Ein Verstoß gegen die Anbieterrichtlinie zählt. Ein Dashboard voller Token-Diagramme, die niemand prüft, zählt nicht.

Für die meisten Teams mit mehreren Agenten ist die Wahl am Montag Vercel AI Gateway – mit einem Pilotschlüssel, einem Hauptmodell, einem Fallback und ohne kostenpflichtige Zusatzfunktionen, bis eine Richtlinie sie verlangt. Requesty übernimmt, wenn Kosten bis auf Repository und Entwickler zurückgeführt werden müssen. LiteLLM übernimmt, wenn der Datenpfad in der eigenen Infrastruktur bleiben muss.

Gateway-Konfigurationen gehören unter Versionskontrolle, der Rollback-Pfad in die Dokumentation und die Modellrichtlinie sollte übersichtlich bleiben. Ziel ist nicht, Anfragen durch mehr Anbieter zu schicken. Der nächste Anbieterausfall, die nächste Modellveröffentlichung und die nächste Budgetprüfung sollen zu einer Konfigurationsänderung werden – nicht zu einer unternehmensweiten Migration.