Beste KI-Gateways mit Managed Agent Tools 2026

Amazon Bedrock AgentCore Gateway ist insgesamt das stärkste Gateway für Managed Tools; Vercel AI Gateway bietet den schnellsten Weg, einem Agenten produktive Websuche bereitzustellen. Bei einer Million monatlicher Agenten-Interaktionen kostet die Gateway-Ebene von AgentCore rund $40.02 vor Modell-, Websuch- und Backend-Kosten, während Vercel das separate Exa-Konto samt API-Schlüssel überflüssig macht, nach dem 31. August 2026 jedoch $7 pro 1,000 Suchen berechnet.

Die Kurzfassung: Welches Gateway gewinnt welche Aufgabe?

Ein KI-Gateway verdient seinen Platz im Agenten-Stack, wenn es eine Kontrollfläche überflüssig macht – nicht, wenn es lediglich einen weiteren Endpunkt vor ein Modell setzt. Bei Managed Tools sind die entscheidenden Kriterien, ob das Gateway bestehende Dienste in Tools transformieren, Zugangsdaten verwalten, Berechtigungen durchsetzen, den Agenten beim Finden des passenden Tools unterstützen und Aufrufe auditieren kann.

Wählen Sie Amazon Bedrock AgentCore Gateway, wenn Agenten interne APIs und SaaS-Systeme unter einer einheitlichen Identitätsgrenze aufrufen müssen. Es wandelt OpenAPI-, Smithy- und Lambda-Quellen in MCP-kompatible Tools um und vermittelt die Authentifizierung sowohl eingehend als auch ausgehend.

Wählen Sie Vercel AI Gateway, wenn das unmittelbare Problem Websuche ist. Die Exa-Integration macht ein separates Konto, eigene API-Schlüssel und eine separate Abrechnung überflüssig. Das spart spürbaren Einrichtungsaufwand, deckt aber nicht die Transformation interner Unternehmens-APIs in kontrollierte Tools ab.

Wählen Sie Portkey, wenn MCP-Server bereits existieren und Authentifizierung, Genehmigungsprozesse sowie Audit-Protokolle fehlen. Wählen Sie TrueFoundry, wenn der Bereitstellungsort, gehostete stdio-Server, virtuelle MCPs oder Prüfungen vor und nach Tool-Aufrufen entscheidend sind. Wählen Sie Kong, wenn Konnect die API-Landschaft bereits steuert. Wählen Sie Cloudflare, wenn das Team ein kostenloses Basis-Gateway sucht und Managed Tools auf der separaten Agents-Plattform orchestrieren möchte.

Was Managed Agent Tools bedeuten – und was nicht

Ein Modell-Gateway leitet Prompts an Modelle weiter. Ein MCP-Gateway steuert, wie Agenten Tools finden und ausführen. Einige Produkte beherrschen beides, die Abrechnungsposten und Fehlerquellen bleiben jedoch getrennt.

Diese Unterscheidung ist wesentlich: Ein Modellaufruf liest primär Daten und erzeugt Text, während ein Tool-Aufruf Systeme verändern kann. Ein Support-Agent nutzt vielleicht ein Modell, um eine Kundenanfrage zu verstehen, verwendet dann aber Tools, um ein Kundenkonto einzusehen, eine Gutschrift zu erstellen und ein Ticket zu aktualisieren. Das Modell-Gateway kann den ersten Schritt überwachen, ohne zu prüfen, ob der zweite Schritt überhaupt autorisiert war.

Ein überzeugendes Gateway für Managed Tools übernimmt mehrere Aufgaben:

• Bereitstellung: Es bindet APIs, Funktionen oder Remote-MCP-Server an, ohne dass jedes Entwicklungsteam die Integration neu implementieren muss.
• Identität: Es verifiziert den aufrufenden Agenten oder Benutzer und reicht die autorisierten Zugangsdaten an das Zielsystem weiter.
• Richtlinien: Es begrenzt, welche Tools und Aktionen ausgeführt werden dürfen – bei Bedarf mit menschlicher Genehmigung (Human-in-the-Loop).
• Tool-Discovery: Es unterstützt das Modell bei der Auswahl des passenden Tools, ohne dass sämtliche Tool-Schemas in den Prompt geladen werden müssen.
• Auditierung: Es protokolliert lückenlos, welche Identität welches Tool mit welchen Parametern und Ergebnissen aufgerufen hat.

„Managed“ bedeutet nicht zwingend gehostete Ausführung. Portkey kann als Proxy und Governance-Ebene vor einem Remote-MCP-Server agieren, während dieser auf einer anderen Plattform läuft. Cloudflare Agents hostet Agenten und stellt Managed Tools bereit, während Cloudflare AI Gateway die Steuerung des Modell-Traffics übernimmt. Vercel bindet Exa Search nativ an, bietet damit jedoch nicht die OpenAPI-zu-MCP-Transformation von AgentCore.

In der Praxis entsteht so eine separate Rechnung für die Tool-Ebene. Sie umfasst Gateway-Aufrufe, Such- oder Browser-Abfragen, Tool-Hosting, Secret-Management, Protokollierung, Freigabeprozesse und den operativen Aufwand für die Wartung fehlerhafter Tools. Ein Modell-Gateway ohne Aufschlag lässt diese Kostenblöcke meist unberührt.

Deshalb decken sich der günstigste Modellpfad und der wirtschaftlichste Agenten-Workflow nicht automatisch. Unser umfassender Kostenvergleich für KI-Modell-Gateways hilft bei reinen Token-Routing-Entscheidungen weiter. Für Managed Agent Tools ist eine eigene Kostenkalkulation erforderlich.

Nach welchen Kriterien die Gateways ausgewählt wurden

Die Bewertung basiert auf vier zentralen Fragen. Erstens: Wie viel Tool-Aufwand übernimmt das Produkt – Transformation, Registry, Zugangsdatenverwaltung, Discovery, Ausführung oder Agent-to-Agent-Traffic (A2A)? Zweitens: Lassen sich Zugriffsrechte granular auf Personen, Agenten, Workspaces oder einzelne Tools beschränken? Drittens: Lässt sich die Produktivitätsrechnung anhand aktueller, öffentlicher Preise kalkulieren? Viertens: Wo liegen die Produktgrenzen – bei Bereitstellungsoptionen, getrennten Benutzeroberflächen, Abrufkontingenten oder Control-Plane-Gebühren?

Preise, Dokumentationen, Kontingente und Release-Notes wurden am 27. August 2026 live verifiziert. Jeder bewertete Abschnitt enthält einen aktuellen Screenshot der Dokumentation oder des Produkts. Die Gateways wurden im Rahmen dieses Vergleichs nicht mit Produktiv-Traffic belastet; Latenzen, Uptime-Werte, Erfolgsquoten bei Tool-Aufrufen oder Supportleistungen werden daher nicht als Benchmark-Ergebnisse dargestellt.

Sechs Gateways haben sich qualifiziert, weil jedes eine spezifische Anforderung optimal abdeckt. Gateways, die lediglich Modell-Routing bieten, keine fundierte Managed-Tool-Bewertung erlauben oder sämtliche Preise hinter Vertriebsgesprächen verbergen, wurden ausgeschlossen. Öffentliche Preise garantierten keine Top-Platzierung, machten die betrieblichen Folgen jedoch transparent bewertbar.

Das Ranking bevorzugt die Reduzierung von Entwicklungs- und Sicherheitsaufwand vor überladenen Feature-Listen. Eine fokussierte Integration kann eine breite Plattform übertreffen, wenn sie genau den Engpass löst, vor dem ein Team aktuell steht. Eine Plattform gewinnt den Gesamtsieg nur dann, wenn ihre zusätzlichen Funktionen manuellen Betriebsaufwand dauerhaft ersetzen.

1. Amazon Bedrock AgentCore Gateway: Bester Gesamtsieger für Enterprise Tool Planes

Amazon Bedrock AgentCore Gateway ist die beste Gesamtlösung, wenn ein Agent eine heterogene Landschaft aus internen APIs, AWS-Funktionen, SaaS-Diensten, anderen Agenten und Modellen über einen zentralen Kontrollpunkt erreichen muss.

Die größte Stärke liegt in der Protokolltransformation. AgentCore Gateway kann OpenAPI-Definitionen, Smithy-Modelle oder AWS-Lambda-Funktionen einlesen und als MCP-kompatible Tools exponieren. Ein Plattform-Team kann so eine bestehende Urlaubsverwaltungs-API direkt hinter dem Gateway bereitstellen, statt für jedes Agenten-Projekt separate MCP-Adapter schreiben und hosten zu müssen.

Ebenso wichtig ist die Identitätsschicht: AgentCore übernimmt die eingehende Authentifizierung für den Aufrufer und die ausgehende Authentifizierung gegenüber dem Zielsystem. Es unterstützt OAuth-Flows, Token-Refreshes und sichere Secret-Speicherung. Der Agent erhält die Berechtigung, ein Tool aufzurufen – er benötigt jedoch keinen direkten Zugriff auf die Salesforce-, Slack- oder Jira-Zugangsdaten. 1-Klick-Integrationen existieren unter anderem für Salesforce, Slack, Jira, Asana und Zendesk.

Wächst der Tool-Katalog, hilft die semantische Tool-Auswahl dem Agenten, relevante Aktionen zu finden, ohne sämtliche Schemas in den Kontext geladen zu haben. Das reduziert den Prompt-Umfang und macht umfangreiche Kataloge nutzbar. Das Gateway kann zudem HTTP-Dienste und A2A-Traffic absichern, sodass dieselben Richtlinien über MCP hinaus greifen.

Die Einschränkung liegt im AWS-Betriebsmodell: AgentCore nimmt zwar Gateway-Infrastruktur ab, verlangt jedoch fundiertes Wissen über AWS Identity and Access Management (IAM), Regionen, Serviceberechtigungen und Protokollierung. Für Teams ohne bestehende AWS-Infrastruktur wird die Adapter-Entwicklung zwar überflüssig, es entsteht jedoch ein neuer Verwaltungsaufwand in der Cloud. Das Produkt lohnt sich besonders, wenn AWS bereits als Standard etabliert ist oder Identitätsmanagement und API-Transformation diesen Schritt rechtfertigen.

Ideal für: Unternehmen, die bestehende APIs und Serverless-Funktionen in kontrollierte Agenten-Tools überführen möchten
Besonderheit: OpenAPI-, Smithy- und Lambda-Transformation plus bidirektionales Authentifizierungs-Brokerage
Preise: $0.005 pro 1,000 Gateway-API-Aufrufe, $0.025 pro 1,000 Search-API-Abfragen und $0.02 pro 100 indexierte Tools pro Monat; keine Mindestgebühr
Kostenlose Testphase: Nutzungsbasiert; Neukunden erhalten bis zu $200 im AWS Free Tier

Ein sinnvoller Einstieg mit AgentCore Gateway

Die sicherste erste Bereitstellung konzentriert sich auf eine einzelne, klar abgegrenzte Aktion statt auf die gesamte API-Landschaft. Wählen Sie einen Workflow mit klaren Verantwortlichkeiten, reversiblen Ergebnissen und einem Berechtigungsmodell, das Ihr Sicherheitsteam bereits freigegeben hat.

1. 1

   Eine freigegebene Aktion isolieren

   Wählen Sie einen OpenAPI-Endpunkt oder eine Lambda-Funktion – beispielsweise das Abrufen von Urlaubstagen. Schalten Sie exakt die Operation frei, die der erste Agent benötigt. Eine kleine Angriffsfläche erleichtert Berechtigungsprüfungen und Fehleranalysen.

2. 2

   Eingehende und ausgehende Identität trennen

   Definieren Sie, wer das Gateway aufrufen darf und welche Zugangsdaten das Gateway gegenüber dem Zielsystem verwendet. Diese beiden Schritte sollten strikt getrennt bleiben: Der Agent darf niemals im Besitz des Ziel-Tokens sein.

3. 3

   Beschreibungen präzise indexieren

   Vergeben Sie eindeutige Namen und Funktionsbeschreibungen für das begrenzte Set. Aktivieren Sie semantische Auswahl erst, wenn die Beschreibungen keine Interpretationsspielräume lassen. Eine Suchschicht kann zwei Tools mit identischer Beschreibung nicht sinnvoll unterscheiden.

4. 4

   Traffic schrittweise routen und abrechnen

   Leiten Sie einen kontrollierten Teil des Traffics weiter, überwachen Sie Search-API- und InvokeTool-Aufrufe und führen Sie Tool-Aufrufe, Modell-Token und Backend-Kosten getrennt auf. Skalieren Sie erst, wenn Fehlerraten und Berechtigungsprotokolle stabil sind.

AgentCore ist nicht optimal, wenn ein Team bereits stabile Remote-MCP-Server betreibt und lediglich einen Proxy für Authentifizierung und Auditierung sucht. Hierfür ist Portkey schlanker. Steht ausschließlich Websuche im Fokus, bietet Vercel eine deutlich schnellere Implementierung.

2. Vercel AI Gateway: Am besten für Managed Search ohne Setup

Vercel AI Gateway ist die schnellste Option, wenn ein Agent Zugriff auf aktuelle Websuchen benötigt und der größte Aufwand darin bestünde, ein weiteres Anbieterkonto samt API-Schlüsseln und Zahlungsdaten einzurichten.

Exa Search ist als natives AI-Gateway-Tool integriert. Es funktioniert mit jedem unterstützten Modell und erfordert weder ein Exa-Konto noch einen eigenen API-Schlüssel. Die Anwendung übergibt gateway.tools.exaSearch() als Tool; das Gateway leitet die Anfrage an Exa weiter, liefert die Ergebnisse an das Modell zurück und hält die Tool-Schleife aktiv, bis das Modell die Suche beendet.

Das verkürzt die Bereitstellungszeit drastisch: Teams ergänzen aktuelle Suchdaten, ohne zusätzliche Freigabeprozesse oder Secret-Verwaltungen zu durchlaufen. Der Vorteil liegt im reduzierten Einrichtungsaufwand, nicht in einem dauerhaften Preisnachlass. Vercel listet Exa Search mit $7 pro 1,000 Abfragen und rechnet dies ohne Aufschlag durch. Die Suche ist ausschließlich bis zum 31. August 2026 kostenlos; Produktivkalkulationen müssen den regulären Preis berücksichtigen.

Bei 100,000 monatlichen Suchen belaufen sich die Kosten für Exa auf $700. Vercel verlangt keine Plattformgebühr und keinen Token-Aufschlag für Modelle, optionale Governance-Funktionen verursachen jedoch Zusatzkosten. Custom Reporting kostet $0.075 pro 1,000 Schreibvorgänge und $5 pro 1,000 Reporting-Abfragen. Teamweite Provider-Allowlists kosten $0.10 pro 1,000 erfolgreiche Anfragen in Pro und Enterprise (der Request-Filter only ist kostenlos). Teamweite Zero Data Retention (ZDR) schlägt ebenfalls mit $0.10 pro 1,000 Anfragen zu Buche, während ZDR auf Einzelanfrageebene kostenlos bleibt.

Die Grenze liegt in der Flexibilität: Vercel vereinfacht die Anbindung eines wertvollen Suchwerkzeugs, bietet jedoch keine Transformationsschicht für interne OpenAPI-Umgebungen. Müssen HR-, Abrechnungs- und Inventar-APIs mit ausgehendem OAuth in Agenten-Tools überführt werden, sind AgentCore oder TrueFoundry die passendere Wahl.

Ideal für: Produktteams, die einer Anwendung auf Basis des AI SDK verwaltete Websuche hinzufügen wollen
Besonderheit: Exa Search ohne separates Exa-Konto oder API-Schlüssel
Preise: Free enthält $5 Monatsguthaben für ausgewählte Modelle; Paid nutzt Guthaben zu Anbieterpreisen ohne Token-Aufschlag; Enterprise bietet Rechnungsstellung und Volumenrabatte
Kostenlose Testphase: Free Tier; der Erwerb von Guthaben beendet das monatliche $5-Guthaben

Der Free-Tarif enthält $5 monatliches Guthaben, eine Auswahl berechtigter Modelle, niedrigere Limits und kein Bring Your Own Key (BYOK). Paid basiert auf Pay-as-you-go über aufgeladenes Guthaben, schaltet den gesamten Modellkatalog frei, erlaubt benutzerdefinierte Limits sowie BYOK und bindet nicht vertraglich. Sobald Guthaben erworben wird, entfällt das monatliche Freikontingent. Enterprise-Kunden können Rechnungsstellung ohne Zahlungsabwicklungsgebühren vereinbaren und Volumenrabatte auf Token-Umsätze verhandeln.

Vercel sichert sich den zweiten Platz, weil das neue Managed Tool unmittelbar praxistauglich und extrem reibungsarm integrierbar ist – nicht, weil es die meisten Protokolle abdeckt. Wählen Sie es, wenn Websuche der primäre Hebel für Ihren Agenten ist. Setzen Sie es nicht als alleiniges Gateway ein, wenn der Agent schreibend auf interne Systeme zugreifen soll.

3. Portkey: Bester zentraler Authentifizierungs-Layer für Remote-MCP-Server

Portkey ist die beste Wahl, wenn MCP-Server bereits existieren und ein zentrales Gateway für Zugangsdaten, Berechtigungen, Freigabeprozesse und Audit-Trails benötigt wird.

Das Portkey MCP Gateway positioniert sich zwischen MCP-Clients und Servern. Ein Client authentifiziert sich einmalig gegenüber Portkey. Das Gateway prüft die Zugriffsrechte für den angeforderten Server samt Tool, injiziert die hinterlegten Zugangsdaten, leitet den Aufruf weiter und protokolliert Anfrage sowie Antwort. Zielsysteme können über OAuth-Tokens, API-Schlüssel oder Identitäts-Header angesprochen werden; Clients nutzen Portkey-API-Schlüssel oder Tokens externer Identity-Provider.

Das löst ein typisches Plattformproblem: Zugangsdaten für GitHub, Slack oder interne Dienste müssen nicht mehr in jedem Agenten-Workspace hinterlegt werden. Die MCP Registry speichert Serverkonfigurationen und Authentifizierungsdaten; Zugriffe lassen sich gezielt pro Workspace freischalten. Content-Filter und Approval-Workflows sichern kritische Aktionen zusätzlich vor der Ausführung ab.

Die Systemgrenze von Portkey ist eindeutig: Es verwaltet den Zugriff auf MCP-Server, übernimmt jedoch nicht deren Hosting oder Laufzeitumgebung. Der Server muss erreichbar sein und die Aktionen bereitstellen. Wenn bestehende OpenAPI-Dienste transformiert oder lokale CLI-basierte MCP-Server gehostet werden müssen, decken TrueFoundry oder AgentCore diese Schritte besser ab.

Der Einstiegspreis ist moderat, bemisst sich jedoch an protokollierten Logs. Der Developer-Tarif ist Free Forever und erlaubt Traffic auch nach Erreichen des Log-Limits – diese zusätzlichen Anfragen werden jedoch nicht mehr auditiert. Damit eignet sich der Tarif für Prototypen, nicht aber für compliance-relevante Produktionsumgebungen.

Ideal für: Plattform-Teams, die den Zugriff auf verteilte Remote-MCP-Server zentralisieren wollen
Besonderheit: Einheitlicher Client-Zugang mit Injektion von Ziel-Zugangsdaten und Workspace-Verwaltung
Preise: Developer $0; Production $49 pro Monat; Enterprise auf Anfrage
Kostenlose Testphase: Free Forever Developer-Tarif

Developer ist Free Forever mit 10,000 protokollierten Logs pro Monat, drei Tagen Log-Aufbewahrung und 30 Tagen Metriken. Portkey stuft diesen Tarif explizit als nicht produktionsreif ein. Production kostet $49 pro Monat für 100,000 erfasste Logs, 30 Tage Log-Speicherung, 90 Tage Metriken, rollenbasierte Zugriffskontrolle (RBAC), Service-Account-Schlüssel, Produktions-Support sowie einfaches und semantisches Caching. Jede weiteren 100,000 Anfragen kosten $9. Bei einer Million Anfragen summiert sich dies auf $130 vor Modellkosten.

Enterprise erfordert ein individuelles Angebot und richtet sich an Umgebungen ab 10 Millionen monatlich protokollierten Logs. Es bietet anpassbare Aufbewahrungsfristen, SSO, granulare Budgets und Rate-Limits, Private Cloud, VPC-Hosting, Data-Lake-Exporte, Guardrail-Hooks und erweiterte Compliance-Features.

Portkey empfiehlt sich, wenn die MCP-Infrastruktur bereits stabil läuft. Werden Hosting, Konvertierung oder privates Deployment von Servern benötigt, bleibt der wesentliche Implementierungsaufwand trotz Portkey-Einsatz beim internen Team.

4. TrueFoundry: Beste Wahl für private MCP-Governance und gehostete Tools

TrueFoundry ist die stärkste Option für Unternehmen, die eine verwaltete MCP-Kontrollschicht benötigen und diese perspektivisch in einer eigenen VPC oder Air-Gapped-Umgebung betreiben wollen.

Der Funktionsumfang für MCP geht über reines Proxying hinaus. TrueFoundry MCP Gateway unterstützt kuratierte Registries, OAuth-Standards, virtuelle MCP-Server, OpenAPI-zu-MCP-Transformation, gehostete stdio-MCP-Server sowie Sicherheitsprüfungen vor und nach Tool-Aufrufen. Ein virtueller MCP-Server kann einer Benutzergruppe oder einem Workflow eine gezielte Auswahl an Tools aus mehreren zugrundeliegenden Servern bereitstellen.

Dieser Ansatz ist bei heterogenen Tool-Landschaften wertvoll: Ein Unternehmen nutzt vielleicht einen Remote-HR-Server, einen OpenAPI-Abrechnungsdienst und ein CLI-basiertes Analysetool. TrueFoundry ermöglicht die einheitliche Governance aller drei Quellen, ohne ein einheitliches Hosting vorauszusetzen. Enterprise unterstützt vollständige VPC- und Air-Gapped-Installationen für Control- und Gateway-Ebenen.

Die Hürde liegt im Preissprung vom Prototyp zur Enterprise-Lösung. Developer ist nützlich, aber streng limitiert. Pro kostet $499 pro Monat. Pro Plus springt auf $2,999 pro Monat, und Enterprise erfordert ein individuelles Angebot. Die höheren Tarife bieten keinen Mengenrabatt auf Tool-Aufrufe: In Pro kostet die inkludierte Kapazität $0.499 pro 1,000 Aufrufe, in Pro Plus rund $0.600 pro 1,000 Aufrufe. Bezahlt werden erweiterte Kontrollen, Nutzerkonten, Serverkontingente und Skalierbarkeit.

Ideal für: Teams, die Remote-, OpenAPI- und gehostete stdio-MCP-Tools unter privaten Governance-Richtlinien zusammenführen
Besonderheit: Virtuelle MCPs, OpenAPI-Transformation, gehostetes stdio sowie Pre- und Post-Call-Guardrails
Preise: Developer $0; Pro $499 pro Monat; Pro Plus $2,999 pro Monat; Enterprise auf Anfrage
Kostenlose Testphase: 7 Tage ohne Kreditkarte

Developer kostet $0 pro Monat für 50,000 Anfragen, drei Benutzer, bis zu fünf registrierte MCP-Server und 50,000 Tool-Aufrufe monatlich. Pro kostet $499 pro Monat für 1 Million Anfragen, 10 Benutzer, bis zu 25 MCP-Server und 1 Million Tool-Aufrufe. Zusätzliche Kontingente kosten im Pro-Tarif $499 pro Monat für jeweils 2 Millionen Anfragen und fünf API-Schlüssel.

Pro Plus liegt bei $2,999 pro Monat für 1 Million Anfragen, 25 Benutzer, bis zu 50 MCP-Server und 5 Millionen Tool-Aufrufe. Weiterer Verbrauch erfordert eine Absprache mit dem Vertrieb. Enterprise richtet sich an Umgebungen ab 10 Millionen monatlichen Anfragen mit individuellen Limits für Nutzer, MCP-Server und Tool-Aufrufe.

TrueFoundry schlägt Portkey, wenn Tool-Formate und private Bereitstellungsoptionen im Vordergrund stehen. Portkey gewinnt, wenn MCP-Server bereits laufen und ein günstiger Authentifizierungs-Proxy genügt. AgentCore setzt sich durch, wenn AWS-native Funktionen, API-Transformation und IAM-Identitätsverwaltung den Kern der Architektur bilden.

5. Kong AI Gateway: Beste Wahl für bestehende Konnect-Nutzer

Kong AI Gateway ist die optimale Lösung, wenn Kong Konnect die APIs des Unternehmens bereits verwaltet und diese Steuerung auf LLM-, MCP- und Agent-to-Agent-Traffic ausgeweitet werden soll.

Mit Kong AI Gateway 3.14 wurde das Agent Gateway am 13. April 2026 allgemein für den Produktiveinsatz freigegeben (General Availability). Die Plattform deckt drei zusammenhängende Bereiche ab: ein LLM Gateway für Modell-Traffic, ein MCP Gateway für Tool- und Datenzugriffe sowie ein Agent Gateway für A2A-Kommunikation. Kongs Release ergänzt Agenten-Identitäten, Authentifizierung, einheitliche Observability über alle Protokolle und die Prüfung von Nachrichten zwischen Agenten.

Für bestehende Konnect-Kunden ist das eine konsequente Konsolidierung. Das Plattform-Team kann Richtlinien und Betriebsprozesse von klassischen APIs auf neuen Agenten-Traffic übertragen, anstatt für jedes Protokoll ein isoliertes Gateway einzuführen. Der Plus-Tarif erlaubt unbegrenzte MCP-Proxies und unbegrenzte Agenten für A2A-Traffic bei bis zu fünf eindeutigen LLM-Modellen.

Für Neuprojekte ohne bestehende Kong-Infrastruktur ist der Preis die Einstiegshürde. Die günstigste Serverless-Control-Plane in Plus kostet $25 pro Monat; jedes über kostenpflichtige KI-Plugins angebundene LLM-Modell schlägt mit zusätzlichen $100 pro Monat zu Buche. Fünf Modelle plus eine Serverless-Control-Plane kosten $525 pro Monat – vor Inferenzkosten, zusätzlichen API-Aufrufen, Bandbreite oder Add-ons. Eine Hybrid-Control-Plane kostet $200 pro Monat. Dedicated Cloud liegt bei $500 pro Monat plus $0.15 pro GB.

Ideal für: Bestehende Kong-Kunden, die API-Governance auf LLM-, MCP- und A2A-Traffic erweitern möchten
Besonderheit: Einheitliche Governance-Architektur über den gesamten KI-Datenpfad
Preise: 30-tägige Testphase $0; Plus rechnet nach Gateway und Modell ab; Enterprise individuell mit jährlicher Abrechnung
Kostenlose Testphase: 30 Tage ohne Kreditkarte

Die 30-tägige kostenlose Testphase kostet $0, erfordert keine Kreditkarte, hebt Gateway-Beschränkungen auf und speichert Analysedaten für 30 Tage. Plus erlaubt bis zu fünf Serverless-, zwei Hybrid- und zwei Dedicated-Cloud-Gateways. Es enthält 1 Million API-Anfragen pro Monat ($200 für jede weitere Million) und ist auf 10 Millionen monatliche Anfragen gedeckelt.

Enterprise hebt Modell- und Gateway-Limits auf, beinhaltet kostenpflichtige AI-Gateway-Plugins sowie den AI Gateway Manager und wird jährlich abgerechnet. Das ist für unternehmensweite Plattform-Rollouts angemessen, verhindert jedoch eine transparente Vorkalkulation für kleinere Teams.

Die Entscheidungsregel für Kong ist pragmatisch: Wenn Konnect bereits bezahlt, personell betreut und freigegeben ist, spart das Agent Gateway ein zusätzliches Fremdsystem ein. Andernfalls bindet der Einstiegspreis von $525 für fünf Modelle Budget an eine API-Plattform, bevor der Agent seinen praktischen Nutzen bewiesen hat.

6. Cloudflare AI Gateway und Agents: Bester Edge-Stack mit geringen Fixkosten

Cloudflare AI Gateway ist die wirtschaftlichste Lösung für Teams, die bereit sind, das kostenlose Modell-Gateway mit der separaten Laufzeit- und Tool-Ebene von Cloudflare Agents zu kombinieren.

Die Kernfunktionen von Cloudflare AI Gateway – Dashboard-Analysen, Caching, Rate-Limiting und DLP-Scans – sind auf allen Tarifen kostenlos. Modell-Inferenz wird ohne Aufschlag durchgereicht. Unified Billing ist optional und erhebt eine Gebühr von 5% auf erworbenes Guthaben ($2,000 Guthaben entsprechen $100 Gebühren).

Managed Tools werden auf Cloudflare Agents bereitgestellt – einer Plattform für persistente Agenten mit vorgefertigten Tools für Browser-Automatisierung, Sandbox-Umgebungen, AI Search, MCP und Payments. Starter-Vorlagen unterstützen serverseitige und clientseitige Tools, Human-in-the-Loop-Freigaben und Aufgaben-Scheduling. Als Modell-Backend können OpenAI, Anthropic, Google Gemini oder andere Anbieter dienen.

Diese Kombination ist leistungsstark, bildet jedoch keine homogene Produktoberfläche: AI Gateway überwacht Modell-Traffic, Agents hostet die Schleife und bindet Tools an, während Workers und die jeweiligen Tool-Aufrufe eigenen Limits und Kosten unterliegen. Wer eine integrierte Oberfläche sucht, um interne APIs umzuwandeln, OAuth-Tokens zu verwalten und jeden Tool-Aufruf an einem zentralen Punkt zu genehmigen, erhält dies nicht allein durch das kostenlose AI Gateway.

Ideal für: Edge-orientierte Entwicklerteams, die kostenlose Gateway-Kontrollen neben einer verwalteten Agenten-Runtime betreiben wollen
Besonderheit: Kostenloses Core-Gateway plus Browser-, Sandbox-, Search- und MCP-Tools auf Cloudflare Agents
Preise: Gateway-Kern kostenlos auf allen Tarifen; Workers Free und Workers Paid mit unterschiedlichen Log-Limits; Unified Billing berechnet 5% Aufschlag
Kostenlose Testphase: Kostenloser Core und Kontingente über Workers Free

Workers Free speichert insgesamt 100,000 persistente Logs über alle Gateways hinweg. Workers Paid fasst 10 Millionen Logs pro Gateway. Logpush ist in Workers Paid verfügbar und umfasst 10 Millionen Anfragen monatlich ($0.05 pro weitere Million). Die Guardrail-Auswertung basiert auf Workers AI Token-Inferenz; das kostenlose Gateway bedeutet also nicht, dass jede Richtlinienprüfung gebührenfrei ist.

Cloudflare überzeugt, wenn Anwendungen ohnehin auf Workers aufsetzen und Modellsteuerung, Stateful Agents, Web-Scraping und MCP nahe an der Edge gebündelt werden sollen. Es tritt in den Hintergrund, wenn eine einheitliche, revisionssichere Tool-Governance-Ebene wichtiger ist als minimale Basiskosten. AgentCore und TrueFoundry ziehen diese Systemgrenzen klarer.

Wer welche Lösung wählen sollte

Wählen Sie Amazon Bedrock AgentCore Gateway, wenn der Agent interne Systeme ansprechen muss und das Unternehmen einen verwalteten Dienst für Transformation, Authentifizierung, semantische Auswahl und Tool-Ausführung verlangt. Die Entscheidung verschiebt sich zu kleineren Tools, wenn die meisten Endpunkte bereits als stabile MCP-Server bereitstehen.

Wählen Sie Vercel AI Gateway, wenn die Bereitstellung von Websuche die letzte Hürde vor dem Produkt-Launch darstellt. Die Lösung passt nicht, wenn schreibend auf interne Unternehmenssysteme zugegriffen werden muss oder komplexe OAuth-Verbindungen verwaltet werden sollen.

Wählen Sie Portkey, wenn MCP-Server existieren und alle Clients über eine zentrale Instanz authentifiziert werden sollen. Es eignet sich hervorragend für Plattform-Teams, die Registry-Funktionen, Workspace-Rechte, Inhaltsfilter und Audit-Logs ohne eigene Agenten-Laufzeitumgebung einführen wollen. Es passt nicht, wenn Server erst gebaut oder gehostet werden müssen.

Wählen Sie TrueFoundry, wenn On-Premises-/VPC-Deployments, gehostete stdio-Server, OpenAPI-Konvertierung, virtuelle MCPs oder Pre- und Post-Call-Prüfungen unverzichtbar sind. Portkey bleibt die günstigere Alternative für reine Remote-Proxies; AgentCore ist die bessere Wahl in reinen AWS-Landschaften.

Wählen Sie Kong AI Gateway, wenn Konnect die unternehmensweiten APIs bereits absichert. Vorhandenes Know-how, etablierte Prozesse und bestehende Lizenzverträge machen die Agenten-Erweiterung oft wirtschaftlicher als der nominale Neukundenpreis vermuten lässt. Bei isolierten Pilotprojekten ohne Kong-Basis ist der Einstiegspreis meist zu hoch.

Wählen Sie Cloudflare AI Gateway und Agents, wenn Workers bereits Kern Ihrer Architektur ist und Ihr Team Gateway, Runtime und Tools eigenständig orchestrieren kann. Es eignet sich weniger, wenn IT-Sicherheit oder Einkauf eine einzige, geschlossene Oberfläche für Modell- und Tool-Traffic fordern.

Es gibt auch die legitime Entscheidung: Kein neues Gateway. Wenn ein bestehender Anbieter bereits Modelle, Tools, Identitäten, Logs und Budgetgrenzen für den Workflow abdeckt, schafft ein weiteres Gateway lediglich neue Fehlerquellen. Definieren Sie vor der Anschaffung exakt, welches Konto, welches Secret, welcher Adapter oder welche Bereitschaftsschicht durch das Gateway entfällt.

Die Tool-Rechnung: Warum ein kostenloses Gateway teurer sein kann

Gateway-Preise und Tool-Preise gehören auf getrennte Budgetposten. Das Websuch-Beispiel verdeutlicht diesen Unterschied: AWS Web Search und Vercel Exa Search berechnen beide regulär $7 pro 1,000 Abfragen.

Kalkulation für 100,000 monatliche Agenten-Interaktionen mit einer semantischen Tool-Suche, drei Tool-Aufrufen, 100 indexierten Tools und einer Websuche pro Vorgang: Bei AgentCore kostet die Gateway-Ebene $4.02 ($2.50 für Search-API-Aufrufe, $1.50 für Tool-Aufrufe und $0.02 für Indexierung). Die Websuche fügt $700 hinzu. Der sichtbare Gesamtbetrag beläuft sich auf $704.02 vor Modellkosten, Hosting, Logging und Netzwerkkosten.

Vercels Modell-Gateway verlangt keine Plattformgebühr. Bei 100,000 Exa-Suchen nach dem 31. August schlägt Exa mit $700 zu Buche. Die sichtbaren Gesamtkosten betragen $700 vor Modell- und optionalen Reporting-Kosten.

Die Differenz von $4.02 ist architektonisch vernachlässigbar. AgentCore deckt dafür semantische Discovery und drei interne Tool-Aufrufe pro Vorgang ab. Vercel deckt die native Suchanbindung ab. Der entscheidende Punkt: Beide verbergen eine Tool-Position von $700 hinter minimalen oder nicht vorhandenen Gateway-Gebühren.

Dasselbe Prinzip gilt für die übrigen Gateways:

• Portkey: Eine Million protokollierte Anfragen kosten in Production $130 vor Modell- und MCP-Hosting-Kosten.
• TrueFoundry: Pro kostet $499 für 1 Million Tool-Aufrufe; Pro Plus liegt bei $2,999 für 5 Millionen. Der größere Tarif bietet keinen Skalenrabatt auf Aufrufe.
• Kong: Fünf Modell-Proxies und die günstigste Serverless-Control-Plane kosten $525 vor Inferenz und Zusatzoptionen.
• Cloudflare: Der Gateway-Kern ist kostenlos, Unified Billing berechnet jedoch $100 auf $2,000 Guthaben, während Workers und Tools separat abgerechnet werden.

Setzen Sie harte Ausgabenlimits beim Modellanbieter, sofern dieser das unterstützt. Ein Gateway-Budget kann Anfragen an der Kontrollschicht stoppen, sollte jedoch nie die einzige Sicherung für API-Schlüssel sein, die potenziell an anderer Stelle verwendet werden könnten.

Typische Fehlentscheidungen

Vercel meiden, wenn interne API-Transformation im Fokus steht

Vercels Exa-Integration überzeugt durch ihren klaren Fokus. Leiten Sie daraus nicht ab, dass das Gateway eine interne OpenAPI-Architektur transformieren, ausgehende Zugangsdaten verwalten und interne Aktionen absichern kann. Nutzen Sie hierfür AgentCore oder TrueFoundry.

Kong nicht für kleine Neukunden-Piloten wählen

Kong ist eine erstklassige Plattform für Enterprise-Umgebungen, aber oft der falsche Startpunkt für erste Tests. Fünf Modell-Proxies plus günstigste Serverless-Control-Plane kosten $525 monatlich vor Inferenzkosten. Wenn noch keine Konnect-Landschaft existiert, validieren Sie den Workflow zunächst mit schlankeren Tools.

Cloudflare meiden, wenn eine einzige Richtlinien-Ebene zwingend ist

Cloudflare AI Gateway und Cloudflare Agents ergänzen sich, bleiben jedoch getrennte Produkte. Lassen Sie die Architekturprüfung nicht durch das kostenlose Basis-Gateway verzerren. Klären Sie verbindlich, welches System Modell-Logs, Tool-Ausführung, Freigaben, Secrets und Störungsbehebungen verantwortet, bevor Sie von einer einheitlichen Kontrollschicht sprechen.

Portkey nicht ohne Betreiber für MCP-Server einsetzen

Ein Governance-Proxy kann keinen herrenlosen Tool-Server reparieren. Wenn ein Remote-MCP-Endpunkt ausfällt, Berechtigungen falsch auflöst oder sein Schema ändert, zeichnet Portkey den Fehler auf – reparieren muss ihn dennoch ein internes Team. Fehlen Betriebsressourcen, wählen Sie Produkte mit gehosteter Laufzeit oder Transformation.

Keine kostenpflichtigen Tarife buchen, bevor eine Aktion validiert ist

Ein Agent mit dutzenden Tools wirkt auf dem Papier überzeugend, lässt sich in der Praxis jedoch schwer kontrollieren. Beginnen Sie mit einer einzigen, umkehrbaren Aktion, einem Verantwortlichen und einer klaren Abbruchbedingung. Auch die Abgrenzung zwischen Prompt-Anweisungen und Tool-APIs ist wesentlich: Agent Skills und Tool-APIs lösen unterschiedliche Wiederverwendungsprobleme. Kaufen Sie kein Gateway, um konzeptionelle Schwächen in Ihrer Architektur zu kompensieren.

Konkrete Umsetzung: Einen Agenten-Pfad durchkalkulieren

Wählen Sie einen Prozess, den Mitarbeiter heute manuell durchführen – beispielsweise das Prüfen eines Bestellstatus und das Aktualisieren eines Support-Tickets. Skizzieren Sie den Pfad chronologisch: Benutzeranfrage, Modellaufruf, Tool-Discovery, Token-Austausch, Tool-Ausführung, Ergebnisprüfung, Genehmigung und Audit-Eintrag.

Weisen Sie jedem Schritt einen Verantwortlichen und einen monatlichen Kostenblock zu: Modell-Token, Gateway-Aufrufe, Such- oder Browser-Abfragen, Tool-Hosting, Logging, Sicherheits-Audits und Support-Bereitschaft. Führen Sie zeitlich begrenzte Aktionen in einer separaten Spalte auf, damit Testkonditionen nicht fälschlich als Dauerpreise verbucht werden.

Testen Sie diesen eingegrenzten Pfad eine Woche lang produktiv:

• Halten Sie die Aktionen reversibel.
• Definieren Sie Ausgabenlimits beim Modellanbieter und auf Gateway-Ebene.
• Richten Sie automatische Stopps bei Autorisierungsfehlern, Tool-Timeouts oder fehlerhaften Outputs ein.
• Prüfen Sie die Logs gemeinsam mit den Betreibern der Zielsysteme, nicht nur im KI-Team.

Die Entscheidung für den Produktiveinsatz ist pragmatisch:

• Dominiert der Entwicklungsaufwand für Adapter und Identitätsprüfung: Testen Sie AgentCore oder TrueFoundry.
• Blockiert fehlende Websuche den Release: Nutzen Sie Vercel und budgetieren Sie $7 pro 1,000 Abfragen nach dem 31. August ein.
• Ist die Verteilung von Secrets die größte Schwachstelle: Schalten Sie Portkey vor die vorhandenen MCP-Server.
• Steht Plattformkonsistenz im Vordergrund: Erweitern Sie Kong oder Cloudflare nur dort, wo die Basisplattform bereits operativ betreut wird.
• Wird durch das Gateway weder ein Kostenblock noch ein Arbeitsaufwand eliminiert: Behalten Sie die bestehende Architektur bei.

Das beste Gateway ist dasjenige, das einen Budgetposten oder Betriebsaufwand messbar beseitigt und gleichzeitig die Sicherheitsrichtlinien der dahinterliegenden Systeme wahrt. Ein Feature, das diese Anforderung nicht erfüllt, ist kein Migrationsgrund.

Häufig gestellte Fragen

Was ist ein KI-Gateway?

Ein KI-Gateway ist eine Kontrollschicht zwischen einer Anwendung und KI-Modellanbietern. Es übernimmt Routing, Retries, Observability, Sicherheitsrichtlinien und Kostenkontrollen. Einige Gateways steuern mittlerweile auch Tools und Agent-to-Agent-Traffic – diese Funktionen sollten jedoch getrennt vom reinen Modell-Routing bewertet werden.

Was ist ein MCP-Gateway?

Ein MCP-Gateway steuert, wie Clients Model Context Protocol (MCP) Server und Tools finden und ausführen. Typische Kernaufgaben sind die Aufrufer-Authentifizierung, das Verwalten von Zielsystem-Zugangsdaten, granulare Tool-Berechtigungen, Freigabeprozesse, Audit-Logging sowie in einigen Fällen die Transformation oder das Hosting von Tools.

Welches KI-Gateway ist kostenlos?

Vercel bietet $5 monatliches Guthaben im Free-Tarif, Portkey verfügt über ein Free Forever Developer-Tier, TrueFoundry bietet einen kostenlosen Developer-Tarif samt 7-tägiger Testphase, Kong offeriert eine 30-tägige Testphase für $0 und Cloudflares Core-Gateway ist in allen Tarifen dauerhaft kostenlos. AgentCore Gateway rechnet rein verbrauchsabhängig ab; neue AWS-Kunden können bis zu $200 Startguthaben erhalten. Kosten für Modelle, Tools, Runtimes und erweiterte Protokollierung fallen separat an.

Was ist das beste LLM-Gateway?

Für Managed Agent Tools ist Amazon Bedrock AgentCore Gateway insgesamt die leistungsfähigste Plattform. Vercel punktet bei suchgestützten Workflows ohne Setup, Portkey bei der Absicherung bestehender MCP-Server, TrueFoundry bei privater MCP-Governance, Kong bei etablierten Konnect-Architekturen und Cloudflare als Edge-native Laufzeit. Wer ausschließlich Modellaufrufe routen möchte, sollte Token-Preise, Latenzen, Caching und Provider-Kontrollen isoliert vergleichen.

AI Business Workflow Audit Checklist herunterladen

Verwandeln Sie eine Agenten-Idee in einen klar definierten Workflow mit festen Zuständigkeiten, Budgetgrenzen, Sicherheitszonen und Abbruchkriterien. Abonnieren Sie unseren Newsletter für den kostenlosen Download.