2026 年最佳托管 Agent 工具 AI 网关
深度对比 AWS AgentCore、Vercel、Portkey、TrueFoundry、Kong 和 Cloudflare 在托管 Agent 工具、实时定价与工作流降本上的真实表现。全面拆解 MCP 工具平面与实际成本账单,助你选对企业级 AI 网关。

Amazon Bedrock AgentCore Gateway 是目前综合实力最强的托管工具网关;而 Vercel AI Gateway 则是为 Agent 接入生产级搜索最快的途径。在每月 100 万次 Agent 交互规模下,AgentCore 的网关层成本在计入模型、网络搜索和后端费用前约为 $40.02;Vercel 虽然省去了单独的 Exa 账号与密钥配置,但在 2026 年 8 月 31 日之后每 1,000 次搜索将收取 $7。
核心结论:哪款 AI 网关最适合你的场景?
一款 AI 网关只有在它真正精简了控制面时,才有资格进入 Agent 技术栈,而不是仅仅在模型前再多加一层端点。对于托管工具而言,决定性的衡量标准在于:网关能否将现有业务系统转化为工具、安全托管凭据、仲裁调用权限、协助 Agent 检索匹配工具并完整审计操作记录。
如果需要让 Agent 在统一的托管身份边界内调用内部 API 和 SaaS 系统,优先选择 Amazon Bedrock AgentCore Gateway。它可以将 OpenAPI、Smithy 和 Lambda 等数据源直接转为兼容 MCP 的工具,并统一代理入站与出站鉴权。
如果核心诉求是快速接入网络搜索,优先选择 Vercel AI Gateway。其内置的 Exa 集成省去了开通独立账户、管理密钥和处理账单的繁琐环节。这能显著缩短开发链路,但其能力边界不及将企业内部 API 转为合规可控工具的全面平台。
如果已有现成的 MCP 服务,仅缺少鉴权、审批与审计层,优先选择 Portkey。如果关注私有化部署、托管式 stdio 服务、虚拟 MCP 或调用前后的 Guardrails 安全护栏,优先选择 TrueFoundry。如果企业 API 资产已接入 Konnect,优先选择 Kong。如果团队追求零门槛的网关基础能力,并且习惯在独立的 Agents 平台上搭建托管工具,优先选择 Cloudflare。
托管 Agent 工具的真正定义与边界
模型网关负责将 Prompt 路由到模型;MCP 网关则控制 Agent 如何发现并调用工具。部分产品兼具二者,但两者的计费项目与故障模式完全独立。
这一区分至关重要:模型调用通常是读取信息并输出答案,而工具调用则会直接改变系统状态。例如,客服 Agent 可以通过模型理解用户诉求,随后调用工具读取账户信息、发放退款并更新工单。模型网关可以监管第一步,却无法感知第二步操作是否真正获得授权。
一个合格的托管工具网关应当承担以下职责:
- 资源配置(Provisioning): 快速接入 API、函数或远端 MCP 服务,无需每个应用团队重复开发对接逻辑。
- 身份认证(Identity): 校验调用方 Agent 或用户的身份,并将合规凭据透传给上游工具。
- 策略控制(Policy): 限制调用方可访问的工具与具体行为,必要时引入人工介入审批(Human-in-the-loop)。
- 工具发现(Discovery): 协助模型精准匹配相关工具,无需将庞大的 Schema 全部塞入上下文 Prompt。
- 操作审计(Audit): 完整记录哪个主体、使用何种参数调用了哪项工具,以及最终的执行结果。
托管并不等同于全托管运行环境。Portkey 可以代理并治理远端 MCP 服务,而底层服务仍由其他平台运行;Cloudflare Agents 可以托管 Agent 并提供工具,而 Cloudflare AI Gateway 依然专注在模型控制面;Vercel 原生集成了 Exa Search,但这项集成并不能提供像 AgentCore 那样将 OpenAPI 转为 MCP 的转换层。
这也意味着企业会面临一份独立的工具平面账单。它涵盖了网关调用、搜索或浏览器运行、工具托管、密钥管理、日志存储、人工审批流,以及工具故障时的工程维护人力成本。即使模型网关宣称零加价,上述工具开销依然分毫未减。
这也正是为什么最便宜的模型调用路径,并不等于最经济的 Agent 工作流。当选型重点仅仅是 Token 路由时,参考常规的 模型网关成本对比 即可;但涉及托管 Agent 工具时,必须单独核算工具平面的这笔账。
本次评测的筛选标准
本次评选围绕企业采购关心的四个核心问题展开:第一,产品能托管多少工具层工作(转换、注册、凭据、发现、执行或 A2A 流量);第二,访问控制能否精细绑定至个人、Agent、工作区或具体工具;第三,买方能否基于当前公开价格测算出生产环境的实际成本;第四,产品的功能壁垒以何种形式呈现(部署架构限制、独立产品控制台、请求配额限制还是控制面订阅费)。
本文涉及的定价页面、产品文档、版本配额及发布公告均已于 2026 年 8 月 27 日完成实时核验。每个入选章节均附有当前产品界面或官方文档截图。由于本次评估未在生产环境注入真实流量,因此不将延迟、SLA 正常运行时间、工具调用成功率或售后支持作为测试数据背书。
最终六款 AI 网关入选,每一款都能在特定场景下提供过硬的技术依据。那些仅支持模型路由、无法胜任托管工具评估、或将关键商业信息完全隐藏在销售咨询背后的产品均被剔除。公开透明的定价并不意味着排名靠前,但能让企业更清晰地预判运维代价。
本次排名优先考量其减少工程研发和安全治理负担的能力,而非单纯比拼功能列表的长短。当某个精细集成恰好能解决小团队眼前的瓶颈时,它的价值远胜于功能庞杂的大平台;而大型平台若想登顶,则必须证明其多出的控制面能够切实替代用户原本必须自建的工作。
1. Amazon Bedrock AgentCore Gateway:企业级工具平面最佳选择
当 Agent 需要跨越内部 API、AWS 函数、SaaS 工具、其他 Agent 及各类模型进行协同,且必须置于统一托管的控制点之下时,Amazon Bedrock AgentCore Gateway 是综合表现最佳的选择。

该产品最出色的能力在于资产转化。AgentCore Gateway 可以直接读取 OpenAPI 规范、Smithy 模型或 AWS Lambda 函数,并将它们自动发布为兼容 MCP 的标准工具。平台架构团队只需将现有的请假管理 API 挂载在网关后方,而无需让每个业务 Agent 团队单独编写并维护一套独立的 MCP 适配层。
其身份管控层同样具备极高工业成熟度。AgentCore 负责调用方的入站身份验证以及面向目标系统的出站凭据签发。它原生支持 OAuth 流程、Token 自动刷新和安全凭据隔离托管。Agent 获得的是调用工具的授权,而无需直接持有 Salesforce、Slack 或 Jira 的高危敏感凭据。目前该平台已为 Salesforce、Slack、Jira、Asana 和 Zendesk 提供了开箱即用的一键集成能力。
随着工具库的膨胀,基于语义的工具检索(Semantic Tool Selection)能够帮助 Agent 动态找到最匹配的工具,无需将所有的 Schema 完整灌入上下文,既节省了 Token 消耗,也保证了庞大内网能力调用的稳定性。网关还能统筹 HTTP 服务与 Agent-to-Agent(A2A)流量,使安全策略边界能够跨越 MCP 继续延展。
其主要限制在于运维体系的绑定。AgentCore 帮团队省去了网关基础架构的搭建,但用户仍需对 AWS 的身份体系、可用区、服务权限策略、日志体系以及上游系统有充分理解。如果团队尚未建立成熟的 AWS 运维体系,节省下的适配代码可能会转化为新的云治理负担。因此,该方案最适合已经将 AWS 作为标准基础底座,或迫切需要托管身份与 API 转换的企业。
最佳适用: 需要将现有 API 和无服务器函数转为规范化 Agent 工具的企业
核心优势: OpenAPI、Smithy 和 Lambda 转换能力,以及双向出入站鉴权
定价机制: 每 1,000 次网关 API 调用 $0.005,每 1,000 次 Search API 调用 $0.025,每 100 个已索引工具每月 $0.02;无起订额或最低消费限制
免费试用: 按量计费;AWS 新注册客户最高可获 $200 的 AWS Free Tier 额度抵扣
- 原生支持将企业常见的三种资产规范转为兼容 MCP 的工具
- 统一协调调用方身份与上游系统凭据
- 提供针对海量工具库的语义检索筛选能力
- 纯按量计费,无固定的高额网关平台订阅月费
- 对非 AWS 生态团队而言,引入了额外的云账号与权限运维工作
- Web Search(网络搜索)为独立计费项,每 1,000 次查询收取 $7
- 模型推理、运行时、可观测性、安全策略及上游业务服务的费用不包含在网关计费示例中
落地 AgentCore 网关的最佳第一步
最稳健的推进方式是切入单个边界清晰的业务动作,而非一开始就接入整套 API 体系。选择一个拥有明确负责人、结果可逆且安全团队完全理解权限模型的场景先行验证。
梳理并开放单个合规接口
挑选一个标准的 OpenAPI 接口或 Lambda 函数(例如查询假期余额)。仅向首个 Agent 开放它所必须的操作权限。收敛初始工具的暴露面,有助于快速定位鉴权链路和故障异常。
明确划分双向身份
分别确定允许访问网关的调用方身份,以及被授权访问下游资产的出站凭据。将两者作为独立的决策面管理,绝不能将 Agent 身份与上游服务的主凭据混为一谈。
精准索引工具描述,避免盲目全量入库
为限定范围内的工具编写精确的名称与行为描述。唯有当语义描述能够彻底消除歧义时,再启用语义检索层。模糊不清的两款同质化工具,无法依靠检索层来纠正选择偏差。
小流量试跑并精确测算
分流部分受控业务,统计 Search API 与 InvokeTool 的实际调用比率,将模型、搜索、运行时和后端资源消耗分账核算。只有在操作成功率与授权日志达到预期后,再铺开更多场景。
如果团队已有现成且运转良好的远端 MCP 服务,仅仅需要统一的鉴权与审计代理,此时选用 Portkey 会更轻量;如果核心瓶颈仅仅是网络搜索,且追求最快落地而非重塑内部系统,Vercel 则是更直接的路径。
2. Vercel AI Gateway:零配置接入托管搜索的最佳选择
当 Agent 亟需联网搜索能力,而团队的主要痛点在于不愿再多维护一个供应商账号、API 密钥、接口适配与独立账单时,Vercel AI Gateway 是落地速度最快的产品。

Exa Search 现已作为原生内置工具入驻 AI Gateway。它支持 AI Gateway 下接入的任意模型,完全无需单独申请 Exa 账号或绑定 API 密钥。应用代码只需将 gateway.tools.exaSearch() 作为工具传递,网关就会直接将检索请求发往 Exa,并将清洗后的结果返回给模型,全程维持工具循环直到模型决定停止检索。
这种模式改变了敏捷团队的交付体验。小团队无需跨部门走采购流程或配置新的密钥,就能在几行代码内为 Agent 补齐检索能力。它的核心价值在于大幅简化链路配置,而非长期价格补贴。Vercel 标注的 Exa 搜索价格为每 1,000 次查询 $7,按供应商原价透传,不作二次加价。该搜索能力仅在 2026 年 8 月 31 日前提供免费促销,因此规划正式生产环境时,必须按常规收费标准核算预算。
若每月进行 10 万次网络检索,Exa 工具项的基础账单将达到 $700。Vercel 本身不对模型 Token 计提平台费或加价,但可选的高级治理功能会有额外的用量账单。自定义报表(Custom Reporting)每 1,000 次写入收取 $0.075,每 1,000 次报表查询收取 $5。在 Pro 和 Enterprise 计划中,团队级提供商白名单每 1,000 次成功请求收取 $0.10(单次请求级别的 only 过滤无额外费用);团队级零数据保留(ZDR)同样为每 1,000 次请求收取 $0.10(单次请求指定 ZDR 则免费)。
其瓶颈在于应用广度。Vercel 极好地解决了搜索工具的托管配置,但它绝非面向私有 OpenAPI 资产的通用转换平台。如果企业需求是“将内部的薪酬、计费和进销存 API 转化为支持动态发现且具有出站 OAuth 鉴权的工具集”,AgentCore 或 TrueFoundry 才是更贴近的解法。
最佳适用: 在 AI SDK 应用中快速扩展托管搜索能力的业务团队
核心优势: 免注册 Exa 账户、免配独立密钥的 Exa Search 深度集成
定价机制: 免费版(Free)针对指定模型提供每月 $5 抵扣额度;付费版基于预充额度消费,模型 Token 零加价;企业版支持发票对账与大宗采购折扣
免费试用: 免费层级;一旦首次充值即终止每月赠送的 $5 额度
- 无需维护独立的 Exa 账号、凭据及商务结算
- 支持与 AI Gateway 纳管的任何主流模型混合使用
- 模型 Token 消耗完全原价透传,无额外平台抽成
- 为小团队提供了从模型调用到落地检索的最短链路
- Exa 免费促销将于 2026 年 8 月 31 日正式结束
- 促销期后每 1,000 次查询稳定收取 $7
- 无法承担复杂的内网 API 到 MCP 规范的转换重任
- 团队级治理策略与高级报表会产生额外的计量账单
Free 计划包含每月 $5 抵扣,仅支持部分限定模型,单模型速率限额较低且无法使用 BYOK。Paid 计划采用购买额度的即用即付模式,解锁全量模型库,允许自定义速率与使用自有密钥(BYOK),且无最低承诺消费;但充值后原本的每月赠送额度将停止。Enterprise 计划支持免手续费的发票结算,并可协商大客户用量折扣。
Vercel 能名列第二,得益于其托管工具极低的集成摩擦力和即刻可用的开发体验,而非功能覆盖面的广度。如果搜索是赋予 Agent 业务价值的核心抓手,果断选择它;但如果 Agent 需要安全修改内部业务系统,它并不适合作为唯一的治理网关。
3. Portkey:跨远端 MCP 服务的统一鉴权控制面
如果企业已经拥有部署好的 MCP 服务,当下亟需的是一个统一的前置大门,用来分发凭据、限制访问权限、处理审批流并留存审计日志,那么 Portkey 是契合度最高的方案。

Portkey MCP Gateway 部署在 MCP 客户端与服务端之间。客户端只需完成对 Portkey 的单点鉴权,网关即可核验其对目标服务器及具体工具的访问权限,自动注入对应的上游敏感凭据,透明代理请求,并全量记录请求与返回数据。上游认证支持 OAuth Token、API Key 或自定义 Identity Header,客户端则可通过 Portkey API Key 或外部企业身份提供商完成认证。
对于不愿将 GitHub、Slack 或内网服务凭据直接暴露给各个 Agent 工作区的平台工程师而言,这是极为利落的解法。统一的 MCP Registry 集中托管服务器配置与认证鉴权,随后按 Workspace 进行受控授权。结合内容审查过滤与人工审批流,高危动作在触发前多了一道坚固的安全屏障。
Portkey 的定位边界非常明确:它专精于管理对 MCP 服务的访问控制,本身不作为工具的托管执行环境。目标服务必须已经在某处正常运行、维持高可用并正确暴露接口。如果企业的核心瓶颈在于缺乏将 OpenAPI 转为 MCP 的适配层,或者希望免运维托管基于标准输入输出的 Stdio 脚本工具,TrueFoundry 或 AgentCore 能承担更多工作。
其公开的免费门槛很低,但其限制是以记录的日志量为单位计算的。Developer 版为永久免费(Free Forever),即便耗尽日志配额仍允许流量透传,但超量后的日志将不再留存。这决定了该层级仅适合开发验证,绝不能用于生产环境中追踪客户数据被篡改的审计取证。
最佳适用: 寻求集中管控现有远端 MCP 服务访问权限的平台工程团队
核心优势: 客户端单点鉴权体系,支持动态注入上游凭据与工作区级访问隔离
定价机制: Developer 版免费;Production 版每月 $49;Enterprise 版定制报价
免费试用: Developer 版永久免费(Free Forever)
- 集中统一调用方身份验证、上游凭据注入、权限细分与调用日志
- 支持 OAuth、API Key、自定义身份 Header 及外部 IdP
- 内置 MCP Registry 服务目录、内容过滤器与审批流程
- Production 版以每月 $49 的透明门槛起步
- 不负责远端 MCP 服务的自身托管与底层运维
- Developer 版每月仅记录 10,000 条日志且仅留存 3 天
- 官方不建议将 Production 版本直接用于有强定制数据本地化要求的场景
Developer 版永久免费,包含每月 10,000 条记录日志、3 天日志留存及 30 天指标分析,官方明确标注其不适用于生产。Production 版每月 $49,包含 100,000 条记录日志、30 天日志留存、90 天指标分析,提供 RBAC、服务账号密钥、生产支持以及基础和语义缓存。超出后每 100,000 次请求计费 $9。按每月 100 万次记录请求计算,在计入模型费用前网关总成本为 $130。
Enterprise 版采用定制年费,面向每月 1,000 万条记录日志以上的规模。它增加了自定义数据留存期、企业级 SSO、细粒度预算与流控、私有云/VPC 部署、数据湖日志导出、自定义安全护栏钩子以及合规性工具套件。
当工具资产已经服务化、远端化且运行稳定时,Portkey 是最佳选择;但如果团队的痛点在于缺乏托管环境、需要转化协议或必须隔离部署,仅购买代理层意味着硬骨头依然留在了自己的待办清单里。
4. TrueFoundry:私有化 MCP 治理与多格式工具托管专家
对于既需要托管型 MCP 控制平面,又有着明确 VPC 私有化或物理隔离(Air-gapped)落地诉求的企业而言,TrueFoundry 是综合技术完备度最高的方案。

其对 MCP 的治理不仅限于远端请求代理。TrueFoundry MCP Gateway 支持标准化工具注册表、OAuth 鉴权工作流、虚拟 MCP 服务(Virtual MCPs)、OpenAPI 转 MCP、托管运行基于 stdio 的 MCP 服务,并在工具调用前后执行安全拦截检查。虚拟 MCP 服务能够将底层分散的多个物理服务中的工具抽取重组成一个逻辑端点,安全交付给特定项目团队使用。
在异构工具混杂的企业环境中,这一能力尤为实用。一家公司可能同时存在一个远端 HR 接口服务、一个 OpenAPI 规范的计费服务以及一个本地命令行数据清洗脚本。TrueFoundry 能够将这三者纳入统一控制面监管,而不需要强行抹除它们在运行架构上的差异。Enterprise 版本对控制面与网关数据面均提供完整的私有 VPC 与离线物理隔离部署支持。
它的挑战在于从轻量原型迈向企业级管控时的价格阶梯。Developer 版可供功能验证,但 Pro 版直接上升至每月 $499,Pro Plus 版更跃升至每月 $2,999,Enterprise 版则必须单独询价。需要注意的是,高阶版本并未摊薄单次工具调用的容量成本:Pro 版内含的工具调用成本约合每 1,000 次 $0.499,而 Pro Plus 版约为每 1,000 次 $0.600。企业购买高阶版本的核心是为了席位、工具服务配额与控制能力买单,而非追求规模单价折扣。
最佳适用: 需要在具备私有化部署能力的治理框架下,混合统管远端、OpenAPI 及托管 stdio MCP 工具的团队
核心优势: 虚拟 MCP(Virtual MCPs)、OpenAPI 转换、托管 stdio 以及调用前后的双向 Guardrails 护栏
定价机制: Developer 版 $0,Pro 版每月 $499,Pro Plus 版每月 $2,999,Enterprise 版定制报价
免费试用: 7 天试用,无需绑定信用卡
- 全面兼容远端、虚拟重组、OpenAPI 映射及托管 stdio 格式的 MCP 服务
- Enterprise 版本提供完整的私有 VPC 及离线隔离运行方案
- 在工具触发调用前后均可强制执行安全策略校验
- 公开各订阅层级对应的 MCP 实例数量及工具调用容量限制
- 跨过免费层后,Pro 版的起步价高达每月 $499
- Pro Plus 较 Pro 版月费多出 $2,500,却并未降低单次调用的容量成本
- 真正关键的 VPC 与离线部署能力严格锁定在企业定制版中
- Pro Plus 计划的用量超额需要联系销售介入处理
Developer 版每月 $0,支持 50,000 次请求、3 个用户席位、最多 5 个注册 MCP 服务及每月 50,000 次工具调用。Pro 版每月 $499,包含 100 万次请求、10 个用户席位、最多 25 个 MCP 服务及 100 万次工具调用。Pro 版额外增加 200 万次请求和 5 个 API 密钥的扩容包价格为每月 $499。
Pro Plus 版每月 $2,999,包含 100 万次请求、25 个用户席位、最多 50 个 MCP 服务及 500 万次工具调用,更高用量需走定制销售流程。Enterprise 版采用定制年费,面向每月 1,000 万次以上的高并发场景,提供用户、服务注册和工具调用的全定制额度。
当异构格式工具的托管治理和私有网络部署是架构硬性指标时,TrueFoundry 明显优于 Portkey;当远端服务早已就绪、企业仅需廉价网关做前置鉴权时,Portkey 性价比更高;而如果整体技术栈完全基于 AWS 生态展开,AgentCore 依然是整合度最高的底座。
5. Kong AI Gateway:已采用 Konnect 架构团队的最佳选择
如果企业内部的 API 资产已经通过 Konnect 完成了标准化纳管,接下来需要将治理边界延伸至大模型、MCP 工具及 Agent 间通信,那么 Kong AI Gateway 是顺理成章的首选。

Kong AI Gateway 3.14 于 2026 年 4 月 13 日正式宣布 Agent Gateway 进入生产可用阶段(GA)。该平台由此构筑起三道并行的治理防线:面向大模型路由的 LLM Gateway、面向工具和数据访问的 MCP Gateway,以及面向 Agent 互联的 Agent Gateway。Kong 本次迭代 强化了 Agent 身份凭据与鉴权,打通了上述异构流量的一体化可观测性,并支持深度解析和审计 Agent 间的互通报文。
对于现有的 Konnect 客户而言,这是一次极具价值的资产整合。同一个基础设施团队可以直接将现成的安全策略与运维经验套用到新兴的 Agent 流量中,无需再针对各种协议分别采购五花八门的新型网关。其 Plus 计划允许接入无限量的 MCP 代理和无上限的 A2A 交互 Agent,并支持接入最多 5 种独立的大语言模型。
但对于零基线(Greenfield)的新团队而言,其价格门槛相对较高。最便宜的 Plus Serverless 控制面起步价为每月 $25,而通过付费 AI 插件代理的每个独立 LLM 模型每月单独收费 $100。这意味着 5 个模型加上 1 个 Serverless 控制面,在未计入实际推理费用、接口超额调用、带宽或附加组件前,基础月开销就已经达到 $525。若采用 Hybrid 部署,控制面价格升至每月 $200;采用 Dedicated Cloud 模式则为每月 $500 另加每 GB $0.15 的流量费。
最佳适用: 希望将现有 API 治理体系无缝平移至 LLM、MCP 及 A2A 流量的 Kong 老客户
核心优势: 横跨完整 AI 数据路径的一体化企业级治理体系
定价机制: 30 天试用期 $0;Plus 版按网关实例与纳管模型数计费;Enterprise 版按年计费并走定制方案
免费试用: 30 天免费试用,无需绑定信用卡
- 一同覆盖大模型交互、MCP 工具访问以及 A2A 协同通信
- Plus 计划不限制接入的 MCP 代理数量及 A2A 通信的 Agent 数量
- 最大化复用现有的企业级 API 治理规范与基础设施经验
- 提供了控制面、请求量、模型代理及网络流量的清晰度量标准
- 全新独立部署 5 个模型的起步架构成本高达每月 $525
- Plus 计划严格限制最多仅可代理 5 个独立 LLM 模型
- Dedicated Cloud 部署在控制面基线月费之上,还需每 GB 加收 $0.15
- Enterprise 版本完全闭门定价,且强制按年签署商业合同
30 天免费试用不收费用、免绑信用卡,解除了网关实例数限制,并提供 30 天分析指标留存。Plus 计划最多允许建立 5 个 Serverless 网关、2 个 Hybrid 网关及 2 个 Dedicated Cloud 网关实例。套餐内包含每月 100 万次 API 请求,超量后每 100 万次收取 $200,且该层级上限封顶在每月 1,000 万次请求。
Enterprise 版彻底解除了网关实例与模型代理上限,打包提供付费级 AI Gateway 插件及专属 AI Gateway Manager 管理工具,强制实行按年定制收费。对于深度拥抱该生态的企业而言这是必要的兜底保障,但外部用户很难直接根据公开数字测算出端到端总开销。
Kong 的选型逻辑非常清晰:充分评估已有平台的存量价值。如果企业内部 Konnect 早已完成采购、团队配备齐全且通过了安全合规审批,Agent Gateway 能直接消灭引入新服务商的风险;反之,若团队只是为了做几个轻量 Agent 实验,直接扛起每月 $525 起步的基础架构,无异于杀鸡用牛刀。
6. Cloudflare AI Gateway 与 Agents:高性价比边缘技术栈
对于愿意将免费的模型网关与独立的 Cloudflare Agents 运行时及工具生态拼装组合的团队而言,Cloudflare AI Gateway 是当前平台管理成本最低的架构方案。

Cloudflare AI Gateway 的核心功能(包括控制台监控大盘、响应缓存、请求速率限制及敏感数据防泄漏 DLP 扫描)在所有计划中均完全免费。对于经由网关转发的外部模型推理用量,官方不收取任何额外抽成。可选的统一结算(Unified Billing)功能会在充值额度时收取 5% 的服务费,例如充值 $2,000 额度将产生 $100 的结算账单。
其托管工具能力则由旁路的 Cloudflare Agents 提供。这是一个具备持久化状态的 Agent 托管运行时平台,内建了无头浏览器(Browser)、沙箱执行(Sandbox)、AI 检索(AI Search)、MCP 协议支持以及支付通道(Payments)等工具集。其初始模板包含了服务端与客户端工具交互范式、人工交互审批机制以及定时任务调度,底层支持无缝切换 OpenAI、Anthropic、Google Gemini 等主流服务商。
这套体系战斗力十足,但它并不是一个高度闭环的单一产品控制面。AI Gateway 仅负责管控模型流量,Agents 负责承载执行循环并分发工具,底层的 Workers 和具体的外部工具则各有各的配额与账单规则。如果买方需要的是一个能同时将内网 API 转为工具、托管出站 OAuth 密钥并集中审批所有工具调用的单点控制台,切勿误以为仅凭免费的网关核心就能包揽全部功能。
最佳适用: 习惯于边缘原生架构,既想白嫖网关基础治理又需要托管 Agent 运行时的团队
核心优势: 免费的核心网关能力,并在 Cloudflare Agents 上原生提供浏览器、沙箱、搜索、MCP 与支付支持
定价机制: 网关核心功能在所有套餐全免费;Workers Free 与 Workers Paid 享有不同的日志配额;统一结算增收 5%
免费试用: 核心网关零门槛使用,配备 Workers 基础免费配额
- 核心指标大盘、响应缓存、请求限流及 DLP 扫描全免费($0)
- 上游模型推理费用完全原价透传,零加价
- Agents 平台自带开箱即用的多品类托管工具及持久化执行环境
- 原生支持目前几乎所有主流基础模型生态
- 网关管控与托管 Agent 工具分属于两个独立的产品控制面
- 统一结算通道(Unified Billing)会在充值额度基础上计提 5%
- Workers 算力、具体工具运行与推理支出均不属于免费网关的范畴
- 免费日志配额由该账户下创建的所有网关实例共同消耗
Workers Free 套餐名下所有网关实例累计可存储 100,000 条持久化日志;Workers Paid 套餐则提升为每个网关实例享有 1,000 万条日志额度。Workers Paid 用户可以使用 Logpush,月含 1,000 万次请求推送,超量后每 100 万次仅需 $0.05。策略护栏(Guardrail)检查基于 Workers AI 的 Token 推理运行,这意味着使用高级策略并非完全免费。
如果团队已在 Workers 架构上深度沉淀,并希望将大模型控制、有状态 Agent、网页爬取、检索及 MCP 尽可能贴近边缘侧以求极致性能,Cloudflare 体验绝佳。但如果合规审计要求对模型与工具进行集中统一的管理,AgentCore 和 TrueFoundry 建立的安全边界会比这种碎片化拼装更加坚固透明。
场景选型速查
当 Agent 需要深度调用企业内部业务系统,且组织需要依靠一套全托管的云服务来自动化完成这些工具的转换适配、鉴权认证、动态语义检索和安全触发时,选择 Amazon Bedrock AgentCore Gateway。如果大部分系统已经变成了稳定的外部 MCP 协议端点,则可以转向更轻量的工具。
当为 Agent 赋予网络检索能力是阻碍当前产品上线的最大绊脚石时,选择 Vercel AI Gateway。如果接下来的任务要求 Agent 回写内部系统、处理复杂的混合私有工具集或维系庞大的出站 OAuth 鉴权,则不要勉强使用它。
当远端 MCP 服务已经搭建就绪,当下只需所有客户端通过统一入口安全访问时,选择 Portkey。对于需要统一服务目录、工作区划分、敏感内容阻断、流转审批与调用日志,但又不想引入重型 Agent 运行时的平台架构团队而言,这是最干净的解法。如果底层服务甚至还没写出来,切勿试图靠它来替代开发。
当企业存在私有化部署、离线网络运行、托管运行标准 stdio 脚本、OpenAPI 映射、重组虚拟 MCP 或在工具调用前后加入强硬拦截规则等诉求时,选择 TrueFoundry。若仅需低成本反向代理则换用 Portkey;若基础设施已全面押注 AWS,则换用 AgentCore。
当内部早已经常态化使用 Konnect 纳管整个业务 API 资产时,选择 Kong AI Gateway。既有的工程团队、安全规范和准入流程,能将这套体系拓展到 Agent 场景的边际成本降到最低,远比重新调研采购一套全新方案划算。但对于轻量级的初创试点项目,切勿为这一整套重型武器买单。
当开发团队常年深耕于 Cloudflare Workers,乐于自行用胶水代码组合网关、运行时环境与工具链路时,选择 Cloudflare AI Gateway 与 Agents。当安全团队或合规部门强制要求统一控制面和严格归口管理时,应果断转向边界更明确的独立方案。

值得强调的是,“不引入任何新网关” 往往也是完全成立的合理方案。若现有的一家核心云厂商已能直接覆盖该工作流所需的模型、工具、鉴权、日志与预算管控,再强行架设一层网关只会徒增潜在故障点,而不能省去任何研发开销。在推进技术选型前,务必明确该网关能真正消除哪一个具体的账号、密钥、适配代码、规则策略或运维警报。
工具平面账单:为什么免费的 AI 网关可能花费更高?
网关基础费用与工具实际开销必须分开核算。当前的搜索场景是一个极具代表性的样本:AWS Web Search 与 Vercel Exa Search 的标准公开刊例价均为每 1,000 次查询收取 $7。
以每月 100,000 次 Agent 业务交互为例,假设每次交互执行 1 次语义工具检索、3 次内部工具触发调用、索引 100 个工具,并进行 1 次外网信息检索:
使用 AgentCore 时,其网关基础计费仅为 $4.02(其中 Search API 消耗 $2.50,工具触发调用消耗 $1.50,工具索引占用 $0.02);但 Web Search 项直接带来 $700 开销。在计入模型自身消耗、容器算力、安全校验、可观测性采集与网络吞吐前,系统账单底线已来到 $704.02。
使用 Vercel 时,其模型网关本身零加价。但在 8 月 31 日促销结束后,100,000 次 Exa 搜索直接产生 $700 工具账单。即使忽略模型调用本身的开销,其费用也已经达到了 $700。

仅仅 $4.02 的网关差价绝不应该成为底层选型的决定性考量。AgentCore 的成本涵盖了每次交互中的语义检索与 3 次内部系统调用;Vercel 的成本则体现了极简免配的原生搜索集成。这个对比的本质不是探讨谁比谁省了四块钱,而是揭示出一个架构事实:两款产品都在微不足道甚至近乎免费的网关薄层之下,掩盖着高达 $700 的工具级消耗。
这一核算逻辑对于其他方案同样成立:
- Portkey: Production 方案下,每月 100 万次记录请求的网关层支出为 $130,这还不包括模型消耗和远端 MCP 服务的自身托管成本。
- TrueFoundry: Pro 版针对 100 万次工具调用要价 $499;Pro Plus 版面向 500 万次工具调用要价 $2,999。高阶版本并不附带边际单价倾斜。
- Kong: 最基础的 Serverless 控制面配合 5 个模型代理,开机即产生 $525 基础月租,完全不含模型推理和扩展功能费用。
- Cloudflare: 网关核心治理全免费,但若通过统一充值通道流转 $2,000 额度则会产生 $100 服务费,Workers 算力与工具成本依然独立计量。
无论采用何种网关方案,只要上游提供商具备条件,务必配合使用 硬性消费限额管控策略。网关层的限流固然能在控制面拦截过载流量,但绝不应将其作为保护那些可能在其他渠道被误用或盗刷的凭据的唯一安全防线。
选型误区与避坑指南
内部 API 转型是主要诉求时,切忌选用 Vercel
Vercel 托管集成的 Exa 之所以高效,正在于它的专一与极简。但绝不能盲目将其发散,指望该网关帮你把内网混乱的私有 OpenAPI 规范自动转为标准化工具、承载所有系统的出站身份并审计内网交互动作。这类场景应当坚定选择 AgentCore 或 TrueFoundry。
刚起步的轻量探索项目,切忌盲目上马 Kong
Kong 是成熟严谨的企业级底座,但极大概率是轻量原型实验的错误解法。即便是最精简的 Plus Serverless 控制面代理 5 个模型,每月开底成本就高达 $525。如果内部根本没有成型的 Konnect 架构资产可供继承,请先从业务用例本身出发,验证清楚真正的拦截控制需求后再决定是否引入大型平台。
强制要求统一安全策略时,切忌依赖 Cloudflare
Cloudflare AI Gateway 与 Cloudflare Agents 在功能上彼此互补,但它们物理上依然分属于两套彼此割裂的控制面。不要被免费的网关核心迷惑了架构判断。在向安全部门汇报这是“统一控制平台”之前,必须落实到底由哪一个系统负责全量日志留存、工具触发沙箱、审批流阻断、凭据托管与应急响应。
远端 MCP 服务缺乏负责人时,切忌孤立采购 Portkey
经过安全加固的代理层,拯救不了一个无团队维护的下游工具系统。若远端的 MCP 节点发生宕机、权限配置溢出或者接口定义暗中变更,Portkey 能够如实记下报错日志,但修复系统依然需要消耗团队的工程排期。如果“缺乏人手去维护工具本身”才是当下痛点,优先选择包含工具托管或原生转换功能的产品。
单个业务动作尚未跑通前,切忌为付费版本买单
一个罗列着几十上百个工具的 Agent 演示看起来极具视觉冲击力,但在实际生产中几乎无法被安全部门合规放行。必须从单点、可逆、职责明确的动作做起。此外,静态的 Agent 指令与动态的工具 API 承担着完全不同的职责,在架构上有着严格的区分:系统指令与工具 API 面临着截然不同的复用边界。切忌试图通过采购网关,来掩盖业务顶层架构定义的混乱。
实战步骤:完整测算单个 Agent 的端到端业务链路
找出一个业务部门当前付费让人工处理的高频工单路径,例如“查询订单状态并回写更新客服工单”。将这条路径完整拆解为技术交互链路:用户诉求输入、模型推理意图、工具检索发现、凭据安全置换、工具执行调用、返回业务结果、人工介入确认以及全链路审计归档。
为上述链路中的每一步骤明确具体的负责人并标出月度预算:包含模型 Token 开销、网关调用量、网络检索或浏览器执行量、工具底座托管算力、日志归档存储、安全合规复审以及潜在的值班运维投入。将临时性的营销推广优惠在核算表中单独标记,避免将其误当作长久不变的架构成本基础。
以受控的小规模流量持续试跑该边界一周。确保测试的业务动作是可逆的;配置模型商的账单硬顶、网关层的预算熔断阈值,以及针对授权失效、工具异常响应或低劣输出时的强制终止逻辑。拉上下游业务系统的技术负责人共同复盘日志记录,而不要仅局限于 AI 开发团队内部。
具体抉择立竿见影:
- 若内部 API 适配转化与出入站身份认证占据了主要精力,快速对 AgentCore 或 TrueFoundry 进行 PoC 验证。
- 若网络检索是当前阻碍产品推向市场的唯一卡点,直接选用 Vercel,并在预算表中记入 8 月 31 日之后每 1,000 次查询 $7 的长期成本。
- 若核心痛点仅仅是在内部各环境安全共享现成的 MCP 服务凭据,在现有服务群前挂载 Portkey。
- 若统一平台基建是最高纲领,仅在原本已有技术沉淀与团队归属的现状下,对应拓展 Kong 或 Cloudflare。
- 若分析发现引入网关后没有任何一个具体的成本项被消灭,也未能取代任何一套现有运维工作,请保持现状,暂不引入任何 AI 网关。
真正有价值的 AI 网关,必须能够切实抹平一笔真金白银的预算或免去一个运维岗位的负担,同时守住其后方资产系统的权限底线。如果一项功能特性无法带来这些实质结果,它就不构成技术迁移的合理理由。
常见问题解答
什么是 AI 网关?
AI 网关是架构在应用程序与上游 AI 基础设施之间的安全管控层。它提供请求智能路由、异常自动重试、可观测性监控、安全策略拦截与预算消费配额等基础能力。部分现代 AI 网关开始进一步纳管工具调用与 Agent-to-Agent(A2A)流量,但在选型时应将其与纯粹的模型路由能力分开评估。
什么是 MCP 网关?
MCP 网关用于管控客户端发现与调用 Model Context Protocol(模型上下文协议)服务和工具的核心链路。其核心功能涵盖调用方身份验证、上游凭据动态托管注入、细粒度工具授权、人工审批挂起、结构化日志留存,部分方案还整合了工具格式转换与托管运行环境。
哪些 AI 网关提供免费额度?
Vercel 每月提供 $5 免费额度;Portkey 提供永久免费的 Developer 方案;TrueFoundry 提供 $0 Developer 版本及 7 天全功能试用;Kong 提供 30 天无绑定免费试用;Cloudflare 的核心网关能力在所有套餐中均完全免费。AgentCore Gateway 采用纯按量计费,但 AWS 新客户最高可申请 $200 抵扣额度。需要注意的是,模型推理、实际工具使用、系统算力、日志留存及高级安全策略往往需要单独付费。
哪款 LLM 网关最适合 Agent 场景?
针对托管 Agent 工具这一特定命题,Amazon Bedrock AgentCore Gateway 的综合工业化程度最高。如果追求零配置快速接入网络搜索,Vercel 体验更好;如果针对现有远端 MCP 服务进行统一鉴权与审计,Portkey 是利落的选择;对于私有网络与混合工具托管,TrueFoundry 优势明显;已有成熟 Konnect 平台的大型组织适合 Kong;而在追求极致低门槛的边缘架构中,Cloudflare 表现出众。如果仅针对纯 Token 路由进行选型,建议单独对比各家的模型加价策略、缓存机制与流控表现。
获取《AI 业务工作流审计清单》
将一个模糊的 Agent 设想,梳理为责任人明晰、预算边界可控、权限隔离健全且具备熔断条件的落地业务流。免费订阅周刊获取实战审计清单。
2026年9月3日







