관리형 에이전트 툴을 지원하는 최고의 AI 게이트웨이 (2026년)

Amazon Bedrock AgentCore Gateway는 전반적으로 가장 강력한 관리형 툴 게이트웨이입니다. Vercel AI Gateway는 에이전트에게 상용 환경 수준의 웹 검색 기능을 제공하는 가장 빠른 방법입니다. 월 1,000,000건의 에이전트 인터랙션이 발생할 때 AgentCore의 게이트웨이 계층 비용은 모델, 웹 검색, 백엔드 청구액을 제외하고 약 $40.02입니다. 반면 Vercel은 별도의 Exa 계정과 API 키 설정 작업을 없애주지만, August 31, 2026 이후에는 1,000회 검색당 $7를 청구합니다.

핵심 요약: 어떤 게이트웨이가 특정 작업에 가장 적합한가요?

AI 게이트웨이가 에이전트 스택에서 가치를 입증하려면 모델 앞에 단순한 엔드포인트 하나를 추가하는 것을 넘어 기존의 제어 영역을 줄여주어야 합니다. 관리형 툴 측면에서 중요한 기준은 게이트웨이가 기존 서비스를 툴로 변환할 수 있는지, 자격 증명을 보관하는지, 호출 권한을 통제하는지, 에이전트가 올바른 툴을 찾도록 지원하는지, 그리고 발생한 작업을 기록하는지 여부입니다.

Amazon Bedrock AgentCore Gateway를 선택해야 하는 경우: 에이전트가 단일 관리형 식별 경계 내에서 내부 API 및 SaaS 시스템을 호출해야 할 때 적합합니다. OpenAPI, Smithy, Lambda 소스를 MCP 호환 툴로 변환할 수 있으며 인바운드 및 아웃바운드 인증을 모두 중개합니다.

Vercel AI Gateway를 선택해야 하는 경우: 당장 해결해야 할 과제가 웹 검색 연동일 때 적합합니다. 내장된 Exa 연동 덕분에 별도의 계정, API 키, 결제 관계를 설정할 필요가 없습니다. 이는 실질적인 워크플로우 단축 효과를 제공하지만 회사의 내부 API를 통제된 툴로 변환하는 것보다는 범위가 좁습니다.

Portkey를 선택해야 하는 경우: 이미 원격 MCP 서버가 구축되어 있고 인증, 승인, 감사 로그 계층만 필요한 경우에 적합합니다. TrueFoundry를 선택해야 하는 경우: 배포 환경, 호스팅형 stdio 서버, 가상 MCP 또는 호출 전후 가드레일이 중요할 때 적합합니다. Kong을 선택해야 하는 경우: 이미 Konnect로 기존 API 자산을 제어하고 있을 때 유용합니다. Cloudflare를 선택해야 하는 경우: 무료 핵심 게이트웨이 기능을 선호하며 별도의 Agents 플랫폼에서 관리형 툴을 직접 조립할 준비가 된 팀에 적합합니다.

관리형 에이전트 툴의 정의와 한계

모델 게이트웨이는 프롬프트를 모델로 라우팅합니다. 반면 MCP 게이트웨이는 에이전트가 툴을 검색하고 호출하는 방식을 제어합니다. 일부 제품은 두 가지를 모두 수행하지만 비용 청구 방식과 장애 모드는 여전히 별개로 작동합니다.

이러한 구분이 중요한 이유는 모델 호출이 대개 정보를 읽고 답변을 생성하는 반면, 툴 호출은 시스템의 상태를 변경할 수 있기 때문입니다. 고객 지원 에이전트는 모델을 사용해 요청을 해석한 후 계정 조회, 크레딧 지급, 티켓 업데이트와 같은 툴을 호출할 수 있습니다. 모델 게이트웨이는 첫 번째 단계를 통제할 수 있지만 두 번째 단계의 권한 부여 여부까지는 파악하지 못합니다.

신뢰할 수 있는 관리형 툴 게이트웨이는 다음과 같은 핵심 작업을 처리합니다.

• 프로비저닝: 각 애플리케이션 팀이 연결 코드를 매번 다시 작성하지 않아도 API, 함수 또는 원격 MCP 서버를 즉시 사용할 수 있도록 지원합니다.
• 아이덴티티(Identity): 호출 에이전트 또는 사용자를 검증한 뒤 대상 툴에 승인된 자격 증명을 제공합니다.
• 정책(Policy): 호출자가 사용할 수 있는 툴과 작업을 제한하며 필요한 경우 사람의 승인 단계를 거치도록 합니다.
• 검색(Discovery): 모든 툴 스키마를 프롬프트에 전부 로드하지 않고도 모델이 관련성 높은 툴을 선택할 수 있도록 지원합니다.
• 감사(Audit): 어떤 주체가 어떤 파라미터와 결과로 특정 툴을 호출했는지 명확히 기록합니다.

관리형 서비스가 항상 호스팅 실행 환경까지 의미하는 것은 아닙니다. Portkey는 다른 플랫폼에서 호스팅되는 원격 MCP 서버를 프록시하고 통제할 수 있습니다. Cloudflare Agents는 에이전트를 호스팅하고 관리형 툴을 제공하지만 Cloudflare AI Gateway는 여전히 모델 제어 영역으로 남습니다. Vercel은 Exa Search를 기본 프로비저닝하지만 이 단일 통합이 AgentCore와 같은 OpenAPI-to-MCP 변환 계층을 제공하지는 않습니다.

실무적인 관점에서 가장 중요한 결과는 별도의 툴 플레인 비용 청구서가 발생한다는 점입니다. 여기에는 게이트웨이 호출, 검색 또는 브라우저 사용량, 툴 호스팅, 시크릿 관리, 로그 보관, 승인 워크플로우, 장애 발생 시 대응 엔지니어 리소스가 포함됩니다. 모델 마진이 없는 게이트웨이를 사용하더라도 이러한 툴 플레인 비용은 그대로 유지됩니다.

가장 저렴한 모델 라우팅 경로와 가장 경제적인 에이전트 워크플로우가 일치하지 않는 이유가 여기에 있습니다. 토큰 라우팅 최적화가 주된 목적이라면 AI 모델 게이트웨이 추론 비용 비교 분석을 참고하는 것이 좋습니다. 반면 관리형 에이전트 툴 도입은 별도의 비용 산정 시트가 필요합니다.

선정 기준

이번 순위 평가는 네 가지 구매자 질문을 중심으로 진행되었습니다. 첫째, 해당 제품이 툴 작업(변환, 레지스트리, 자격 증명, 검색, 실행, A2A 트래픽 등)을 얼마나 많이 직접 관리하는가? 둘째, 접근 권한을 사람, 에이전트, 워크스페이스 또는 개별 툴 단위로 세분화할 수 있는가? 셋째, 공개된 현재 가격표를 바탕으로 상용 청구액을 직접 계산할 수 있는가? 넷째, 제품의 기능적 제약(배포 경계, 분리된 제품 영역, 요청 허용량, 제어 플레인 고정 비용 등)이 어디서 발생하는가?

가격 정책 페이지, 제품 문서, 티어 한도, 출시 발표 내용은 August 27, 2026 기준으로 실시간 검증을 마쳤습니다. 순위에 오른 각 섹션에는 최신 제품 화면 또는 공식 문서 스크린샷이 포함되어 있습니다. 이번 검토는 실제 상용 트래픽을 주입한 벤치마크 테스트는 아니므로 지연 시간, 가동 시간(업타임), 툴 호출 성공률, 기술 지원 품질을 실험 결과로 제시하지는 않습니다.

선정된 6개의 게이트웨이는 각기 다른 업무 영역에서 뚜렷한 타당성을 입증했습니다. 단순 모델 라우팅만 제공하거나 관리형 툴에 대한 구체적인 평가 기준을 충족하지 못한 제품, 또는 유의미한 가격 정보를 모두 영업 상담 뒤로 숨긴 제품은 제외되었습니다. 가격 정책이 공개되었다고 해서 높은 순위가 보장된 것은 아니지만 운영상의 경제성을 객관적으로 판단할 수 있었습니다.

단순한 기능 목록 나열보다는 엔지니어링 및 보안 운영 부담을 얼마나 실질적으로 줄여주는지에 우선순위를 두었습니다. 기능이 좁은 통합이라도 소규모 팀이 이번 주 당장 직면한 단계를 완벽히 제거해 준다면 거대한 플랫폼보다 더 가치 있을 수 있습니다. 반대로 포괄적인 플랫폼은 그 추가적인 제어 영역이 엔지니어가 직접 구축해야 할 작업을 대체할 때에만 상위 순위를 차지합니다.

1. Amazon Bedrock AgentCore Gateway: 엔터프라이즈 툴 플레인을 위한 최적의 선택

Amazon Bedrock AgentCore Gateway는 에이전트가 중앙 집중식 관리 지점을 통해 내부 API, AWS 함수, SaaS 툴, 다른 에이전트, 모델 등 다양한 인프라 자산에 접근해야 할 때 가장 권장되는 솔루션입니다.

가장 뛰어난 기능은 변환 능력입니다. AgentCore Gateway는 OpenAPI 정의, Smithy 모델 또는 AWS Lambda 함수를 입력받아 MCP 호환 툴로 직접 노출할 수 있습니다. 플랫폼 엔지니어링 팀은 개별 에이전트 팀에게 별도의 MCP 어댑터를 작성하고 호스팅하도록 요청할 필요 없이 기존 휴가 관리 API를 게이트웨이 뒤에 바로 배치할 수 있습니다.

식별(Identity) 계층 또한 견고합니다. AgentCore는 호출자에 대한 인바운드 인증과 대상 시스템에 대한 아웃바운드 인증을 모두 처리합니다. OAuth 플로우, 토큰 갱신, 보안 자격 증명 스토리지를 기본 지원합니다. 에이전트는 툴 호출 권한만 부여받으며 작업을 수행하는 Salesforce, Slack, Jira의 원천 자격 증명을 직접 소유할 필요가 없습니다. Salesforce, Slack, Jira, Asana, Zendesk에 대한 원클릭 연동도 기본 지원됩니다.

툴 카탈로그가 확장됨에 따라 시맨틱 툴 선택(semantic tool selection) 기능은 에이전트가 전체 스키마를 프롬프트 컨텍스트에 모두 넣지 않고도 적합한 툴을 찾을 수 있도록 돕습니다. 이는 프롬프트 토큰 낭비를 줄이고 수많은 내부 작업 카탈로그의 활용성을 높여줍니다. 게이트웨이는 HTTP 서비스와 A2A(Agent-to-Agent) 트래픽 전면에도 배치될 수 있으므로 동일한 보안 정책 경계를 MCP 너머로 확장할 수 있습니다.

단점은 운영 복잡성입니다. AgentCore가 게이트웨이 인프라를 추상화해 주지만 사용자는 여전히 AWS IAM 식별 체계, 리전 구성, 서비스 권한, 로깅 정책, 노출 대상 업스트림 시스템에 대한 이해를 갖추어야 합니다. AWS 운영 역량이 없는 팀의 경우 어댑터 코딩 작업은 줄어들지 몰라도 새로운 클라우드 관리 부담이 생길 수 있습니다. 따라서 AWS가 이미 표준 제어 플레인으로 승인되어 있거나 관리형 식별 체계 및 API 변환 기능이 해당 마이그레이션을 정당화할 때 가장 적합합니다.

최적의 사용 사례: 기존 API와 함수를 거버넌스가 적용된 에이전트 툴로 변환하려는 엔터프라이즈 환경
주요 강점: OpenAPI, Smithy, Lambda 변환 기능 및 강력한 인바운드/아웃바운드 인증 지원
가격: 게이트웨이 API 호출 1,000회당 $0.005, Search API 호출 1,000회당 $0.025, 인덱싱된 툴 100개당 월 $0.02 (선약정 또는 최소 수수료 없음)
무료 체험: 사용량 기반 과금; 신규 AWS 고객은 AWS Free Tier를 통해 최대 $200 크레딧 수령 가능

추천하는 초기 AgentCore 게이트웨이 배포 단계

가장 안전한 첫 배포 방식은 전체 API 자산을 한 번에 연결하는 대신 명확히 격리된 단일 작업부터 시작하는 것입니다. 명확한 소유자가 있고 실행 결과의 롤백이 가능하며 보안 팀이 이미 이해하고 있는 권한 모델을 갖춘 워크플로우를 선정하십시오.

1. 1

   단일 승인 작업 매핑

   휴가 잔여일수 조회와 같이 명확한 OpenAPI 서비스나 Lambda 함수를 하나 선택하십시오. 초기 에이전트가 필요로 하는 최소한의 오퍼레이션만 노출하십시오. 초기 툴 노출 범위를 좁게 유지해야 권한 검증과 실패 원인 분석이 쉬워집니다.

2. 2

   인바운드 및 아웃바운드 식별 정의

   게이트웨이에 접근 가능한 호출자 권한과 대상 시스템에 접근할 아웃바운드 자격 증명을 각각 명명하십시오. 이를 독립된 결정으로 취급해야 합니다. 에이전트의 권한이 업스트림 서비스의 슈퍼 관리자 자격 증명을 그대로 복제해서는 안 됩니다.

3. 3

   전체 자산이 아닌 명확한 설명 인덱싱

   제한된 툴 세트에 대해 명확한 이름과 설명을 추가하십시오. 설명 자체만으로도 의도한 선택이 명확해진 이후에만 시맨틱 선택 기능을 활성화하십시오. 유사한 역할을 하는 두 툴이 모호하게 설명되어 있다면 검색 계층도 올바른 선택을 보장할 수 없습니다.

4. 4

   소규모 트래픽 라우팅 및 비용 측정

   워크플로우의 일부 트래픽만 제어 라우팅하고 Search API 및 InvokeTool 호출 횟수를 정밀히 측정하십시오. 모델, 웹 검색, 런타임, 백엔드 비용을 별도 항목으로 분리해 집계하십시오. 작업 성공률과 권한 감사 로그가 안정화된 후에만 적용 범위를 확장하십시오.

이미 원격 MCP 서버를 자체 운영 중이며 통합 인증 및 감사 프록시만 필요한 환경이라면 AgentCore 대신 Portkey를 선택하는 것이 더 단순합니다. 또한 웹 검색이 유일하게 필요한 기능이고 내부 시스템 변환보다 빠른 개발 속도가 우선이라면 Vercel이 더 직접적인 경로입니다.

2. Vercel AI Gateway: 즉시 사용 가능한 관리형 검색에 최적화

Vercel AI Gateway는 에이전트에 실시간 웹 검색 기능이 필요할 때 새로운 벤더 계정, API 키 발급, 코드 통합, 결제 설정 작업을 거치지 않고 가장 빠르게 도입할 수 있는 대안입니다.

Exa Search가 이제 AI Gateway의 기본 도구로 통합되었습니다. 별도의 Exa 계정이나 API 키 없이도 모든 AI Gateway 지원 모델과 즉시 연동됩니다. 애플리케이션에서 gateway.tools.exaSearch()를 툴로 전달하기만 하면 게이트웨이가 Exa로 쿼리를 전송하고 모델에 결과를 반환하며 모델이 검색을 마칠 때까지 루프를 자동으로 유지합니다.

이로 인해 개발 사이클이 획기적으로 줄어듭니다. 소규모 엔지니어링 팀은 별도의 구매 승인을 받거나 시크릿 환경 변수를 추가하지 않고도 근거 기반 검색 기능을 추가할 수 있습니다. 이 제품의 핵심 가치는 영구적인 가격 할인이라기보다는 설정 작업의 단축에 있습니다. Vercel의 Exa Search 정가는 1,000개 쿼리당 $7이며 마진 없이 원가 그대로 청구됩니다. 해당 검색 기능은 August 31, 2026까지만 무료로 제공되므로 실제 운영 계획을 수립할 때는 프로모션 종료 후의 가격을 반영해야 합니다.

월 100,000건의 검색을 수행할 경우 Exa 사용 요금은 $700이 됩니다. Vercel은 플랫폼 기본 수수료나 모델 토큰 마진을 부과하지 않지만 거버넌스 기능을 활성화하면 추가 사용 요금이 발생할 수 있습니다. Custom Reporting은 쓰기 1,000회당 $0.075, 리포팅 쿼리 1,000회당 $5가 청구됩니다. 팀 전역 프로바이더 허용 목록(allowlist) 기능은 Pro 및 Enterprise 플랜에서 성공한 요청 1,000건당 $0.10가 부과되는 반면 요청 단위의 only 필터는 추가 비용이 없습니다. 팀 전역 무데이터 보존(zero-data retention, ZDR) 역시 Pro 및 Enterprise에서 1,000개 요청당 $0.10가 부과되지만 요청별 ZDR 설정은 추가 비용이 발생하지 않습니다.

한계는 기능의 확장성입니다. Vercel은 유용한 검색 툴의 설정 복잡성을 완전히 없앴지만 사설 OpenAPI 환경을 위한 범용 변환 계층으로 설계된 것은 아닙니다. 조직의 요구사항이 "인사, 결제, 재고 관리 API를 아웃바운드 OAuth를 지원하는 검색 가능한 툴로 변환할 것"이라면 AgentCore나 TrueFoundry가 훨씬 더 적합합니다.

최적의 사용 사례: AI SDK 애플리케이션에 관리형 검색을 신속하게 추가하려는 개발 팀
주요 강점: 별도의 Exa 계정이나 키 발급이 필요 없는 Exa Search 내장 지원
가격: Free 플랜은 대상 모델에 대해 매월 $5 크레딧 포함; Paid 플랜은 구매 크레딧 기반으로 공급자 정가 적용 (토큰 마진 $0); Enterprise는 인보이스 정산 및 볼륨 할인 협의 가능
무료 체험: Free 티어 제공; 유료 크레딧 구매 시 월 $5 무료 크레딧 지급 중단

Free 티어에는 매월 $5 상당의 크레딧, 일부 지원 모델 접근 권한, 낮은 모델별 한도가 적용되며 BYOK(Bring Your Own Key)는 지원되지 않습니다. Paid 티어는 구매한 크레딧을 기반으로 한 종량제 방식이며 전체 모델 카탈로그 잠금 해제, 커스텀 한도 설정, BYOK 지원이 포함되고 선약정은 없습니다. 크레딧을 구매하는 즉시 매월 제공되던 $5 무료 크레딧은 종료됩니다. Enterprise 팀은 결제 수수료가 면제되는 인보이스 결제를 진행할 수 있으며 대규모 토큰 지출에 대한 볼륨 할인을 협의할 수 있습니다.

Vercel이 두 번째로 높은 순위에 오른 이유는 가장 많은 종류의 툴을 지원하기 때문이 아니라 도입 장벽이 극단적으로 낮고 즉시 생산성을 제공하기 때문입니다. 검색 기능 연동이 핵심 목표라면 Vercel이 최적입니다. 하지만 에이전트가 내부 시스템 데이터를 안전하게 조작해야 한다면 단독 솔루션으로 선택해서는 안 됩니다.

3. Portkey: 원격 MCP 서버 전반의 단일 인증 플레인에 최적화

Portkey는 이미 MCP 서버들이 개별적으로 구축되어 있는 상태에서 자격 증명 관리, 권한 부여, 사람 승인, 감사 로그를 처리할 중앙 출입문이 필요할 때 가장 적합합니다.

Portkey MCP Gateway는 MCP 클라이언트와 서버 사이에 위치합니다. 클라이언트는 Portkey에 한 번만 인증합니다. 게이트웨이는 요청된 서버 및 툴에 대한 접근 권한을 확인하고, 승인된 업스트림 자격 증명을 주입하여 호출을 프록시하며, 요청과 응답을 감사 로그로 기록합니다. 업스트림 인증에는 OAuth 토큰, API 키, 식별 헤더가 지원되며 호출자는 Portkey API 키나 외부 IdP의 토큰을 사용할 수 있습니다.

이는 개별 에이전트 워크스페이스마다 GitHub, Slack 또는 사내 서비스 자격 증명을 일일이 배포하는 데 지친 플랫폼 팀에게 가장 깔끔한 해답을 제공합니다. MCP Registry에 서버 구성과 인증 정보가 안전하게 보관되며 각 워크스페이스 단위로 접근 권한을 할당할 수 있습니다. 민감한 작업이 수행되기 전에 콘텐츠 필터와 휴먼 인 더 루프(human-in-the-loop) 승인 워크플로우를 통해 추가 통제 지점을 설정할 수도 있습니다.

Portkey의 경계는 명확합니다. 모든 툴의 관리형 런타임 역할을 하기보다는 MCP 서버에 대한 접근을 제어하는 프록시 역할에 특화되어 있습니다. 따라서 실제 툴 서버는 어딘가에 이미 호스팅되어 동작하고 있어야 하며 정상적으로 작업을 제공해야 합니다. 조직의 당면 과제가 OpenAPI 서비스의 변환이거나 CLI 기반 stdio MCP 서버의 호스팅이라면 TrueFoundry나 AgentCore가 더 많은 관리 작업을 덜어줍니다.

진입 가격은 합리적이지만 과금 기준 단위가 '기록된 로그 수'라는 점에 유의해야 합니다. Developer 티어는 Free Forever이며 로그 한도 초과 후에도 트래픽 자체는 통과하지만 초과된 로그는 기록되지 않습니다. 따라서 프로토타입 용도로는 적합하지만 상용 환경에서 데이터 조작 내역을 추적하는 용도로는 적절하지 않습니다.

최적의 사용 사례: 기존 원격 MCP 서버에 대한 접근 경로를 단일화하려는 플랫폼 팀
주요 강점: 업스트림 자격 증명 자동 주입 및 워크스페이스별 권한 프로비저닝을 갖춘 단일 클라이언트 인증 경로
가격: Developer 무료; Production 월 $49; Enterprise 커스텀 견적
무료 체험: Free Forever Developer 티어 제공

Developer 티어는 Free Forever 플랜으로 월 10,000건의 로그 기록, 3일간의 로그 보존, 30일간의 메트릭 조회를 지원하며, Portkey 문서에서는 상용 환경에 부적합하다고 명시하고 있습니다. Production 티어는 월 $49에 100,000건의 로그 기록, 30일 로그 보존, 90일 메트릭, RBAC, 서비스 계정 키, 상용 기술 지원, 시맨틱 캐싱을 제공합니다. 초과 요청 100,000건당 $9가 추가됩니다. 따라서 월 1,000,000건의 요청을 기록할 경우 모델 사용료를 제외하고 $130가 발생합니다.

Enterprise 플랜은 커스텀 견적으로 책정되며 월 10,000,000건 이상의 로그 기록 환경을 대상으로 합니다. 커스텀 보존 기간, SSO, 세부 예산 및 속도 제한, 프라이빗 클라우드, VPC 호스팅, 데이터 레이크 내보내기, 커스텀 가드레일 훅, 고급 컴플라이언스 통제 기능이 추가됩니다.

기존 툴 자산이 이미 원격 환경에서 안정적으로 운영되고 있다면 Portkey가 정답입니다. 반면 툴 서버의 호스팅, 변환, 프라이빗 배포 자체가 당면 과제라면 프록시 기능만 구매하는 것은 가장 어려운 숙제를 백로그에 그대로 남겨두는 꼴이 됩니다.

4. TrueFoundry: 프라이빗 MCP 거버넌스 및 다양한 호스팅 툴 포맷에 최적화

TrueFoundry는 VPC 내부나 에어갭(폐쇄망) 환경으로 확장 가능한 관리형 MCP 제어 플레인을 필요로 하는 조직에 가장 강력한 솔루션입니다.

TrueFoundry의 MCP 지원 범위는 원격 프록시를 넘어섭니다. TrueFoundry MCP Gateway는 검증된 레지스트리, 표준 OAuth 플로우, 가상 MCP 서버(Virtual MCP), OpenAPI-to-MCP 변환, 호스팅형 stdio MCP 서버, 툴 호출 전후의 검증 가드레일을 폭넓게 지원합니다. 가상 MCP 서버를 활용하면 여러 기본 서버에서 필요한 툴만 선별하여 특정 팀이나 워크플로우에 단일 앤드포인트 형태로 노출할 수 있습니다.

이러한 유연성은 복잡한 혼합 툴 환경에서 큰 위력을 발휘합니다. 사내에 원격 인사 관리 서버, OpenAPI 기반 결제 서비스, CLI 기반 데이터 분석 툴이 혼재되어 있을 수 있습니다. TrueFoundry는 이 셋이 동일한 호스팅 모델을 사용하는 것처럼 억지로 통일하지 않고도 한곳에서 거버넌스를 적용할 수 있는 방법을 제시합니다. Enterprise 플랜은 제어 플레인과 게이트웨이 플레인 모두에 대해 완전한 VPC 및 에어갭 설치를 지원합니다.

단점은 무료 프로토타입에서 엔터프라이즈 제어 단계로 넘어갈 때 발생하는 급격한 비용 상승입니다. Developer 티어는 유용하지만 제한적입니다. Pro 플랜은 월 $499입니다. Pro Plus는 월 $2,999로 급격히 증가하며 Enterprise는 별도 견적을 받아야 합니다. 상위 티어로 전환하더라도 포함된 툴 호출량당 단가는 개선되지 않습니다. Pro 플랜은 포함된 호출 1,000회당 $0.499 수준인 반면 Pro Plus는 약 $0.600입니다. 즉 볼륨 할인이 아니라 고급 보안 제어, 사용자 수, 연결 서버 수, 확장성을 위해 비용을 지불하는 구조입니다.

최적의 사용 사례: 원격, OpenAPI, 호스팅형 stdio MCP 툴을 프라이빗 환경에서 통합 통제하려는 팀
주요 강점: 가상 MCP, OpenAPI 변환, 호스팅형 stdio 지원, 호출 전후 가드레일 제어
가격: Developer $0, Pro 월 $499, Pro Plus 월 $2,999, Enterprise 별도 견적
무료 체험: 신용카드 등록 없이 7일간 체험 가능

Developer 플랜은 월 $0에 요청 50,000건, 사용자 3명, 등록 MCP 서버 최대 5개, 월 50,000회의 툴 호출을 제공합니다. Pro 플랜은 월 $499에 요청 1,000,000건, 사용자 10명, MCP 서버 최대 25개, 툴 호출 1,000,000회가 포함됩니다. Pro 플랜의 사용량 초과 블록은 월 $499당 요청 2,000,000건과 API 키 5개가 추가됩니다.

Pro Plus 플랜은 월 $2,999에 요청 1,000,000건, 사용자 25명, MCP 서버 최대 50개, 툴 호출 5,000,000회를 제공합니다. 추가 사용량은 영업팀에 문의해야 합니다. Enterprise 플랜은 커스텀 가격이 적용되며 월 10,000,000건 이상의 요청 환경을 대상으로 사용자 수, MCP 서버 수, 툴 호출 한도를 맞춤 설정합니다.

다양한 툴 포맷을 변환하고 프라이빗 환경에 직접 배포하는 것이 당면 과제라면 TrueFoundry가 Portkey보다 우수합니다. 반면 서버가 이미 구축되어 있고 비용 효율적인 인증 프록시만 원한다면 Portkey가 합리적입니다. AWS 네이티브 함수 및 API 변환, 광범위한 IAM 통합이 중심이라면 AgentCore가 최선의 선택입니다.

5. Kong AI Gateway: 이미 Konnect를 도입한 인프라에 최적화

Kong AI Gateway는 회사의 API 자산이 이미 Konnect로 제어되고 있으며 모델, MCP, 에이전트 간 트래픽으로 그 거버넌스를 확장하고자 할 때 가장 적합합니다.

Kong은 April 13, 2026에 Kong AI Gateway 3.14를 출시하며 Agent Gateway를 상용 환경용으로 정식 지원(GA)하기 시작했습니다. 이 플랫폼은 세 가지 연계된 제어 영역을 제공합니다. 모델 트래픽을 위한 LLM Gateway, 도구 및 데이터 접근을 위한 MCP Gateway, 그리고 에이전트 간 통신을 위한 Agent Gateway입니다. Kong의 공식 발표에 따르면 에이전트 식별 및 인증, 다중 트래픽 유형에 걸친 통합 옵저버빌리티, 에이전트 간 메시지 실시간 검사 기능이 추가되었습니다.

기존 Konnect 고객에게 이는 매우 합리적인 통합 경로입니다. 프로토콜마다 별도의 게이트웨이를 구매할 필요 없이 기존 플랫폼 엔지니어링 팀이 일반 API에 적용하던 정책과 운영 방식을 신규 에이전트 트래픽으로 그대로 확장할 수 있습니다. Plus 티어는 무제한 MCP 프록시와 A2A 에이전트를 허용하며, 고유 LLM 모델은 최대 5개까지 프록시할 수 있습니다.

반면 신규 인프라로 도입하려는 팀에게는 비용이 장벽이 될 수 있습니다. 가장 저렴한 Plus 서버리스 제어 플레인이 월 $25이며 유료 AI 플러그인을 통해 프록시되는 고유 LLM 모델마다 월 $100가 추가됩니다. 모델 5개와 서버리스 제어 플레인 1개만 구성해도 추론 비용, 추가 API 요청, 대역폭, 애드온 요금을 제외하고 월 $525가 발생합니다. 하이브리드 제어 플레인은 월 $200로 상승하며 전용 클라우드(Dedicated cloud)는 월 $500에 GB당 $0.15가 추가됩니다.

최적의 사용 사례: 기존 API 거버넌스 체계를 LLM, MCP, A2A 트래픽으로 확장하려는 Kong 사용자
주요 강점: 전체 AI 데이터 경로를 아우르는 단일 거버넌스 제품군
가격: 30일 무료 체험 $0; Plus 플랜은 게이트웨이 및 모델 단위 과금; Enterprise는 연간 계약 기반 커스텀 요금
무료 체험: 신용카드 등록 없이 30일간 무료 체험 가능

30일 무료 체험은 $0에 신용카드 없이 시작할 수 있으며 게이트웨이 제한이 해제되고 30일간의 분석 데이터를 보존합니다. Plus 플랜은 최대 5개의 서버리스, 2개의 하이브리드, 2개의 전용 클라우드 게이트웨이를 지원합니다. 월 1,000,000건의 API 요청이 포함되며 초과 요청 1,000,000건당 $200가 청구되고 월 최대 요청은 10,000,000건으로 제한됩니다.

Enterprise 플랜은 게이트웨이 및 모델 프록시 수 제한이 없으며 유료 AI Gateway 플러그인과 AI Gateway Manager가 기본 포함되고 연간 커스텀 계약을 맺습니다. 전사적 차원의 도입에는 적합하지만 공개된 가격표만으로 총소유비용을 사전 산정하기는 어렵습니다.

Kong의 선택 기준은 명확합니다. 이미 검증된 플랫폼의 가치가 존재하는지 확인하십시오. 사내에 Konnect가 이미 도입되어 결제 중이고 담당 인력과 보안 승인이 완료되어 있다면 Agent Gateway는 추가 벤더 도입 부담을 없애줍니다. 반면 그렇지 않은 조직이 소규모 에이전트 파일럿을 위해 Kong을 선택하는 것은 검증되지도 않은 에이전트를 위해 월 $525의 API 플랫폼 기본 비용을 먼저 지불하는 것과 같습니다.

6. Cloudflare AI Gateway 및 Agents: 최적의 저비용 엣지 스택

Cloudflare AI Gateway는 무료 모델 게이트웨이와 독립된 Cloudflare Agents 런타임 및 툴 플랫폼을 직접 조합하여 저렴한 플랫폼 비용으로 시스템을 구축하려는 팀에 최적입니다.

Cloudflare AI Gateway의 핵심 기능인 대시보드 분석, 캐싱, 레이트 리미팅, DLP 스캐닝은 모든 플랜에서 완전 무료로 제공됩니다. AI 프로바이더의 모델 추론 비용은 마진 없이 그대로 전달됩니다. 선택 사항인 Unified Billing을 사용할 경우 구매한 크레딧에 5%의 수수료가 추가되므로 $2,000 크레딧을 구매하면 $100의 수수료가 발생합니다.

관리형 에이전트 툴은 인접 플랫폼인 Cloudflare Agents에서 지원됩니다. 이는 Browser, Sandbox, AI Search, MCP, Payments 등의 툴을 지원하는 지속성 에이전트(durable agent) 런타임입니다. 스타터 킷에는 서버사이드 및 클라이언트사이드 툴, 휴먼 인 더 루프 승인, 태스크 스케줄링이 포함되어 있습니다. 런타임 모델로는 OpenAI, Anthropic, Google Gemini 및 기타 공급자를 연결할 수 있습니다.

매우 뛰어난 성능의 스택이지만 완전히 일원화된 단일 제품 영역은 아닙니다. AI Gateway는 모델 트래픽을 통제하고, Agents는 루프를 실행하며 툴을 제공합니다. Workers와 연동된 개별 도구들은 각자의 사용량 한도와 청구 기준을 가집니다. 따라서 내부 API 변환, 아웃바운드 OAuth 자격 증명 보관, 개별 툴 호출에 대한 승인 거버넌스를 하나의 통합 창구에서 관리해야 하는 조직이라면 무료 코어 게이트웨이가 이 모든 기능을 포괄한다고 오해해서는 안 됩니다.

최적의 사용 사례: 관리형 에이전트 런타임과 함께 비용 부담 없는 게이트웨이 제어 기능을 원하는 엣지 네이티브 개발 팀
주요 강점: 무료 코어 게이트웨이와 Cloudflare Agents 기반의 Browser, Sandbox, AI Search, MCP, Payments 연동
가격: 모든 플랜에서 게이트웨이 코어 무료; Workers Free와 Workers Paid에 따라 로그 저장 한도 상이; Unified Billing 선택 시 5% 추가 수수료
무료 체험: 무료 코어 게이트웨이 및 Workers Free 기본 제공량 활용 가능

Workers Free는 계정 내 모든 게이트웨이를 합산하여 총 100,000건의 영구 로그를 보존합니다. Workers Paid는 게이트웨이당 10,000,000건의 로그를 저장할 수 있습니다. Logpush 기능은 Workers Paid에서 사용 가능하며 매월 10,000,000건의 요청이 포함되고 초과 1,000,000건당 $0.05가 부과됩니다. 가드레일 평가는 Workers AI의 토큰 기반 추론을 사용하므로 게이트웨이 코어가 무료라고 해서 모든 정책 실행까지 무료인 것은 아닙니다.

이미 Workers 환경을 기반으로 개발을 진행 중이며 모델 제어, 상태 유지 에이전트, 브라우저 자동화, 검색, MCP를 엣지 가까이에서 함께 운영하길 원한다면 Cloudflare가 유리합니다. 반면 저렴한 비용보다 엄격히 감사 가능한 단일 툴 제어 플레인을 구축하는 것이 더 중요하다면 AgentCore나 TrueFoundry가 더 명확한 경계를 제시합니다.

최종 선택 가이드

Amazon Bedrock AgentCore Gateway: 에이전트가 내부 시스템을 호출해야 하며 엔터프라이즈 차원에서 이러한 툴을 변환, 인증, 검색, 실행할 관리형 플랫폼이 필요할 때 선택하십시오. 반면 대다수 툴이 이미 안정적인 MCP 서버 형태로 운영 중이라면 더 가벼운 제품으로 전환하는 것이 좋습니다.

Vercel AI Gateway: 검색 기능 부재가 프로덕션 출시를 가로막는 유일한 병목일 때 선택하십시오. 반면 워크플로우가 내부 데이터베이스를 직접 수정해야 하거나 복잡한 사설 도구들을 연결하고 광범위한 아웃바운드 OAuth를 유지해야 한다면 적합하지 않습니다.

Portkey: MCP 서버가 이미 배포되어 있고 모든 클라이언트가 단일 인증 지점을 거치도록 강제하고자 할 때 선택하십시오. 별도의 에이전트 런타임을 통째로 도입하지 않고 레지스트리, 워크스페이스별 접근 통제, 콘텐츠 필터, 승인, 로그만 추가하려는 플랫폼 팀에 매우 합리적입니다. 반면 툴 서버의 호스팅이나 변환 작업이 선행되어야 한다면 다른 대안을 찾아야 합니다.

TrueFoundry: 폐쇄망 배포, 호스팅형 stdio 툴, OpenAPI 변환, 가상 MCP 또는 호출 전후 가드레일이 핵심 요구사항일 때 선택하십시오. 비용 효율적인 원격 프록시만 필요하다면 Portkey를, AWS 중심의 인프라라면 AgentCore를 선택하는 것이 낫습니다.

Kong AI Gateway: Konnect가 이미 전사 API 제어 플레인으로 사용되고 있을 때 선택하십시오. 기존 전문 인력, 보안 정책, 인프라 승인을 재활용할 수 있어 공개된 신규 도입 비용보다 훨씬 경제적으로 에이전트 계층을 확장할 수 있습니다. 반면 소규모 파일럿을 위해 Kong을 처음부터 도입하는 것은 피해야 합니다.

Cloudflare AI Gateway 및 Agents: 이미 Workers 생태계에서 개발을 진행하고 있으며 게이트웨이, 런타임, 툴을 직접 조합하여 아키텍처를 유연하게 구성할 준비가 되어 있을 때 선택하십시오. 반면 보안이나 컴플라이언스 팀이 모델과 툴 트래픽 모두를 통제하는 단일 콘솔과 책임자를 요구한다면 부합하지 않습니다.

때로는 새로운 게이트웨이를 도입하지 않는 것이 최선의 결정일 수 있습니다. 단일 공급자가 워크플로우에 필요한 모델, 툴, 식별 체계, 로그, 예산 통제를 이미 만족스럽게 제공하고 있다면 또 다른 제어 계층을 추가하는 것은 실질적인 업무 절감 없이 장애 접점만 늘리는 결과를 초래합니다. 도입을 결정하기 전에 해당 게이트웨이가 조직에서 실제로 없애줄 수 있는 계정, 시크릿, 어댑터, 정책, 장애 호출 담당자가 구체적으로 무엇인지 명시해 보십시오.

툴 플레인 비용 청구서: 무료 게이트웨이가 더 많은 비용을 초래하는 이유

게이트웨이 자체의 이용료와 툴 실행 요금은 반드시 별개의 라인으로 분리하여 산정해야 합니다. 현재 검색 기능의 과금 사례를 보면 이 차이가 극명하게 드러납니다. AWS Web Search와 Vercel Exa Search는 모두 1,000회 쿼리당 $7의 정가를 책정하고 있습니다.

월 100,000건의 에이전트 인터랙션이 발생하고, 인터랙션마다 1회의 시맨틱 툴 검색, 3회의 툴 호출, 100개의 인덱싱된 툴, 1회의 웹 검색이 동반된다고 가정해 보겠습니다. AgentCore의 순수 게이트웨이 계층 비용은 $4.02에 불과합니다 (Search API $2.50, 툴 호출 $1.50, 인덱싱 $0.02). 그러나 Web Search 사용료로 $700가 추가됩니다. 따라서 모델, 런타임, 정책, 옵저버빌리티, 네트워크, 백엔드 서비스 비용을 제외하고도 눈에 보이는 금액만 $704.02에 달합니다.

Vercel의 토큰 게이트웨이는 플랫폼 수수료가 없습니다. 하지만 August 31 이후 100,000건의 Exa 검색을 수행하면 Exa 청구액으로 $700가 발생합니다. 결과적으로 모델 및 추가 리포팅, 정책 요금을 제외한 기본 청구액은 $700가 됩니다.

여기서 발생하는 $4.02의 차이만 보고 전체 아키텍처를 결정해서는 안 됩니다. AgentCore의 견적에는 시맨틱 툴 검색과 인터랙션당 3회의 내부 툴 호출 비용이 모두 포함되어 있습니다. Vercel의 견적은 네이티브 웹 검색 연동만을 처리한 비용입니다. 중요한 점은 어느 쪽이 4달러 더 저렴한가가 아니라 두 솔루션 모두 플랫폼 이용료가 극히 적거나 없는 게이트웨이 뒤편에 $700라는 거대한 툴 플레인 요금을 숨기고 있다는 사실입니다.

이러한 현실적인 비용 구조는 다른 게이트웨이의 평가에도 그대로 적용됩니다.

• Portkey: Production 플랜에서 모델 및 MCP 서버 호스팅 비용을 제외하고도 기록 요청 1,000,000건당 $130의 비용이 발생합니다.
• TrueFoundry: Pro 플랜은 월 툴 호출 1,000,000회에 $499이지만, Pro Plus는 5,000,000회에 $2,999입니다. 상위 티어로 가더라도 단가 할인은 적용되지 않습니다.
• Kong: 모델 5개를 프록시하고 가장 저렴한 서버리스 제어 플레인을 선택해도 추론료와 추가 비용을 제외하고 월 $525부터 시작합니다.
• Cloudflare: 코어 게이트웨이는 무료이지만 Unified Billing을 쓰면 구매 크레딧 $2,000당 $100의 수수료가 붙고 Workers 및 개별 툴 사용량은 별도 청구됩니다.

프로바이더가 지원하는 경우 게이트웨이 후면에 반드시 엄격한 API 지출 한도 설정을 적용하십시오. 게이트웨이 차원의 예산 통제 기능이 트래픽을 차단해 줄 수는 있지만, 다른 경로로 유출되어 사용될 수 있는 자격 증명의 유일한 안전장치가 되어서는 안 됩니다.

피해야 할 선택 기준

내부 API 변환이 주목적인 경우 Vercel을 피하십시오

Vercel의 관리형 Exa 연동이 가치 있는 이유는 해당 기능이 매우 좁은 영역에 정확히 집중되어 있기 때문입니다. 이 사례를 바탕으로 Vercel 게이트웨이가 사설 OpenAPI 자산을 변환하고, 모든 아웃바운드 자격 증명을 관리하며, 내부 인프라 작업을 알아서 거버넌스해 줄 것이라고 확대 해석해서는 안 됩니다. 이러한 요구사항에는 AgentCore나 TrueFoundry가 적합합니다.

소규모 신규 파일럿 구축에 Kong을 선택하지 마십시오

Kong은 엔터프라이즈 환경에 훌륭한 선택이 될 수 있지만 첫 실험 단계에서는 잘못된 선택이 될 수 있습니다. 5개의 모델 프록시와 가장 저렴한 Plus 서버리스 제어 플레인만 구성해도 추론 비용을 제외하고 매달 $525가 청구됩니다. 확장할 기존 Konnect 인프라가 사내에 없다면 먼저 워크플로우를 구현하고 실제 제어 요구사항이 증명된 이후에 대규모 플랫폼을 고려하십시오.

단일 정책 플레인이 필수인 경우 Cloudflare를 피하십시오

Cloudflare AI Gateway와 Cloudflare Agents는 훌륭한 시너지를 내지만 여전히 서로 분리된 제품군입니다. 무료 코어 게이트웨이라는 이점에 매몰되어 아키텍처 설계를 소홀히 해서는 안 됩니다. 모델 로그, 툴 실행, 사람의 승인, 시크릿 관리, 인시던트 대응을 담당할 주체가 어느 플랫폼인지 명확히 정의하기 전까지는 이를 완전한 단일 제어 플레인이라 부를 수 없습니다.

MCP 서버 소유자가 없는 환경에서 Portkey를 단독 도입하지 마십시오

거버넌스 프록시가 소유자 없는 툴 서버를 대신 수리해 줄 수는 없습니다. 원격 MCP 엔드포인트가 다운되거나, 권한 스코프가 유출되거나, 스키마가 변경되면 Portkey는 실패 로그를 기록할 뿐 서비스를 복구하는 것은 별도 엔지니어링 팀의 몫입니다. 호스팅이나 변환 인프라 자체가 결여되어 있다면 이를 직접 제공하는 제품을 선택해야 합니다.

단 하나의 작업이라도 가치를 입증하기 전까지 유료 티어를 결제하지 마십시오

수많은 툴 카탈로그를 거느린 에이전트는 겉보기에 화려하지만 현실적으로 권한 통제가 극도로 어렵습니다. 되돌릴 수 있는 단일 작업, 명확한 책임자, 확실한 중단 조건으로 작게 시작하십시오. 재사용 가능한 지침과 호출 가능한 툴의 차이를 이해하는 것도 중요합니다. 에이전트 스킬과 툴 API는 서로 다른 재사용 문제를 해결합니다. 설계상의 정의 문제를 해결하기 위해 불필요한 게이트웨이를 구매하지 마십시오.

실무 가이드: 단일 에이전트 경로의 총소유비용(TCO) 산정하기

주문 내역 확인 및 지원 티켓 업데이트와 같이 현재 비즈니스에서 이미 사람이 비용을 들여 수행하고 있는 명확한 워크플로우를 하나 선정하십시오. 전체 경로를 순차적으로 정의하십시오: 사용자 요청, 모델 호출, 툴 검색, 자격 증명 교환, 툴 실행, 결과 반환, 사람 승인, 감사 로그 기록.

각 단계마다 명확한 담당자와 월간 비용 항목을 배정하십시오. 모델 토큰, 게이트웨이 요청 수, 검색 또는 브라우저 실행 횟수, 툴 호스팅 비용, 로그 보관 비용, 보안 감사 리소스, 장애 대응 리소스를 빠짐없이 포함해야 합니다. 일시적인 무료 프로모션은 별도의 열에 분리하여 기재함으로써 장기적인 영구 인프라 가정으로 굳어지지 않도록 관리하십시오.

이후 제한된 트래픽을 대상으로 단일 경로를 일주일간 시범 운영해 보십시오. 첫 번째 작업은 반드시 이전 상태로 되돌릴 수 있는 것으로 선택하십시오. 프로바이더 한도, 게이트웨이 한도, 그리고 권한 오류, 툴 오류, 부적절한 출력 발생 시 실행을 멈추는 중단 조건을 철저히 설정하십시오. AI 팀뿐만 아니라 변경 대상 시스템의 실제 소유자와 함께 로그를 검토해야 합니다.

실무적인 선택 기준은 다음과 같습니다.

• 내부 어댑터 개발 및 IAM 식별 관리가 주된 병목이라면 AgentCore나 TrueFoundry 프로토타입을 검토하십시오.
• 단순 검색 기능 연동이 서비스 배포를 막고 있다면 Vercel을 도입하고 August 31 이후 1,000건당 $7의 비용을 책정하십시오.
• 자격 증명 분배 및 보안 관리가 주된 문제라면 기존 MCP 서버 전면에 Portkey를 배치하십시오.
• 플랫폼 통일성이 최우선이라면 Kong이나 Cloudflare의 기존 운영 담당자가 있는 경우에만 해당 스택을 확장하십시오.
• 특정 비용 항목이나 운영 리소스가 실질적으로 줄어들지 않는다면 현재의 아키텍처를 그대로 유지하십시오.

진정으로 우수한 게이트웨이는 백엔드 시스템의 보안 권한을 안전하게 유지하면서도 실제 청구서 항목이나 엔지니어의 운영 부담을 제거해 주는 제품입니다. 이러한 실질적인 변화를 이끌어내지 못하는 단순 기능 나열은 마이그레이션의 정당한 이유가 될 수 없습니다.

자주 묻는 질문 (FAQ)

AI 게이트웨이란 무엇인가요?

AI 게이트웨이는 애플리케이션과 AI 공급자 사이에서 작동하는 제어 계층입니다. 라우팅, 재시도, 옵저버빌리티, 정책 제어, 비용 지출 한도 설정 등의 기능을 제공합니다. 최근 일부 게이트웨이는 툴 제어 및 에이전트 간 트래픽 거버넌스까지 확장되고 있으나 이러한 기능은 단순 모델 라우팅과 별개로 검증해야 합니다.

MCP 게이트웨이란 무엇인가요?

MCP 게이트웨이는 클라이언트가 Model Context Protocol 서버 및 도구를 검색하고 호출하는 방식을 관리하는 전용 프록시입니다. 호출자 인증, 업스트림 자격 증명 주입, 툴 단위 접근 통제, 승인 워크플로우, 실행 로깅을 처리하며 제품에 따라 툴 변환이나 호스팅을 제공하기도 합니다.

무료로 사용할 수 있는 AI 게이트웨이는 무엇인가요?

Vercel은 매월 $5의 Free 크레딧을 제공하고, Portkey는 Free Forever Developer 티어를 운영하며, TrueFoundry는 $0 Developer 티어와 7일 무료 체험을 지원합니다. Kong은 30일 무료 체험($0)을 제공하며 Cloudflare는 코어 게이트웨이를 모든 플랜에서 무료로 지원합니다. AgentCore Gateway는 사용량 기반 과금 방식이지만 신규 AWS 고객은 최대 $200의 크레딧을 받을 수 있습니다. 단, 모델, 도구, 런타임, 로그, 유료 정책 기능에 대한 비용은 별도로 발생할 수 있습니다.

가장 우수한 LLM 게이트웨이는 무엇인가요?

관리형 에이전트 툴 관점에서는 Amazon Bedrock AgentCore Gateway가 전반적으로 가장 강력합니다. 복잡한 설정 없는 웹 검색에는 Vercel, 기존 MCP 서버 접근 통제에는 Portkey, 프라이빗 MCP 거버넌스에는 TrueFoundry, 기존 Konnect 환경 확장에는 Kong, 엣지 네이티브 스택에는 Cloudflare가 유리합니다. 단순 모델 라우팅만 필요한 경우라면 토큰 요금 마진, 캐싱, 프로바이더 제어 기능을 별도로 비교 평가해야 합니다.

AI 비즈니스 워크플로우 감사 체크리스트 다운로드

막연한 에이전트 아이디어를 명확한 소유자, 예산, 권한 경계, 중단 조건을 갖춘 실무 워크플로우로 전환하십시오. 뉴스레터를 구독하고 체크리스트를 무료로 받으십시오.