2026๋ OpenRouter ๋์ 6์ : ๋ฉํฐ ๋ชจ๋ธ ๋ผ์ฐํ ๋น๊ต
2026๋ OpenRouter ๋์ 6์ข ์ ๊ฐ๊ฒฉ, ์ด์ ์ฃผ์ฒด, ๋ผ์ฐํ , ๊ฑฐ๋ฒ๋์ค ๊ธฐ์ค์ผ๋ก ๋น๊ตํฉ๋๋ค. LiteLLM, Vercel AI Gateway, Portkey, Cloudflare, Requesty, Bifrost ์ค ํ์ ๋ง๋ ์ ํ๊ณผ ๊ณต๊ธ์ ์ง๊ฒฐ ์ฐํ ๊ฒฝ๋ก ๊ตฌ์ถ๋ฒ์ ํ์ธํ์ธ์.
๊ฒ์์ผ

ํ๋ซํผ ๋ด๋น์๊ฐ ๊ฒ์ดํธ์จ์ด๋ฅผ ์ง์ ์ด์ํ ์ ์๋ค๋ฉด LiteLLM์ด ๊ฐ์ฅ ์ข์ OpenRouter ๋์์ ๋๋ค. ๊ด๋ฆฌํ ์๋น์ค๊ฐ ํ์ํ๋ค๋ฉด Vercel AI Gateway๊ฐ ๊ฐ์ฅ ์ ํฉํฉ๋๋ค. Stripe์ ์ธ์ ๊ณ์ฝ ๋๋ฌธ์ ๋น์ฅ ์ด์ ํ ํ์๋ ์์ง๋ง, ์์ฐ ์์น ํ๋๋งํผ์ ๋ ์ด์ ๋ฏธ๋ฃฐ ์ ์์ต๋๋ค. ์ ๋ชจ๋ธ ๋น์ฉ์ด $50,000์ด๋ฉด OpenRouter์ 5.5% ํ๋ซํผ ์์๋ฃ๋ $2,750์ด๋ฉฐ, ์ด๋ค ๋จ์ผ ์ค๊ฐ ์๋น์ค๋ ์ ์ผํ ๊ฒฝ๋ก๊ฐ ๋์ด์๋ ์ ๋ฉ๋๋ค.
Stripe๋ 2026๋ 8์ 19์ผ OpenRouter ์ธ์์ ํฉ์ํ๋ค๊ณ ๋ฐํ์ต๋๋ค. ๋ฐํ๋ฌธ์ ๋ด๊ธด ๋น์ ์ OpenRouter๊ฐ ์ด๋ฏธ ๋ด์ธ์ ์จ ๊ฒ๊ณผ ๊ฐ์ต๋๋ค. ์๋ฐฑ ๊ฐ ๋ชจ๋ธ ๊ฐ์ด๋ฐ ์์ , ๊ฐ๊ฒฉ, ์๋, ์์ ์ฑ์ ๋ง๋ ๋ชจ๋ธ๋ก ์์ฒญ์ ๋ผ์ฐํ ํ๋ค๋ ๊ฒ์ ๋๋ค. ๊ฐ๊ฒฉ ์ธ์์ด๋ ์๋น์ค ์ข ๋ฃ, ์นดํ๋ก๊ทธ ์ถ์์ ๊ดํ ๋ฐํ๋ ์์์ต๋๋ค.
์ด์์ ๋ฌ๋ผ์ง๋ ์ ์ ์์ ๊ถ์ด ํ๊ณณ์ ๋ ์ง์ค๋๋ค๋ ์ฌ์ค์ ๋๋ค. ๋ชจ๋ธ์ ์ข ์๋์ง ์๋ ์ ํ๋ฆฌ์ผ์ด์ ๋ ํค, ๋ชจ๋ธ ๋ณ์นญ, ์์ฐ, ํด๋ฐฑ ๊ท์น, ๋ก๊ทธ, ๊ฒฐ์ ๋ฅผ ํ ์ค๊ฐ ์๋น์ค์ ๋ชจ๋ ๋งก๊ธฐ๋ฉด ๊ฒ์ดํธ์จ์ด์ ์ข ์๋ ์ ์์ต๋๋ค. ํด๋ฒ์ 2๊ฐ ๊ฒฝ๋ก ์์น์ ๋๋ค. ํ์ ํธ๋ํฝ์ ๊ฒ์ดํธ์จ์ด๋ก ์ฒ๋ฆฌํ๋, ๋น์ฆ๋์ค ๋ก์ง์ ๋ฐ๊พธ์ง ์๊ณ ๋ ํ๋ก๋์ ์ํฌํ๋ก๋ฅผ ๊ฐ๋นํ ์ ์๋ ๊ณต๊ธ์ ์ง๊ฒฐ ๊ฒฝ๋ก๋ฅผ ํ๋ ์ ์งํด์ผ ํฉ๋๋ค.
์๋์ ๊ฐ๊ฒฉ, ์๊ธ์ , ์ ํ, ๊ธฐ๋ฅ์ 2026๋ 8์ 20์ผ ๊ฐ ๊ณต๊ธ์ฌ์ ์ค์ ํ์ด์ง๋ฅผ ๊ธฐ์ค์ผ๋ก ํ์ธํ์ต๋๋ค. ๊ฐ๊ฒฉ๊ณผ ๋ฌธ์๋ฅผ ๋ถ์ํ ๊ฒฐ๊ณผ์ด๋ฉฐ, 6๊ฐ ํ๋ซํผ์ ๋ถํ ํ ์คํธํ๊ฑฐ๋ ์ง์ ๋ฐฐํฌํ๋ค๋ ๋ป์ ์๋๋๋ค.
ํ๋์ ๋ณด๋ ๊ฒฐ๋ก : ์ด๋ค OpenRouter ๋์์ ์ ํํด์ผ ํ ๊น?
์ ์ด๊ถ์ด ๊ฐ์ฅ ์ค์ํ๋ฉด LiteLLM, ๊ฐํธํ ๊ด๋ฆฌํ ์๋น์ค๋ฅผ ์ํ๋ฉด Vercel AI Gateway๋ฅผ ์ ํํ์ญ์์ค. ์ํฐํ๋ผ์ด์ฆ ๊ฑฐ๋ฒ๋์ค์๋ Portkey, Cloudflare ์ค์ฌ ์คํ์๋ Cloudflare AI Gateway, OpenRouter์ ๋น์ทํ ์ฌ์ฉ๋ ๊ธฐ๋ฐ ๋ฐฉ์์๋ Requesty, ๊ฐ๋ฒผ์ด ์ ํ ํธ์คํ ๊ฒ์ดํธ์จ์ด์๋ Bifrost๊ฐ ์ ํฉํฉ๋๋ค. ๋ชจ๋ ์ฌ๋ฌ ๋ชจ๋ธ ๊ณต๊ธ์๋ฅผ ํ๋์ ์๋ํฌ์ธํธ ๋ค์ ๋ ์ ์์ง๋ง, ์ค์ ๋ก ๊ตฌ๋งคํ๋ ์ด์ ๋ฐฉ์์ ์๋ก ๋ค๋ฆ ๋๋ค.
์ฒซ ๋ฒ์งธ๋ก ์ ํ ๊ฒ์ ์์ฒญ ๊ฒฝ๋ก๋ฅผ ๋๊ฐ ์ด์ํ๋๋์ ๋๋ค. LiteLLM๊ณผ Bifrost๋ ๊ฒ์ดํธ์จ์ด๋ฅผ ์์ฒด ํ๊ฒฝ์ ๋ก๋๋ค. ๋ฐฐํฌ, ๋ฐ์ดํฐ, ์๊ฒฉ ์ฆ๋ช , ์ ๊ทธ๋ ์ด๋, ์ฅ์ ๋์์ ์ง์ ํต์ ํ ์ ์๋ ๋์ , ์จ์ฝ ๋์๋ ์ง์ ๋งก์์ผ ํฉ๋๋ค. ๋ผ์ด์ ์ค๊ฐ ๋ฌด๋ฃ๋ผ๊ณ ํด์ ํ๋ก๋์ ์์คํ ๊น์ง ๊ณต์ง์ธ ๊ฒ์ ์๋๋๋ค.
Vercel, Cloudflare, Requesty, Portkey๋ ์๋น์ค ์ด์์ ๋ ๋ง์ ๋ถ๋ถ์ ๋์ ๊ด๋ฆฌํฉ๋๋ค. ํ๋ซํผ ์ ๋ฌด๋ ์ค์ง๋ง ์ ํ๋ฆฌ์ผ์ด์ ๊ฐ์ฉ์ฑ๊ณผ ์ ์ฑ ์ด ๋ค๋ฅธ ํ์ฌ์ ์์กดํ๊ฒ ๋ฉ๋๋ค. ์ ์ฝ๋๋ ์ด์ ์๊ฐ์ ๊ฐ์น๊ฐ ์์๋ฃ๋ณด๋ค ํฌ๋ค๋ฉด ํฉ๋ฆฌ์ ์ธ ์ ํ์ ๋๋ค. ์ฐํ ๊ฒฝ๋ก๊ฐ ์์ ๋๋ง ์ํํด์ง๋๋ค.
๋น์ฉ์ ์ ๋ฆฌํ ์ ํ์ด ๋ค์งํ๋ ์ง์ ์ ์๋น์ค๋ง๋ค ๋ค๋ฆ ๋๋ค. Vercel์ ํ ํฐ์ ๋ง์ง์ ๋ถ์ด์ง ์์ง๋ง ์ผ๋ถ ์ ํ ๊ธฐ๋ฅ์ ๋ณ๋๋ก ๊ณผ๊ธํฉ๋๋ค. Requesty๋ ๋ชจ๋ธ ๋น์ฉ์ 5%๋ฅผ ๋ํฉ๋๋ค. Cloudflare๋ Unified Billing์ผ๋ก ํฌ๋ ๋ง์ ๊ตฌ๋งคํ ๋๋ง 5%๋ฅผ ๋ถ๊ณผํ๋ฉฐ, ํต์ฌ ๊ฒ์ดํธ์จ์ด๋ ๊ณ์ ๋ฌด๋ฃ์ ๋๋ค. Portkey๋ ํ๋ซํผ ๊ตฌ๋ ๋ฃ์ ๋ก๊ทธ ์ด๊ณผ ์ฌ์ฉ๋ฃ๋ฅผ ๋ฐ์ต๋๋ค. LiteLLM๊ณผ Bifrost์ ์คํ ์์ค ์๊ธ์ ๋ $0์ด์ง๋ง, ์์ง๋์ด๋ง๊ณผ ์ธํ๋ผ ์ด์๋น๋ ์ง์ ๋ถ๋ดํด์ผ ํฉ๋๋ค.
OpenRouter ์์ฒด๋ ์ฌ์ ํ ์ ํจํ ์ ํ์ ๋๋ค. ํ์ฌ ๊ฐ๊ฒฉ ํ์ด์ง์ ๋ฐ๋ฅด๋ฉด ์ ๋ฃ ์๊ธ์ ์์ 500+๊ฐ ๋ชจ๋ธ๊ณผ 80+๊ฐ ๊ณต๊ธ์๋ฅผ ์ ๊ณตํ๋ฉฐ, ์ด๋ Stripe์ ์ธ์ ๋ฐํ์ ๋์จ 400+๊ฐ ๋ชจ๋ธ๋ณด๋ค ๋์ด๋ ์์น์ ๋๋ค. ์นดํ๋ก๊ทธ๋ ๊ธฐ์ ๋ฐํ๋ฌธ๋ณด๋ค ๋น ๋ฅด๊ฒ ๋ณํฉ๋๋ค. ๋ชจ๋ธ ์๋ง์ผ๋ก ๊ฒ์ดํธ์จ์ด ์์๋ฅผ ๋งค๊ฒจ์๋ ์ ๋๋ค๋ ์ ์ ์ ๋ณด์ฌ์ค๋๋ค.
๊ฒ์ดํธ์จ์ด ์ ํ์ ๋ ํญ๋๊ฒ ์ดํด๋ณด๋ ค๋ฉด AI ๊ฒ์ดํธ์จ์ด 10์ข ๋น๊ต๋ฅผ ์ฐธ๊ณ ํ์ญ์์ค. OpenRouter๋ฅผ ๊ธฐ์ค์ ์ผ๋ก ์ผ๊ณ ์ถ๋ค๋ฉด ์ต์ OpenRouter ๊ฐ๊ฒฉ ๋ถ์์์ ๊ณต์ ํฌ๋ ๋ง๊ณผ BYOK์ ์ฐจ์ด๋ฅผ ํ์ธํ ์ ์์ต๋๋ค.
Stripe ์ธ์๋ ๋ชจ๋ธ ๋ผ์ฐํ ์์ฐ์ ์ด๋ป๊ฒ ๋ฐ๊พธ๋๊ฐ?
์ด๋ฒ ์ธ์๊ฐ ์ฒญ๊ตฌ์๋ฅผ ๋น์ฅ ๋ฐ๊พธ์ง๋ ์๋๋ผ๋ ๋น์ ๊ณํ๋ถํฐ ๋ฐ๊ฟ์ผ ํฉ๋๋ค. Stripe์ OpenRouter๊ฐ ์ฝ์ํ ๋๋ก ์ด์ํ ์๋ ์์ต๋๋ค. ํต์ฌ์ ๋ ๋จ์ํฉ๋๋ค. ๋ชจ๋ธ ์ ๊ทผ, ํ ํฐ ๊ฒฐ์ , ๋ผ์ฐํ ์ ์ฑ , ๊ฒ์ดํธ์จ์ด ์์ ๊ถ์ด ์ด์ ๋ ๊ฐ๊น์ด ๊ฒฐํฉ๋์ต๋๋ค. ๋ชจ๋ธ ๊ณต๊ธ์ ์ข ์์ ํผํ๋ ค๊ณ ๋ผ์ฐํฐ๋ฅผ ๋์ ํ ๊ตฌ๋งค์๊ฐ ๊ทธ๋ณด๋ค ํ ๋จ๊ณ ์์์ ๊ฐ์ ์ข ์์ ๋ค์ ๋ง๋ค์ด์๋ ์ ๋ฉ๋๋ค.
OpenRouter์ ํํ ์ ๋ฃ ์๊ธ์ ์๋ Pay-as-you-go์ 5.5% ํ๋ซํผ ์์๋ฃ์ Enterprise ์์๋ฃ ํ ์ธ์ด ๊ทธ๋๋ก ํ์๋ผ ์์ต๋๋ค. Free๋ $0์ด๋ฉฐ 25+๊ฐ ๋ฌด๋ฃ ๋ชจ๋ธ, 4๊ฐ ๊ณต๊ธ์, ํ๋ฃจ 50ํ ์์ฒญ์ ์ ๊ณตํฉ๋๋ค. Pay-as-you-go BYOK๋ ๋งค์ ์ ๊ฐ ๊ธฐ์ค ์ถ๋ก ๋น์ฉ $25,000๊น์ง ๊ฒ์ดํธ์จ์ด ์์๋ฃ๊ฐ ์๊ณ , ๊ทธ ์ด๊ณผ๋ถ์๋ 5%๋ฅผ ๋ถ๊ณผํฉ๋๋ค. Enterprise๋ ์์๋ฃ ์๋ BYOK ํ๋๋ฅผ $200,000์ผ๋ก ๋์ธ ๋ค ์ด๊ณผ๋ถ์ 5%๋ฅผ ๋ถ๊ณผํฉ๋๋ค.
ํ์ฌ ์กฐ๊ฑด๋ง์ผ๋ก ์๋๋ฌ ์ฎ๊ธธ ์ด์ ๋ ์์ต๋๋ค. ๊ณต์ ํฌ๋ ๋ง ๋ชจ๋ธ ๋น์ฉ์ด ์ $5,000์ด๋ฉด 5.5% ํญ๋ชฉ์ $275์ ๋๋ค. $50,000์ด๋ฉด $2,750์ ๋๋ค. ๋น์จ์ ๊ฐ์ง๋ง ์ฌ์ ์ ํ๋จ์ ๋ฌ๋ผ์ง๋๋ค. ๊ฒ์ดํธ์จ์ด๊ฐ ํตํฉ๊ณผ ์ฅ์ ๋์ ์ ๋ฌด๋ฅผ ๋ช ์๊ฐ ์ด์ ์ค์ฌ ์ค๋ค๋ฉด, ์๊ท๋ชจ ์ ํ ํ์ด $275๋ฅผ ์๋ผ๋ ค๊ณ ์ ๋ด๋ถ ์๋น์ค๋ฅผ ๋ง๋ค ์ด์ ๋ ์์ต๋๋ค. ๋ฐ๋ฉด ๋งค์ $2,750๋ฅผ ์ง๋ถํ๋ ํ๋ซํผ ํ์ด๋ผ๋ฉด ๋์์ ์ง์งํ๊ฒ ๋น๊ตํ ์์ฐ์ด ์ถฉ๋ถํฉ๋๋ค.
์คํ ์์ค๋ฅผ ๋ฌด๋ฃ๋ผ๊ณ ๊ฐ์ ํ์ง ๋ง๊ณ ์ด์ ๋น์ฉ์ ๋ช ์์ ์ผ๋ก ๊ณ์ฐํด์ผ ํฉ๋๋ค. ์ ํ ํธ์คํ ๊ฒ์ดํธ์จ์ด์ ๋งค์ 12์๊ฐ์ ์์ง๋์ด๋ง์ด ํ์ํ๊ณ ์๊ฐ๋น ์์ ์๊ฐ๊ฐ $150์ด๋ผ๊ณ ๊ฐ์ ํ๋ฉด, ์ปดํจํ ๊ณผ ์คํ ๋ฆฌ์ง๋ฅผ ์ ์ธํ ์ด์ ๋น์ฉ๋ง ๋งค์ $1,800์ ๋๋ค. ์ด ์์์์ OpenRouter์ 5.5% ์์๋ฃ๊ฐ $1,800์ ๋๋ฌํ๋ ์ง์ ์ ์ ๋ชจ๋ธ ๋น์ฉ ์ฝ $32,727์ ๋๋ค. 5% ์์๋ฃ๋ $36,000์์ ๊ฐ์ ์์ค์ด ๋ฉ๋๋ค.
์ด๋ ๋ชจ๋ ์กฐ์ง์ ํต์ฉ๋๋ ์์ต๋ถ๊ธฐ์ ์ด ์๋๋๋ค. ๊ท์ ๋์ ์ํฌ๋ก๋๋ ํ๋ผ์ด๋น ๋ฐฐํฌ๊ฐ ํ์๋ผ์ ์ ๋ชจ๋ธ ๋น์ฉ์ด $2,000์ผ ๋๋ ์ ํ ํธ์คํ ์ ์ ํํ ์ ์์ต๋๋ค. 5๋ช ๊ท๋ชจ ์คํํธ์ ์ ํ๋ซํผ ์์ง๋์ด๋ฅผ ์ฑ์ฉํ๊ฑฐ๋ ๋ค๋ฅธ ์ ๋ฌด์์ ๋นผ ์์ผ ํ๋ค๋ฉด $36,000์ ํจ์ฌ ๋์ด์๋ ๊ด๋ฆฌํ ์์๋ฃ๋ฅผ ๊ณ์ ๋ผ ์ ์์ต๋๋ค. ์ด ๊ณ์ฐ์ ๋ชฉ์ ์ ๊ฐ์ ์ ๋๋ฌ๋ด ์ฌ๋ฌดํ๊ณผ ์์ง๋์ด๋งํ์ด ์ฌ๋ฐ๋ฅธ ์์ ์ ๋๊ณ ๋ ผ์ํ๊ฒ ํ๋ ๋ฐ ์์ต๋๋ค.
์ฐํ ๊ฒฝ๋ก์๋ ๋ ์์ ์์ฐ์ด ํ์ํฉ๋๋ค. ๊ณต๊ธ์ ์ง๊ฒฐ ๊ฒฝ๋ก ํ๋๋ฅผ ๋ง๋ค๊ณ ํ๋ จํ๋ ๋ฐ ์์ง๋์ด๋ง 8์๊ฐ, ์๊ฐ๋น $150์ด ๋ ๋ค๊ณ ๊ฐ์ ํ๋ฉด ์ผํ์ฑ ๋น์ฉ์ $1,200์ ๋๋ค. OpenRouter ์ ์ฌ์ฉ์ก์ด $50,000์ผ ๋ ์ด๋ ๊ฒ์ดํธ์จ์ด ์์๋ฃ $2,750์ 0.44๊ฐ์๋ถ์ ๋๋ค. ์ ์ฌ์ฉ์ก์ด $5,000์ด๋ฉด ์์๋ฃ $275์ 4.36๊ฐ์๋ถ์ ๋๋ค. ๋๊ท๋ชจ ์ฌ์ฉ์๋ ํ ๋ฌ ๊ฒ์ดํธ์จ์ด ๋น์ฉ์ ์ผ๋ถ๋ง์ผ๋ก ๋๋๋ฆด ์ ์๋ ์ ํ๊ถ์ ํ๋ณดํ ์ ์์ต๋๋ค. ์๊ท๋ชจ ์ฌ์ฉ์๋ ์ค๋จ์ด๋ ์ ์ฑ ์ํ์ด ๋น์ฉ์ ์ ๋นํํ๋ ์ํฌํ๋ก์ ํํด ์ฐํ ๊ฒฝ๋ก๋ฅผ ๋ง๋ค์ด์ผ ํฉ๋๋ค.

๋น์ฉ ์ฐจํธ๋ฅผ ๋ณผ ๋ ํ ๊ฐ์ง ์กฐ๊ฑด์ ๋ง๋ถ์ฌ์ผ ํฉ๋๋ค. Vercel์ $0์ ํ ํฐ ๋ง์ง์ด ์๋ค๋ ๋ป์ด์ง, ๋ชจ๋ ์ ํ ๊ธฐ๋ฅ์ด ๋ฌด๋ฃ๋ผ๋ ๋ป์ ์๋๋๋ค. ํ ์ ์ฒด ๊ณต๊ธ์ ํ์ฉ ๋ชฉ๋ก์ ์ฑ๊ณตํ ์์ฒญ 1,000ํ๋น $0.10, ํ ์ ์ฒด zero data retention์ ์์ฒญ 1,000ํ๋น $0.10, ํธ๋ ์ด์ค๋ 1,000ํ๋น $0.05์ ์ด๊ทธ๋ ์ค ๋น์ฉ์ด ๋ญ๋๋ค. ์ธ ๊ธฐ๋ฅ์ ๋ชจ๋ ํ์ฑํํ๊ณ ์์ฒญ๋น ํธ๋ ์ด์ค 1๊ฐ๋ฅผ ์์ฑํด ์์ฒญ์ด 100๋ง ํ๋ผ๋ฉด, $250์ ํธ๋ ์ด์ค ์ด๊ทธ๋ ์ค ๋น์ฉ์ด ์ถ๊ฐ๋ฉ๋๋ค.
์ ์ฌ์ฉ์ก $50,000 ์์์์ Cloudflare์ Requesty๋ ๊ฐ๊ฐ $2,500 ๋น์ฉ์ ๋ง๋ค์ง๋ง, ๊ณผ๊ธ ๋์์ ๋ค๋ฆ ๋๋ค. Requesty๋ ๋ชจ๋ธ ๋น์ฉ์ 5% ๋ง์ง์ ๋ถ์ ๋๋ค. Cloudflare์ 5%๋ Unified Billing์ผ๋ก ๊ตฌ๋งคํ ํฌ๋ ๋ง์ ์ ์ฉ๋๋ฉฐ, BYOK๋ ํด๋น ํฌ๋ ๋ง ์์๋ฃ ์์ด ๋ฌด๋ฃ ํต์ฌ ๊ฒ์ดํธ์จ์ด๋ฅผ ์ด์ฉํ ์ ์์ต๋๋ค. ๊ตฌ๋งค ๊ณ์ฝ์ ํํ์ ๋น์จ๋งํผ ์ค์ํฉ๋๋ค.
๊ฒ์ดํธ์จ์ด ๋น์ฉ์ ๋ชจ๋ธ ์ฒญ๊ตฌ์ก์ ๋์ฒดํ๋ ๊ฒ์ด ์๋๋ผ ๊ทธ ์์ ๋ํด์ง๋๋ค. ๊ฐ์ฅ ์ ๋ ดํ AI API ๋น๊ต๋ ํ ํฐ ๊ณ์ธต์ ๋ณ๋๋ก ๋ค๋ฃจ๋ฏ๋ก, ์ ๋ ดํ ๊ฒ์ดํธ์จ์ด ์์๋ฃ ๋ค์ ๋น์ผ ๋ชจ๋ธ ์ ํ์ด ๊ฐ๋ ค์ง๋ ์ผ์ ๋ง์ ์ ์์ต๋๋ค.
ํ๋จ ๊ธฐ์ค์ ๋ช ํํฉ๋๋ค. ๊ฒ์ดํธ์จ์ด๊ฐ ๋ถ๊ณผํ๋ ๋น์ฉ๋ณด๋ค ์์ง๋์ด๋ง, ์ฅ์ , ๊ฒฐ์ ์ ๋ฌด๋ฅผ ๋ ๋ง์ด ์ค์ฌ ์ค๋ค๋ฉด ์ ์งํ๊ณ , ๋น ์ง ์ ์ด๋ ๋ฐ๋ณต ์์๋ฃ๊ฐ ๋์ ์ด์ ๋น์ฉ์ ๋์ผ๋ฉด ์ ํํ์ญ์์ค. ์ด๋ ์ชฝ์ด๋ ์ฐํ ๊ฒฝ๋ก๋ ๋ง๋ค์ด์ผ ํฉ๋๋ค. ์ค์ ๊ฒฝ๋ก ํ๋๋ฅผ ๋ค๋ฅธ ์ค์ ๊ฒฝ๋ก๋ก ๋ฐ๊พธ๋ ๊ฒ๋ง์ผ๋ก๋ ์ง์ค ๋ฌธ์ ๊ฐ ํด๊ฒฐ๋์ง ์์ต๋๋ค.
OpenRouter ๋์์ ์ด๋ค ๊ธฐ์ค์ผ๋ก ์ ์ ํ๋๊ฐ?
์ด ์์๋ ์นดํ๋ก๊ทธ ๊ท๋ชจ๋ณด๋ค ๋๋๋ฆด ์ ์๋ ๊ตฌ์กฐ๋ฅผ ์ฐ์ ํฉ๋๋ค. ํ์ฌ๊ฐ 100๊ฐ ๋ชจ๋ธ์ ํ์ํ๋๋ผ๋ ํ๋ก๋์ ์ฉ์ผ๋ก ์น์ธํ๋ ๋ชจ๋ธ์ 3๊ฐ์ผ ์ ์์ต๋๋ค. ์ ์ฉํ ๊ฒ์ดํธ์จ์ด๋ ๊ณต๊ธ์๋ณ ๋์์ด ์ ํ๋ฆฌ์ผ์ด์ ์ ์์ด๋๊ฐ์ง ์๋๋ก ํ๋ฉด์, ๊ทธ 3๊ฐ ๋ชจ๋ธ์ ๊ณ์ ์ฌ์ฉํ๊ณ ๊ด์ฐฐํ๊ณ ์์ฐ์ ๊ด๋ฆฌํ๊ณ ๊ต์ฒดํ ์ ์๊ฒ ํด ์ฃผ๋ ์ ํ์ ๋๋ค.
๊ฐ ๋์์ ๋ค์ 5๊ฐ์ง ๊ธฐ์ค์ผ๋ก ํ๊ฐํ์ต๋๋ค.
- ์์ ๊ถ: ๊ณต๊ธ์ ํค, ๋ผ์ฐํ ์ ์ฑ , ๋ชจ๋ธ ๋ณ์นญ, ๋ก๊ทธ, ์คํ ์ค์ธ ๊ฒ์ดํธ์จ์ด ํ๋ก์ธ์ค๋ฅผ ๋๊ฐ ํต์ ํฉ๋๊น?
- ์ฅ์ ์กฐ์น ๋ฐฉ์: ์ด์์๊ฐ ๊ณต๊ธ์ ์์, ์ฌ์๋ ํ๋, ์์ฐ ์ค๋จ ์กฐ๊ฑด, ์คํจ ์ ๋ฐ๋์ ์ฐจ๋จํด์ผ ํ๋ ์ค๋ฅ๋ฅผ ์ ํ ์ ์์ต๋๊น?
- ๋น์ฉ ๊ฐ์์ฑ: ์์๋ฃ๊ฐ ๊ณต๊ฐ๋ผ ์๊ณ ๊ณ์ฐ ๊ฐ๋ฅํ๋ฉฐ, ๋น์ฉ์ ๋ฐ์์ํจ ํ์ด๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ท์ํ ์ ์์ต๋๊น?
- ๋ฐฐํฌ ๊ฒฝ๊ณ: ๊ตฌ๋งค์์ ๋ฐ์ดํฐ, ๋คํธ์ํฌ, ์ ์, ๊ท์ ์ค์ ์๊ฑด์ด ์๊ตฌํ๋ ์์น์์ ๊ฒ์ดํธ์จ์ด๋ฅผ ์คํํ ์ ์์ต๋๊น?
- ์ดํ ๋น์ฉ: ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ค์ ์์ฑํ์ง ์๊ณ ์ค์ ๋ณ๊ฒฝ๊ณผ ํต์ ๋ ๋ฐฐํฌ๋ง์ผ๋ก ํ๋ก๋์ ์ํฌํ๋ก ํ๋๊ฐ ๊ฒ์ดํธ์จ์ด๋ฅผ ์ฐํํ ์ ์์ต๋๊น?
๋ชฉ๋ก์ 6๊ฐ๋ก ์ ํํ ์ด์ ๋ ๋ชจ๋ ์ง์ ํ ๋ฉํฐ ๊ณต๊ธ์ ์์ฒญ ๊ณ์ธต์ด๋ฉฐ, ๊ตฌ๋งค ํ๋จ์ ๋ท๋ฐ์นจํ ์ต์ ๊ฐ๊ฒฉ๊ณผ ๋ฌธ์๊ฐ ์ถฉ๋ถํ๊ธฐ ๋๋ฌธ์ ๋๋ค. ์ค๋ฆฝ ๋ผ์ฐํ ์ ๋์ฒดํ๋ ค๋ฉด ์ํฌ๋ก๋๋ฅผ ์์ฒด ๋ชจ๋ธ ์ํ๊ณ๋ก ์ฎ๊ฒจ์ผ ํ๋ ๋ชจ๋ธ ํธ์คํธ์ ์ถ๋ก ํด๋ผ์ฐ๋๋ ์ ์ธํ์ต๋๋ค. ์คํ ๊ฐ๋ฅํ ๋ชจ๋ธ ์นดํ๋ก๊ทธ๊ฐ ๊ธธ๋ฉด ์ ์ฉํ์ง๋ง, ๊ทธ๊ฒ์ ๋ค๋ฅธ ์ง๋ฌธ์ ๋ํ ๋ต์ ๋๋ค.
๊ฐ๊ฒฉ์ 2026๋ 8์ 20์ผ ๋ชจ๋ ๊ณต๊ธ์ฌ ํ์ด์ง์์ ํ์ธํ์ต๋๋ค. ๊ณต๊ธ์ฌ๊ฐ ๋ฌด๋ฃ ์๊ธ์ ๋ฅผ ํ๋กํ ํ์ ์ฉ์ด๋ผ๊ณ ๋ช ์ํ๊ฑฐ๋ ๋ฌธ์์ ์ ํ ๋๋ฌธ์ ํ๋ก๋์ ์ผ๋ก ๋ณด๊ธฐ ์ด๋ ค์ด ๊ฒฝ์ฐ์๋ ์ด๋ฅผ ํ๋ก๋์ ์ ํ์ง๋ก ํฌ์ฅํ์ง ์์์ต๋๋ค. ๋ก๋๋งต์๋ง ์๋ ๊ธฐ๋ฅ์๋ ์ ์๋ฅผ ์ฃผ์ง ์์์ต๋๋ค.
1์ ์ ํ์ ์์ ๊ถ ํ ์คํธ๋ ํต๊ณผํด์ผ ํ์ต๋๋ค. ์ ๊ทธ๋ ์ด๋, ๋ฐ์ดํฐ๋ฒ ์ด์ค ์ํ, ๋น๋ฐ ์ ๋ณด, ํ์ฅ, ํ ๋ ๋ฉํธ๋ฆฌ, ์ฅ์ ๋ฅผ ๋งก์ ๋ด๋น์๋ ํ์ด ์์ ๋๋ง ์ ํ ํธ์คํ ์ด ์ ๋ฆฌํฉ๋๋ค. ์ ํ๋ฆฌ์ผ์ด์ ์ด ๊ณต๊ธ์ ์ง๊ฒฐ ๊ฒฝ๋ก๋ฅผ ์ ์งํ ๋๋ง ๊ด๋ฆฌํ ๋ผ์ฐํ ์ด ์ ๋ฆฌํฉ๋๋ค. ๊ฐ์ ๊ธฐ๋ฅ ๋ชฉ๋ก์ ๋๊ณ ๋ ์ฐฝ์ ์, ์ค๊ฒฌ๊ธฐ์ CTO, ์ํฐํ๋ผ์ด์ฆ ํ๋ซํผ ํ์ ์์๊ฐ ๋ฌ๋ผ์ง๋ ์ด์ ์ ๋๋ค.
1. LiteLLM: ๊ณต๊ธ์ ๋ ๋ฆฝ์ฑ์ ์ํ ์ต๊ณ ์ ์ ํ
ํ์ฌ๊ฐ ๊ฒ์ดํธ์จ์ด๋ฅผ ํ๋์ ์ ํ์ฒ๋ผ ์ฑ ์์ง๊ณ ์ด์ํ ์ ์๋ค๋ฉด LiteLLM์ด ๊ฐ์ฅ ์ข์ OpenRouter ๋์์ ๋๋ค. 100+๊ฐ ๊ณต๊ธ์๋ฅผ ํ๋์ OpenAI ํธํ API ๋ค์ ์ฐ๊ฒฐํ๋ฉฐ, $0 ์คํ ์์ค ์๊ธ์ ์๋ ๊ฐ์ ํค, ์ฌ์ฉ์์ ํ, ๋น์ฉ ์ถ์ , ์์ฐ, ์๋ ์ ํ, ํด๋ฐฑ, ์์ฒญยท์๋ต ๋ก๊ทธ, Prometheus ๋ฉํธ๋ฆญ์ด ํฌํจ๋ฉ๋๋ค. ๊ฑธ๋ฆผ๋์ ๊ธฐ๋ฅ์ด ์๋๋ผ ์ด์ ์ฃผ์ฒด์ ๋๋ค.
๊ณ ๊ฐ์ฉ ์์ด์ ํธ 2๊ฐ๋ฅผ ์ด์ํ๋ ํฌ์๋ฅผ ์ ์นํ ์คํํธ์ ์ด๋ผ๋ฉด, LiteLLM์ผ๋ก ์๋น์ค๋ง๋ค ๊ฐ์ ํค, ์น์ธ๋ ๋ชจ๋ธ ๋ณ์นญ, ์ ์์ฐ, ํต์ ๋ ํด๋ฐฑ์ ๋ถ์ฌํ ์ ์์ต๋๋ค. ์ค๊ฒฌ๊ธฐ์ ํ๋ซํผ ํ์ ์์ฒด ์ปจํ ์ด๋, ๋น๋ฐ ์ ๋ณด, ๋ฐ์ดํฐ๋ฒ ์ด์ค, ๋ชจ๋ํฐ๋ง ํ์ค ์์์ ๊ฐ์ ๊ฒ์ดํธ์จ์ด๋ฅผ ์คํํ ์ ์์ต๋๋ค. ์ธํ๋ผ๋ฅผ ๋ ์ด์ ๊ณ ๋ฏผํ๊ณ ์ถ์ง ์์ 1์ธ ๊ฐ๋ฐ์๋ผ๋ฉด Vercel์ด๋ Requesty๊ฐ ๋ซ์ต๋๋ค.
์ถ์ฒ ๋์: ์ ๋ด ํ๋ซํผ ๋ด๋น์๊ฐ ์๋ ์ ํ ํ์ฌ
ํต์ฌ ๊ฐ์ : ์ ํ๋ฆฌ์ผ์ด์
์ด ๊ฒ์ดํธ์จ์ด ํ๋ก์ธ์ค, ๊ณต๊ธ์ ๊ณ์ , ์ ์ฑ
, ๋ฐ์ดํฐ ๊ฒฝ๋ก๋ฅผ ์์
๊ฐ๊ฒฉ: Open Source $0; Enterprise๋ ์์ฒญ ์ฒ๋ฆฌ ์ฉ๋, ๋ฐฐํฌ ์ํคํ
์ฒ, ์ง์ ์์ค์ ๋ฐ๋ฅธ ์ฐ๊ฐ ๋ง์ถค ๊ฐ๊ฒฉ
๋ฌด๋ฃ ์ฒดํ: ์ ์ฉ์นด๋ ์์ด Enterprise 30์ผ ์ฒดํ; Open Source๋ ๊ณ์ ๋ฌด๋ฃ
LiteLLM์ ํ์ฌ ๊ฐ๊ฒฉ ํ์ด์ง๋ ์์ ์ ๊ฒฝ๊ณ๋ฅผ 2๊ฐ๋ง ์ ์ํฉ๋๋ค. Open Source๋ ํ๋ก๋์ ์ ํ ํธ์คํ ์ ์๊ตฌ ๋ฌด๋ฃ์ ๋๋ค. Enterprise๋ ์ฐ ๋จ์ ๊ฒฌ์ ์ด๋ฉฐ, ๋ชจ๋ธ ํ ํฐ ์ฌ์ฉ์ก์ด ์๋๋ผ ์ฐ๊ฐ ๊ฒ์ดํธ์จ์ด ์์ฒญ ์ฒ๋ฆฌ ์ฉ๋, ๋ฐฐํฌ ์ํคํ ์ฒ, ์ง์ ์๊ตฌ์ฌํญ์ ๋ฐ๋ผ ๊ฐ๊ฒฉ์ด ์ ํด์ง๋ค๊ณ ๋ช ์ํฉ๋๋ค.
Enterprise์๋ SSO์ SCIM, OIDC ๋๋ JWT ์ธ์ฆ, ๊ฐ์ฌ ๋ก๊ทธ, ๋น๋ฐ ๊ด๋ฆฌ ๋๊ตฌ ์ฐ๋, ํค ์ํ, ์กฐ์ง ๊ด๋ฆฌ, ๋ฉํฐ ๋ฆฌ์ ์ปจํธ๋กค ํ๋ ์ธ, ์์ด๊ฐญ ๋ฐฐํฌ, ์ต๋ 24/7 ์ง์์ด ์ถ๊ฐ๋ฉ๋๋ค. ๊ฒ์ดํธ์จ์ด๊ฐ ๊ณต์ ์ธํ๋ผ๊ฐ ๋๋ฉด ์ด๋ฐ ์ ์ด๊ฐ ์ค์ํฉ๋๋ค. ๊ทธ๋ ๋ค๊ณ ์ง์ ์์ ํ๊ธฐ๋ก ํ ๋ฐ์ดํฐ ํ๋ ์ธ์ ์ด์ํ ์ฑ ์๊น์ง ์์ด์ง๋ ๊ฒ์ ์๋๋๋ค.
$0 ๋ผ์ด์ ์ค๋ ์๊ท๋ชจ ํ์ ์๋ชป๋ ์ธ์์ ์ค ์ ์์ต๋๋ค. ๋๊ตฐ๊ฐ๋ ํ๋ก์, ์๊ตฌ ๋ฐ์ดํฐ๋ฒ ์ด์ค, ์๊ฒฉ ์ฆ๋ช , ๋ฐฑ์ , ์ ๊ทธ๋ ์ด๋, ๋ฉํธ๋ฆญ, ๋ชจ๋ธ ๊ณต๊ธ์ ๋ณ๊ฒฝ, ์ฅ์ ๋์์ ๋งก์์ผ ํฉ๋๋ค. ์์ ์ ํ 12์๊ฐร$150 ๊ฐ์ ์ ๋ฐ๋ฅด๋ฉด ์ธํ๋ผ๋ฅผ ์ ์ธํ๊ณ ๋ ๋งค์ $1,800์ ๋๋ค. ์์ ์ ๋น์ฉ๋ง ๋ณด๋ฉด ๋ชจ๋ธ ๋น์ฉ์ด ์ฝ $32,727์ ๋์ ๋ LiteLLM์ด 5.5% ๊ด๋ฆฌํ ์์๋ฃ๋ณด๋ค ์ ๋ ดํ์ง๋ง, ์ ์ด๊ถ์ด๋ ๊ท์ ์ค์ ๋๋ฌธ์ ๋ ์ด๋ฅธ ์์ ์ ์ ํํ ์๋ ์์ต๋๋ค.
๊ฐ์ฅ ๊ฒฌ๊ณ ํ ์ค๊ณ๋ LiteLLM์ support-primary, support-fallback ๊ฐ์ ๋ด๋ถ ๋ชจ๋ธ ๋ณ์นญ ๋ค์ ์จ๊ธฐ๋ ๊ฒ์
๋๋ค. ๋น์ฆ๋์ค ๋ก์ง์ anthropic/claude-something์ด๋ LiteLLM ์ ์ฉ ๊ฒฝ๋ก๊ฐ ์๋๋ผ ๋ด๋ถ ๊ธฐ๋ฅ์ ์์ฒญํด์ผ ํฉ๋๋ค. ๊ณต๊ธ์ ์ง๊ฒฐ ์ด๋ํฐ๋ ๊ฐ์ ๋ด๋ถ ๋ณ์นญ์ ์ดํดํด์ผ ํฉ๋๋ค. ๊ทธ๋์ผ ๊ฒ์ดํธ์จ์ด๊ฐ ๋งค์ฐ ์ ์ฉํ ํต์ฌ ๋๊ตฌ๊ฐ ๋ ๋ค์๋ ๊ต์ฒดํ ์ ์์ต๋๋ค.
๋ฒ์๊ฐ ๋ช ํํ ์ํฌํ๋ก ํ๋๋ก ์์
์คํค๋ง, ์ง์ฐ ์๊ฐ ๋ชฉํ, ๋ฐ์ดํฐ ๊ท์น, ์ ๋น์ฉ์ด ์ ํด์ง ํ๋ก๋์ ์์ค์ ๊ฒฝ๋ก ํ๋๋ฅผ ์ ํํ์ญ์์ค. ๋ชจ๋ ๋ชจ๋ธ ํธ์ถ์ ํ๊บผ๋ฒ์ ์ฎ๊ธฐ๋ ๊ฒ๋ถํฐ ์์ํด์๋ ์ ๋ฉ๋๋ค.
๋ด๋ถ ๋ชจ๋ธ ๋ณ์นญ ์์ฑ
์ธ๋ถ ๊ณต๊ธ์์ ๋ชจ๋ธ ๋ฌธ์์ด์ ๋น์ฆ๋์ค ๋ก์ง์ ๋ ธ์ถํ์ง ๋ง๊ณ , ์์ ์ ์ธ ๊ธฐ๋ณธ ๋ชจ๋ธ๊ณผ ํธํ๋๋ ํด๋ฐฑ์ ์ ์ํ์ญ์์ค. ๋งคํ์ ๊ฒ์ดํธ์จ์ด ์ค์ ์ ๋ณด๊ดํฉ๋๋ค.
๊ฐ์ ํค ํ๋ ๋ฐ๊ธ
์ ํ๋ฆฌ์ผ์ด์ ์ ์ ์ฉ ํค์ ์น์ธ ๋ชจ๋ธ, ์์ฐ, ์๋ ์ ํ์ ๋ถ์ฌํ์ญ์์ค. LiteLLM ๊ด๋ฆฌ ํค๋ ์ํฌ๋ก๋์์ ๋ถ๋ฆฌํฉ๋๋ค.
์ง๊ฒฐ ์ด๋ํฐ ์ค์
LiteLLM ์ธ๋ถ์ ๊ณต๊ธ์ ์๊ฒฉ ์ฆ๋ช ํ๋๋ฅผ ๋ณด๊ดํ๊ณ , ๊ฐ์ ๋ด๋ถ ๊ธฐ๋ฅ์ ํด๋น ๊ณต๊ธ์์ API์ ๋งคํํ์ญ์์ค. ํ์์๋ ์ด๋ํฐ๋ฅผ ์ฌ์ฉํ์ง ์๋๋ผ๋ ํต์ ๋ ์ฐํ๊ฐ ํ์ํ ๋ ์ฆ์ ์ธ ์ ์์ด์ผ ํฉ๋๋ค.
์๋์ ์ผ๋ก ์ฅ์ ๋ฐ์
๊ณ ๊ฐ์๊ฒ ์ํฅ์ด ์๋ ์๊ฐ์ ๊ธฐ๋ณธ ๋ชจ๋ธ์ ์ฌ์ฉํ ์ ์๊ฒ ๋ง๋์ญ์์ค. ํธ๋ํฝ์ ๋๋ฆฌ๊ธฐ ์ ์ ํด๋ฐฑ, ๋ก๊ทธ, ์คํค๋ง, ์ง์ฐ ์๊ฐ ์ํ, ์ง๊ฒฐ ์ฐํ๊ฐ ๋ชจ๋ ์์๋๋ก ๋์ํ๋์ง ํ์ธํฉ๋๋ค.
- ํ๋ก๋์ ์ฉ ์คํ ์์ค ๋ผ์ด์ ์ค $0, ๋น์จ ๊ธฐ๋ฐ ๊ฒ์ดํธ์จ์ด ์์๋ฃ ์์
- 100+๊ฐ ๊ณต๊ธ์์ ํค, ์์ฐ, ์ ํ, ํด๋ฐฑ, ๋ก๊ทธ, Prometheus ์ง์
- ๊ณต๊ธ์ ๊ณ์ ๊ณผ ์์ฒญ ๊ฒฝ๋ก๋ฅผ ์์ฒด ํ๊ฒฝ์ ์ ์ง
- ์ ์, ๊ฐ์ฌ, ๋น๋ฐ ์ ๋ณด, ๋ฉํฐ ๋ฆฌ์ , ์์ด๊ฐญ ์๊ตฌ๋ฅผ ์ํ Enterprise ๊ฒฝ๋ก
- ์ฐ๊ฐ Enterprise ๊ฐ๊ฒฉ์ด ํ ํฐ ์ฌ์ฉ์ก์ ๋ฐ๋ผ ์๋์ผ๋ก ์ค๋ฅด์ง ์์
- ๊ฐ์ฉ์ฑ, ์ ๊ทธ๋ ์ด๋, ์๊ตฌ ์ ์ฅ์, ๋น๋ฐ ์ ๋ณด, ์ฅ์ ๋ฅผ ํ์ฌ๊ฐ ์ง์ ์ฑ ์์ ธ์ผ ํจ
- Enterprise ๊ฐ๊ฒฉ ๋น๊ณต๊ฐ
- ๋น ๋ฅด๊ฒ ๋ฐฐํฌํ ์๋น์ค๊ฐ ์ด์ ์์ฐ์ ํ๋ณดํ๊ธฐ ์ ์ ๊ณต์ ์ธํ๋ผ๊ฐ ๋ ์ ์์
- ์ ํ ํธ์คํ ์ ํด๋ ๊ธฐ๋ฐ ๊ณต๊ธ์์ ์ฅ์ ๋ ๊ณ์ฝ์ ์ ํ์ ์ฌ๋ผ์ง์ง ์์
LiteLLM์ด 1์์ธ ์ด์ ๋ ๋ชจ๋ธ ๊ณต๊ธ์ ์ข ์๊ณผ ๊ฒ์ดํธ์จ์ด ๊ณต๊ธ์ ์ข ์์ ๋ชจ๋ ์ค์ผ ์ ์๊ธฐ ๋๋ฌธ์ ๋๋ค. ์ด์ ๋ด๋น์๊ฐ ์๋ค๋ฉด ์ฆ์ 2์๋ก ๋ด๋ ค๊ฐ์ผ ํฉ๋๋ค. ๊ด๋ฆฌ๋์ง ์๋ ์ปจํธ๋กค ํ๋ ์ธ์ ๋ ๋ฆฝ์ฑ์ด ์๋๋ผ, ๊ฐ์ฅ ๊ณค๋ํ ์ฃผ์ ํฐ์ง ์ฅ์ ์ ๋๋ค.
2. Vercel AI Gateway: ์ต๊ณ ์ ๊ด๋ฆฌํ ๋์ฒด ์๋น์ค
Vercel AI Gateway๋ ํ ํฐ ๋ง์ง ์์ด ๋จ์ผ ์๋ํฌ์ธํธ๋ฅผ ์ํ๋ ์ ํ ํ์ ๊ฐ์ฅ ์ ํฉํ ๊ด๋ฆฌํ OpenRouter ๋์์ ๋๋ค. ์๋ฐฑ ๊ฐ ๋ชจ๋ธ์ ์ ๊ณตํ๋ฉฐ ์์ฐ, ์ฌ์ฉ๋ ๋ชจ๋ํฐ๋ง, ๋ถํ ๋ถ์ฐ, ํด๋ฐฑ, ๋ค๋ฅธ ๊ณต๊ธ์๋ก์ ์๋ ์ฌ์๋๋ฅผ ์ง์ํฉ๋๋ค. ๋์ Vercel์ด ๊ฒ์ดํธ์จ์ด๋ฅผ ์ด์ํ๋ฏ๋ก 2๊ฐ ๊ฒฝ๋ก ์์น์ ์ฌ์ ํ ํ์ํฉ๋๋ค.
ํฌ์๋ฅผ ์ ์นํ ์ฐฝ์ ์๋ ๊ฒ์ดํธ์จ์ด ๋ด๋น์๋ฅผ ์ฑ์ฉํ์ง ์๊ณ ๋ ๊ณ ๊ฐ์ฉ ์ํฌํ๋ก๋ฅผ Vercel ๋ค์ ๋ ์ ์์ต๋๋ค. ์ด๋ฏธ AI SDK๋ฅผ ์ฐ๋ ํ์ ํนํ ๋น ๋ฅด๊ฒ ์ฐ๋ํ ์ ์์ง๋ง, ๊ฒ์ดํธ์จ์ด๋ OpenAI ๋ฐ Anthropic ํธํ API๋ ์ง์ํฉ๋๋ค. ๊ฒ์ดํธ์จ์ด๋ฅผ ํ๋ผ์ด๋น ํด๋ฌ์คํฐ ์์ ๋ฌ์ผ ํ๋ ํ๋ซํผ ํ์ด๋ผ๋ฉด LiteLLM์ด๋ Bifrost๋ฅผ ์ ํํด์ผ ํฉ๋๋ค.
์ถ์ฒ ๋์: ๊ด๋ฆฌํ ๋ผ์ฐํ
์ ๊ตฌ๋งคํ๋ ค๋ ์คํํธ์
๊ณผ ์ ํ ํ
ํต์ฌ ๊ฐ์ : BYOK๋ฅผ ํฌํจํด ๊ณต๊ธ์ ์ ๊ฐ๋ก ํ ํฐ์ ์ ๊ณตํ๋ฉฐ ๊ฒ์ดํธ์จ์ด ๋ง์ง์ 0
๊ฐ๊ฒฉ: Free๋ ์ $5 ํฌ๋ ๋ง ํฌํจ; Paid๋ ๊ตฌ๋งคํ ํฌ๋ ๋ง์ ์ฐ๋ Pay as you go; Enterprise๋ ์ธ๋ณด์ด์ค ๊ฒฐ์ ๊ฐ๋ฅ
๋ฌด๋ฃ ์ฒดํ: ํด๋น ๋ชจ๋ธ์ ๋ ๋ฎ์ ๋ชจ๋ธ๋ณ ํ๋๊ฐ ์ ์ฉ๋๋ ์์ Free ์๊ธ์
ํ์ฌ ๊ฐ๊ฒฉ ๋ฌธ์๋ Free์ Paid๋ฅผ ๊ตฌ๋ถํฉ๋๋ค. Free๋ ๊ฐ ํ์ ๋์ ๋ชจ๋ธ์ฉ ์ $5 ํฌ๋ ๋ง์ ์ ๊ณตํ๊ณ , ๋ง์ง ์์ด ๊ณต๊ธ์ ์ ๊ฐ๋ฅผ ์ ์ฉํ๋ฉฐ, ๋ชจ๋ธ๋ณ ํ๋๋ ๋ ๋ฎ์ต๋๋ค. BYOK๋ ์ฌ์ฉํ ์ ์์ต๋๋ค. ํฌ๋ ๋ง์ ๊ตฌ๋งคํ๋ฉด Paid๋ก ์ ํ๋๊ณ , ์ ๊ณต๋๋ ์ ์ฒด ๋ชจ๋ธ ์นดํ๋ก๊ทธ์ ๋ ๋์ ํ๋๋ฅผ ์ด์ฉํ ์ ์๋ ๋์ ์ $5 ํฌ๋ ๋ง์ ์ฌ๋ผ์ง๋๋ค.
Paid๋ ํ ํฐ ๋ง์ง ์์ด ๊ณต๊ธ์ ์ ๊ฐ๋ฅผ ์ ์ฉํฉ๋๋ค. BYOK๋ฅผ ์ง์ํ์ง๋ง ๊ตฌ๋งคํ ๊ฒ์ดํธ์จ์ด ํฌ๋ ๋ง์ ์ ์งํด์ผ ํฉ๋๋ค. ๊ณต๊ธ์ ์๊ฒฉ ์ฆ๋ช ์ ์ฌ์ฉํ ์์ฒญ์ด ์คํจํ๋ฉด Vercel์ด ์์คํ ์๊ฒฉ ์ฆ๋ช ์ผ๋ก ์ฌ์๋ํ๊ณ , ๊ทธ ๋น์ฉ์ ํฌ๋ ๋ง ์์ก์์ ์ฐจ๊ฐํ ์ ์์ต๋๋ค. ๊ฐ์ฉ์ฑ์๋ ์ ๋ฆฌํ์ง๋ง ๊ตฌ๋งค ๊ด๋ฆฌ ์ธก๋ฉด์์๋ ๋ป๋ฐ์ ๋น์ฉ์ด ๋ ์ ์์ต๋๋ค. ๊ธฐ์กด ๊ณต๊ธ์ ์ฝ์ ์ ์์งํ๋ ค๊ณ BYOK๋ฅผ ์ฐ๋ ํ์ด๋ผ๋ฉด, ์ฌ๋ฌดํ์ด ๋ชจ๋ ํธ์ถ์ ์ง๊ฒฐ ๋น์ฉ์ผ๋ก ์ฒ๋ฆฌํ๊ธฐ ์ ์ ํด๋ฐฑ ๊ณผ๊ธ ๋ฐฉ์์ ํ์ธํด์ผ ํฉ๋๋ค.
Enterprise ํ์ ๊ฒฐ์ ์ฒ๋ฆฌ ์์๋ฃ ์์ด ์ธ๋ณด์ด์ค ๋ฐฉ์์ AI Gateway ๊ฒฐ์ ๋ฅผ ํ์ํ ์ ์์ต๋๋ค. ์ด๊ฒ์ด ๊ฒ์ดํธ์จ์ด ์์ฒด์ ๊ณต๊ฐ๋ ์ ์ฒด ์๊ธ์ ๊ตฌ์กฐ์ ๋๋ค. ํ ํฐ ๋ง์ง์ด 0์ด๋ผ๋ ๋ฌธ๊ตฌ์ ๋ณ๊ฐ๋ก ์ ํ ๊ธฐ๋ฅ์๋ ์ถ๊ฐ ๊ณผ๊ธ์ด ๋ถ์ต๋๋ค.
Custom Reporting์ ์ฐ๊ธฐ 1,000ํ๋น $0.075, ๋ฆฌํฌํธ ์ฟผ๋ฆฌ 1,000ํ๋น $5์ ๋๋ค. ํ ์ ์ฒด ๊ณต๊ธ์ ํ์ฉ ๋ชฉ๋ก์ ์ฑ๊ณต ์์ฒญ 1,000ํ๋น $0.10์ด์ง๋ง, ์์ฒญ๋ณ ๊ณต๊ธ์ ํํฐ์๋ ์ถ๊ฐ ์๊ธ์ด ์์ต๋๋ค. ํ ์ ์ฒด zero data retention์ ์์ฒญ 1,000ํ๋น $0.10์ด๋ฉฐ, ์์ฒญ๋ณ ์ต์ ์ Pro์ Enterprise์์ ์ถ๊ฐ ์๊ธ์ด ์์ต๋๋ค. Trace Drains๋ ํธ๋ ์ด์ค 1,000ํ๋น $0.05์ ์ด๊ทธ๋ ์ค GB๋น $0.50๊ฐ ๋ํด์ง๋๋ค.
์์ฒญ์ด 100๋ง ํ์ผ ๋ ํ ์ ์ฒด ํ์ฉ ๋ชฉ๋ก, ํ ์ ์ฒด zero data retention, ์์ฒญ๋น ํธ๋ ์ด์ค 1๊ฐ๋ฅผ ๋ชจ๋ ์ฌ์ฉํ๋ฉด $250์ ํธ๋ ์ด์ค ์ด๊ทธ๋ ์ค ๋น์ฉ์ด ๋ญ๋๋ค. ๋ง์ ๋ชจ๋ธ ์ฒญ๊ตฌ์ก๊ณผ ๋น๊ตํ๋ฉด ํฌ์ง ์์ง๋ง, ์์ฐ์๋ ๋ฐ์ํด์ผ ํ ๊ท๋ชจ์ ๋๋ค. Vercel์ด ๋น์ฉ์ ์จ๊ธด๋ค๋ ๋ป์ ์๋๋๋ค. ๋ฌธ์๋ ๋ช ํํฉ๋๋ค. ๋ค๋ง ํ ํฐ ๋ง์ง 0์ ํ๋ซํผ ๋น์ฉ 0์ผ๋ก ํด์ํด์๋ ์ ๋ฉ๋๋ค.
ํ๋ก๋์ ํ๊ฒฝ์์ ๋ถ๋ชํ๋ ํ๊ณ๋ ๋ฐฐํฌ ์ ์ด๊ถ์ ๋๋ค. Vercel ๋ฌธ์๊ฐ ์ค๋ช ํ๋ ๊ฒ์ ์์ฒด ๋คํธ์ํฌ์์ ์คํํ๋ ๊ฒ์ดํธ์จ์ด ํ๋ก์ธ์ค๊ฐ ์๋๋ผ ๊ด๋ฆฌํ ์๋ํฌ์ธํธ์ ๋๋ค. ๊ฐ๋ฒผ์ด ํ์๋ ์ฅ์ ์ด์ง๋ง, ์๊ฒฉํ ํ๋ผ์ด๋น ๋ฐฐํฌ ๊ฒฝ๊ณ๊ฐ ์๋ ๊ตฌ๋งค์์๊ฒ๋ ๊ฑธ๋ฆผ๋์ ๋๋ค.
- Free, Paid, BYOK ์ฌ์ฉ ๋ชจ๋ ํ ํฐ ๋ง์ง 0
- ๋ฒ์๊ฐ ์ ํ๋ ํ๊ฐ์ ์ธ ์ ์๋ ์ $5 Free ํฌ๋ ๋ง
- ์๋ฐฑ ๊ฐ ๋ชจ๋ธ๊ณผ ๋ถํ ๋ถ์ฐ, ํด๋ฐฑ, ์์ฐ, ์ฌ์ฉ๋ ๋ชจ๋ํฐ๋ง
- ํ๋ก์, ๋ฐ์ดํฐ๋ฒ ์ด์ค, ๊ฒ์ดํธ์จ์ด ์ ๊ทธ๋ ์ด๋ ์ฃผ๊ธฐ๋ฅผ ํ์ด ์ง์ ์ด์ํ ํ์ ์์
- ๊ณต์ OpenAI ๋ฐ Anthropic ํธํ API ๊ฒฝ๋ก
- ๋ฌธ์ํ๋ ์ ํ ํธ์คํ ๊ฒ์ดํธ์จ์ด ์๊ธ์ ๊ฐ ์์
- BYOK์๋ ๊ตฌ๋งคํ ํฌ๋ ๋ง์ด ํ์
- ์คํจํ BYOK ํธ์ถ์ด ์ ๋ฃ Vercel ์๊ฒฉ ์ฆ๋ช ์ผ๋ก ํด๋ฐฑ๋ ์ ์์
- ๋ฆฌํฌํ , ํ ์ ์ฒด ์ ์ฑ , ํธ๋ ์ด์ค ๋น์ฉ์ ํ ํฐ ๊ฐ๊ฒฉ๊ณผ ๋ณ๋
Vercel์ OpenRouter๋ฅผ ๋ ๋ค๋ฅธ ๊ด๋ฆฌํ ์์กด์ฑ์ผ๋ก ๋ฐ๊พธ๊ธฐ ๋๋ฌธ์ LiteLLM๋ณด๋ค ์๋์ ๋์์ต๋๋ค. ๊ทธ๋ฌ๋ ํ ํฐ ๋ง์ง 0 ๋๋ถ์ ๋ฐ๋ณต๋๋ ๊ฒ์ดํธ์จ์ด ๋น์ฉ์ด ์ ๋ํ ๋จ์ํด ๋ค๋ฅธ ๊ด๋ฆฌํ ์๋น์ค๋ณด๋ค ์์ญ๋๋ค. ๊ณต๊ธ์ ์ง๊ฒฐ ์ด๋ํฐ ํ๋๋ฅผ ์ ์งํ๋ฉด ์ด ์์กด์ฑ์ ๋ฝ์ธ์ด ์๋๋ผ ํ์ค์ ์ธ ์ด์์ ์ ์ถฉ์์ด ๋ฉ๋๋ค.
3. Portkey: ์ํฐํ๋ผ์ด์ฆ ๊ฑฐ๋ฒ๋์ค์ ์ต์
๊ฑฐ๋ฒ๋์ค๊ฐ ๋ถ๊ฐ ๊ธฐ๋ฅ์ด ์๋๋ผ ๊ตฌ๋งค ๋ชฉ์ ์ด๋ผ๋ฉด Portkey๊ฐ ๊ฐ์ฅ ์ข์ OpenRouter ๋์์ ๋๋ค. Universal API๋ ํด๋ฐฑ, ๋ถํ ๋ถ์ฐ, ์ฌ์๋, ๊ด์ธก์ฑ, ํ๋กฌํํธ ๊ด๋ฆฌ, ์บ์ฑ, ๊ฐ๋๋ ์ผ์ ํ๋๋ก ๋ฌถ์ต๋๋ค. ๊ณต๊ฐ ์๊ธ์ ๋ ํ๋กํ ํ์ , ํ๋ก๋์ , ์ํฐํ๋ผ์ด์ฆ ์๊ตฌ์ฌํญ์ ๊ฒฝ๊ณ๋ฅผ ๋งค์ฐ ๋ช ํํ๊ฒ ๋ณด์ฌ์ค๋๋ค.
์ฌ๋ฌ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ด์ํ๋ ์ค๊ฒฌ๊ธฐ์ CTO๋ ์คํ ์์ค ๊ฒ์ดํธ์จ์ด๋ฅผ ์ง์ ๊ด๋ฆฌํ์ง ์๊ณ ๋ Portkey๋ก ํค, ๋ก๊ทธ, ํ๋กฌํํธ, ๋น์ฉ, ์ฅ์ ์ฒ๋ฆฌ๋ฅผ ์ค์ํํ ์ ์์ต๋๋ค. ์ํฐํ๋ผ์ด์ฆ ๊ตฌ๋งค์๋ ์ ์ ๋ฐ ๊ท์ ์ค์ ์ ์ด์ ํจ๊ป ํ๋ผ์ด๋น ํด๋ผ์ฐ๋๋ VPC ํธ์คํ ์ผ๋ก ๋์๊ฐ ์ ์์ต๋๋ค. ์์ ์ ํ๋ฆฌ์ผ์ด์ ํ๋๋ฅผ ์ด์ํ๋ 1์ธ ๊ฐ๋ฐ์๋ผ๋ฉด ์ํฌํ๋ก๊ฐ ํ์์ฑ์ ์ ์ฆํ๊ธฐ๋ ์ ์ ์ํฐํ๋ผ์ด์ฆ ์ปจํธ๋กค ํ๋ ์ธ์ ๊ตฌ๋งคํด์๋ ์ ๋ฉ๋๋ค.
์ถ์ฒ ๋์: ์ ์ฑ
, ์ ์, ๋ณด์กด, ์ง์์ ์ค์ํํ๋ ์กฐ์ง
ํต์ฌ ๊ฐ์ : ๊ณต๊ฐ๋ $49 Production ์๊ธ์ ์ ํ๋ผ์ด๋น ๋ฐฐํฌ๊ฐ ๊ฐ๋ฅํ Enterprise ๊ฒฝ๋ก
๊ฐ๊ฒฉ: Developer $0; Production ์ $49์ ๋ก๊ทธ ์ด๊ณผ ์ฌ์ฉ๋ฃ; Enterprise ๋ง์ถคํ
๋ฌด๋ฃ ์ฒดํ: ํ๋กํ ํ์
๊ณผ ํ๊ฐ๋ฅผ ์ํ Developer ์๊ตฌ ๋ฌด๋ฃ
Portkey์ ํ์ฌ ๊ฐ๊ฒฉ ํ์ด์ง๋ Developer๊ฐ ํ๋ก๋์ ์ํฌ๋ก๋์ ์ ํฉํ์ง ์๋ค๊ณ ๋ช ์ํฉ๋๋ค. ์ 10,000๊ฐ ๋ก๊ทธ๋ฅผ ๊ธฐ๋กํ๊ณ , ๋ก๊ทธ๋ 3์ผ, ๋ฉํธ๋ฆญ์ 30์ผ ๋ณด๊ดํฉ๋๋ค. ๊ฒ์ดํธ์จ์ด ๊ธฐ๋ฅ์ ๊ฐ๋ ์ฆ๋ช ์ ์ ์ฉํ์ง๋ง ๋ณด์กด ๊ธฐ๊ฐ๊ณผ ๊ณต๊ธ์ฌ์ ๊ฒฝ๊ณ ๊ฐ ํ๊ณ๋ฅผ ๋ถ๋ช ํ ํฉ๋๋ค.
Production์ ์ $49์ ๋๋ค. ๊ธฐ๋ก ๋ก๊ทธ 100,000๊ฐ๋ฅผ ํฌํจํ๊ณ , ์ถ๊ฐ 100,000๊ฐ๋น $9๋ฅผ ๋ถ๊ณผํ๋ฉฐ, ๋ก๊ทธ๋ 30์ผ, ๋ฉํธ๋ฆญ์ 90์ผ ๋ณด๊ดํฉ๋๋ค. ๊ธฐ๋ก ๋ก๊ทธ๊ฐ 100๋ง ๊ฐ๋ฉด ์ ๊ฐ๊ฒฉ์ $130์ ๋๋ค. ๊ธฐ๋ณธ $49์ $9 ์ด๊ณผ ๋ธ๋ก 9๊ฐ๊ฐ ๋ํด์ง๋๋ค. ๊ณต๊ธ์ฌ๋ ๋ง์ถคํ ๋ณด์ ์ ์ด๋ ๋ฐ์ดํฐ ๋ ์ง๋์ ๋ณด์ฅ์ด ํ์ํ ์กฐ์ง์๋ ์ด ์๊ธ์ ๋ฅผ ๊ถ์ฅํ์ง ์๋๋ค๊ณ ๋ ๋ฐํ๋๋ค.
Enterprise๋ ๋ง์ถค ๊ฐ๊ฒฉ์ด๋ฉฐ ์ ๊ธฐ๋ก ๋ก๊ทธ 1,000๋ง+๊ฐ๋ถํฐ ์์ํฉ๋๋ค. ๋ง์ถคํ ๋ก๊ทธ ๋ฐ ๋ฉํธ๋ฆญ ๋ณด์กด, ๋ง์ถคํ ๊ฐ๋๋ ์ผ ํ , SSO, ์ธ๋ถํ๋ ์์ฐ๊ณผ ์๋ ์ ํ, ํ๋ผ์ด๋น ํด๋ผ์ฐ๋, VPC ํธ์คํ , ๋ฐ์ดํฐ ๋ ์ดํฌ ๋ด๋ณด๋ด๊ธฐ, ๊ณ ๊ธ ๊ท์ ์ค์, ๋ง์ถค ๊ณ์ฝ, ์ ๋ด ์จ๋ณด๋ฉ, ์ฐ์ ์ง์์ด ์ถ๊ฐ๋ฉ๋๋ค.
์ด ํจํค์ง์ด Portkey๋ฅผ ๊ตฌ๋งคํ๋ ์ด์ ์ ๋๋ค. AI ์ํฌํ๋ก 10๊ฐ๋ฅผ ์ด์ํ๋ ํ์ฌ์๋ ๊ธฐ๋ณธ URL๋ง ํ์ํ ๊ฒ์ด ์๋๋๋ค. ๋๊ฐ ์ด๋ค ๋ชจ๋ธ์ ํธ์ถํ ์ ์๋์ง, ๋๊ฐ ๋น์ฉ์ ์ผ๋์ง, ์ด๋ค ํ๋กฌํํธ ๋ฒ์ ์ด ์คํ๋๋์ง, ๋ก๊ทธ๊ฐ ์ด๋์ ์๋์ง, ์ด๋ค ๊ฐ๋๋ ์ผ์ด ์ถ๋ ฅ์ ๋ง์๋์ง, ๊ฒ์ดํธ์จ์ด ์ฅ์ ์ ๋๊ฐ ๋์ํ๋์ง ๋ตํ ์ ์์ด์ผ ํฉ๋๋ค. Portkey๋ ์ด ์ง๋ฌธ๋ค์ ํ๋์ ํ๋ซํผ๊ณผ ์ง์ ๊ด๊ณ๋ก ํตํฉํฉ๋๋ค.
๊ฑธ๋ฆผ๋์ ๊ตฌ๋งค ๋ฒ์์ ๋๋ค. ์ํฐํ๋ผ์ด์ฆ ํ๊ฒฝ์ ํํธํ๋ฅผ ์ค์ฌ ์ฃผ๋ ์ ์ด ํ๋ฉด์ด ์ ํ๋ฆฌ์ผ์ด์ ํ๋์๋ ๋ถํ์ํ ์ ์ฐจ๋ฅผ ๋ง๋ค ์ ์์ต๋๋ค. Production ๊ฐ๊ฒฉ์ ๋ถ๋ด์ด ์ ์ง๋ง, ๊ฒ์ดํธ์จ์ด ๋์ ์ ์ด๋ฐํ๋ ๋ณด์ ๋ฐ ๋ ์ง๋์ ์๊ตฌ์ฌํญ์ ํํ ๊ตฌ๋งค์๋ฅผ ๋ง์ถคํ Enterprise ๊ฐ๊ฒฉ์ผ๋ก ์ด๋์ํต๋๋ค. ํ์ฌ ์์ฒญ๋๋ง ๋ณด์ง ๋ง๊ณ ์์ผ๋ก ์ฑ์ฅํ ์กฐ์ง์ ๋ชจ์ต์ ๊ธฐ์ค์ผ๋ก ๊ฐ๊ฒฉ์ ํ๋จํด์ผ ํฉ๋๋ค.
- ๋ฌด๋ฃ ํ๊ฐ, ๊ณต๊ฐ๋ $49 Production, ๋ง์ถคํ Enterprise ๊ฒฝ๋ก
- ํด๋ฐฑ, ์ฌ์๋, ๋ถํ ๋ถ์ฐ, ์บ์ฑ, ๊ฐ๋๋ ์ผ, ๊ด์ธก์ฑ์ ํ ์ ํ์ ํตํฉ
- ๋ก๊ทธ, ๋ณด์กด ๊ธฐ๊ฐ, ์ด๊ณผ ์ฌ์ฉ๋ฃ์ ๊ฒฝ๊ณ๊ฐ ๋ช ํ
- Enterprise ๊ตฌ๋งค์๋ฅผ ์ํ ํ๋ผ์ด๋น ํด๋ผ์ฐ๋์ VPC ์ต์
- ์ ์, ์์ฐ, ๋ฐ์ดํฐ ๋ด๋ณด๋ด๊ธฐ, ์ง์์ ์ฌ๋ฌ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ ์ฉ ๊ฐ๋ฅ
- Developer๋ ํ๋ก๋์ ์๊ธ์ ๊ฐ ์๋๋ผ๊ณ ๋ช ์
- Production์ ๋ง์ถค ๋ณด์์ด๋ ๋ ์ง๋์ ์๊ตฌ์ ๊ถ์ฅ๋์ง ์์
- Enterprise ๊ฐ๊ฒฉ ๋น๊ณต๊ฐ
- ์๊ท๋ชจ ํ์ ์ฐ์ง ์์ ์กฐ์ง์ฉ ์ ์ด์ ๋น์ฉ์ ๋ผ ์ ์์
Portkey๊ฐ 3์์ธ ์ด์ ๋ ๋ผ์ฐํ ๋ณด๋ค ๋ ํฐ ์ํฐํ๋ผ์ด์ฆ ๋ฌธ์ ๋ฅผ ํ๊ธฐ ๋๋ฌธ์ ๋๋ค. ์ ์ฑ ๊ณผ ์ฑ ์ ์์ฌ๊ฐ ๋์ ์ ๋ง๊ณ ์๋ค๋ฉด ๊ฐ์ ์ ๋๋ค. ๋น์ฅ ํด์ผ ํ ์ผ์ด ๋ชจ๋ธ 3๊ฐ๋ฅผ ์๋ํฌ์ธํธ ํ๋ ๋ค์ ๋๋ ๊ฒ๋ฟ์ด๋ผ๋ฉด ์ง๋์น๊ฒ ๋ฌด๊ฑฐ์ด ํ๋ซํผ์ ๋๋ค.
4. Cloudflare AI Gateway: Cloudflare ์ค์ฌ ์คํ์ ์ต์
Cloudflare๊ฐ ์ด๋ฏธ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ฃ์ง, ๋ณด์, Workers ๋ฐํ์์ ๋ด๋นํ๋ค๋ฉด Cloudflare AI Gateway๊ฐ ๊ฐ์ฅ ์ ๋ ดํ๊ณ ์ค์ฉ์ ์ธ OpenRouter ๋์์ ๋๋ค. ํต์ฌ ๋ถ์, ์บ์ฑ, ์๋ ์ ํ์ ๋ชจ๋ ์๊ธ์ ์์ ๋ฌด๋ฃ์ด๋ฉฐ, Dynamic Routing์ผ๋ก ์กฐ๊ฑด๋ถ ๊ฒฝ๋ก, ํธ๋ํฝ ๋ถํ , ์๋ ์ ํ, ์์ฐ ์ ํ, ํด๋ฐฑ์ ์ ์ฉํ ์ ์์ต๋๋ค.
์ด๋ฏธ Workers์ ๋ฐฐํฌํ๋ ์คํํธ์ ์ด๋ผ๋ฉด ๊ตฌ๋ ์ ํ๋ ๋ ์ถ๊ฐํ์ง ์๊ณ ๋ ๋ชจ๋ธ ๊ฐ์์ฑ๊ณผ ๋ผ์ฐํ ์ ํ๋ณดํ ์ ์์ต๋๋ค. ๋ ํฐ ํ์ DLP, ๋ก๊ทธ, ๋ผ์ฐํ ์ ๊ธฐ์กด Cloudflare ์ด์ ๋ฐฉ์๊ณผ ์ฐ๊ฒฐํ ์ ์์ต๋๋ค. ์์ ๊ฒ์ดํธ์จ์ด ์์๋ฃ๋ฅผ ํผํ๋ ค๋ ๋ชฉ์ ์ผ๋ก๋ง Cloudflare๋ฅผ ๋์ ํ๋ฉด ์ ์ฝ์ก๋ณด๋ค ๊ณ์ ๊ณผ ํ๋ซํผ ๊ด๋ฆฌ ์ ๋ฌด๊ฐ ๋ ๋ ์ ์์ต๋๋ค.
์ถ์ฒ ๋์: Cloudflare ๋คํธ์ํฌ, ๋ณด์, Workers ์ ํ์ ์ด๋ฏธ ์ฐ๋ ํ
ํต์ฌ ๊ฐ์ : ํต์ฌ ๊ฒ์ดํธ์จ์ด $0, ๋ฌด๋ฃ DLP ๊ฒ์ฌ, ๋ฒ์ ๊ด๋ฆฌ๋๋ ๋์ ๊ฒฝ๋ก
๊ฐ๊ฒฉ: ํต์ฌ ๊ธฐ๋ฅ $0; Unified Billing ๊ตฌ๋งค ํฌ๋ ๋ง์ 5% ์ถ๊ฐ; ์ธ์ ํ Workers์ ๊ฐ๋๋ ์ผ ์ฌ์ฉ๋์ ๋ณ๋ ๋น์ฉ ๊ฐ๋ฅ
๋ฌด๋ฃ ์ฒดํ: ํต์ฌ ๊ธฐ๋ฅ์ ๋ง๋ฃ ์์ด ๊ณ์ ๋ฌด๋ฃ
Cloudflare์ ๊ฐ๊ฒฉ ๋ฌธ์์ ๋ฐ๋ฅด๋ฉด ํต์ฌ ๊ฒ์ดํธ์จ์ด๋ ๋ชจ๋ ์๊ธ์ ์์ ๋ฌด๋ฃ์ ๋๋ค. Workers Free๋ ๊ณ์ ๋ด ๋ชจ๋ ๊ฒ์ดํธ์จ์ด๋ฅผ ํฉ์ณ ๋ก๊ทธ 100,000๊ฐ๋ฅผ ์ ์ฅํฉ๋๋ค. Workers Paid๋ ๊ฒ์ดํธ์จ์ด๋ง๋ค 1,000๋ง ๊ฐ๋ฅผ ์ ์ฅํฉ๋๋ค. DLP ๊ฒ์ฌ๋ ๋ฌด๋ฃ์ง๋ง Zero Trust ๊ตฌ๋ ์ด ์๋ ๊ณ์ ์๋ ์ฌ์ ์ ์๋ DLP ํ๋กํ์ด 2๊ฐ๋ง ์ ๊ณต๋ฉ๋๋ค.
Unified Billing์ Cloudflare๋ฅผ ํตํด ๊ตฌ๋งคํ ํฌ๋ ๋ง์ 5% ์์๋ฃ๋ฅผ ๋ถ์ด๊ณ , ๊ณต๊ธ์์ ์ถ๋ก ์๊ธ์ ๋ง์ง ์์ด ๊ทธ๋๋ก ์ ๋ฌํฉ๋๋ค. ๋ฐ๋ผ์ ์ $50,000์ ํฌ๋ ๋ง์ ๊ตฌ๋งคํ๋ฉด Cloudflare ์์๋ฃ๋ $2,500์ ๋๋ค. BYOK๋ ๊ฒฝ๋ก๊ฐ ๋ค๋ฆ ๋๋ค. ๋ชจ๋ธ ๊ณต๊ธ์๊ฐ ์์ฒด ํค๋ก ์ง์ ์ฒญ๊ตฌํ๋ฏ๋ก 5% ํฌ๋ ๋ง ๊ตฌ๋งค ์์๋ฃ๊ฐ ์ ์ฉ๋์ง ์์ต๋๋ค.
ํ์ฌ ํ๋ ํ์ด์ง์๋ ์ค์ํ ๊ฒฝ๊ณ๊ฐ ๋์ ์์ต๋๋ค. Unified Billing์์ Cloudflare ๊ด๋ฆฌ ์๊ฒฉ ์ฆ๋ช ์ ์ฌ์ฉํ๋ ์์ฒญ์ ๊ฒ์ดํธ์จ์ด๋น 60์ด์ 200ํ๋ก ์ ํ๋๋ฉฐ, ์ด๋ฅผ ๋์ผ๋ฉด 429๋ฅผ ๋ฐ์ต๋๋ค. BYOK ํธ๋ํฝ์๋ ์ด ์ ํ์ด ์ ์ฉ๋์ง ์์ต๋๋ค. ์ด๋น ํ๊ท ์์ฒญ์ด 4ํ์ธ ์๋น์์ฉ ์ ํ๋ฆฌ์ผ์ด์ ๋ ์ด๋ฏธ ๋ถ๋น 200ํ๋ฅผ ๋์ผ๋ฏ๋ก, ์ถ์ ์ ์ Unified Billing ์ฉ๋์ ๋ช ์์ ์ผ๋ก ํ์ธํด์ผ ํฉ๋๋ค.
๋ฌธ์์ ๋์จ ๋ค๋ฅธ ํ๋๋ ๊ฒ์ดํธ์จ์ด๋น ์ด๋น ์ ์ฅ ๋ก๊ทธ 500๊ฐ, ์บ์ ๊ฐ๋ฅํ ์์ฒญ 25 MB, ์บ์ TTL 1๊ฐ์, ์์ฒญ๋น ๋ง์ถค ๋ฉํ๋ฐ์ดํฐ 5๊ฐ, ๋ฌด๋ฃ ์๊ธ์ ๊ฒ์ดํธ์จ์ด 10๊ฐ, ์ ๋ฃ ์๊ธ์ 20๊ฐ์ ๋๋ค. ๋ง์ ์ ํ๋ฆฌ์ผ์ด์ ์๋ ์ถฉ๋ถํ ์์น์ด์ง๋ง, ์ฅ์ ์ค์ ๋ค๋ฆ๊ฒ ๋ฐ๊ฒฌํ์ง ๋ง๊ณ ์ํคํ ์ฒ ์ ๋ ฅ๊ฐ์ผ๋ก ๋ค๋ค์ผ ํฉ๋๋ค.
Dynamic Routing์ ๋จ์ํ ํด๋ฐฑ ๋ชฉ๋ก ์ด์์ ๋๋ค. ์์ฒญ ๋๋ ๋ง์ถค ๋ฉํ๋ฐ์ดํฐ์ ๋ฐ๋ผ ๋ถ๊ธฐํ๊ณ , ๋น์จ๋ก ํธ๋ํฝ์ ๋๋๊ณ , ์์ฒญ ๋๋ ์์ฐ ํ๋๋ฅผ ์ ์ฉํ๊ณ , ํด๋ฐฑ์ ์ ํํ๊ณ , ๋ฒ์ ์ ์ ์ฅยท๋ฐฐํฌยท๋กค๋ฐฑํ ์ ์์ต๋๋ค. ๊ณ ๊ฐ ๋ฑ๊ธ๋ณ ๋ผ์ฐํ , ์ ์ง์ ์ธ ๋ชจ๋ธ ๋ณ๊ฒฝ, ํต์ ๋ ์คํ์ ์ ์ฉํฉ๋๋ค. ๋์์ ๋ผ์ฐํ ์ ์ฑ ์ด Cloudflare ์ค์ ์ด ๋๋ค๋ ๋ป์ด๋ฏ๋ก, ๊ฐ ๊ฒฝ๋ก์ ์๋๋ฅผ ๋ด๋ณด๋ด๊ณ ๋ฌธ์ํํด์ผ ํฉ๋๋ค.
๊ฑธ๋ฆผ๋์ ์ฃผ๋ณ ํ๋ซํผ๊ณผ์ ์ ํฉ์ฑ์ ๋๋ค. ํ์ด Cloudflare์ ๊ณ์ , ๋ณด์, ๋ก๊ทธ, Workers ์๊ธ์ , ๋ฐฐํฌ ๋ชจ๋ธ์ ์ด๋ฏธ ์ดํดํ๊ณ ์๋ค๋ฉด ๋งค๋ ฅ์ ์ธ ์ ํ์ ๋๋ค. ์ด ๋ชจ๋ ๊ฐ๋ ์ด ์ฒ์์ด๊ณ ๊ด๋ฆฌํ ๋ชจ๋ธ ์๋ํฌ์ธํธ๋ง ํ์ํ๋ค๋ฉด ๋งค๋ ฅ์ ์ค์ด๋ญ๋๋ค.
- ๋ชจ๋ ์๊ธ์ ์์ ํต์ฌ ๋ถ์, ์บ์ฑ, ์๋ ์ ํ ๋ฌด๋ฃ
- Zero Trust๋ฅผ ์ฐ์ง ์์๋ ์ฌ์ ์ ์๋ ํ๋กํ 2๊ฐ๋ก DLP ๊ฒ์ฌ ๋ฌด๋ฃ
- ์กฐ๊ฑด, ๋น์จ, ์๋, ์์ฐ, ํด๋ฐฑ, ๋ฒ์ , ๋กค๋ฐฑ ์ ์ด
- ๊ธฐ์กด Cloudflare ์ฃ์งยท๋ณด์ ์ด์๊ณผ ๊ถํฉ์ด ์ข์
- BYOK๋ Unified Billing ํฌ๋ ๋ง ์์๋ฃ์ ์์ฒญ ์๋ ์ ํ์ ํผํ ์ ์์
- Unified Billing ๊ตฌ๋งค ํฌ๋ ๋ง์ 5% ์ถ๊ฐ
- Unified Billing์ ๊ฒ์ดํธ์จ์ด๋น 60์ด์ ์์ฒญ 200ํ๋ก ์ ํ
- ๋ฌด๋ฃ ๋ก๊ทธ ์ ์ฅ๋์ ๊ณ์ ์ ์ฒด 100,000๊ฐ์์ ๋๋จ
- ์ธ์ ํ Workers, ๊ฐ๋๋ ์ผ, Logpush, Zero Trust ๋น์ฉ์ด ์คํ์ ์ถ๊ฐ๋ ์ ์์
Cloudflare๊ฐ 4์์ธ ์ด์ ๋ ์ต์์ ๊ฐ๊ฒฉ๊ณผ ์ ์ด ์กฐํฉ์ ์ป์ผ๋ ค๋ฉด ๊ธฐ์กด Cloudflare ํ๊ฒฝ์ด ํ์ํ๊ธฐ ๋๋ฌธ์ ๋๋ค. ๊ทธ ํ๊ฒฝ ์์์๋ ์ด ๋ชฉ๋ก์์ ๊ฐ์ฅ ์ ๋ ดํ๊ณ ์ ๋ฅํ ๊ฒฝ๋ก๊ฐ ๋ ์ ์์ต๋๋ค. ๊ทธ๋ ์ง ์๋ค๋ฉด Vercel์ด๋ Requesty๊ฐ ๋๊ฐ ๋ ์์ ๋์ ๊ฒฐ์ ์ผ๋ก ๋๋ฉ๋๋ค.
5. Requesty: ์ฌ์ฉ๋ ๊ณผ๊ธ ๋ฐฉ์์ด ๊ฐ์ฅ ๋น์ทํ ๋์
๊ด๋ฆฌํ ๋ผ์ฐํ ๊ณผ ํญ๋์ ์นดํ๋ก๊ทธ๋ฅผ ์ํ๊ณ ์์๋ฃ๋ฅผ ๋ชจ๋ธ ์ฌ์ฉ๋์ ์ง์ ์ฐ๋ํ๋ ค๋ ์๊ท๋ชจ ํ์๋ Requesty๊ฐ OpenRouter์ ๊ฐ์ฅ ๋น์ทํ ๋์์ ๋๋ค. Pay as you go๋ 20+๊ฐ ๊ณต๊ธ์์ 600+๊ฐ ๋ชจ๋ธ์ ์ ๊ณตํ๋ฉฐ BYOK, ๋ผ์ฐํ ์ ์ฑ , ์บ์ฑ, ํด๋ฐฑ, ์์ฐ ์ ์ด, MCP Gateway, EU ๋ฐ์ดํฐ ๋ ์ง๋์, ๊ณ ๊ธ ๊ด์ธก์ฑ, ์ด๋ฉ์ผ ์ง์์ ํฌํจํฉ๋๋ค.
์คํํธ์ ์ ๋ฌด๋ฃ ๋ชจ๋ธ๋ก ์์ํ ๋ค ์ ๋ฃ ํธ๋ํฝ์ด ์๊ธฐ๋ฉด 5% ๋ง์ง ๋ฐฉ์์ผ๋ก ์ฎ๊ธธ ์ ์์ผ๋ฉฐ, ์ข์์ด๋ ๊ตฌ๋ ์ฌ๋ถ๋ฅผ ๋ฐ๋ก ๊ฒฐ์ ํ ํ์๊ฐ ์์ต๋๋ค. ์ ๋ฝ ๊ณ ๊ฐ์ ์๋ํ๋ B2B SaaS ํ์ด๋ผ๋ฉด ์นดํ๋ก๊ทธ๋ณด๋ค EU ๋ฐ์ดํฐ ๋ ์ง๋์๋ฅผ ๋ ์ค์ํ๊ฒ ๋ณผ ์ ์์ต๋๋ค. ํ ํฐ ์ฌ์ฉ์ก์ด ๋ง๊ณ ์์ ์ ์ด๋ฉฐ ํ๋ซํผ ๋ด๋น์๊ฐ ์๋ ํ์ฌ๋ ์ด ๋น์จ์ ๊ณ์ ๋ฐ์๋ค์ด๊ธฐ ์ ์ LiteLLM์ด๋ Bifrost์ ๋น๊ตํด์ผ ํฉ๋๋ค.
์ถ์ฒ ๋์: ๊ตฌ๋
๋ฃ๋ณด๋ค ๊ด๋ฆฌํ ๋น์จ ์์๋ฃ๋ฅผ ์ ํธํ๋ ์๊ท๋ชจ ํ
ํต์ฌ ๊ฐ์ : ์ข์๋ณ ์๊ธ์ด๋ ์ต์ ์ฌ์ฉ์ก ์์ด ๋ชจ๋ ์๊ธ์ ์ ๋ผ์ฐํ
๊ณผ EU ๋ ์ง๋์ ํฌํจ
๊ฐ๊ฒฉ: Free $0; Pay as you go 5% ์ถ๊ฐ; Enterprise ๋ง์ถคํ
๋ฌด๋ฃ ์ฒดํ: ์ ์ฉ์นด๋ ์์ด ๋ฌด๋ฃ ๋ชจ๋ธ์์ ํ๋ฃจ ์์ฒญ 200ํ๊ฐ ๊ฐ๋ฅํ Free ์๊ธ์
Requesty์ ํ์ฌ ๊ฐ๊ฒฉ ํ์ด์ง๋ ๊ณผ๊ธ ๋ฐฉ์์ ๊ตฌ์ฒด์ ์ผ๋ก ์ค๋ช ํฉ๋๋ค. ๊ณต๊ธ์ ๊ฐ๊ฒฉ์ด ํ ํฐ 100๋ง ๊ฐ๋น $10์ธ ๋ชจ๋ธ์ Requesty์์ $10.50์ ๋๋ค. Free๋ ๋ฌด๋ฃ ๋ชจ๋ธ์์ ์ ์ฒด ํ๋ซํผ์ ์ ๊ณตํ๊ณ ํ๋ฃจ ์์ฒญ 200ํ๋ฅผ ํ์ฉํ๋ฉฐ, ๋ผ์ฐํ , ์บ์ฑ, ํด๋ฐฑ, ๋น์ฉ ์ถ์ , ๋ถ์, EU ๋ฐ์ดํฐ ๋ ์ง๋์๋ฅผ ํฌํจํฉ๋๋ค.
Pay as you go์๋ ์ข์๋ณ ๊ฐ๊ฒฉ๋, ์ต์ ์ฌ์ฉ์ก๋ ์์ต๋๋ค. 5% ๋ง์ง์ผ๋ก 600+๊ฐ ๋ชจ๋ธ, 20+๊ฐ ๊ณต๊ธ์, BYOK, ๋ผ์ฐํ ์ ์ฑ , ์บ์ฑ, ํด๋ฐฑ, ์ง์ถ ํ๋, ์์ฐ ์ํ, MCP Gateway, EU ๋ฐ์ดํฐ ๋ ์ง๋์, ๊ณ ๊ธ ๊ด์ธก์ฑ, ์ด๋ฉ์ผ ์ง์์ ๋ชจ๋ ์ด์ฉํฉ๋๋ค. ์ ๋ชจ๋ธ ๋น์ฉ์ด $5,000์ด๋ฉด ์์๋ฃ๋ $250์ ๋๋ค. $50,000์ด๋ฉด $2,500์ ๋๋ค.
Enterprise๋ ๋ง์ถค ๊ฐ๊ฒฉ์ ๋๋ค. Okta, Azure AD, Google Workspace ๋๋ ๋ง์ถค OIDC๋ฅผ ํตํ SSO, ์ ์ฒด RBAC, ๊ฐ์ฌ ๋ก๊ทธ, ์น์ธ ๋ชจ๋ธ๊ณผ ์ ์ฑ , ํ ์ง์ถ ์ ์ด, ๊ฐ๋๋ ์ผ, PII ํ์ง, CI/CD์ฉ ์๋น์ค ๊ณ์ , ์ ๋ด ์ง์, ๋ง์ถค SLA๊ฐ ์ถ๊ฐ๋ฉ๋๋ค.
ํธ๋ํฝ์ ์์ธกํ๊ธฐ ์ด๋ ค์ธ ๋๋ ๋น์จ ์์๋ฃ๋ฅผ ์น์ธํ๊ธฐ ์ฝ์ต๋๋ค. ์ฌ์ฉ๋์ด ์์ ๋๋ฉด ๋ฐ๋ก ๊ทธ ๋น์จ์ด ๊ฑธ๋ฆผ๋์ด ๋ฉ๋๋ค. ์ ํ ํธ์คํ ์ด์๋น๋ฅผ ์ $1,800์ผ๋ก ์ก์ ์์์์ Requesty์ 5% ์์๋ฃ๋ ์ ๋ชจ๋ธ ๋น์ฉ $36,000์์ ์์ต๋ถ๊ธฐ์ ์ ๋๋ฌํฉ๋๋ค. ์ ์ฝ๋๋ ํ๋ซํผ ์ ๋ฌด๊ฐ $1,800๋ณด๋ค ๊ฐ์น ์๋ค๋ฉด ๊ทธ ์ด์์์๋ ๊ด๋ฆฌํ ์๋น์ค๋ฅผ ์ ์งํ ์ ์์ง๋ง, ์๋ฌด ๊ฒํ ์์ด ๋น์ฉ์ด ๊ณ์ ๋์ ๋๊ฒ ํด์๋ ์ ๋ฉ๋๋ค.
Requesty๋ OpenRouter์ ์๋ฒฝํ ๋ณต์ ํ์ด ์๋๋ฉฐ, ์คํ๋ ค ๊ทธ๊ฒ์ด ์ฅ์ ์ ๋๋ค. ๋๋ถ๋ถ์ ์ ํ ํ์๋ ์นดํ๋ก๊ทธ๊ฐ ์ถฉ๋ถํ ๋๊ณ , ๊ฐ์ฅ ๋๋ ทํ ์ฐจ๋ณ์ ์ ๋ผ์ฐํ ์ ์ด, ์์ฐ ์ฒ๋ฆฌ, ๊ด์ธก์ฑ, EU ๋ ์ง๋์์ ๋๋ค. ๊ฐ์ฅ ์๋กญ๊ณ ์๋ ค์ง์ง ์์ ๋ชจ๋ธ ์๋ํฌ์ธํธ๋ฅผ ์ฐพ๋ ๊ฒ์ด ์ฃผ๋ชฉ์ ์ด๋ผ๋ฉด OpenRouter์ 500+๊ฐ ๋ชจ๋ธ๊ณผ 80+๊ฐ ๊ณต๊ธ์๋ฅผ ๋ฐ๋ผ๊ฐ๊ธฐ ์ด๋ ต์ต๋๋ค. ์น์ธ๋ ๋ชจ๋ธ ๋ฌถ์์ ์กฐ๊ธ ๋ ๋ฎ์ ๋น์จ๋ก ์ด์ํ๋ ๊ฒ์ด ๋ชฉ์ ์ด๋ผ๋ฉด Requesty๋ฅผ ์ ๋นํํ๊ธฐ๊ฐ ๋ ์ฝ์ต๋๋ค.
- Pay as you go์ ๊ตฌ๋ ๋ฃ, ์ข์ ์๊ธ, ์ต์ ์ฌ์ฉ์ก ์์
- 20+๊ฐ ๊ณต๊ธ์์ 600+๊ฐ ๋ชจ๋ธ
- ์ ๋ฃ ๊ฒฝ๋ก์ ๋ผ์ฐํ , ์บ์ฑ, ํด๋ฐฑ, ์์ฐ, BYOK, MCP ์ ๊ทผ ํฌํจ
- ์ ์ฒด ์ํ์ EU ๋ฐ์ดํฐ ๋ ์ง๋์ ํฌํจ
- ์ ์, ๊ฐ์ฌ, ์ ์ฑ , PII ์ ์ด, SLA๋ฅผ ์ํ Enterprise ๊ฒฝ๋ก
- ๋ชจ๋ธ ์ฌ์ฉ์ก์ ๋ฐ๋ผ 5% ์์๋ฃ๊ฐ ๊ทธ๋๋ก ์ฆ๊ฐ
- Enterprise ๊ฐ๊ฒฉ ๋น๊ณต๊ฐ
- Free ํธ๋ํฝ์ ๋ฌด๋ฃ ๋ชจ๋ธ๊ณผ ํ๋ฃจ ์์ฒญ 200ํ๋ก ์ ํ
- ์นดํ๋ก๊ทธ ๋ฒ์๊ฐ ํ์ฌ OpenRouter์ 500+๊ฐ ๋ชจ๋ธยท80+๊ฐ ๊ณต๊ธ์ ๋ง์ผํ๋ ์ด์ค๋ณด๋ค ์ข์
Requesty๊ฐ 5์์ธ ์ด์ ๋ Vercel์ ํ ํฐ ๋ง์ง 0์ด๋ Portkey์ ์กฐ์ง ์ฐจ์ ๊ธฐ๋ฅ ์์ด๋ ๊น๋ํ ๊ด๋ฆฌํ ๋์ฒด์ฌ์ด๊ธฐ ๋๋ฌธ์ ๋๋ค. OpenRouter์ ๋น์ทํ ๊ตฌ๋งค ๋ฐฉ์์ ์กฐ๊ธ ๋ ๋ฎ์ ๋น์จ์ ์ํ๋ ์๊ท๋ชจ ํ์๋ ์ฌ์ ํ ๊ฐ์ฅ ๊ฐ๋จํ๊ณ ์ฌ๋ฐ๋ฅธ ์ ํ์ผ ์ ์์ต๋๋ค.
6. Bifrost: ๊ฐ์ฅ ๊ฐ๋ฒผ์ด ์ ํ ํธ์คํ ๋์
์ํ๊ณ ๊ท๋ชจ๋ณด๋ค ๋ช ํํ ์ฌ์๋ ๋์๊ณผ OpenTelemetry๊ฐ ์ค์ํ๋ค๋ฉด Bifrost๊ฐ ๊ฐ์ฅ ์ข์ ๊ฐ๋ฒผ์ด ์ ํ ํธ์คํ OpenRouter ๋์์ ๋๋ค. $0 OSS ์๊ธ์ ๋ Docker, Kubernetes ๋๋ Go ๋ฐ์ด๋๋ฆฌ๋ก ์คํํ ์ ์๊ณ , ๊ด์ธก์ฑ, ์์ฐ, ์ ํ, ๊ฐ์ ํค, ๋ง์ถค ๋ผ์ฐํ , ํด๋ฐฑ, ์บ์ฑ, MCP gateway๋ฅผ ๊ฐ์ถ ๋จ์ผ API ๋ค์ 1,000+๊ฐ ๋ชจ๋ธ์ ์ฐ๊ฒฐํฉ๋๋ค.
Go ๊ธฐ๋ฐ ์๋น์ค๋ฅผ ์ ํธํ๋ ํ๋ซํผ ํ์ด๋ผ๋ฉด ํ ํฐ ๋น์จ ์์๋ฃ ์์ด ๊ธฐ์กด ์ปจํ ์ด๋๋ Kubernetes ํ์ค์ Bifrost๋ฅผ ๋ง์ถ ์ ์์ต๋๋ค. ์๋ จ๋ ๊ฐ๋ฐ์๋ ๋ถํฌ๋ช ํ ํด๋ฐฑ์ ๋ฐ์๋ค์ด๋ ๋์ ์ฌ์๋ ๊ฒฝ๋ก๋ฅผ ์ง์ ๊ฒํ ํ ์ ์์ต๋๋ค. ๊ฒ์ดํธ์จ์ด ์ด์ ์ฃผ์ฒด๊ฐ ์๋ ํ์ฌ๋ผ๋ฉด ๋ผ์ด์ ์ค๊ฐ ๋ฌด๋ฃ๋ผ๋ ์ด์ ๋ง์ผ๋ก ์ ํํด์๋ ์ ๋ฉ๋๋ค.
์ถ์ฒ ๋์: ๋ ์์ ์
ํ ํธ์คํ
๋ผ์ฐํ
๊ณ์ธต์ ์ํ๋ ํ๋ซํผ ํ
ํต์ฌ ๊ฐ์ : ๋ฌธ์ํ๋ ์ฌ์๋, ํค ์ํ, ํด๋ฐฑ, ํ
๋ ๋ฉํธ๋ฆฌ ๋์
๊ฐ๊ฒฉ: OSS $0; Enterprise ๋ง์ถคํ
๋ฌด๋ฃ ์ฒดํ: Enterprise 14์ผ ์ฒดํ
Bifrost์ ๊ฐ๊ฒฉ ํ์ด์ง์ ๋ฐ๋ฅด๋ฉด OSS์๋ ๋ง์ถค ๋ผ์ฐํ ๊ท์น๊ณผ ํ๋ฆ, OpenTelemetry ๋ฉํธ๋ฆญ๊ณผ ํธ๋ ์ด์ค, ๋ด์ฅ ๊ด์ธก์ฑ, ๊ฐ์ ํค ์์ฐ๊ณผ ์ ํ, ํด๋ฐฑ, ๋จ์ ๋ฐ ์๋งจํฑ ์บ์ฑ, MCP gateway, Prometheus ๋ฉํธ๋ฆญ, ์ฌ๋ฌ ๋ฐฐํฌ ํํ๊ฐ ํฌํจ๋ฉ๋๋ค. Enterprise์๋ ๊ฐ๋๋ ์ผ, ํด๋ฌ์คํฐ ๋ชจ๋, ์ ์ํ ๋ถํ ๋ถ์ฐ, SAML๊ณผ OIDC, ๋ณผํธ ์ฐ๋, ๋ก๊ทธ ๋ด๋ณด๋ด๊ธฐ, ๊ฐ์ฌ ๋ก๊ทธ, RBAC, VPC ๋ฐฐํฌ, ์จํ๋ ๋ฏธ์ค ๋ฐฐํฌ, ์์ด๊ฐญ ์ง์, ๋ง์ถค SLA, ์ ๋ด ์ง์์ด ์ถ๊ฐ๋ฉ๋๋ค.
์ด์ ๋ชจ๋ธ์ด ๋ณต์กํ๊ธฐ ๋๋ฌธ์ ๊ฐ๊ฒฉ ๊ตฌ์กฐ๋ ๋จ์ํฉ๋๋ค. OSS๋ ์๊ตฌ ๋ฌด๋ฃ์ด๋ฉฐ Enterprise๋ ๋ง์ถคํ์ ๋๋ค. ์กฐ์ง์ ๋ผ์ด์ ์ค ๋น์ฉ ๋ฐ์์ ์๋น์ค, ํ์ํ ๋ฐ์ดํฐ๋ฒ ์ด์ค๋ ์ํ ์ ์ฅ์, ํ ๋ ๋ฉํธ๋ฆฌ, ๋น๋ฐ ์ ๋ณด, ์ปดํจํ , ์ ๊ทธ๋ ์ด๋, ํธ์ถ ๋๊ธฐ ์ ๋ฌด์ ๋น์ฉ์ ์ง๋ถํฉ๋๋ค.
Bifrost์ ์ฌ์๋ ๋ฌธ์๋ ์ด ์ ํ์ ๊ฒํ ํ ์ด์ ๊ฐ ๋ฉ๋๋ค. ๊ธฐ๋ณธ ์ต๋ ์ฌ์๋ ํ์๋ 0์ ๋๋ค. ์ฌ์๋๋ฅผ ํ์ฑํํ๋ฉด ๋ฐฑ์คํ๋ 500๋ฐ๋ฆฌ์ด์์ ์์ํด ์ต๋ 5,000๋ฐ๋ฆฌ์ด๊น์ง ๋์ด๋ฉ๋๋ค. ๋คํธ์ํฌ ์ค๋ฅ์ 5xx ์คํจ์๋ ๋ฐฑ์คํ๋ฅผ ์ ์ฉํ๋ฉด์ ๊ฐ์ ๊ณต๊ธ์ ํค๋ฅผ ๋ค์ ์ฌ์ฉํฉ๋๋ค. ์๊ฒฉ ์ฆ๋ช ๋ฐ ๊ฒฐ์ ์คํจ์๋ ํค๋ฅผ ์ํํ ์ ์์ต๋๋ค. ๊ธฐ๋ณธ ๊ฒฝ๋ก์ ์ฌ์๋ ์์ฐ์ ๋ชจ๋ ์์งํ ๋ค์์ผ ํด๋ฐฑ์ผ๋ก ์ด๋ํ๋ฉฐ, ํด๋ฐฑ๋ง๋ค ์์ฒด ์ฌ์๋ ์์ฐ ์ ์ฒด๊ฐ ๋ค์ ์ฃผ์ด์ง๋๋ค.
์ด ๋ช ํ์ฑ์ ๋์์ ํ๊ณ๋ ๋ณด์ฌ์ค๋๋ค. ์ฌ์๋ ํ์๊ฐ ๋ง๊ณ ํด๋ฐฑ์ด ์ฌ๋ฌ ๊ฐ๋ฉด ์์ ๊ณต๊ธ์ ์ฅ์ ๊ฐ ๊ธด ์ฌ์ฉ์ ๋๊ธฐ ์๊ฐ๊ณผ ์ฌ๋ฌ ๋ฒ์ ์ ๋ฃ ์๋๋ก ์ด์ด์ง ์ ์์ต๋๋ค. ํด๋ฐฑ ์๋ต์ด ๋ฌธ๋ฒ์ ์ผ๋ก๋ ์ฑ๊ณตํด๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ์คํค๋ง, ํด, ๋ฐ์ดํฐ ๊ธฐ๋์ฌํญ์ ์๋ฐํ ์ ์์ต๋๋ค. ์ ์ฒด ์ฒด์ธ์ ์ด ์ง์ฐ ์๊ฐ ์ํ์ ์ ํ๊ณ , ์ ์ฑ ์คํจ์์๋ ์ค๋จํ๋ฉฐ, ๊ธฐ๋ณธ ๋ชจ๋ธ๊ณผ ํด๋ฐฑ ๋ชจ๋ธ์ด ์ํฌํ๋ก ๊ณ์ฝ๊ณผ ํธํ๋๋๋ก ํด์ผ ํฉ๋๋ค.
Bifrost์ ๊ฐ์ฅ ์ง์ ์ ์ธ ๊ฒฝ์์๋ LiteLLM์ ๋๋ค. LiteLLM์ ์ํ๊ณ์ ์น์ํจ๊ณผ ๋ ํญ๋๊ณ ๊ฒ์ฆ๋ ์ปจํธ๋กค ํ๋ ์ธ์์ ์์ญ๋๋ค. Bifrost๋ Go ๋ฐฐํฌ, ์ฌ์๋ ํ๋ฆ, OTel ๊ตฌ์ฑ, ๋ ์์ ์ด์ ๊ณ์ธต์ด ํ๋ซํผ ํ์ค์ ์ ๋ง์ ๋ ์์ญ๋๋ค. ์ด์ ๋ด๋น์๊ฐ ์์ผ๋ฉด ๋ ๋ค ๊ด๋ฆฌํ ๊ฒ์ดํธ์จ์ด๋ณด๋ค ๋ถ๋ฆฌํฉ๋๋ค.
- Docker, Kubernetes, Go ๋ฐ์ด๋๋ฆฌ๋ก ๋ฐฐํฌ ๊ฐ๋ฅํ $0 OSS ์๊ธ์
- ํค, ์์ฐ, ๋ผ์ฐํ , ํด๋ฐฑ, ์บ์ฑ, ํ ๋ ๋ฉํธ๋ฆฌ๋ฅผ ๊ฐ์ถ 1,000+๊ฐ ๋ชจ๋ธ
- ๊ตฌ์ฒด์ ์ผ๋ก ๋ฌธ์ํ๋ ์ฌ์๋์ ํด๋ฐฑ ๋์
- ๊ธฐ์กด ํ๋ซํผ ๋ชจ๋ํฐ๋ง์ ๋ง๋ OpenTelemetry์ Prometheus
- ํด๋ฌ์คํฐ๋ง, ์ ์, ๋ณผํธ, ํ๋ผ์ด๋น ๋ฐฐํฌ, ์ง์์ ์ํ Enterprise ๊ฒฝ๋ก
- ๊ฐ์ฉ์ฑ, ์ ๊ทธ๋ ์ด๋, ๋น๋ฐ ์ ๋ณด, ํ ๋ ๋ฉํธ๋ฆฌ, ์ฅ์ ๋ฅผ ํ์ด ์ง์ ์ฑ ์์ ธ์ผ ํจ
- Enterprise ๊ฐ๊ฒฉ ๋น๊ณต๊ฐ
- ์ฌ์๋์ ํด๋ฐฑ ์์ฐ์ด ์ง์ฐ ์๊ฐ๊ณผ ๋น์ฉ์ ์ฆํญ์ํฌ ์ ์์
- LiteLLM๋ณด๋ค ์ํ๊ณ์ ์ด์ ์ด๋ ฅ์ด ์์
Bifrost๊ฐ 6์์ธ ์ด์ ๋ ์ฝํ ์ ํ์ด ์๋๋ผ ๊ฐํ ์ ๋ฌธ ์ ํ์ด๊ธฐ ๋๋ฌธ์ ๋๋ค. ๋ช ํํ ์ฌ์๋ ์๋ฏธ์ Go ๊ธฐ๋ฐ ๊ตฌ์ฑ์ด ๋ฐฐํฌ๋ฅผ ์ข์ฐํ๋ค๋ฉด LiteLLM๋ณด๋ค ๋ซ์ต๋๋ค. ๋ ํฐ LiteLLM ์ํ๊ณ๋ฅผ ์ค์ํ๊ฑฐ๋ ๊ด๋ฆฌํ ์๋น์ค๋ฅผ ์ํ๋ค๋ฉด ๋ค๋ก ๋ฐ๋ฆฝ๋๋ค.
์กฐ์ง๋ณ๋ก ์ด๋ค ์๋น์ค๋ฅผ ์ ํํด์ผ ํ ๊น?
๊ฐ์ฅ ๊น๋ค๋ก์ด ํ๊ณ๋ฅผ ์ด๋ฏธ ์กฐ์ง์ด ํฌ์ํ๊ณ ์๋ ์ญ๋์ผ๋ก ๊ฐ๋นํ ์ ์๋ ๊ฒฝ๋ก๋ฅผ ์ ํํ์ญ์์ค. ํ๋ซํผ ์ด์ ์ฃผ์ฒด๊ฐ ์์ ๋๋ง ์ ํ ํธ์คํ ๊ฒ์ดํธ์จ์ด๊ฐ ์ ๋ ดํฉ๋๋ค. ์ ํ๋ฆฌ์ผ์ด์ ์ด ์ฐํํ ์ ์์ ๋๋ง ๊ด๋ฆฌํ ๊ฒ์ดํธ์จ์ด๊ฐ ๋ ๋ฆฝ์ ์ ๋๋ค. ๋๊ตฐ๊ฐ ์ ์ฑ ์ ๊ฐ์ ํ๊ณ ๊ฐ์ฌํด์ผ ํ ๋๋ง ์ํฐํ๋ผ์ด์ฆ ๊ฑฐ๋ฒ๋์ค๊ฐ ๊ฐ์น๋ฅผ ๋ ๋๋ค.
์ ๋ด ํ๋ซํผ ๋ด๋น์์ ๊ธฐ์กด ๋ฐฐํฌยท๋ชจ๋ํฐ๋ง ํ์ค์ด ์๊ณ , ์๊ฒฉํ ๋ฐ์ดํฐ ๊ฒฝ๋ก ์๊ฑด์ด ์๊ฑฐ๋ ์ ๋ชจ๋ธ ๋น์ฉ์ด ์์ ์ ์ํ ์์ต๋ถ๊ธฐ์ $32,727์ ๊ฐ๊น์์ง๋ ์ ํ ํ์ฌ๋ผ๋ฉด LiteLLM์ ์ ํํ์ญ์์ค. Go, OpenTelemetry, ๋ช ์์ ์ธ ์ฌ์๋ ์๋ฏธ๊ฐ ํ๋ซํผ์ ๋ ์ ๋ง์ผ๋ฉด Bifrost๋ก ์ ํ์ด ๋ฐ๋๋๋ค.
๊ด๋ฆฌํ ์๋ํฌ์ธํธ๊ฐ ํ์ํ๊ณ ํ ํฐ ๋ง์ง์ ์ํ์ง ์๋ ์คํํธ์ ์ด๋ ์ ํ ํ์ด๋ผ๋ฉด Vercel AI Gateway๋ฅผ ์ ํํ์ญ์์ค. Cloudflare๊ฐ ์ด๋ฏธ ์ฃ์ง์ ๋ณด์ ์คํ์ ๋ด๋นํ๋ค๋ฉด Cloudflare๋ก, EU ๋ฐ์ดํฐ ๋ ์ง๋์์ ๋จ์ํ 5% ๋ชจ๋ธ์ด Vercel์ ๋ถ๊ฐ ๊ธฐ๋ฅ ๊ตฌ์กฐ๋ณด๋ค ์ค์ํ๋ค๋ฉด Requesty๋ก ์ ํ์ด ๋ฐ๋๋๋ค.
์ฌ๋ฌ ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ฑธ์ณ ๊ด๋ฆฌํ ์ ์, ๋ณด์กด ์ ์ฑ , ํ๋กฌํํธ ๊ฑฐ๋ฒ๋์ค, ๊ฐ๋๋ ์ผ, ํ๋ผ์ด๋น ๋ฐฐํฌ ์ต์ , ์ง์์ด ํ์ํ ์ค๊ฒฌ๊ธฐ์ ์ด๋ ์ํฐํ๋ผ์ด์ฆ ๊ตฌ๋งค์๋ผ๋ฉด Portkey๋ฅผ ์ ํํ์ญ์์ค. ์คํ ์ค์ธ ๊ฒ์ดํธ์จ์ด๋ฅผ ํ์ฌ๊ฐ ์ง์ ์์ ํด์ผ ํ๊ณ ์ด๋ฅผ ๋ด๋นํ ํ์ ์ด๋ฏธ ํฌ์ํ๋ค๋ฉด LiteLLM์ด๋ Bifrost๋ก ์ ํ์ด ๋ฐ๋๋๋ค.
๋ฌด๋ฃ ํต์ฌ ๊ธฐ๋ฅ, DLP, ๋ก๊ทธ, ๋์ ๊ฒฝ๋ก, Workers ํ๊ฒฝ์ด ๊ธฐ์กด ์ด์ ์ ๋ฌด๋ฅผ ํตํฉํด ์ค๋ค๋ฉด Cloudflare AI Gateway๋ฅผ ์ ํํ์ญ์์ค. ์ต๋ ํธ๋ํฝ์ด ๊ฒ์ดํธ์จ์ด๋น ๋ถ๋น ์์ฒญ 200ํ๋ฅผ ๋์ ์ ์๋ค๋ฉด Unified Billing์์ ๋ฒ์ด๋์ผ ํฉ๋๋ค. BYOK์๋ ๋ฌธ์์ ์ด ์๋ ์ ํ์ด ์์ต๋๋ค.
ํธ๋ํฝ์ด ๋ถํ์คํด ํ๋ซํผ ํ๋ก์ ํธ๋ณด๋ค ๋น์จ ์์๋ฃ๋ฅผ ์น์ธํ๊ธฐ ์ฌ์ด ๋์์๋ Requesty๋ฅผ ์ ํํ์ญ์์ค. ์์ ์ ์ํ ์ด์ ๊ฐ์ ์์๋ ์ ๋ชจ๋ธ ๋น์ฉ ์ฝ $36,000์ ๊ฒฐ์ ์ ๋ค์ ๊ฒํ ํด์ผ ํฉ๋๋ค. ๊ทธ ์ด์์์๋ ์์๋ฃ๊ฐ ์ฌ๋ฐ๋ฅธ ์ ํ์ผ ์ ์์ง๋ง, ์์์ ์ผ๋ก ๊ฒฐ์ ํด์ผ ํฉ๋๋ค.

์ ํ์ ๋ค์ง๋ ์กฐ๊ฑด์ ํ ๋ฌธ์ฅ์ผ๋ก ์ ๋ฆฌ๋ฉ๋๋ค. ์ธก์ ๋ ์์๋ฃ, ๋ฐฐํฌ ๊ฒฝ๊ณ, ์ ์ฑ ๊ณต๋ฐฑ, ์ฅ์ ๋ฐฉ์์ ๋น์ฉ์ด ๋ค์ ๋์์ผ๋ก ์ด์ ํ๊ณ ๊ณ์ ์ด์ํ๋ ๋น์ฉ๋ณด๋ค ์ปค์ง ๋ ๊ฒ์ดํธ์จ์ด๋ฅผ ๋ฐ๊พธ์ญ์์ค. Stripe๊ฐ ํ์ฌ๋ฅผ ์ธ์ํ๋ค๋ ์ด์ ๋ง์ผ๋ก ์ฎ๊ฒจ์๋ ์ ๋ฉ๋๋ค. ๋ฌธ์ํ๋ ์ด์ ํ๋จ์์ ์ ๊ฒฝ๋ก๊ฐ ์ด๊ธธ ๋ ์ฎ๊ฒจ์ผ ํฉ๋๋ค.
์ ์ผํ ๊ฒฝ๋ก๋ก ์ฌ์ฉํด์๋ ์ ๋๋ ์ ํ
์ค์ํ ์ํฌ๋ก๋๋ฅผ ํ ์คํธ๋ ์ฐํ ๊ฒฝ๋ก ์์ด ํ๊ณณ์ ์ง์ค์ํค๋ ์ ํ์ ํผํด์ผ ํฉ๋๋ค. ์๋ ์ ํ์ ๋ชจ๋ ์ข์ ์ ํ์ด ๋ ์ ์์ง๋ง, ํน์ ๊ฒฝ๊ณ๋ฅผ ๋์ผ๋ฉด ์ ์ผํ ๊ฒฝ๋ก๋ก ์ฐ๊ธฐ์ ๋ถ์ ํฉํด์ง๋๋ค.
์์ ๊ถ ์ ํ๊ธฐ์ OpenRouter๋ฅผ ์ ์ผํ ๊ฒฝ๋ก๋ก ์ฐ์ง ๋ง์ญ์์ค. ํ์ฌ ์๊ธ์ ๋ ์ฌ์ ํ 500+๊ฐ ๋ชจ๋ธ, 80+๊ฐ ๊ณต๊ธ์, ์ ๊ตํ ๋ผ์ฐํ , ์ ์ฉํ BYOK ํ๋๋ฅผ ์ ๊ณตํฉ๋๋ค. Stripe๊ฐ ์๋น์ค๋ฅผ ์ ํ์ํฌ ๊ฒ์ด๋ผ๋ ์์ธก์ด ๋ฌธ์ ๊ฐ ์๋๋๋ค. ์ ๊ทผ, ๋ผ์ฐํ , ๊ฒฐ์ , ์ ์ฑ ์ด ์ด๋ฏธ ํ ๊ณ์ ๋ค์ ์ง์ค๋ผ ์๋ค๋ ์ ์ด ๋ฌธ์ ์ ๋๋ค. ์์๋ฃ ์ด์์ ๊ฐ์น๋ฅผ ์ค๋ค๋ฉด ์ ์งํ๋ ๊ณต๊ธ์ ์ง๊ฒฐ ๊ฒฝ๋ก๋ฅผ ๋ง๋ จํด์ผ ํฉ๋๋ค.
์ ๋ด ๋ด๋น์ ์์ด LiteLLM์ด๋ Bifrost๋ฅผ ์ฐ์ง ๋ง์ญ์์ค. ๋ฌด๋ฃ ๋ผ์ด์ ์ค๊ฐ ํ๋ก์๋ฅผ ํจ์นํ๊ฑฐ๋ ๋ฐ์ดํฐ๋ฒ ์ด์ค๋ฅผ ๋ณดํธํ๊ณ , ์๊ฒฉ ์ฆ๋ช ์ ์ํํ๊ณ , ์ฌ์๋๋ฅผ ์กฐ์ ํ๊ณ , ์ฅ์ ๋ฅผ ์กฐ์ฌํ๊ณ , ๊ณต๊ธ์ ๋์์ ์ ๋ฐ์ดํธํด ์ฃผ์ง๋ ์์ต๋๋ค. ์ค์ ์ ๋ง์ง๋ง์ผ๋ก ๋ง์ง ์ฌ๋์ด ์ด์ ๋ด๋น์๊ฐ ๋๋ ๊ตฌ์กฐ๋ผ๋ฉด ๊ด๋ฆฌํ ๊ฒ์ดํธ์จ์ด๋ฅผ ์ ํํ์ญ์์ค.
Portkey Developer๋ฅผ ํ๋ก๋์ ์ ์ฐ์ง ๋ง์ญ์์ค. ๊ณต๊ธ์ฌ๊ฐ ํ๋ก๋์ ์ ์ ํฉํ์ง ์๋ค๊ณ ๋ช ์ํ๋ฉฐ, ๊ธฐ๋ก ๋ก๊ทธ๋ ์ 10,000๊ฐ, ๋ณด์กด ๊ธฐ๊ฐ์ 3์ผ๋ก ์ ํ๋ฉ๋๋ค. ํ๋ก๋์ ์ ์์์ ์ $49์ ๋๋ค. ๋ง์ถค ๋ณด์, ๋ฐ์ดํฐ ๋ ์ง๋์, ํ๋ผ์ด๋น ๋ฐฐํฌ, ๋ ๊น์ ๊ท์ ์ค์ ์ ์ด๊ฐ ํ์ํ๋ฉด Enterprise๊ฐ ๋ง์ต๋๋ค.
์ต๋ ํธ๋ํฝ์ด ๊ฒ์ดํธ์จ์ด๋น 60์ด์ ์์ฒญ 200ํ๋ฅผ ๋์ ์ ์๋ค๋ฉด Cloudflare Unified Billing์ ์ ์ผํ ๊ณ ์ฒ๋ฆฌ๋ ๊ฒฝ๋ก๋ก ์ฐ์ง ๋ง์ญ์์ค. BYOK๋ ๋ฌธ์์ ๋์จ ํด๋น ํ๋์์ ์ ์ธ๋๋ฏ๋ก, ๊ฒ์ดํธ์จ์ด๋ฅผ ๋ฐ๊พธ์ง ์๊ณ ๊ฒฐ์ ๋ฐฉ์๋ง ๋ฐ๊พธ๋ฉด ํด๊ฒฐ๋ ์๋ ์์ต๋๋ค.
์ ํ๋ฆฌ์ผ์ด์ ์ด 2๊ฐ ์ด์ ์์กดํ๊ฒ ๋ ๋ค์๋ ์ง์ ๋ง๋ ๋จ์ base URL ํ๋ก์๋ฅผ ํผํ์ญ์์ค. ์คํธ๋ฆฌ๋ฐ, ์ค๋ฅ ์ ๊ทํ, ๊ณต๊ธ์๋ณ ๋งค๊ฐ๋ณ์, ์ฌ์๋ ์์ฐ, ํด ์คํค๋ง, ์์ฐ, ํค ๊ฒฉ๋ฆฌ, ๋ก๊ทธ, ์ง์ ์ค๋จ ๋์๊น์ง ๋ชจ๋ ์ง์์ ์ผ๋ก ๊ด๋ฆฌํด์ผ ํ๋ ๋ด๋ถ ์ ํ์ ๋๋ค. ๊ณ ์ ํ ์ ์ฑ ์ด๋ ๊ฒฝ์ ์ฑ์ด ์๊ตฌ์ ์ธ ์ด์ ์ฑ ์์ ์ ๋นํํ ๋๋ง ์ง์ ๊ตฌ์ถํ์ญ์์ค.
์์ฃผ ๋ฌป๋ ์ง๋ฌธ
OpenRouter๋ณด๋ค ์ข์ ์๋น์ค๊ฐ ์๋์?
์ ํ๋ฆฌ์ผ์ด์ ์ด ์์ ํ๋ ์ ํ ํธ์คํ ๊ฒ์ดํธ์จ์ด๊ฐ ํ์ํ๋ค๋ฉด LiteLLM์ด ๋ ์ข์ต๋๋ค. ํ ํฐ ๋ง์ง 0๊ณผ ๊ด๋ฆฌํ ์ด์์ด ๊ฐ์ฅ ์ค์ํ๋ค๋ฉด Vercel AI Gateway๊ฐ ๋ ์ข์ต๋๋ค. ํ์ฌ ์ ๋ฃ ์๊ธ์ ์์ 500+๊ฐ ๋ชจ๋ธ๊ณผ 80+๊ฐ ๊ณต๊ธ์๋ฅผ ์ ๊ณตํ๋ OpenRouter๋ ๋ง์ผํ๋ ์ด์ค ๋ฒ์์์ ์ฌ์ ํ ์์ญ๋๋ค.
OpenRouter์ ๋น์ทํ AI ๊ณต๊ธ์๋ ์ด๋์ธ๊ฐ์?
Vercel AI Gateway, Requesty, Cloudflare AI Gateway, Portkey, LiteLLM, Bifrost๋ ๋ชจ๋ ๊ฒน์น๋ ๋ฉํฐ ๊ณต๊ธ์ ๋ผ์ฐํ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค. Vercel, Requesty, Cloudflare, Portkey๋ ๊ด๋ฆฌํ ์ ํ์ง์ด๊ณ , LiteLLM๊ณผ Bifrost๋ ๋ ๊ฐ๋ ฅํ ์ ํ ํธ์คํ ์ ํ์ง์ ๋๋ค.
OpenRouter ๋ฌด๋ฃ ๋ฒ์ ์ด ์๋์?
์์ต๋๋ค. ํ์ฌ OpenRouter Free์๋ 4๊ฐ ๊ณต๊ธ์์ 25+๊ฐ ๋ฌด๋ฃ ๋ชจ๋ธ๊ณผ ํ๋ฃจ ์์ฒญ 50ํ๊ฐ ํฌํจ๋ฉ๋๋ค. ํ๊ฐ์ฉ ๊ฒฝ๋ก์ด๋ฉฐ ํ๋ก๋์ ์ฉ๋์ด ๋ณด์ฅ๋๋ ๊ฒ์ ์๋๋๋ค.
OpenRouter๋ ์ด๋ป๊ฒ ์์ต์ ๋ด๋์?
OpenRouter Pay-as-you-go์๋ 5.5% ํ๋ซํผ ์์๋ฃ๊ฐ ๋ถ์ต๋๋ค. Enterprise๋ ์์๋ฃ ํ ์ธ๊ณผ ๋ง์ถคํ ์ฌ์ฉ๋ ์ฝ์ ์ ์ ๊ณตํฉ๋๋ค. BYOK๋ Pay-as-you-go์์ ์ ์ ๊ฐ ๊ธฐ์ค ์ถ๋ก ๋น์ฉ $25,000๊น์ง, Enterprise์์ $200,000๊น์ง ์์๋ฃ๊ฐ ์์ผ๋ฉฐ, ํ๋๋ฅผ ๋๋ ๊ธ์ก์๋ 5%๊ฐ ๋ถ๊ณผ๋ฉ๋๋ค.
Claude Code๋ฅผ OpenRouter์ ํจ๊ป ์ฌ์ฉํ ์ ์๋์?
ํด๋ผ์ด์ธํธ๊ฐ ํธํ๋๋ base URL๊ณผ ๋ชจ๋ธ ์ค์ ์ ์ง์ํ๋ค๋ฉด ๊ฐ๋ฅํฉ๋๋ค. ๋ค๋ฅธ ๊ฒ์ดํธ์จ์ด ์ฐ๋๊ณผ ๋ง์ฐฌ๊ฐ์ง๋ก ์ฃผ์ํ ์ ์ด ์์ต๋๋ค. ๋์ค์ ๊น๋ํ๊ฒ ์ดํํ๋ ค๋ฉด OpenRouter ์ ์ฉ ๋ชจ๋ธ ์ด๋ฆ์ด๋ ํค๋๋ฅผ ์ ์ฅ์์ ๋น์ฆ๋์ค ๋ก์ง ๊ณณ๊ณณ์ ํผ๋จ๋ฆฌ์ง ๋ง์ญ์์ค.
์์์ผ์ ํ ์ผ: ๊ฒ์ดํธ์จ์ด๋ฅผ ๊ต์ฒดํ๊ธฐ ์ ์ ์ฐํ ๊ฒฝ๋ก๋ถํฐ ๊ตฌ์ถ
๋ค์ ์ฃผ๋ฅผ ์ ๋ฉด ์ด์ ์ผ๋ก ์์ํ์ง ๋ง์ญ์์ค. ๊ณต๊ธ์ ์ง๊ฒฐ ์ฐํ ๊ฒฝ๋ก ํ๋๋ฅผ ๋ง๋ค๊ณ ๋ฒ์๊ฐ ๋ช ํํ ์ํฌํ๋ก์์ ๊ฒ์ฆํ ๋ค, OpenRouter๊ฐ ์ฌ์ ํ ์์๋ฃ ์ด์์ ๊ฐ์น๋ฅผ ์ฃผ๋์ง ํ๋จํด์ผ ํฉ๋๋ค. ๊ฒฐ๊ณผ๋ฌผ์ ๋ ๊น๋ํ ์ํคํ ์ฒ ๋ค์ด์ด๊ทธ๋จ์ด ์๋๋ผ, ์๊ฐ๊ณผ ๋น์ฉ์ ์ธก์ ํ ์ด์ ๊ฒฐ์ ์ด์ด์ผ ํฉ๋๋ค.
ํ๋ก๋์ ์์ค์ ๊ฒฝ๋ก ํ๋ ์กฐ์ฌ
์ค์ํ ์ํฌํ๋ก ํ๋์ ๋ํด ํ์ฌ ๊ฒ์ดํธ์จ์ด ๋ชจ๋ธ, ๊ธฐ๋ฐ ๊ณต๊ธ์, ์ธ์ฆ ๊ฒฝ๋ก, ์ ๋ชจ๋ธ ๋น์ฉ, p95 ์ง์ฐ ์๊ฐ ๋ชฉํ, ๊ตฌ์กฐํ๋ ์ถ๋ ฅ ๋๋ ํด ์๊ตฌ์ฌํญ, ๋ฐ์ดํฐ ์ ์ฑ , ํด๋ฐฑ ๋์์ ๊ธฐ๋กํ์ญ์์ค.
๋ด๋ถ ๊ธฐ๋ฅ ์ด๋ฆ ํ๋ ์์ฑ
๋น์ฆ๋์ค ๋ก์ง์ ์ธ๋ถ ๊ฒ์ดํธ์จ์ด ๋ชจ๋ธ ๋ฌธ์์ด์
support-primary๊ฐ์ ์์ ์ ์ธ ๋ณ์นญ์ผ๋ก ๋ฐ๊พธ์ญ์์ค. ์ผ๋ฐ ์ค์ ์์๋ ๊ทธ ๋ณ์นญ์ OpenRouter์, ์ฐํ ์ค์ ์์๋ ๊ณต๊ธ์ ์ง๊ฒฐ ๊ฒฝ๋ก ํ๋์ ๋งคํํฉ๋๋ค.์ง๊ฒฐ ์ด๋ํฐ ๊ตฌ์ถ
ํ์ฌ๊ฐ ํต์ ํ๋ ๊ณต๊ธ์ ๊ณ์ ๊ณผ ํค๋ฅผ ์ฌ์ฉํ์ญ์์ค. ๊ณต๊ธ์ ์ ์ฉ ํค๋์ ์์ฒญ ํ์ ์ฐจ์ด๋ ์ด๋ํฐ ์์ ๊ฐ๋ฌ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋๋จธ์ง ๋ถ๋ถ์ด ๊ฐ์ ์ ๋ ฅยท์ถ๋ ฅ ๊ณ์ฝ์ ๋ณด๊ฒ ํฉ๋๋ค.
์ ์ ๋ ์์ฒญ 100๊ฐ ์ฌ์
๊ณ ๊ฐ ๋ฐ์ดํฐ์ ๊ธฐ๋ฐ ์ ๋ณด๋ฅผ ์ ๊ฑฐํ ๋ํ ํ๋กฌํํธ๋ฅผ ์ฌ์ฉํ์ญ์์ค. ๊ฒ์ดํธ์จ์ด ๊ฒฝ๋ก์ ์ง๊ฒฐ ๊ฒฝ๋ก ์ฌ์ด์์ ์คํค๋ง ์ ํจ์ฑ, ํด ๋์, ํ์ฉ ๊ฐ๋ฅํ ์ถ๋ ฅ, ์ง์ฐ ์๊ฐ, ๊ณต๊ธ์ ์ค๋ฅ, ์ฌ์๋, ์ด๋น์ฉ์ ๋น๊ตํฉ๋๋ค.
๊ฐ์ ๋ก ๊ฒฝ๋ก ์ ํ
์ค์ ๋ณ๊ฒฝ๊ณผ ํต์ ๋ ๋ฐฐํฌ๋ฅผ ํตํด ๋ฒ์๊ฐ ์ ํด์ง ์ํฌํ๋ก๋ฅผ ์ง๊ฒฐ ์ด๋ํฐ๋ก ์ ํํ์ญ์์ค. ์ ํ ์๊ฐ์ ์ฌ๊ณ ๋ก๊ทธ์ ์์ฐ์ ํ์ธํ ๋ค ๋ค์ ์๋ ๊ฒฝ๋ก๋ก ๋๋ฆฝ๋๋ค. ๋น์ฆ๋์ค ๋ก์ง ์์ ์ด ํ์ํ๋ ๋ชจ๋ ์์กด์ฑ์ ๊ณ ์นฉ๋๋ค.
์์ฐ ํ๋จ
OpenRouter์ ์นดํ๋ก๊ทธ, ๋ผ์ฐํ , ๊ฒฐ์ , ์ฅ์ ์ฒ๋ฆฌ๊ฐ ์ธก์ ๋ ํ๋ซํผ ์์๋ฃ๋ณด๋ค ๋ ๋ง์ ๋น์ฉ์ ์ค์ฌ ์ค๋ค๋ฉด ์ ์งํ์ญ์์ค. LiteLLM, Vercel, Portkey, Cloudflare, Requesty, Bifrost ์ค ํ๋๊ฐ ๋ฌธ์ํ๋ ๋น์ฉ, ์ ์ฑ , ๋ฐฐํฌ, ์ฅ์ ๊ธฐ์ค์์ ์ด๊ธธ ๋๋ง ์ฎ๊น๋๋ค.
ํ๋ซํผ ๋ด๋น์๊ฐ ์๋ ๊ธฐ์ ์คํํธ์ ์ด๋ผ๋ฉด ์์์ผ ํ์ผ๋ฟ์์ ๋๊ฐ OpenRouter, Vercel AI Gateway, ๊ณต๊ธ์ ์ง๊ฒฐ ๊ฒฝ๋ก๋ฅผ ๋น๊ตํด์ผ ํฉ๋๋ค. ํ๋ซํผ ์ด์ ์ญ๋๊ณผ ์๊ฒฉํ ํ๋ผ์ด๋น ๊ฒฝ๊ณ๊ฐ ์๋ ํ์ฌ๋ผ๋ฉด ๊ฐ์ ์ง๊ฒฐ ๊ฒฝ๋ก๋ฅผ ๊ธฐ์ค์ผ๋ก LiteLLM์ ๋น๊ตํ์ญ์์ค. ์ํฐํ๋ผ์ด์ฆ ๊ฑฐ๋ฒ๋์ค ํ๋ก๊ทธ๋จ์ด๋ผ๋ฉด ๊ณ ๊ฐ ํธ๋ํฝ์ ๋ผ์ฐํ ํ๊ธฐ ์ ์ ์ ์, ๋ณด์กด, ๋ฐฐํฌ, ๋ด๋ณด๋ด๊ธฐ, ์ง์ ์๊ตฌ์ฌํญ์ ๋ง์ถฐ Portkey๋ฅผ ๊ฒ์ฆํด์ผ ํฉ๋๋ค.
์ธ์๋ ๊ณ๊ธฐ์ผ ๋ฟ์ ๋๋ค. ์ค๋ ๋จ๋ ํด๋ฒ์ 2๊ฐ ๊ฒฝ๋ก ์์น์ ๋๋ค. ํธ๋ฆฌํ ๊ฒ์ดํธ์จ์ด ํ๋, ๋ ๋ฆฝ์ ์ธ ๊ณต๊ธ์ ๊ฒฝ๋ก ํ๋, ๊ทธ๋ฆฌ๊ณ ์ ํ๋ฆฌ์ผ์ด์ ๊ณผ ๋ชจ๋ธ ์ฌ์ด์ ๋์ธ ๋ชจ๋ ๋น์ฉ๊ณผ ์์กด์ฑ์ ์ค๋ช ํ ์ ์๋ ์ธก์ ๋ ๊ทผ๊ฑฐ๊ฐ ํ์ํฉ๋๋ค.
- ๊ฒ์์ผ
- ์นดํ ๊ณ ๋ฆฌ
- Build
- ์ธ์ด













