Together AI pricing 2026: PTU๋ ํ ์ธ๋ณด๋ค ์ฉ๋์ ์ฝ๋๋ค
Together AI pricing์ ์๋ฒ๋ฆฌ์ค ํ ํฐ๋ถํฐ PTU, Dedicated Inference, GPU ํด๋ฌ์คํฐ๊น์ง ๋ถ์ํฉ๋๋ค. 2026๋ ์ต์ ์๊ธ ๊ธฐ์ค์ผ๋ก $5 ์ ๋ถ ์ก์ธ์ค, $0.05/PTU-minute, ์ ์ ์จ๋ณ ์์ต๋ถ๊ธฐ์ ๊ณผ ์จ์ ๋น์ฉ์ ํ ๋ฒ์ ํ์ธํ์ธ์.
๊ฒ์์ผ

Together AI pricing์์ ๊ฐ์ฅ ์ ๋ ดํ ์ ํ์ ์๋ฒ๋ฆฌ์ค์ ๋๋ค. ์๋ก ๋์จ $0.05/PTU-minute ์ต์ ๋ ์์ฒด ํ ํฐ ์๊ธ๋ณด๋ค ์ธ๊ฒ ์ ๊ณตํ๋ ์ ๊ฐ ํ ์ธ ์ํ์ ์๋๋๋ค. PTU 1๊ฐ๋ฅผ 30์ผ ๋ด๋ด ์์ฝํ๋ฉด $2,160์ ๋๋ค. ์ฌ์ฉํ์ง ์๋ ํ ํฐ์ ์ธ๊ฒ ์ฌ๊ธฐ ์ํด์๊ฐ ์๋๋ผ, ๋ณด์ฅ๋ ์ฉ๋๊ณผ 99% ๊ฐ๋ ์๊ฐ SLA๊ฐ ํ์ํ ๋ ๊ตฌ๋งคํด์ผ ํฉ๋๋ค.
Together AI pricing ํ๋์ ๋ณด๊ธฐ
Together AI๋ ๋จ๊ณ์ ์ผ๋ก ๋์ ํ๋ ํธ์ด ๊ฐ์ฅ ํฉ๋ฆฌ์ ์ ๋๋ค. ์ ๋ถ ์๋ฒ๋ฆฌ์ค ์ฌ์ฉ๋์ผ๋ก ์์ํ๊ณ , ํธ๋ํฝ์ด ์ผ์ ํ๊ฑฐ๋ ์์ ์ฑ์ด ์ค์ํ ๊ตฌ๊ฐ์ Provisioned Throughput์ผ๋ก ์ฎ๊ธด ๋ค, ๋จ์ผ ํ ๋ํธ ์ ์ด ๋๋ ์ปค์คํ ๋ชจ๋ธ์ด ๊ผญ ํ์ํ ์ํฌ๋ก๋์๋ง ์ ์ฉ ํ๋์จ์ด๋ฅผ ์์ฝํฉ๋๋ค. ์ด ๋จ๊ณ๋ฅผ ์ฌ์ฉ๋ ํ ์ธ์ผ๋ก ์คํดํ๋ฉด ํฐ ๋น์ฉ์ด ๋ฐ์ํฉ๋๋ค. ๊ฐ ์ํ์ ์ธก์ ๋จ์๊ฐ ๋ค๋ฅด๊ณ ๊ณ ๊ฐ์๊ฒ ์ด์ ํ๋ ์ด์ ๋ฆฌ์คํฌ๋ ๋ค๋ฆ ๋๋ค.

Together AI์๋ ๋จ์ํ Free, Pro, Business ์๊ธ์ ๊ฐ ์์ต๋๋ค. ์๋ฒ๋ฆฌ์ค ํ ํฐ๊ณผ ๋ฏธ๋์ด ์ถ๋ ฅ, ์์ฝํ ํ ํฐ ์ฉ๋, ๊ด๋ฆฌํ ์ ์ฉ GPU, ์์ GPU ํด๋ฌ์คํฐ, ์๋๋ฐ์ค ์ปดํจํ , ์คํ ๋ฆฌ์ง, ํ์ธํ๋์ ๊ฐ๊ฐ ํ๋งคํฉ๋๋ค. ํ๋์ ์ ํ์์ ์ฌ๋ฌ ๊ณผ๊ธ ๋จ์๊ฐ ๋์์ ๋ฐ์ํ ์๋ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด ์์ด์ ํธ๋ ๋ชจ๋ธ ํ ํฐ, ์๋๋ฐ์ค CPU์ ๋ฉ๋ชจ๋ฆฌ, ์์ฒญ์ด ์์ ๋๋ ๋น์ฉ์ด ๋ฐ์ํ๋ ํ์ธํ๋ ์๋ํฌ์ธํธ๋ฅผ ํจ๊ป ์ฌ์ฉํ ์ ์์ต๋๋ค.
์ด ๊ธ์ ๋ชจ๋ ๊ฐ๊ฒฉ๊ณผ ํ๋๋ 2026๋ 8์ 22์ผ Together AI์ ์ค์๊ฐ ๊ฐ๊ฒฉ ํ์ด์ง, ๊ฒฐ์ ๋ฌธ์, ์ ํ ๋ฌธ์์์ ํ์ธํ์ต๋๋ค. ์ด ๋ ์ง๊ฐ ์ค์ํ ์ด์ ๊ฐ ์์ต๋๋ค. ํ์ฌ ํ์ด์ง๋ 6์์ ๊ฐ๊ฒฉ ์ ๋ณด์ ์ด๋ฏธ ํฌ๊ฒ ๋ฌ๋ผ์ก์ต๋๋ค. MiniMax M3, Kimi K3, GLM-5.2๊ฐ ์ถ๊ฐ๋๊ณ ์ค์๊ฐ ์ ์ฉ ํ๋์จ์ด ์๊ธ์ ๋ฎ์์ก์ผ๋ฉฐ ์๋ก์ด Provisioned Throughput ๊ณ์ธต๋ ์๊ฒผ์ต๋๋ค.
์ฒซ ๋ฒ์งธ ํ๋จ ๊ธฐ์ค์ ๊ฐ๋จํฉ๋๋ค. ์์๊ฐ ๋ถํ์คํ๊ฑฐ๋ ์๊ฐ์ ์ผ๋ก ๋ชฐ๋ฆฌ๋ฉด ์๋ฒ๋ฆฌ์ค๋ฅผ ์ฌ์ฉํฉ๋๋ค. ํน์ ๋ชจ๋ธ์ด ์์ ์ ์ธ ๊ธฐ๋ณธ ๋ถํ๋ฅผ ์ฒ๋ฆฌํ๊ณ ์์ฝ ์ฉ๋์ ์ฌ์ ์ ๊ฐ์น๊ฐ ์๋ค๋ฉด PTU๋ฅผ ๊ฒํ ํฉ๋๋ค. ์ปค์คํ ๋ชจ๋ธ, ๋จ์ผ ํ ๋ํธ ํ๋์จ์ด ๋๋ ๊ตฌ์ฑ ์ ์ด๊ฐ ํ์ํ๋ฉด Dedicated Inference๋ฅผ ์ ํํฉ๋๋ค. ํ์ฌ๊ฐ ๊ด๋ฆฌํ ์ถ๋ก ๊ฒฐ๊ณผ๋ฅผ ๊ตฌ๋งคํ๋ ๋์ ๊ธฐ๋ฐ ์ปดํจํ ์ ์ง์ ์ด์ํ๋ ค๋ ๊ฒฝ์ฐ์๋ง GPU ํด๋ฌ์คํฐ๋ฅผ ์ ํํด์ผ ํฉ๋๋ค.

์ด ์ฐจ์ด ๋๋ถ์ ์คํ๋ถํฐ ์์ฝํ ์ธํ๋ผ๊น์ง ํ๋์ API ๊ฒฝ๋ก๋ฅผ ์ํ๋ ํฌ์ ์ ์น ์คํํธ์ ์ฐฝ์ ์์๊ฒ Together AI๋ ๋งค๋ ฅ์ ์ ๋๋ค. ๋ฐ๋ฉด ๊ฐ์ฅ ๋ฎ์ ์๊ฐ ํ ํฐ ๊ฐ๊ฒฉ๋ง ์ฐพ๋ 1์ธ ๊ฐ๋ฐ์๋ ํ ๋ฌ ์์์กฐ์ฐจ ์์ธกํ๊ธฐ ์ด๋ ค์ด ํ์๋ ๋ ๋งค๋ ฅ์ ์ ๋๋ค. ์ ์ฐ์ฑ์ ์๋ฒ๋ฆฌ์ค ์ํ์์ ์ฌ๊ณ , ์ฝ์ ์ ๋ณ๋๋ก ๊ตฌ๋งคํ๋ ๊ตฌ์กฐ์ ๋๋ค.
๊ธฐ๋ณธ์ ์๋ฒ๋ฆฌ์ค ์ถ๋ก ์ด๋ฉฐ, ์ฒญ๊ตฌ์ก์ ๋ชจ๋ธ ์ ํ์ด ์ข์ฐํฉ๋๋ค
์๋ฒ๋ฆฌ์ค๋ ํ๋ก๋น์ ๋ ๋น์ฉ์ด ์๊ณ , $5 ํ๋ซํผ ์ก์ธ์ค ๊ตฌ๋งค ์ธ์๋ ์ต์ ์ฌ์ฉ๋๋ ์์ผ๋ฏ๋ก ๊ฐ์ฅ ์ ์ ํ ์ถ๋ฐ์ ์ ๋๋ค. ๊ณต์ ํ๋ฆฟ์ ์์ฒญ์ ๋ณด๋ด๊ณ ์๋ฃ๋ ์์ ๋งํผ ์ง๋ถํฉ๋๋ค. ์ฒญ๊ตฌ์์์ Together AI๋ผ๋ ์ด๋ฆ๋ณด๋ค ํจ์ฌ ์ค์ํ ๊ฒ์ ๋ชจ๋ธ, ํ ํฐ ๋ฐฉํฅ, ์บ์ ์๊ธ, ์ถ๋ ฅ ๊ธธ์ด์ ๋๋ค.
ํ์ฌ ์ฑํ ์นดํ๋ก๊ทธ์ ๊ฐ๊ฒฉ ํญ์ ๋งค์ฐ ๋์ต๋๋ค. LFM2.5-8B-A1B๋ ์ ๋ ฅ ํ ํฐ 1 million๊ฐ๋น $0.03, ์ถ๋ ฅ ํ ํฐ 1 million๊ฐ๋น $0.12์ ๋๋ค. DeepSeek V4 Flash 0731์ ์ ๋ ฅ $0.14, ์บ์ ์ ๋ ฅ $0.03, ์ถ๋ ฅ $0.28์ ๋๋ค. gpt-oss-120B๋ ์ ๋ ฅ $0.15, ์ถ๋ ฅ $0.60์ ๋๋ค. ํ์๋ ํ ์คํธ ๋ชฉ๋ก์ ์๋จ์์๋ Kimi K3๊ฐ 1 million tokens๋น ์ ๋ ฅ $3, ์บ์ ์ ๋ ฅ $0.30, ์ถ๋ ฅ $15์ ๋๋ค.
Together๊ฐ ํธ์คํ ํ๋ DeepSeek ์๊ธ์ ํด๋น ๊ณต๊ธ์์๋ง ์ ์ฉ๋๋ ๊ณผ๊ธ ๋จ์์ ๋๋ค. ๋ณ๋์ DeepSeek ๊ฐ๊ฒฉ ๋ถ์์ ๋ชจ๋ธ์ ์ง์ ์ฌ์ฉํ ๋์ ๊ฒฝ์ ์ฑ์ ๋ค๋ฃน๋๋ค. Together ์ฒญ๊ตฌ์ก์ ๊ณ์ฐํ ๋๋ Together์ ์ค์๊ฐ ํ์ด์ง๋ฅผ ์ฌ์ฉํด์ผ ํฉ๋๋ค.
LFM์ ์ถ๋ ฅ ์๊ธ $0.12์ Kimi K3์ ์ถ๋ ฅ ์๊ธ $15 ์ฌ์ด์๋ 125๋ฐฐ ์ฐจ์ด๊ฐ ์์ต๋๋ค. ๋ชจ๋ธ ๋ผ์ฐํ ์ ๋ฌด์ํ ์ฑ ๊ณต๊ธ์๋ง ์ต์ ํํ๋ ๊ฒ์ ๋ชจ๋ ์ํฌ๋ฅผ ํญ๊ณต์ผ๋ก ๋ณด๋ด๋ฉด์ ์ด์์ ์์ ํ ์ธ๋ง ํ์ํ๋ ๊ฒ๊ณผ ๊ฐ์ต๋๋ค. ์ฒซ ๋ฒ์งธ ๋น์ฉ ์ ๊ฐ ์๋จ์ ๊ฐ ์์ ์ ํ์ง ํํ์ ์ ๋๋ ๊ฐ์ฅ ์ ๋ ดํ ๋ชจ๋ธ์ ๋ฐฐ์ ํ๋ ๊ฒ์ ๋๋ค.
์์ด์ ํธ ์ํฌ๋ก๋ ์์๋ก ์ดํด๋ณด๊ฒ ์ต๋๋ค. ํธ์ถ 1,000ํ๊ฐ ๊ฐ๊ฐ ์ ๋ ฅ ํ ํฐ 8,000๊ฐ๋ฅผ ์ฐ๊ณ ์ถ๋ ฅ ํ ํฐ 1,000๊ฐ๋ฅผ ์์ฑํ๋ค๊ณ ๊ฐ์ ํฉ๋๋ค. ์ด ์ ๋ ฅ ํ ํฐ์ 8 million๊ฐ, ์ถ๋ ฅ ํ ํฐ์ 1 million๊ฐ์ ๋๋ค.
- DeepSeek V4 Flash 0731์ ์ด๋น์ฉ์ $1.40, ํธ์ถ๋น $0.0014์ ๋๋ค.
- gpt-oss-120B์ ์ด๋น์ฉ์ $1.80, ํธ์ถ๋น $0.0018์ ๋๋ค.
- MiniMax M3์ ์ด๋น์ฉ์ $3.60, ํธ์ถ๋น $0.0036์ ๋๋ค.
- GLM-5.2์ ์ด๋น์ฉ์ $15.60, ํธ์ถ๋น $0.0156์ ๋๋ค.
- Kimi K3์ ์ด๋น์ฉ์ $39, ํธ์ถ๋น $0.039์ ๋๋ค.
๊ฐ์ฅ ํฐ ์ฐจ์ด๋ฅผ ๋ง๋๋ ๊ฒ์ ๊ณต๊ธ์ ์ค๋ฒํค๋๊ฐ ์๋๋ผ ์ ํํ ๋ชจ๋ธ๊ณผ ๋น์ผ ์ถ๋ ฅ์ ์์ ๋๋ค. ๋ผ๋ฒจ ํ๋๋ง ๋ฐํํ๋ ๊ณ ๊ฐ ์ง์ ๋ถ๋ฅ๊ธฐ์ ๊ธด ๋ต๋ณ์ ์์ฑํ๋ ๋ฆฌ์์น ์์ด์ ํธ์ ๊ฐ์ ์ถ๋ ฅ ์์ฐ์ ๋ฐฐ์ ํ ํ์๋ ์์ต๋๋ค. ๋ ์ ๋ ดํ ์๋ํฌ์ธํธ๋ฅผ ์ฐพ๊ธฐ ์ ์ ๋ฒ์๊ฐ ์ ํด์ง ์์ ์ ์ถ๋ ฅ ์ํ๋ถํฐ ๊ฐ์ ํด์ผ ํฉ๋๋ค.
๋ฐ๋ผ์ ๋ ํญ๋์ ์ต์ ๊ฐ AI API ๋น๊ต๋ ์์ ์กฐ๊ฑด์ ๋์ผํ๊ฒ ๋ง์ถ ๋ค์์ผ ์๋ฏธ๊ฐ ์์ต๋๋ค. ํ๋กฌํํธ ๊ธธ์ด, ์๋ต ๊ธธ์ด, ์บ์ ๊ฐ์ ๋๋ ๋ชจ๋ธ์ด ์๋ก ๋ค๋ฅธ ๊ณต๊ธ์๋ฅผ ๋น๊ตํ๋ฉด ๋ณด๊ธฐ ์ข์ ์ซ์๋ ์ป์ ์ ์์ด๋ ์์ฐ ํ๋จ์๋ ์ธ ์ ์์ต๋๋ค.
์บ์ ์ ๋ ฅ์ ๋น์ฉ์ด ํฐ ๋ฐ๋ณต ํ๋ฆฌํฝ์ค๋ฅผ ์ค์ฌ ์ค๋๋ค
ํ๋กฌํํธ๊ฐ ๋ฐ๋ณต๋ ๋ ์บ์ ์ ๋ ฅ์ ์ ํ์๋น์ค์์ ๊ฐ์ฅ ๊ฐ๋ ฅํ ํ ์ธ ์๋จ์ ๋๋ค. ๊ธด ์์คํ ์ง์นจ์ด๋ ๊ณ ์ ๋ ์ฐธ์กฐ ์ปจํ ์คํธ์ฒ๋ผ ๋ฐ๋์ง ์๋ ํ๋ฆฌํฝ์ค๋ฅผ Together๊ฐ ์ธ์ํ๊ณ , ์ง์ ๋ชจ๋ธ์์ ํด๋น ํ ํฐ์ ๋ ๋ฎ์ ์๊ธ์ ์ ์ฉํ๋ ๋ฐฉ์์ ๋๋ค.
๊ฐ์ 1,000ํ ํธ์ถ ์ํฌ๋ก๋์์ 8 million ์ ๋ ฅ ํ ํฐ์ 80%๊ฐ ์บ์ ์๊ธ ์ ์ฉ ๋์์ด๋ผ๊ณ ๊ฐ์ ํฉ๋๋ค. MiniMax M3๋ $3.60์์ $2.064๋ก, GLM-5.2๋ $15.60์์ $8.304๋ก, Kimi K3๋ $39์์ $21.72๋ก ๋ฎ์์ง๋๋ค. ๊ฐ๊ฐ 42.7%, 46.8%, 44.3% ์ ๊ฐ๋ฉ๋๋ค.
์ด์์ ์๋ฏธ๋ ํ ์ธ์จ๋ณด๋ค ํฝ๋๋ค. ์๋ จ๋ ์ด์์๋ ๊ณ ์ ํ๋ฆฌํฝ์ค์ ์์ฒญ๋ณ ์ปจํ ์คํธ๋ฅผ ๋ถ๋ฆฌํ๊ณ , ์บ์๋ ํ ํฐ๊ณผ ์บ์๋์ง ์์ ํ ํฐ์ ๋ฐ๋ก ๊ธฐ๋กํ๋ฉฐ, ์บ์๋ฅผ ๋ฌดํจํํ๋ ํ๋กฌํํธ ๋ณ๊ฒฝ์ ๊ฐ์ํด์ผ ํฉ๋๋ค. ํธ๋ํฝ์ด ๊ทธ๋๋ก์ฌ๋ ํ๋กฌํํธ๋ฅผ ๊ณ ์น๋ฉด ๋น์ฉ์ด ์ค๋ฅผ ์ ์์ต๋๋ค. ์บ์ ๋ฐ์ดํฐ๋ฅผ ๋ณด๊ธฐ ์ ์๋ ๊ฐ๊ฒฉ ๋ฌธ์ ์ฒ๋ผ ๋ณด์ด๋ ํ์์ ๋๋ค.
Batch๋ ๋ชจ๋ธ๊ณผ ์ํฌํ๋ก๊ฐ ์กฐ๊ฑด์ ์ถฉ์กฑํ ๋๋ง ์ ๋ ดํฉ๋๋ค
Together AI์ Batch API๋ ๋น๋๊ธฐ ์๋ฃ๋ฅผ ๋ฐ์๋ค์ด๋ ๋์ ์ผ๋ถ ์๋ฒ๋ฆฌ์ค ๋ชจ๋ธ์ ์ต๋ 50% ํ ์ธ์ ์ ๊ณตํฉ๋๋ค. ์คํ๋ผ์ธ ๋ถ๋ฅ, ํฉ์ฑ ๋ฐ์ดํฐ, ํ๊ฐ, ๋๋ ์์ฝ์ ์๋ง์ต๋๋ค. ๋ค์ ์๋ต์ ๊ธฐ๋ค๋ฆฌ๋ ์ค์๊ฐ ์ฑํ , ๊ฒฐ์ ๋์ฐ๋ฏธ ๋๋ ๊ณ ๊ฐ ์๋น์ค ํ๋ฆ์๋ ๋ง์ง ์์ต๋๋ค.
ํ์ฌ Batch ๊ณ์ฝ์์๋ 100 MB ์ ๋ ฅ ํ์ผ ํ๋์ ์์ฒญ์ ์ต๋ 50,000๊ฐ๊น์ง ๋ฃ์ ์ ์๊ณ , ๋ชจ๋ธ๋น ๋๊ธฐ์ด ํ ํฐ์ ์ต๋ 30 billion๊ฐ์ ๋๋ค. ์๋ฃ ์๊ฐ์ 24์๊ฐ์ผ๋ก ๊ณ ์ ๋์ง๋ง ์ต์ ํ ๋ชฉํ์ ๋๋ค. Together๋ 1,000-10,000๊ฐ ์์ฒญ์ผ๋ก ๊ตฌ์ฑํ ๋ฐฐ์น๋ฅผ ๊ถ์ฅํฉ๋๋ค. ์ฑ๊ณตํ ์๋ต์๋ ๋น์ฉ์ด ์ฒญ๊ตฌ๋๊ณ ์คํจํ ์์ฒญ์๋ ์ฒญ๊ตฌ๋์ง ์์ผ๋ฉฐ, ๋ฐฐ์น๋ฅผ ์ทจ์ํด๋ ์ด๋ฏธ ์๋ฃ๋ ์๋ต์ ๋น์ฉ์ ์ฌ๋ผ์ง์ง ์์ต๋๋ค.
50%๋ผ๋ ๋ฌธ๊ตฌ๊ฐ ๋ชจ๋ ๊ฒฝ์ฐ์ ์ ์ฉ๋์ง๋ ์์ต๋๋ค. ํ ์ธ์ ๋ฐ๋ ๊ฒ์ ์ ํ๋ ์๋ฒ๋ฆฌ์ค ๋ชจ๋ธ๋ฟ์ด๋ฉฐ, ์ผ๋ถ ๋ชจ๋ธ์ Batch์์ ์ ํ ์คํํ ์ ์์ต๋๋ค. ์ ์ฉ ์๋ํฌ์ธํธ๋ ๋ฐฐ์น ์์ ์ ๋ฐ์ ์ ์์ง๋ง ํ ์ธ์ ์ ์ฉ๋์ง ์์ต๋๋ค. ์์ธก ๋ชจ๋ธ์ ๋ง๋ค๊ธฐ ์ ์ ์ค์๊ฐ Batch ๋ชจ๋ธ ๋ชฉ๋ก์ ํ์ธํด์ผ ํฉ๋๋ค.
ํ์ฌ ํ ์ธ ๋์ ์์๋ก, Llama 3.3 70B์์ ์ ๋ ฅ 8 million๊ฐ์ ์ถ๋ ฅ 1 million๊ฐ ํ ํฐ์ ์ ๋ ฅยท์ถ๋ ฅ ์๊ธ $1.04 ๊ธฐ์ค $9.36์ ๋๋ค. 50% ํ ์ธ ์กฐ๊ฑด์ ์ถฉ์กฑํ๋ ๋ฐฐ์น๋ผ๋ฉด $4.68์ ๋๋ค. ๋ชจ๋ ์๋ฒ๋ฆฌ์ค ์์ฒญ์ด ์ธ์ง ๊ฒ์ด ์๋๋ผ ์์ ์ด ์ง์ฐ ์๋ฃ๋ฅผ ํ์ฉํ๊ธฐ ๋๋ฌธ์ ์๋ฏธ ์๋ ์ ๊ฐ์ด ์๊น๋๋ค.
์ด๋ฏธ์งยท์์ยท์ค๋์คยท์คํ ๋ฆฌ์ง๋ ๋จ์๊ฐ ์๋ก ๋ค๋ฆ ๋๋ค
์๋ฒ๋ฆฌ์ค๋ ํ ์คํธ์๋ง ๋จธ๋ฌผ์ง ์์ต๋๋ค. ์ค์๊ฐ ์ด๋ฏธ์ง ์นดํ๋ก๊ทธ์ ํ์ ๋ชจ๋ธ์ ์ด๋ฏธ์ง ๋๋ ๋ฉ๊ฐํฝ์ ๋น $0.0017-$0.134, ์์ ๋ชฉ๋ก์ ์์ฑ ์์๋น $0.115-$3.20์ ๋๋ค. ์์ฑ ์ธ์์ ์ค๋์ค ๋ถ๋น $0.0015-$0.0045์ด๊ณ , ์์ฑ ํฉ์ฑ์ 1 million characters๋น $4-$65์ ๋๋ค. Multilingual e5 large instruct ์๋ฒ ๋ฉ์ 1 million tokens๋น $0.02, Llama Guard 4 12B ๋ชจ๋๋ ์ด์ ์ 1 million tokens๋น $0.20์ ๋๋ค.
์ด ๋ฒ์๋ ์๋ก ๋ฐ๊ฟ ์ธ ์ ์์ต๋๋ค. Together๋ ํ์๋ ์ด๋ฏธ์งยท์์ ๊ฐ๊ฒฉ์ด ๊ฐ์ฅ ๋ฎ์ ํด์๋๋ ์ฌ์ ์๊ฐ์ ๊ธฐ์ค์ผ๋ก ํ๋ฉฐ, ๊ธฐ๋ณธ ์์ฑ ์คํ ์ ๋์ผ๋ฉด ์ถ๊ฐ ๋น์ฉ์ด ๋ฐ์ํ ์ ์๋ค๊ณ ์๋ดํฉ๋๋ค. ์งง์ ์์ 100,000๊ฐ๋ฅผ ์์ฑํ ์์ฐ์ ์ง๋ ์ ํ ๊ด๋ฆฌ์๋ ์ ํํ ๋ชจ๋ธ, ์ฌ์ ์๊ฐ, ํด์๋, ์ค๋์ค ์ค์ , ์ฌ์๋์จ์ ์์์ผ ํฉ๋๋ค. ๊ฐ์ฅ ์ผ ์ธ๋ค์ผ ๊ฐ๊ฒฉ์ ํ๋ก๋์ ์๋๋ง ๊ณฑํ๋ฉด ์ค์ ํญ๋ชฉ ๋น์ฉ์ ๊ณผ์ํ๊ฐํ๊ฒ ๋ฉ๋๋ค.
๋๋ถ๋ถ์ ์ ์ํฌ๋ก๋์๋ ์ฌ์ ํ ์๋ฒ๋ฆฌ์ค๊ฐ ๊ธฐ๋ณธ ์ ํ์ ๋๋ค. ํ๊ณ๋ ํ ํฐ ์๊ธ์ด ์๋๋ผ ๊ณต์ ์ฉ๋, ๋์ ์๋ ์ ํ, ๊ทธ๋ฆฌ๊ณ Provisioned ์ํ๊ณผ ๊ฐ์ ๊ณต๊ฐ ๊ฐ๋ ์๊ฐ ์ฝ์ ์ด ์๋ค๋ ์ ์ ๋๋ค. ์ด ๋ฌธ์ ๊ฐ ๊ณ ๊ฐ ๋์ ๋ฆฌ์คํฌ๊ฐ ๋๋ ์๊ฐ๋ถํฐ๋ ์ผ๋ฐ์ ์ธ ์ ๊ทธ๋ ์ด๋๊ฐ ์๋๋ผ ์ฉ๋์ ํ๋จํด์ผ ํฉ๋๋ค.
Provisioned Throughput์ ์ฉ๋์ ์ ์ฝ์ ์ผ๋ก ๋ฐ๊ฟ๋๋ค
์์ฝ ํ ํฐ ์ฉ๋์ด ์ค์ ์ฌ์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ ๋๋ง Provisioned Throughput์ ๊ตฌ๋งคํ ๊ฐ์น๊ฐ ์์ต๋๋ค. Together AI๋ 2026๋ 7์ 8์ผ, ์ต์ ํ ์๋ฒ๋ฆฌ์ค์ ์์ ํ ๊ตฌ์ฑ ๊ฐ๋ฅํ Dedicated Inference ์ฌ์ด์ ์ค๊ฐ ๊ณ์ธต์ผ๋ก ์ด ์ํ์ ์ถ์ํ์ต๋๋ค. 99% ๊ฐ๋ ์๊ฐ SLA, ์ต์ 1๊ฐ์ ์ฝ์ , ๋ถ๋น Provisioned Throughput Unit(PTU) $0.05๋ผ๋ ๊ณต๊ฐ ์ ๊ฐ๋ฅผ ์ ๊ณตํฉ๋๋ค.
PTU๋ ํ ํฐ ๋ฌถ์์ด ์๋๋๋ค. ์ง์ ๋ชจ๋ธ ํ๋์ ๋ํด ๊ณ ๊ฐ ์ ์ฉ์ผ๋ก ํ๋ณดํ ๋ถ๋น ํ ํฐ ์ฒ๋ฆฌ์จ์ ๋๋ค. ์ ๋ ฅ, ์บ์ ์ ๋ ฅ, ์ถ๋ ฅ์ ์๋ก ๋ค๋ฅธ ๋น์จ๋ก ์ด ์ฉ๋์ ์๋ชจํฉ๋๋ค. ํ์ฌ ์ค์๊ฐ ํ์ด์ง์๋ ๊ณต๊ฐ๋ ์ธ ๊ฐ์ง ์ค์ผ์ค์ด ์์ต๋๋ค.
MiniMax M3๋ PTU๋น ๋ถ๋น ์ ๋ ฅ ํ ํฐ 166,667๊ฐ, ์บ์ ์ ๋ ฅ ํ ํฐ 833,333๊ฐ ๋๋ ์ถ๋ ฅ ํ ํฐ 41,667๊ฐ๋ฅผ ์ ๊ณตํฉ๋๋ค. Kimi K3๋ ์ ๋ ฅ 16,667๊ฐ, ์บ์ ์ ๋ ฅ 166,667๊ฐ ๋๋ ์ถ๋ ฅ 3,333๊ฐ์ ๋๋ค. GLM-5.2๋ ์ ๋ ฅ 35,714๊ฐ, ์บ์ ์ ๋ ฅ 192,308๊ฐ ๋๋ ์ถ๋ ฅ 11,364๊ฐ์ ๋๋ค. ์ ๋ ฅ๊ณผ ์ถ๋ ฅ์ด ์์ธ ์์ฒญ์ ์ด ์ฉ๋์ ํผํฉํด ์๋ชจํฉ๋๋ค.
๋ถ๋น $0.05์ด๋ฉด PTU 1๊ฐ๋ ์๊ฐ๋น $3, ํ๋ฃจ $72, 30์ผ๊ฐ $2,160์ ๋๋ค. Together ๊ณ์ฐ๊ธฐ์ ๊ฐ์ฃผ๋ ์ฐ์ ํ๊ท ์ ํ๋ก๋น์ ๋์ ์ฝ 43,800๋ถ์ ์ ์ฉํ๋ฉฐ, ์ด๋ ์ฝ $2,190์ด ๋ฉ๋๋ค. ์ฌ๋ฌดํ์ ๋ชจ๋ ๋ฌ์ ๊ณ ์ $2,160๋ก ๊ฐ์ฃผํ์ง ๋ง๊ณ ์ ํํ ๊ณ์ฝ๊ณผ ํด๋น ์์ ๋ฌ๋ ฅ์ ์ฌ์ฉํด์ผ ํฉ๋๋ค.
PTU ์ ์ ์จ ํ ์คํธ
ํต์ฌ ๊ณ์ฐ์ PTU 1๊ฐ์ ์ฉ๋์ Together ์์ฒด ์๋ฒ๋ฆฌ์ค ์๊ธ์ผ๋ก ์ผ๋ค๋ฉด ์ผ๋ง์ธ์ง ๋น๊ตํ๋ ๊ฒ์ ๋๋ค. MiniMax M3 PTU๋ฅผ 30์ผ ๋์ ์ ๋ ฅ์๋ง ํ ๋นํ๋ฉด ์ฝ 7.2 billion ์ ๋ ฅ ํ ํฐ์ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค. ์๋ฒ๋ฆฌ์ค ์๊ธ 1 million๊ฐ๋น $0.30์ ์ ์ฉํ๋ฉด ์ฝ $2,160์ ๊ฐ์น์ ๋๋ค. ์ถ๋ ฅ์๋ง ํ ๋นํ๋ฉด ์ฝ 1.8 billion ์ถ๋ ฅ ํ ํฐ์ ์ฒ๋ฆฌํ๋ฉฐ, 1 million๊ฐ๋น $1.20์ ์ ์ฉํด๋ ์ฝ $2,160์ ๋๋ค. ์บ์ ์ ๋ ฅ ๊ฒฝ๋ก ์ญ์ ๋ฐ์ฌ๋ฆผ ์ค์ฐจ ์์์ ๊ฐ์ ์ง์ ์ ๋๋ฌํฉ๋๋ค.
Kimi K3์ GLM-5.2๋ ๊ฐ์ ๋ฐฉ์์ผ๋ก ๋ณด์ ๋ฉ๋๋ค. ๊ณต๊ฐ PTU ์ฉ๋์ 30์ผ ๋ด๋ด ๊ฑฐ์ ์์ ํ ์ ์ ํด์ผ ๊ณต๊ฐ ์๋ฒ๋ฆฌ์ค ๊ฐ๊ฒฉ๊ณผ ์์ต์ด ๊ฐ์์ง๋๋ค. ๊ณต๊ฐ ๊ณ์ฐ๊ธฐ์์ ์ ํํ ์์ฉ ๋ชจ๋ธ ๋๋น ํฐ ์ ๊ฐ์ก์ด ํ์๋ ์ ์์ง๋ง, ์ด๋ ๋ช ์์ ์ผ๋ก ๊ทธ ์ธ๋ถ ๋ชจ๋ธ์ ์ ๊ฐ์ PTU ๋น์ฉ์ ๋น๊ตํ ๊ฒ์ ๋๋ค. Together ์์ฒด ์๋ฒ๋ฆฌ์ค ์๊ธ๋ณด๋ค ์ธ์ ๋ ์ธ๋ค๋ ๋ป์ ์๋๋๋ค.
PTU ์ ์ ์จ ํ ์คํธ์ ๊ฒฐ๋ก ์ ์ด๋ ์ต๋๋ค. ์์ฝ ๋จ์๋ฅผ ์์ ํ ์ฌ์ฉํ ๋๋ง ์ฉ๋ ๊ฐ์น์ ์๋ฒ๋ฆฌ์ค ๊ฐ์น๊ฐ ๊ฐ์ต๋๋ค. ์ฌ์ฉ๋ฅ 50%์์๋ MiniMax M3์ ์คํจ ์๊ธ์ด ์ ๋ ฅ 1 million tokens๋น $0.60, ์บ์ ์ ๋ ฅ $0.12, ์ถ๋ ฅ $2.40์ผ๋ก 2๋ฐฐ๊ฐ ๋ฉ๋๋ค. 25%์์๋ $1.20, $0.24, $4.80์ผ๋ก 4๋ฐฐ๊ฐ ๋ฉ๋๋ค. 70%์์๋ ์คํจ ์๊ธ์ด ์๋ฒ๋ฆฌ์ค์ ์ฝ 1.43๋ฐฐ๋ก, ์ ๋ ฅ ์ฝ $0.43, ์ถ๋ ฅ ์ฝ $1.71์ ๋๋ค.

๊ทธ๋ ๋ค๊ณ PTU๊ฐ ๋์ ์ํ์ด๋ผ๋ ๋ป์ ์๋๋๋ค. ์ํ์ ์ฑ๊ฒฉ์ ์ ํํ ๋ณด์ฌ ์ค ๋ฟ์ ๋๋ค. ๊ณ ๊ฐ ๋์ ์์ด์ ํธ๋ฅผ ์ด์ํ๋ ์ค๊ฒฌ๊ธฐ์ CTO๋ผ๋ฉด ์์ฝ ๊ตฌ๊ฐ์ด ์ค๋กํ๋ง ์ํ์ ์ค์ด๊ณ 99% ๊ฐ๋ ์๊ฐ SLA๊ฐ ๊ณ์ฝ์ ๊ฐ์น๊ฐ ์์ ๋ ์ ํด ์ฉ๋ 20%๋ฅผ ํฉ๋ฆฌ์ ์ผ๋ก ๋ฐ์๋ค์ผ ์ ์์ต๋๋ค. ํ์ผ์๋ง ์์๊ฐ ์๋ ์ฐฝ์ ์๋ ์ฉ๋ ๋ณด์ฅ์ด ๊ทธ ํ๋ฆฌ๋ฏธ์๋ณด๋ค ํฐ ๋งค์ถ์ ๋ณดํธํ์ง ์๋ ํ ๋ฐค๊ณผ ์ฃผ๋ง๊น์ง ๋น์ฉ์ ๋ด์๋ ์ ๋ฉ๋๋ค.
๊ณต๊ฐ ํ์ด์ง๋ ๋ ๊ธด ์ฝ์ ์ ํ ์ธ์ด ์ ์ฉ๋ ์ ์๋ค๊ณ ์๋ดํ์ง๋ง ํ ์ธํ๋ ๊ณต๊ฐํ์ง ์์ต๋๋ค. ํ์ ํ ์ธ์ ์์ต๋ถ๊ธฐ ์ ์ ์จ์ 100% ์๋๋ก ๋ฎ์ถฅ๋๋ค. ์์ ํ์ด ์ฃผ๋ฌธ์์ ์์จ์ ๋ช ์ํ๊ธฐ ์ ๊น์ง๋ ๊ณต๊ฐ ์ ๊ฐ๋ก ๊ณ์ฐํ๊ณ , ํ ์ธ์ ์ถ๊ฐ ์ด์ต์ผ๋ก ์ทจ๊ธํด์ผ ํฉ๋๋ค.
99% SLA๋ ์ฌ์ ๊ด์ ์์ ํด์ํด์ผ ํฉ๋๋ค
์ ๊ฐ๋ ์๊ฐ ๋ชฉํ 99%๋ 30.4์ผ ๊ธฐ์ค ์ฝ 7์๊ฐ 18๋ถ์ ์ค๋จ์ ํ์ฉํฉ๋๋ค. ์ต์ ํ ์ก์ธ์ค๋ณด๋ค๋ ๊ฐํ์ง๋ง Groq์ ์ํฐํ๋ผ์ด์ฆ Performance ๊ณ์ธต์ 99.9%๋ฅผ ๊ณต๊ฐํ๋ฏ๋ก, ์ด ๋น๊ต๊ตฐ์์ 99%๋ ๊ฐ์ฅ ๊ฐํ ์ฝ์ ์ด ์๋๋๋ค. ํผ์ผํธ ๊ธฐํธ๊ฐ ๋ถ์ ์ธ ๊ธ์๋ง ๋ณด๊ณ ๋ฉ์ถ์ง ๋ง๊ณ ์๋ฉด ๋ณด์, ์ ์ง๋ณด์ ์ ์ธ ์กฐํญ, ๋ฆฌ์ ์ค๊ณ, ๋์ฒด ๊ฒฝ๋ก๋ฅผ ๋น๊ตํด์ผ ํฉ๋๋ค.
Provisioned Throughput์ ์ ํ๋ฆฌ์ผ์ด์ ์ ์์ ์ ์ธ ๊ธฐ๋ณธ ๋ถํ์ ์์ธก ๊ฐ๋ฅํ ๋ชจ๋ธ ์ ํ์ด ์๊ณ , ๊ณต์ ํ๋ฆฟ ์ค๋กํ๋ง์ผ๋ก ๊ณ ๊ฐ ์ฝ์์ด ๊นจ์ง ์ ์์ ๋ ๊ฐ์ฅ ํ๋นํฉ๋๋ค. ํธ๋ํฝ์ด 10๋ฐฐ์ฉ ํ๋ค๋ฆฌ๊ฑฐ๋ ๋ชจ๋ธ์ด ๋งค์ฃผ ๋ฐ๋๊ฑฐ๋ ์คํ๋ผ์ธ ์์ ์ Batch๋ก ์ฎ๊ธธ ์ ์๋ค๋ฉด ์ค๋๋ ฅ์ด ๋จ์ด์ง๋๋ค. ์ด๋ฐ ๊ฒฝ์ฐ ์์ฝ์ ๋ถํ์ค์ฑ์ ์ ๋ฃ ์ ํด ์๊ฐ์ผ๋ก ๋ฐ๊ฟ๋๋ค.
์์์ผ ์์ฐ ํ์์ ์ง๋ฌธ์ด ๋ฌ๋ผ์ง๋๋ค
2026๋ 7์ 8์ผ ์ด์ ์๋ Together๋ฅผ ์ ํํ ํ์ด ๊ณต์ ํ ํ ํฐ๋น ์๋ฒ๋ฆฌ์ค์์ ์ ์ฉ GPU ์ธํ๋ผ๋ก ํฌ๊ฒ ๋ฐ์ด์ผ ํ์ต๋๋ค. PTU๋ ๊ทธ ์ฌ์ด์ ์๋ก์ด ์์ฐ ํญ๋ชฉ์ ์ถ๊ฐํฉ๋๋ค. GPU ํฌ๊ธฐ๋ฅผ ์ฐ์ ํ๊ฑฐ๋ ์ปค์คํ ์๋น ์คํ์ ๋ ๋งก์ง ์๊ณ ๋ ๋ชจ๋ธ ์ฒ๋ฆฌ๋์ ์์ฝํ ์ ์์ต๋๋ค. ์์ง๋์ด๋ง์ ๊ฐ์ ์ถ๋ก API๋ฅผ ์ ์งํ๋ฉด์ ์ฌ๋ฌดํ์ ๊ณ ์ ๋ ์ ์ฉ๋ ํ๋๋ฅผ ์น์ธํ ์ ์์ต๋๋ค.
๊ทธ ๊ฒฐ๊ณผ ์๋ก์ด ์ด์ ์งํ๊ฐ ํ์ํด์ง๋๋ค. ํ ํฐ ๋น์ฉ๋ง์ผ๋ก๋ ๋ถ์กฑํฉ๋๋ค. ๋ด๋น์๋ ์ด๋น ์ต๋ ์์ฒญ ์, ์ ๋ ฅยท์ถ๋ ฅ ํ ํฐ ๋น์จ, ์บ์ ์ ์ค๋ฅ , ์ฉ๋ ์ ์ ์จ, ์ค๋กํ๋ ์์ฒญ, ์น์ธ๋ ๊ฒฐ๊ณผ๋ฅผ ํ์ ํด์ผ ํฉ๋๋ค. ๋์๋ณด๋์์ ์ด ์ฌ์ฏ ๊ฐ์ง๋ฅผ ๋ณด์ฌ ์ฃผ์ง ๋ชปํ๋ฉด PTU๊ฐ ๋ณดํธ ์ฅ์น์ธ์ง ๋ญ๋น์ธ์ง ํ๋จํ ์ ์์ต๋๋ค.
MiniMax M3 PTU 1๊ฐ๋ก ์ค์ฌ์ฉ ์์ด์ ํธ ํธ์ถ ์ฝ 600,000ํ๋ฅผ ์ฒ๋ฆฌํฉ๋๋ค
๊ฐ ํธ์ถ์ด ์บ์๋์ง ์์ ์ ๋ ฅ ํ ํฐ 8,000๊ฐ์ ์ถ๋ ฅ ํ ํฐ 1,000๊ฐ๋ฅผ ์ฌ์ฉํ๋ค๋ฉด PTU 1๊ฐ๋ก 30์ผ ๋์ MiniMax M3 ํธ์ถ ์ฝ 600,000ํ๋ฅผ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค. ์์ ์๋ฒ๋ฆฌ์ค ํธ์ถ๋น $0.0036๋ก ๊ณ์ฐํ ๊ฒ๊ณผ ๊ฐ์ ์ํฌ๋ก๋์ด๋ฏ๋ก, ์๋ฒ๋ฆฌ์ค ํธ์ถ 600,000ํ๋ $2,160์ ๋๋ค. ์์ ํ ์ ์ ํ๋ฉด ์ฉ๋ ๋จ์์ ํ ํฐ ๋จ์ ๋น์ฉ์ด ์ค๊ณ๋๋ก ๋ง๋ฉ๋๋ค.
์ฉ๋ ๊ณ์ฐ์๋ ์์ฒญ์ ์ ๋ ฅ๊ณผ ์ถ๋ ฅ์ด ๋ชจ๋ ๋ค์ด๊ฐ๋๋ค. ์ ๋ ฅ ํ ํฐ 8,000๊ฐ๋ MiniMax M3์ ๋ถ๋น ์ ๋ ฅ ํ ํฐ 166,667๊ฐ ์ค์ผ์ค์์ ์ฝ 0.048 PTU-minute๋ฅผ ์๋ชจํฉ๋๋ค. ์ถ๋ ฅ ํ ํฐ 1,000๊ฐ๋ ๋ถ๋น ์ถ๋ ฅ ํ ํฐ 41,667๊ฐ์์ 0.024 PTU-minute๋ฅผ ๋ ์๋ชจํฉ๋๋ค. ๋ฐ๋ผ์ ์ ์ฒด ์์ฒญ์ ์ฝ 0.072 PTU-minute๋ฅผ ์ฌ์ฉํฉ๋๋ค. ํ ๋ฌ์ 43,200 PTU-minute๋ฅผ ์ด ์์ฒญ ๋จ์๋ก ๋๋๋ฉด ์ฝ 600,000ํ๊ฐ ๋ฉ๋๋ค.
์ด ์์น๋ก ๋ฐ๋ก ์์ฌ๊ฒฐ์ ์ ์ธ ์ ์๋ ์ด์ ์์ฐ์ ๋ง๋ค ์ ์์ต๋๋ค.
์ ์ ์จ 80%์์๋ PTU๊ฐ ์ฝ 480,000ํ ํธ์ถ์ ์ง์ํฉ๋๋ค. ๊ฐ์ ์์ ์ ์๋ฒ๋ฆฌ์ค ์ฒญ๊ตฌ์ก์ $1,728์ด๋ฏ๋ก ์ ์์ฝ ํ๋ฆฌ๋ฏธ์์ $432์ ๋๋ค. PTU๊ฐ ์ค์ ๋ก ์๋นํ ์๋ฒ๋ฆฌ์ค ์์ ๋ณด๋ค 25% ๋น์๋๋ค. ์์ฝ ์ฉ๋๊ณผ 99% SLA๊ฐ ๋งค์ถ, ์ง์ ์๊ฐ ๋๋ ํํ ๋น์ฉ $432 ์ด์์ ๋ณดํธํ๋ค๋ฉด ๊ณ ๊ฐ ๋์ ์ ํ์ ์ด ํ๋ฆฌ๋ฏธ์์ ๋ฐ์๋ค์ผ ์ ์์ต๋๋ค.
์ ์ ์จ 70%์์๋ ์ฝ 420,000ํ ํธ์ถ์ ์ง์ํฉ๋๋ค. ์๋ฒ๋ฆฌ์ค๋ $1,512์ด๋ฏ๋ก ์ฉ๋ ํ๋ฆฌ๋ฏธ์์ $648์ ๋๋ค. 50%์์๋ 300,000ํ ํธ์ถ์ ์ง์ํ๊ณ ์๋ฒ๋ฆฌ์ค๋ $1,080์ด๋ฏ๋ก PTU ์ฒญ๊ตฌ์ก์ ์ ๋ฐ์ด ์ ํด ์ฉ๋ ๋น์ฉ์ผ๋ก ๋จ์ต๋๋ค.
์บ์๋ ํ ๋จ์์ ๋ค์ด๊ฐ๋ ํธ์ถ ์๋ ๋ฐ๊ฟ๋๋ค. ์ ๋ ฅ์ 80%๊ฐ ์บ์๋๋ฉด ์์ฒญ๋น ์ฌ์ฉ๋์ด ์ฝ 0.072์์ 0.04128 PTU-minute๋ก ์ค์ด๋ญ๋๋ค. ๊ทธ๋ฌ๋ฉด PTU 1๊ฐ๋ก ๊ฐ์ ํธ์ถ์ ์์ ์ ์ ๊ธฐ์ค ์ฝ 1.0465 millionํ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค. ์๋ฒ๋ฆฌ์ค ๊ฐ๊ฒฉ๋ ๋์์ ํธ์ถ๋น $0.0036์์ $0.002064๋ก ๋ด๋ ค๊ฐ๋ฏ๋ก, ์์ ๋ถํ ๋น์ฉ์ ์ฌ์ ํ $2,160 ๋ถ๊ทผ์ ์๋ ดํฉ๋๋ค.
๋ฐ๋ผ์ ์บ์์ ์ฌ์ ์ ์ด์ ์ ๋จ๊ฐ ์ ๊ฐ๋ฟ ์๋๋ผ ์ฒ๋ฆฌ๋ ์ฆ๊ฐ์๋ ์์ต๋๋ค. ๊ธธ๊ณ ๊ณ ์ ๋ ์์คํ ํ๋ฆฌํฝ์ค๊ฐ ์์ผ๋ฉด ๊ฐ์ ์์ฝ ์ฉ๋์ผ๋ก ๋ ๋ง์ ๊ณ ๊ฐ ์์ ์ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค. ํ๋กฌํํธ ๋ณ๊ฒฝ์ผ๋ก ์บ์ ์ฌ์ฌ์ฉ์ด ๊นจ์ง๋ฉด PTU ์ฌ์ ์ฉ๋์ด ์ค๊ณ ์๋ฒ๋ฆฌ์ค ๋น์ฉ๋ ๋์์ ์ค๋ฆ ๋๋ค.
์ด์ ์์ฐ ํญ๋ชฉ ๊ท๋ชจ๋ก ํ์ฅํด ๋ณด๊ฒ ์ต๋๋ค. PTU 10๊ฐ๋ 30์ผ ๊ธฐ์ค $21,600์ด๋ฉฐ, ์์ ํ ์ ์ ํ๋ฉด ์บ์๋์ง ์์ ์์ ํธ์ถ์ ์ฝ 6 millionํ ์ฒ๋ฆฌํฉ๋๋ค. 70%์์๋ 4.2 millionํ์ ๋๋ค. ๊ฐ์ ์์ ์ ์๋ฒ๋ฆฌ์ค ์ฒญ๊ตฌ์ก์ $15,120์ด๋ฏ๋ก ์์ฝ ์ฉ๋๊ณผ SLA์ ๋ํ ์ ํ๋ฆฌ๋ฏธ์์ $6,480์ ๋๋ค.
CTO๊ฐ ์ค๋ช ํด์ผ ํ ์ซ์๋ ๋ฐ๋ก $6,480์ ๋๋ค. ๊ณต์ ํ๋ฆฟ ์ค๋กํ๋ง์ผ๋ก ์ํ๋ฐ๋ ์ด๋ง์ง, ์ง์ ๋ถ๋ด ๋๋ ๊ณ์ฝ์ ์์ฝ๊ธ์ด $6,480๋ณด๋ค ํฌ๋ค๋ฉด ์์ฝ์ ์ ๊ฐ์ ํฉ๋๋ค. ๊ทธ๋ ์ง ์๋ค๋ฉด ์๋ฒ๋ฆฌ์ค๋ฅผ ์ด์ฉํด ๊ฐ์ $6,480์ ์ ํ ๊ฐ๋ฐ์ ๋จ๊ธธ ์ ์์ต๋๋ค. ๋ง์ฐํ "ํ ํฐ์ $15,000์ ์ฐ๊ณ ์๋ค"๋ ์ฃผ์ฅ๋ง์ผ๋ก๋ ์ด ๊ฒฐ๋ก ์ ๋๋ฌํ ์ ์์ต๋๋ค.
Dedicated Inference๋ ์ถ๋ ฅ ์ฒ๋ฆฌ๋์ด ๋ชจ๋ธ, ์์ํ, ๋ฐฐ์น ํํ, ํ๋์จ์ด ์, ๊ตฌ์ฑ์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋ฏ๋ก ๊ณต๊ฐ ํ ํฐ ์์ต๋ถ๊ธฐ์ ์ ์ด์ฒ๋ผ ๊น๋ํ๊ฒ ๊ณ์ฐํ ์ ์์ต๋๋ค. GPU ์ ๊ฐ๊ฒฉ์ ํ๋์ ์ผ๋ฐ ํ ํฐ ์๊ธ์ผ๋ก ๋๋ ๋ค ๋ณดํธ์ ๊ต์ฐจ์ ์ ์ ์ธํ๋ ๊ธ์ ๋ต์ ์ข์ฐํ๋ ๋ณ์๋ฅผ ์จ๊ธฐ๋ ์ ์ ๋๋ค. ๋์ ์๋ํฌ์ธํธ์์ ํ๋ณด ๋ชจ๋ธ์ ์ธก์ ํ ํ, ๊ด์ธก๋ ์ฌ์ฉ๋ฅ ์์ ์น์ธ๋ ๊ฒฐ๊ณผ๋น ๋น์ฉ์ ๋น๊ตํด์ผ ํฉ๋๋ค.
Dedicated Inference์ GPU ํด๋ฌ์คํฐ๋ ์๋ก ๋ค๋ฅธ ๋ฌธ์ ๋ฅผ ํ๋๋ค
์ ํ์๋น์ค์ ์ ์ฐ์ฑ๋ณด๋ค ์ ์ด๊ฐ ์ค์ํ ๋ Dedicated Inference๊ฐ ๋ง์ต๋๋ค. Together๋ ๋จ์ผ ํ ๋ํธ ํ๋์จ์ด๋ฅผ ํ ๋นํ๊ณ ์ปค์คํ ๋ชจ๋ธ, ์คํ ์ค์ผ์ผ๋ง, ํธ๋ํฝ ๊ธ์ฆ ์ฒ๋ฆฌ๋ฅผ ์ง์ํฉ๋๋ค. ์ค์๊ฐ ๊ฐ๊ฒฉ์ NVIDIA HGX H100์ด $5.49/GPU-hour, HGX B200์ด $8.99/GPU-hour์ ๋๋ค. H200, B300, GB200 NVL72, GB300 NVL72๋ ์์ ๋ฌธ์๊ฐ ํ์ํฉ๋๋ค.
30์ผ ์ฐ์ ์ฌ์ฉ ์ H100 1๊ฐ๋ $3,952.80, B200 1๊ฐ๋ $6,472.80์ ๋๋ค. ๋ฉํฐ GPU ์๊ตฌ์ฌํญ์ ์ ์ฉํ๊ธฐ ์ ์ GPU๋น ์์น์ ๋๋ค. ์๋ํฌ์ธํธ๋ ์์ฒญ๋๊ณผ ๊ด๊ณ์์ด ์คํ๋๋ ๋์ ๊ณผ๊ธ๋๋ฏ๋ก, ์ ํด ๋ฐฐํฌ๋ ์ค์ ์์ฐ ํญ๋ชฉ์ ๋๋ค.
ํ๋์จ์ด ๋น์ฉ์ ์์ธกํ ๋ ์ค๋๋ ์ ์ฉ ์๋ํฌ์ธํธ ๋ฌธ์๋ฅผ ์ฌ์ฉํ๋ฉด ์ ๋ฉ๋๋ค. ํ์ฌ ๋ฌธ์์๋ ์ค์๊ฐ ๊ฐ๊ฒฉ ํ์ด์ง์ ์ถฉ๋ํ๋ H100, H200, B200 ์์น๊ฐ ๋จ์ ์์ต๋๋ค. ์ด ๊ธ์์๋ ๋ ์ต์ ์ถ์ฒ์ธ ํ์ฌ ๊ฐ๊ฒฉ ํ์ด์ง๋ฅผ ํ์ธํ์ต๋๋ค. ์ธํ๋ผ ๊ฐ๊ฒฉ์ ๋ ์ง๊ฐ ํ์ํ ์ด์ ๊ฐ ๋ฐ๋ก ์ฌ๊ธฐ์ ์์ต๋๋ค.
ํ์ธํ๋ํ๊ฑฐ๋ ์ ๋ก๋ํ ๋ชจ๋ธ์ ๊ณต์ ์๋ฒ๋ฆฌ์ค์์ ์คํํ ์ ์์ ๋, p99 ์ง์ฐ ์๊ฐ์ ์์ ์ ์ธ ํ๋์จ์ด๊ฐ ํ์ํ ๋, ๋ชจ๋ธ ์๋น์ ์ปค์คํ ์ค์ ์ด ํ์ํ ๋, ๋๋ ๊พธ์คํ ๋์ ์ฌ์ฉ๋ฅ ๋๋ถ์ ์์ฝ GPU๊ฐ ๊ฒฝ์ ์ ์ผ๋ก ์ฐ์ธํ ๋ Dedicated Inference๋ ๋น์ฉ์ ๊ฐ์น๋ฅผ ํฉ๋๋ค. ํ๋ฃจ ๋๋ถ๋ถ์ ๊ธฐ๋ค๋ฆฌ๋ ์๋ํฌ์ธํธ๋ผ๋ฉด ์ํด์ ๋๋ค.
GPU ํด๋ฌ์คํฐ๊ฐ ๋ ์ ๋ ดํด ๋ณด์ด๋ ๋ฐ๋ ํจ์ ์ด ์์ต๋๋ค
GPU ํด๋ฌ์คํฐ๋ ์คํ์ ๋ ๋ง์ ๋ถ๋ถ์ ๊ตฌ๋งค์์๊ฒ ๋๊น๋๋ค. ํ์ฌ ์จ๋๋งจ๋ ์๊ธ์ GPU-hour๋น H100 $3.99, H200 $5.99, B200 $8.19์ ๋๋ค. 30์ผ ๊ธฐ์ค H100 ํ์ฐ ๋น์ฉ์ $2,872.80์ด์ง๋ง, ์ด๊ฒ์ด $3,952.80์ธ Dedicated H100์ ์ ๋ ดํ ๋์ฒด์ฌ๋ผ๋ ๋ป์ ์๋๋๋ค. ํด๋ฌ์คํฐ ๊ตฌ๋งค์๊ฐ ๋ฐฐํฌ, ์๋น, ์ค์ผ์คํธ๋ ์ด์ , ๊ด์ธก์ฑ, ์ฌ์ฉ๋ฅ ๊ด๋ฆฌ์ ๋ ๋ง์ ๋ถ๋ถ์ ๋งก์ต๋๋ค.
์์ฝ ํด๋ฌ์คํฐ ์๊ธ์ ์ฝ์ ๊ธฐ๊ฐ์ด ๊ธธ์๋ก ๋ด๋ ค๊ฐ๋๋ค. H100์ 7-30์ผ $3.69, 31-90์ผ $3.45, 91-180์ผ $3.19๋ก ๋จ์ด์ง๋๋ค. H200์ ๊ฐ์ ๊ตฌ๊ฐ์์ $4.99, $4.15, $3.99์ ๋๋ค. B200์ $7.99, $7.79, $6.79์ ๋๋ค. 181์ผ ์ด์์ ๊ฒฌ์ ์ด ํ์ํฉ๋๋ค.
ํ ์ธ์๋ ๋ถ๋ช ํ ์ ์ฝ์ด ๋ฐ๋ฆ ๋๋ค. Together์ GPU ๊ฒฐ์ ๋ฌธ์์ ๋ฐ๋ฅด๋ฉด ์ ์ฒด ์์ฝ ์๊ธ์ ํ๋ก๋น์ ๋ ์ ์ ๊ฒฐ์ ๋๊ฑฐ๋ ํ ๋ฒ์ ์ฐจ๊ฐ๋ฉ๋๋ค. ์์ฝ์ ํ๋ถ๋์ง ์๊ณ ๋ถ๋ถ ํ๋ถ๋ ๋ถ๊ฐ๋ฅํ๋ฉฐ ์ผ์ ์ค์งํ ์๋ ์์ต๋๋ค. ํด๋ฌ์คํฐ๊ฐ ์์ฝ ์ฉ๋์ ์ด๊ณผํด ํ์ฅ๋๋ฉด ์ถ๊ฐ ์ฉ๋์ ์จ๋๋งจ๋ ์๊ธ์ผ๋ก ์ฒญ๊ตฌ๋ฉ๋๋ค.
91-180์ผ H100 ์์ฝ์ 720์๊ฐ์ผ๋ก ํ์ฐํ ํ ๋ฌ GPU๋น $2,296.80์ ๋๋ค. ์จ๋๋งจ๋ ํ์ฐ์ก๋ณด๋ค $576 ์ ๋ ดํฉ๋๋ค. ํ์ง๋ง GPU๋ฅผ ์ ์ฉํ๊ฒ ๊ณ์ ์ ์ ํ ๋๋ง ์ด ์ ๊ฐ์ ๊ฐ์น๊ฐ ์์ต๋๋ค. GPU 4๊ฐ ์์ฝ ์ค ์ ๋ฐ์ด ๋๊ณ ์๋ค๋ฉด ์๊ฐ๋น ํญ๋ชฉ์ด ๋ฎ๋ค๋ ์ด์ ๋ก ๊ฒฝ์ ์ฑ์ด ์๊ธฐ์ง ์์ต๋๋ค.
์คํ ๋ฆฌ์ง์๋ ๋ณ๋ ์๋ช ์ฃผ๊ธฐ๊ฐ ์์ต๋๋ค. ๊ณต์ ์คํ ๋ฆฌ์ง๋ $0.16/GiB-month์ด๋ฏ๋ก 1 TiB๋ ์ ์ฝ $163.84์ ๋๋ค. ๋ณผ๋ฅจ์ ํด๋ฌ์คํฐ๋ฅผ ์ข ๋ฃํ ๋ค์๋ ๋๊ตฐ๊ฐ ์ญ์ ํ ๋๊น์ง ์ ์ง๋๋ฉฐ ๊ณ์ ๊ณผ๊ธ๋ฉ๋๋ค. ์๊ตฌ ๋ฐ์ดํฐ ์ฃผ๋ณ์ ์ปดํจํ ์ ๋ค์ ๋ง๋๋ ๋ฐ๋ ์ ์ฉํ์ง๋ง, ๋ฐฉ์น๋ ๋ณผ๋ฅจ์ด ์กฐ์ฉํ ๋น์ฉ์ ๋ง๋๋ ๊ตฌ์กฐ์ด๊ธฐ๋ ํฉ๋๋ค.
ํ์ธํ๋์ ํ์ต ๋น์ฉ์ด ๋ฎ์๋ ์ ์ง ๋น์ฉ์ด ํด ์ ์์ต๋๋ค
ํ์ธํ๋ ๋น์ฉ์ ํ์ต ์์ ๊ณผ ์ดํ ๋ชจ๋ธ ๋ฐฐํฌ๋ผ๋ ๋ ๋ถ๋ถ์ผ๋ก ๋๋ฉ๋๋ค. ํ์ต ํญ๋ชฉ์ ์์ฃผ ์์ ๋ณด์ผ ์ ์์ง๋ง, ๊ฒฐ๊ณผ๋ฌผ์ ํธ์คํ ํ๋ ๋น์ฉ์ด ์ ์ง์ถ์ ๋๋ถ๋ถ์ ์ฐจ์งํ ์ ์์ต๋๋ค.
Together๋ ๋ฐ์ดํฐ์ ํ ํฐ์ ์ํฌํฌ ์๋ฅผ ๊ณฑํ๊ณ , ์ ํ์ ํ๊ฐ ํ ํฐ์ ํ๊ฐ ์คํ ํ์๋ฅผ ๊ณฑํด ํ์ค ํ์ต ๋น์ฉ์ ๊ณ์ฐํฉ๋๋ค. ์ต๋ 16B ํ๋ผ๋ฏธํฐ ๋ชจ๋ธ์ ์ง๋ ํ์ธํ๋์ 1 million processed tokens๋น LoRA $0.48, ์ ์ฒด ํ์ธํ๋ $0.54์ ๋๋ค. Direct Preference Optimization(DPO)์ LoRA $1.20, ์ ์ฒด ํ๋ $1.35์ ๋๋ค.
17B-69B ๋ชจ๋ธ์ ๋ค ๊ฐ์ง ์๊ธ์ ๊ฐ๊ฐ $1.50, $1.65, $3.75, $4.12์ ๋๋ค. 70B-100B ๋ชจ๋ธ์ $2.90, $3.20, $7.25, $8์ ๋๋ค. ํ์ค ์์ ์ ์ต์ ์๊ธ์ $4์ ๋๋ค.
๋ ํฐ ๋ชจ๋ธ๊ณผ ์ง์ ๋ชจ๋ธ์๋ ํนํ ์๊ธ์ด ์ ์ฉ๋ฉ๋๋ค. DeepSeek V4 Flash LoRA๋ ์ง๋ ํ์ธํ๋์ด 1 million processed tokens๋น $6, DPO๊ฐ $15์ด๋ฉฐ ์ต์ ์๊ธ์ $12์ ๋๋ค. gpt-oss-120B๋ $5์ $12.50์ด๊ณ ์ต์ ์๊ธ์ $6์ ๋๋ค. Kimi K2.6 ๋๋ K2.7-Code๋ $15์ $37.50์ด๊ณ ์ต์ ์๊ธ์ $60์ ๋๋ค. GLM-5.2๋ $40๊ณผ $100์ด๊ณ ์ต์ ์๊ธ์ $60์ ๋๋ค.
์ด๋ฌํ ๋ชจ๋ธ๋ณ ๊ฐ๊ฒฉ ์ฐจ์ด๋ ๋จ์ํด ๋ณด์ด๋ ์คํ์ ๋น์ฉ์ ๋ฐ๊ฟ๋๋ค. ํ ํฐ 20 million๊ฐ์ธ ๋ฐ์ดํฐ์ ์ 3์ํฌํฌ ํ์ตํ๋ฉด 60 million tokens๊ฐ ์ฒ๋ฆฌ๋ฉ๋๋ค. ํ์ค ์ต๋ 16B LoRA ์ง๋ ํ์ต์ $28.80์ด์ง๋ง, ํนํ GLM-5.2 LoRA์์๋ ๊ฐ์ ์ฒ๋ฆฌ ํ ํฐ ์์ $2,400์ด ๋ญ๋๋ค. ๋ฐ์ดํฐ์ ํฌ๊ธฐ๋ ๊ทธ๋๋ก์ด๊ณ ๊ธฐ๋ณธ ๋ชจ๋ธ ๊ฐ๊ฒฉ๋ง ๋ฌ๋ผ์ก์ต๋๋ค.
ํ์ต ์์ ๋ง์ผ๋ก ์ ์ฒด ์๋ช ์ฃผ๊ธฐ ๋น์ฉ์ด ๋๋์ง๋ ์์ต๋๋ค. ํ์ธํ๋ ๋ชจ๋ธ์๋ ๋ฐฐํฌ ์ฉ๋๊ณผ ์ถฉ๋ถํ ์ ๋ถ ์์ก์ด ํ์ํฉ๋๋ค. ํ์ฌ Dedicated H100 1๊ฐ๋ฅผ 30์ผ ๋์ ๊ณ์ ์คํํ๋ฉด $3,952.80์ ๋๋ค. ์์ ์ด๋ํฐ๋ฅผ ๋ง๋๋ ๋ฐ $28.80์ ์ด ๋ค, H100 ํ๋๋ฅผ ์ ์งํ๋ ๋ฐ ๋งค์ ๊ทธ ๊ธ์ก์ 137๋ฐฐ ์ด์์ ์ง์ถํ ์ ์์ต๋๋ค.
ํ๋กํ ํ์ ์์ฐ์ ๋๊ฐ ์ฌ๊ธฐ์ ๋ฌด๋์ง๋๋ค. ๋ฐ์ดํฐ ๊ณผํ์๋ ํ์ต ์คํ ๋น์ฉ์ ๋ณด๊ณ ํ์ง๋ง, ์ฌ๋ฌดํ์ ๋์ค์ ์๋น ์ฒญ๊ตฌ์๋ฅผ ๋ฐ์ต๋๋ค. ์คํ์ ์น์ธํ ๋ ์์ ์จ๋ผ์ธ ์๊ฐ, GPU ์, ์คํ ์ค์ผ์ผ๋ง ์ต์ ์น, ์์ฒญ๋, ์ข ๋ฃ ๋ด๋น์๋ฅผ ํฌํจํ ๋ฐฐํฌ ๊ณํ์ ๋ถ์ฌ์ผ ํฉ๋๋ค.
์ทจ์ํ ํ์ต ์์ ์ ํ๋ถ ๋ฒ์๋ ๋ง์ ๊ตฌ๋งค์๊ฐ ์์ํ๋ ๊ฒ๋ณด๋ค ์ข์ต๋๋ค. Together๋ ์๋ฃ๋ ์คํ ์ ์ฒญ๊ตฌํ๊ณ ์๋ฃ๋์ง ์์ ์์ ๋ง ํ๋ถํฉ๋๋ค. ๊ทธ ๋ฐ์ ํ์ค ํ๋ซํผ ์๊ธ์ ์ฝ๊ด์ ๊ธฐ๋ณธ์ ์ผ๋ก ํ๋ถ๋์ง ์์ต๋๋ค. ํ์ต ์์ ์ ๋๋๋ฆด ์ ์๋ ์ํํธ์จ์ด ๊ตฌ๋ ์ด ์๋๋ผ ์ด๋ฏธ ์๋น๋ ์ปดํจํ ์ผ๋ก ๋ด์ผ ํฉ๋๋ค.
Sandbox์ Code Interpreter๋ ๋ณ๋์ ์์ด์ ํธ ๊ณผ๊ธ ํญ๋ชฉ์ ๋๋ค
Code Sandbox๋ vCPU-hour๋น $0.0446์ RAM GiB-hour๋น $0.0149๋ฅผ ํฉ์ฐํด ๊ณผ๊ธํฉ๋๋ค. 2 vCPUs์ 8 GiB๋ฅผ ์ฌ์ฉํ๋ ์๋๋ฐ์ค๋ฅผ 160์๊ฐ ์คํํ๋ฉด ์ฝ $33.34์ ๋๋ค. Code Interpreter๋ ๋ณ๋ ๋จ์๋ก 60-minute session๋น $0.03์ ๋๋ค.
์์ด์ ํธ ์ ํ์์๋ ์ด ๋น์ฉ์ด ๋ชจ๋ธ ์ถ๋ก ๋น์ฉ ์์ ๋ถ์ต๋๋ค. ์ ์์ด์ ํธ ์คํ 10,000ํ๊ฐ ๊ฐ๊ฐ 1์๊ฐ ์ธํฐํ๋ฆฌํฐ ์ธ์ ์ ์ด๋ฉด, ๋ชจ๋ธ ํ ํฐ์ ์ ์ธํ๊ณ ๋ ์ธํฐํ๋ฆฌํฐ ํญ๋ชฉ๋ง $300์ ๋๋ค. ์ธ์ ์ ์์ ํ๊ฒ ์ฌ์ฌ์ฉํ ์ ์๋ค๋ฉด ์ ํ ์ํคํ ์ฒ๊ฐ ์๋ฃ ์์ ๋น ๋น์ฉ์ ๋ฐ๊ฟ๋๋ค. ์ผ์ด ๋๋ ๋ค์๋ ์ธ์ ์ด ์ด๋ ค ์์ผ๋ฉด ์ ํด ์คํ์ ๋ ์์ ๊ท๋ชจ์ ์ ํด GPU ์ฉ๋๊ณผ ๊ฐ์ ๋ฌธ์ ๊ฐ ๋ฉ๋๋ค.
๋ฐ๋ผ์ ์ฌ๋ฐ๋ฅธ ์ธก์ ๋จ์๋ 1 million tokens๋น ๋น์ฉ์ด ์๋๋ผ ์น์ธ๋ ๊ฒฐ๊ณผ๋น ๋น์ฉ์ ๋๋ค. ์์ MiniMax M3 ํธ์ถ์ $0.0036์ด์ง๋ง $0.03 Code Interpreter ์ธ์ ํ๋๋ฅผ ๋ํ๋ฉด, ์ฌ์๋๋ ๋ค๋ฅธ ํด ํธ์ถ ์ ์๋ ์ ์ฒด ๊ฒฝ๋ก๊ฐ ์ต์ $0.0336์ ๋๋ค. ์ ์ฒด ๊ฒฝ๋ก๋ฅผ ๊ณ์ธกํด์ผ ํฉ๋๋ค.
ํ ํฐ ์๊ธ์ด $0์ธ ๋ชจ๋ธ์ด ์์ด๋ Together AI๋ ๋ฌด๋ฃ๊ฐ ์๋๋๋ค
Together AI๋ ํ์ฌ ๋ฌด๋ฃ ์ฒดํ์ ์ ๊ณตํ์ง ์์ผ๋ฉฐ ํ๋ซํผ์ ์ก์ธ์คํ๋ ค๋ฉด ์ต์ $5 ์ ๋ถ ํฌ๋ ๋ง์ ๊ตฌ๋งคํด์ผ ํฉ๋๋ค. ๋ฐ๋ผ์ ๋ฌด๋ฃ ํ๋ ์ฌ๋ถ์ ๋ํ ๋ต์ ๋ถ๋ช ํฉ๋๋ค. API๋ฅผ ๊ฒฐ์ ์์ด ์ฌ์ฉํ ์ ์๋ ๋ฌด๋ฃ ๊ณ์ ์ ์์ต๋๋ค.
์ค์๊ฐ ์นดํ๋ก๊ทธ์๋ Ternary Bonsai 27B๊ฐ ์ ๋ ฅ 1 million tokens๋น $0, ์ถ๋ ฅ 1 million tokens๋น $0์ผ๋ก ์ฌ๋ผ์ ์์ต๋๋ค. ํด๋น ๋ชฉ๋ก์ด ์ ์ง๋๋ ๋์ ์ง์์ ์ธ ์ถ๋ก ๋น์ฉ์ $0์ผ ์ ์์ง๋ง, ๊ณ์ ์ก์ธ์ค๋ฅผ ์ํด์๋ ์ฌ์ ํ $5๋ฅผ ๊ตฌ๋งคํด์ผ ํฉ๋๋ค. ์ด $5๋ ์ ๊ตฌ๋ ๋ฃ๋ก ์ค๋ช ๋์ง ์์ต๋๋ค. ํ์ฌ ๊ตฌ๋งคํ ์ ๋ถ ํฌ๋ ๋ง์๋ ๋ง๋ฃ์ผ์ด ์์ต๋๋ค.
์ฒ์ ๋ธ $5 ์ธ์ ์ถ๊ฐ ๊ฒฐ์ ๊ฐ ์ ํ ํ์ ์๋ ์ฌ์ฉ์๋ ๋๊ตฌ์ผ๊น์? ํ์ฌ ๋ฌด๋ฃ ๋ชจ๋ธ๋ง ์ฐ๊ณ , ์๋ ์ ํ ์์ ๋จธ๋ฌผ๋ฉฐ, ์ ๋ฃ ์๋น์ค๋ฅผ ์์ํ์ง ์๋ ์ทจ๋ฏธ ์ฌ์ฉ์๋ ํ๊ฐ์๋ ๊ตฌ๋งค ์์ก์ ๊ทธ๋๋ก ๋ ์ ์์ต๋๋ค. ์ด๋ ํ๋ก๋์ ๋ฌด๋ฃ ๊ณ์ธต์ด ์๋๋ผ ๋งค์ฐ ์ ํ์ ์ธ ์ฌ๋ก์ ๋๋ค. ๋ชจ๋ธ ์ ๊ณต ์ฌ๋ถ, ์ฉ๋, ๊ฐ๊ฒฉ์ ๋ฐ๋ ์ ์์ผ๋ฏ๋ก ์ ํ์ด ํ๋ก๋ชจ์ ๋๋ ๋ฌด๋ฃ ์๋ํฌ์ธํธ๋ฅผ ์๊ตฌ ๋ฐฑ์๋๋ก ์ ์งํ๊ฒ ๋ค๊ณ ๊ณ ๊ฐ์๊ฒ ์ฝ์ํด์๋ ์ ๋ฉ๋๋ค.
๊ณผ๊ฑฐ์ ์ ๊ณตํ๋ ๋ฌด๋ฃ ๊ฐ์ ํฌ๋ ๋ง์ ์ข ๋ฃ๋์ต๋๋ค. Together์ ํ์ฌ ์ง์ ์ ์ฑ ์ ๋ฐ๋ฅด๋ฉด ์ฌ์ฉ์๋ ์ต์ $5๋ฅผ ๊ตฌ๋งคํ๊ณ ๊ฒฐ์ ์๋จ์ ์ฐ๊ฒฐํด์ผ ํฉ๋๋ค. ์ผ๋ฐ ์ ๋ถ ์ก์ธ์ค์์๋ ๋ง์ด๋์ค ์์ก์ด ํ์ฉ๋์ง ์์ผ๋ฉฐ, ๊ตฌ๋งค ์์ก์ด 0์ด ๋๋ฉด ํฌ๋ ๋ง์ ์ถ๊ฐํ ๋๊น์ง API ์ก์ธ์ค๊ฐ ์ค๋จ๋ฉ๋๋ค. ๊ณ์ฝ ๊ณ ๊ฐ์๊ฒ๋ ์ฃผ๋ฌธ ์กฐ๊ฑด์ด ์ ์ฉ๋ฉ๋๋ค.
ํฌ๋ ๋ง์ ๋ง๋ฃ๋์ง ์์ง๋ง ํ๋ถ ๊ฐ๋ฅํ ์ ์ถ ๊ณ์ข๋ ์๋๋๋ค
๊ตฌ๋งคํ ํฌ๋ ๋ง์๋ ํ์ฌ ๋ง๋ฃ์ผ์ด ์์ต๋๋ค. ์ฐ๊ฐ ๋ง๋ฃ ์ ์ฑ ๋ณด๋ค๋ ์ ๋ฆฌํ์ง๋ง, ๊ณผ๋ํ ์ถฉ์ ์ด ์๋ฌด ๋ฌธ์ ์๋ค๋ ๋ป์ ์๋๋๋ค. Together ์ฝ๊ด์ ์ฃผ๋ฌธ์์ ๋ฌ๋ฆฌ ๋ช ์๋์ง ์๋ ํ ์ง๋ถํ ์๊ธ์ ๊ธฐ๋ณธ์ ์ผ๋ก ํ๋ถ๋์ง ์๊ณ , ๊ฒฐ์ ์๋ฌด๋ ์ทจ์ํ ์ ์์ผ๋ฉฐ, ์ ์ค ์ผ๋ถ ๊ธฐ๊ฐ๋ ์ผํ ๊ณ์ฐ๋์ง ์์ต๋๋ค.
์๋ ์ถฉ์ ์ ์ ์คํ๊ฒ ์ค์ ํด์ผ ํฉ๋๋ค. ๊ฒฐ์ ๋ฌธ์์๋ ๊ธฐ๋ณธ ์ถฉ์ ์ก์ด $25๋ก ๋์ ์๊ณ , ํ์ฌ ์์ก๋ณด๋ค ๋์ ์๊ณ๊ฐ์ ์ค์ ํ๋ฉด ์ฐจ์ด๊ฐ ๋ฉ์์ง ๋๊น์ง ์ฆ์ ๋ฐ๋ณต ๊ตฌ๋งค๊ฐ ๋ฐ์ํ ์ ์๋ค๊ณ ๊ฒฝ๊ณ ํฉ๋๋ค. ์์ ์์ง๋์ ๋ง์ถฐ ์๊ณ๊ฐ์ ์ค์ ํ๊ณ , ๊ตฌ๋งคํ ๋๋ง๋ค ์๋ฆผ์ ๋ณด๋ด๋ฉฐ, ํฌ๋ ๋ง ์์ก๊ณผ ๋ณ๋๋ก ํ๋ก์ ํธ ์์ฐ์ ๊ด๋ฆฌํด์ผ ํฉ๋๋ค.
Build Tier๋ ๋์ ์ง์ถ์ ๋ฐ๋ผ ํ๋๊ฐ ์ฌ๋ผ๊ฐ๋๋ค
Together์ Build Tier ๋ค์ฏ ๋จ๊ณ๋ ์๋ณ ๊ธฐ๋ฅ ํ๋์ด ์๋๋ผ ๋์ ์ง์ถ์ ๊ธฐ์ค์ผ๋ก ํ ์๋ ์ ํ ๊ตฌ๊ฐ์ ๋๋ค. Tier 1์ $5๋ถํฐ ์์ํ๋ฉฐ ๋ถ๋น LLM ์์ฒญ 600ํ๋ฅผ ํ์ํฉ๋๋ค. Tier 2๋ $50๋ถํฐ 1,800ํ, Tier 3์ $100๋ถํฐ 3,000ํ, Tier 4๋ $250๋ถํฐ 4,500ํ, Tier 5๋ $1,000๋ถํฐ 6,000ํ์ ๋๋ค.
์๋ฒ ๋ฉ ํ๋๋ Tier 1์ 3,000 RPM์์ Tier 4์ 5์ 10,000 RPM๊น์ง ์ฌ๋ผ๊ฐ๋๋ค. ๋ฆฌ๋ญํฌ ํ์ฉ๋์ ๋ค์ฏ ๋จ๊ณ์ ๊ฑธ์ณ 500,000์์ 5,000,000์ผ๋ก ์ฆ๊ฐํฉ๋๋ค. ๋ชจ๋ ๋ชจ๋ธ์ ๊ณตํต์ผ๋ก ๋ณด์ฅ๋๋ ์์น๋ ์๋๋๋ค. Together๋ ๋ชจ๋ธ๋ณ ์ ํ์ ์ ์ฉํ ์ ์๊ณ , ํ์ฌ ์๋ฒ๋ฆฌ์ค ๋ฌธ์๋ ์ค์๊ฐ ์ฉ๋๊ณผ ์ต๊ทผ์ ์ฑ๊ณต ํธ๋ํฝ์ ๋ฐ์ํ๋ ๋์ ํ๋๋ฅผ ์ค๋ช ํฉ๋๋ค.
์ถ์ ์์ ์๋ ์ด ์กฐํฉ์ ๊ณ ๋ คํด์ผ ํฉ๋๋ค. Tier 5 ๊ณ์ ๋ ์ธ๊ธฐ ๋ชจ๋ธ์ ์ฉ๋์ด ๋ ๋นก๋นกํ๊ฑฐ๋ ํธ๋ํฝ์ด ์ต๊ทผ ํจํด์ ํฌ๊ฒ ๋ฐ์ด๋์ผ๋ฉด 429 ์๋ต์ ๋ฐ์ ์ ์์ต๋๋ค. ์๋ฒ๋ฆฌ์ค๋ ํ๋ก๋น์ ๋์ ํด๊ฒฐํ์ง๋ง ๋ชจ๋ ๋ฒ์คํธ๋ฅผ ํด๊ฒฐํ์ง๋ ์์ต๋๋ค. ๋์์ Batch, PTU, Dedicated Inference์ด๋ฉฐ ๊ฐ๊ฐ ๋น์ฉ๊ณผ ์ง์ฐ ์๊ฐ์ ์ ์ถฉ์ ์ด ๋ค๋ฆ ๋๋ค.
์จ์ ๋น์ฉ์ ๋๋ถ๋ถ ์ ํด ๊ณผ๊ธ๊ณผ ์ ์ฑ ๊ฒฝ๊ณ์์ ๋์ต๋๋ค
Together AI์ ๋์ ๋ณด์ด๋ ํ ํฐ ๊ฐ๊ฒฉ์ ๋์ฒด๋ก ๋ช ํํฉ๋๋ค. ํฐ ๋น์ฉ์ ํจ์ ์ ์ํ ์ฌ์ด, ์ฝ์ , ์ ํด ๋ฆฌ์์ค, ๋ณดํธ์ ์ผ๋ก ๋ณด์ด์ง๋ง ์ค์ ๋ก๋ ๊ทธ๋ ์ง ์์ ๊ฐ์ ์ ์จ์ด ์์ต๋๋ค.
PTU ๋ฌ๋ ฅ ๊ณ์ฐ: ๋ถ๋น $0.05๋ฅผ 30์ผ์ ์ ์ฉํ๋ฉด $2,160์ ๋๋ค. ์ค์๊ฐ ๊ณ์ฐ๊ธฐ์ ๊ฐ์ฃผ๋ ์ฝ 43,800๋ถ์ ์ ์ฉํ๋ฏ๋ก ์ฝ $2,190์ด ๋ฉ๋๋ค. PTU๋น $30์ ์ฐจ์ด๋ 100 PTU์์ $3,000์ด ๋ฉ๋๋ค. ๊ณ์ฝ์์ ๊ณผ๊ธ ๊ธฐ์ค์ ์ฌ์ฉํด์ผ ํฉ๋๋ค.
PTU ๋ฏธ์ฌ์ฉ: ๊ณต๊ฐ PTU๋ 30์ผ ๋ด๋ด ์์ ํ ์ ์ ํด์ผ Together ์๋ฒ๋ฆฌ์ค ๊ฐ์น์ ๊ฐ๋๋ก ๋ณด์ ๋์ด ์์ต๋๋ค. ์ ์ ์จ 50%์์๋ ์คํจ ํ ํฐ ๋น์ฉ์ด 2๋ฐฐ๊ฐ ๋ฉ๋๋ค. ์ฉ๋๊ณผ SLA ๊ฐ์น๊ฐ ์ด ํ๋ฆฌ๋ฏธ์์ ์ ๋นํํ ์๋ ์์ง๋ง, ํ๋ฆฌ๋ฏธ์ ์์ฒด๋ ๋ช ํํ ๋ณด์ฌ์ผ ํฉ๋๋ค.
์ ์ฉ ๋ฆฌ์์ค์ ์ ํด ์๊ฐ: Dedicated Inference๋ ์์ฒญ์ด 0์ด์ด๋ ํ ๋น๋ ํ๋์จ์ด๊ฐ ์คํ๋๋ ๋์ ๊ณผ๊ธ๋ฉ๋๋ค. ํ์ธํ๋ ๋ชจ๋ธ ํธ์คํ ์ ์คํ ํฐ์ผ๋ฟ ์๋๋ผ ์ ์์ธก์๋ ํฌํจํด์ผ ํฉ๋๋ค.
ํ๋ถ ๋ถ๊ฐ ์์ฝ: GPU ํด๋ฌ์คํฐ ์์ฝ์ ์ ์ฒด ๊ธฐ๊ฐ ๋น์ฉ์ด ์ฒญ๊ตฌ๋๋ฉฐ ์ผ์ ์ค์งํ๊ฑฐ๋ ๋ถ๋ถ ํ๋ถํ ์ ์์ต๋๋ค. ์์ธก ์ค๋ฅ๊ฐ ํ์ ์ง์ถ๋ก ๋ฐ๋๋๋ค.
์จ๋๋งจ๋ ๋ฒ์คํธ ์ด๊ณผ๋ถ: ์์ฝ GPU ์ฉ๋์ ๋์ด ํ์ฅํ๋ฉด ๋ ๋์ ์จ๋๋งจ๋ ์๊ธ์ด ์ ์ฉ๋ฉ๋๋ค. ์์ ์ ์ธ ๊ธฐ๋ณธ ๋ถํ๊ฐ ์์ด๋ ๋ฒ์คํธ ๊ฐ์ ์ ๋๋ฌด ๋ฎ๊ฒ ์ก์ผ๋ฉด ์์ ๋ฐ ๋น์ฉ์ด ์๊ธธ ์ ์์ต๋๋ค.
์๊ตฌ ์คํ ๋ฆฌ์ง: ์คํ ๋ฆฌ์ง๋ ํด๋ฌ์คํฐ๊ฐ ์ข ๋ฃ๋ ๋ค์๋ ๋จ์ ์ญ์ ํ ๋๊น์ง ๊ณ์ ๊ณผ๊ธ๋ฉ๋๋ค. ํด๋ฌ์คํฐ๋ฅผ ํด์ฒดํ ๋๋ง๋ค ์ ์ง ๋๋ ์ญ์ ๋ฅผ ๋ช ์์ ์ผ๋ก ๊ฒฐ์ ํด์ผ ํฉ๋๋ค.
Batch ์ ์ฉ ์กฐ๊ฑด: ํ ์ธ์ ๋ชจ๋ธ๋ณ๋ก ๋ค๋ฅด๊ณ 24์๊ฐ ์๋ฃ ์๊ฐ์ ์ต์ ํ์ด๋ฉฐ, ์ทจ์ ํ์๋ ์๋ฃ๋ ์๋ต์๋ ๋น์ฉ์ด ์ฒญ๊ตฌ๋ฉ๋๋ค. ์ค์๊ฐ ๋ชฉ๋ก์ ํ์ธํ์ง ์์ ์ฑ ์ ์ฒด ์คํ๋ผ์ธ ์์ฐ์ 50%๋ฅผ ์ ์ฉํ๋ฉด ์ ๋ฉ๋๋ค.
๋ฉํฐ๋ฏธ๋์ด ๊ธฐ๋ณธ๊ฐ: ์ด๋ฏธ์งยท์์ ๊ฐ๊ฒฉ์ ์ต์ ํด์๋, ์ฌ์ ์๊ฐ ๋๋ ๊ธฐ๋ณธ ์คํ ์๋ฅผ ๊ธฐ์ค์ผ๋ก ํ ์ ์์ต๋๋ค. ํ๋ก๋์ ํ์ง ์ค์ ๊ณผ ์ฌ์๋๋ ์ฌ์ฉ ๊ฐ๋ฅํ ์์ ๋น ๋น์ฉ์ ๋ฐ๊ฟ๋๋ค.
์๋ ์ถฉ์ ๋์: ๊ณต๊ฒฉ์ ์ธ ์๊ณ๊ฐ์ ์ฆ์ ๊ตฌ๋งค๋ฅผ ์ผ์ผํฌ ์ ์๊ณ ์ผ๋ฐ ์๊ธ์ ํ๋ถ๋์ง ์์ต๋๋ค. ์๋ ์ถฉ์ ์ ๋ฐฉ์นํ ํธ์ ๊ธฐ๋ฅ์ด ์๋๋ผ ์๋ฆผ์ ๊ฐ์ถ ํ๋ก๋์ ์ฐ์์ฑ ์ ์ด๋ก ๋ค๋ค์ผ ํฉ๋๋ค.
์ถ๋ ฅ ๋๋ฆฌํํธ: ๋ ๊ธด ์๋ต์ ๋ง๋๋ ํ๋กฌํํธ ๋๋ ๋ชจ๋ธ ์ ๋ฐ์ดํธ๋ ์์ฒญ๋์ด ๊ทธ๋๋ก์ฌ๋ ์ง์ถ์ ๋์ ๋๋ค. ์ ๋ ฅ, ์บ์ ์ ๋ ฅ, ์ถ๋ ฅ, ์น์ธ๋ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ๋ก ์ถ์ ํด์ผ ํฉ๋๋ค.
์๋ ์ ํ ๋๋ฆฌํํธ: ์๋ฒ๋ฆฌ์ค ํ๋๋ ๋์ ์ด๋ฉฐ ๋ชจ๋ธ๋ง๋ค ๋ค๋ฅผ ์ ์์ต๋๋ค. ๋์ ์ง์ถ๋ก Tier 5๋ฅผ ๋ฌ์ฑํด๋ ๊ธฐ๋ฐ ํ๋ฆฟ์ด ์์ฝ๋๋ ๊ฒ์ ์๋๋๋ค.
ํ์ค ์ ํ์๋น์ค ์ฐ๊ฐ ํ ์ธ์ ๋ฐ๋ก ๋ชจ๋ธ๋งํ ๊ฒ์ด ์์ต๋๋ค. ์๋ฒ๋ฆฌ์ค๋ ์ ๋ถ ์ฌ์ฉ๋ ๊ธฐ๋ฐ์ด๊ณ , PTU๋ ์ต์ 1๊ฐ์ ์ฝ์ ์ด๋ฉฐ, GPU ์์ฝ์ 7-30์ผ, 31-90์ผ, 91-180์ผ ๊ตฌ๊ฐ์ ๊ณต๊ฐํฉ๋๋ค. ๋ ๊ธด ์ฝ์ ์ ์์ ํ์ ๊ฑฐ์นฉ๋๋ค. ์ฐ๊ฐ ์ข ์ ๋ฆฌ์คํฌ๋ ๊ณต๊ฐ ์ฐ๊ฐ ์ฑ ํ๋์ด ์๋๋ผ ์ปค์คํ ์ฃผ๋ฌธ์๋ ์ฐ์๋ ์ธํ๋ผ ์์ฝ์ ์กด์ฌํฉ๋๋ค.
Together AI ๋์: ๊ฐ์ ๋ชจ๋ธ๊ณผ ์กฐ๊ฑด์ผ๋ก ๋น๊ตํด์ผ ํฉ๋๋ค
Together AI๊ฐ ๋ชจ๋ ๊ณต์ ๋ชจ๋ธ์์ ์ ์ผํ๊ฒ ์ ๋ ดํ ๊ฒ์ ์๋๋๋ค. gpt-oss-120B์ ๊ณต๊ฐ ์๋ฒ๋ฆฌ์ค ๊ฐ๊ฒฉ์ Fireworks AI, Groq์ ์ ํํ ๊ฐ์ต๋๋ค. ์ ๋ ฅ ํ ํฐ 1 million๊ฐ๋น $0.15, ์ถ๋ ฅ ํ ํฐ 1 million๊ฐ๋น $0.60์ ๋๋ค. ์ ๋ ฅ 1 million๊ฐ์ ์ถ๋ ฅ 250,000๊ฐ ํ ํฐ์ ์ฐ๋ ์์ ์ ์บ์ ์ ๋ ฅ ํํ์ด๋ ๊ณ์ ๋ณ ๊ณ์ฝ์ ์ ์ฉํ๊ธฐ ์ ๊ธฐ์ค์ผ๋ก ์ธ ๊ณต๊ธ์ ๋ชจ๋ $0.30์ ๋๋ค.
์ด์ฒ๋ผ ๊ฐ๊ฒฉ์ด ๊ฐ๋ค๋ ์ ์ ์คํ๋ ค ์ ์ฉํฉ๋๋ค. ํ ํฐ ๊ฐ๊ฒฉ์ ๊ฒฐ์ ์์ธ์์ ์ ์ธํ๊ณ ์บ์ ์๊ธ, ์๋ ์ ํ, ์ง์ฐ ์๊ฐ, ๊ณต๊ธ์ ์ ์ด, ํด๋ฐฑ ๋์, ๋ฐฐํฌ ๊ฒฝ๋ก, SLA ๊ตฌ์ฑ์ ๋น๊ตํ๊ฒ ๋ง๋ค๊ธฐ ๋๋ฌธ์ ๋๋ค.
Fireworks AI๋ ๊ธฐ๋ณธ ์๊ธ์ด ๊ฐ๊ณ ์บ์ ์๊ธ์ ๋ ๋ฎ์ต๋๋ค
Fireworks AI์ gpt-oss-120B Standard ์๋ฒ๋ฆฌ์ค ์๊ธ์ 1 million tokens๋น ์ ๋ ฅ $0.15, ์บ์ ์ ๋ ฅ $0.015, ์ถ๋ ฅ $0.60์ ๋๋ค. ์บ์๋ฅผ ์ ์ฉํ์ง ์์ ๋์ผ ์กฐ๊ฑด ์์ ์ Together์ ๊ฐ์ $0.30์ ๋๋ค. Fireworks๋ ์์ ํฌ๋ ๋ง $1๋ ํ๋ณดํฉ๋๋ค.

ํ์ฌ Fireworks์ gpt-oss ์บ์ ์ ๋ ฅ ์๊ธ์ ๋ช ํํ๊ณ ๋ฎ์ผ๋ฏ๋ก, ์ฌ์ฌ์ฉ ๊ฐ๋ฅํ ํ๋ฆฌํฝ์ค๊ฐ ํฐ ์ํฌ๋ก๋์์๋ ์ด ์ข์ ๋น๊ต์์ Fireworks๊ฐ ์์ญ๋๋ค. Standard, Priority, Fast ์๋ฒ๋ฆฌ์ค ๊ณ์ธต๋ ์ ๊ณตํด ์ง์ฐ ์๊ฐ๊ณผ ๊ฐ๊ฒฉ ์ฌ์ด์์ ์ ํํ ์ ์์ต๋๋ค. ๋ค๋ง ์ถ๊ฐ ๊ณ์ธต ๋๋ฌธ์ ๋จ์ํด ๋ณด์ด๋ ์๊ธ ๋น๊ต๊ฐ ๋ณต์กํด์ง๊ณ , ์ ์ฉ GPU ๊ฐ๊ฒฉ์ Together์ PTU์ ๋ค๋ฅธ ์ํ์ด๋ผ๋ ํ๊ณ๊ฐ ์์ต๋๋ค.
์บ์ ๋น์ค์ด ๋์ ์คํ ๋ชจ๋ธ ์๋ฒ๋ฆฌ์ค๊ฐ ํต์ฌ ์๊ตฌ์ฌํญ์ด๊ณ ์๋น์ค ๊ณ์ธต ์ ์ด๊ฐ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ง์ผ๋ฉด Fireworks๋ฅผ ์ ํํ ๋งํฉ๋๋ค. ๊ฐ์ API์์ PTU, ์ ์ฉ ๋ชจ๋ธ ์ถ๋ก , ํ์ธํ๋, ์๋๋ฐ์ค ๋๋ ์์ ํด๋ฌ์คํฐ๋ก ์ด์ด์ง๋ ๊ฒฝ๋ก์ ์ ๋ต์ ๊ฐ์น๊ฐ ๋ ํฌ๋ค๋ฉด Together๋ฅผ ์ ํํ๋ ํธ์ด ๋ซ์ต๋๋ค.
Groq๋ ๊ฐ์ ํ ํฐ ๊ฐ๊ฒฉ์ ์๋๋ฅผ ์ ๊ณตํฉ๋๋ค
Groq์ gpt-oss-120B ์๊ธ๋ ์ ๋ ฅ $0.15, ์ถ๋ ฅ $0.60์ผ๋ก ๊ฐ์์ ๋์ผ ์กฐ๊ฑด ์์ ์ $0.30์ ๋๋ค. ํ์ฌ ๋ชจ๋ธ ํ์ด์ง์๋ ์ฝ 500 tokens per second, Developer ํ๋์์ ๋ถ๋น 250,000 tokens์ ๋ถ๋น 1,000 requests ํ๋๊ฐ ํ์๋ฉ๋๋ค.

๋ฎ์ ์์ฑ ์ง์ฐ ์๊ฐ์ด ์ ํ์ ํต์ฌ ์ฝ์์ด๋ผ๋ฉด Groq๊ฐ ๋ ๋ ์นด๋ก์ด ํ๋ณด์ ๋๋ค. ์ํฐํ๋ผ์ด์ฆ Performance ๊ณ์ธต์ ํ๋ก๋น์ ๋๋ ์ฒ๋ฆฌ๋๊ณผ 99.9% ๊ฐ์ฉ์ฑ SLA๋ฅผ ์ถ๊ฐํ์ง๋ง ๊ณต๊ฐ ๊ฐ๊ฒฉ์ ์์ต๋๋ค. ๋ฐ๋ผ์ ์ ํ์๋น์ค ํ ํฐ ๋น์ฉ์ ์ฝ๊ฒ ๋น๊ตํ ์ ์์ด๋ ์์ฝ ์ฉ๋ ๋น์ฉ์ ๊ฒฌ์ ์์ด๋ ๊ฐ์ ์กฐ๊ฑด์ผ๋ก ๋ง์ถ ์ ์์ต๋๋ค.
์ง์ ๋ชจ๋ธ ๋ฒ์์ ์๋๊ฐ Together์ ๊ด๋ฒ์ํ ํ์ตยท์ธํ๋ผ ์คํ๋ณด๋ค ์ค์ํ ์ธํฐ๋ํฐ๋ธ ๊ฒฝ๋ก์๋ Groq๊ฐ ์ ํฉํฉ๋๋ค. ํ๋์ ๊ณ์ ์์ Together์ ํ์ธํ๋, GPU ํด๋ฌ์คํฐ, ์๋๋ฐ์ค ๋๋ ๊ณต๊ฐ PTU ๊ฒฝ๋ก๊ฐ ํ์ํ๋ค๋ฉด ์ ํฉํ์ง ์์ต๋๋ค.
OpenRouter๋ ๋ ์ ๋ ดํ ์ ์์ง๋ง ์ ๊ทธ๋ฆฌ๊ฒ์ดํฐ์ ์ ์ถฉ์ด ๋ฐ๋ฆ ๋๋ค
ํ์ฌ OpenRouter์ gpt-oss-120B ์๊ธ์ 1 million tokens๋น ์ ๋ ฅ $0.03, ์บ์ ์ ๋ ฅ $0.03, ์ถ๋ ฅ $0.17์ ๋๋ค. ์ ๋ ฅ 1 million๊ฐ์ ์ถ๋ ฅ 250,000๊ฐ์ธ ๋์ผ ์กฐ๊ฑด ์์ ์ ํฌ๋ ๋ง ๊ตฌ๋งค ์์๋ฃ ์ $0.0725์ ๋๋ค. ๊ตฌ๋งคํ ํฌ๋ ๋ง์ ๋ชจ๋ ์ฌ์ฉํ๋ค๊ณ ๋ณด๊ณ 5.5% ์์๋ฃ๋ฅผ ๋ฐฐ๋ถํ๋ฉด ์ฝ $0.0765๊ฐ ๋์ง๋ง, ์์ก ์ถฉ์ ์์๋ ์ต์ ์์๋ฃ $0.80์ ์ํฅ์ด ๋ ํฝ๋๋ค.

OpenRouter๋ ์ ์คํธ๋ฆผ ๊ณต๊ธ์ ์ฌ์ด๋ฅผ ๋ผ์ฐํ ํด ์๊ฐ ๊ฐ๊ฒฉ ์์์์ ์์ญ๋๋ค. ์๋ ํด๋ฐฑ๊ณผ ํจ์ฌ ๋์ ๋ชจ๋ธ ์นดํ๋ก๊ทธ๋ ์ ๊ณตํฉ๋๋ค. ๊ทธ๋ฌ๋ Together ์ฉ๋์ ์์ฝํ๊ฑฐ๋ ๋จ์ผ ์ธํ๋ผ ๊ณต๊ธ์๋ฅผ ์ ํํ๋ ๊ฒ๊ณผ ๊ฐ์ ์ํ์ ์๋๋๋ค. ๋ผ์ฐํ ์ ํ, ๋ฐ์ดํฐ ์ ์ฑ , ์ง์ฐ ์๊ฐ, ์ ์คํธ๋ฆผ ๊ฐ์ฉ์ฑ, ๊ณต๊ธ์ ๋ณ๊ฒฝ์ด ์ํคํ ์ฒ์ ์ผ๋ถ๊ฐ ๋ฉ๋๋ค.
๋ฌด๋ฃ ๊ณ์ธต๋ Together๋ณด๋ค ์ ๊ทผํ๊ธฐ ์ฝ์ต๋๋ค. ํ์ฌ ๊ฐ๊ฒฉ ํ์ด์ง์๋ 25๊ฐ๊ฐ ๋๋ ๋ฌด๋ฃ ๋ชจ๋ธ๊ณผ ํ๋ฃจ 50ํ ์์ฒญ์ด ํ์๋ฉ๋๋ค. ๊ทธ ๋์ ๋ฎ์ ๋ฌด๋ฃ ํ๋, ์ฌ์ฉ๋ ๊ธฐ๋ฐ ๊ฒฐ์ ์ ๋ถ๋ 5.5% ํ๋ซํผ ์์๋ฃ, ์ฌ์ฉํ์ง ์์ ํฌ๋ ๋ง์ 1๋ ๋ค ๋ง๋ฃ์ํฌ ์ ์๋ ๊ถ๋ฆฌ๋ผ๋ ์ ์ถฉ์ด ์์ต๋๋ค. Together๋ ํ์ฌ ๊ตฌ๋งคํ ํฌ๋ ๋ง์ด ๋ง๋ฃ๋์ง ์๋๋ค๊ณ ์๋ดํฉ๋๋ค.
๊ด๋ฒ์ํ ๋ชจ๋ธ ์ ๊ทผ, ํด๋ฐฑ, ํ์ฌ์ ๋ผ์ฐํ ์๊ฐ ๊ฐ๊ฒฉ์ด ๊ฐ์ฅ ์ค์ํ๋ฉด OpenRouter๋ฅผ ์ ํํ ๋งํฉ๋๋ค. ์ง์ ์ ์ธ ๊ณต๊ธ์ ์ ์ด, ์์ธก ๊ฐ๋ฅํ ์์ฝ ์ฉ๋ ๊ฒฝ๋ก, ๋ชจ๋ธ ํ์ต ๋๋ ์ ์ฉ ์ธํ๋ผ๊ฐ ์ต์ ๊ฐ ๋ผ์ฐํ ์์ฒญ๋ณด๋ค ์ค์ํ๋ฉด Together๊ฐ ์ ํฉํฉ๋๋ค.
๊ฐ์ ์กฐ๊ฑด์ผ๋ก ๋ง์ถ ๊ฒฐ๋ก ์ ๋ช ํํฉ๋๋ค. gpt-oss-120B์์ Together, Fireworks, Groq๋ ์บ์๋ฅผ ์ ์ธํ ํ ํฐ ๊ฐ๊ฒฉ์ด ๊ฐ์ต๋๋ค. ์ด ์์ ์ OpenRouter๋ ๋ ์ ๋ ดํ์ง๋ง ๊ณต๊ธ ๊ด๊ณ๊ฐ ๋ฌ๋ผ์ง๋๋ค. ์ ํ์ ๋ค์ง๋ ๊ฒ์ ์ด๋ ํ๋ซํผ์ด ์ผ๋ฐ์ ์ผ๋ก ๋ ์ธ๋ค๋ ์ฃผ์ฅ์ด ์๋๋ผ ์ด์ ์๊ตฌ์ฌํญ์ ๋๋ค.
Together AI๊ฐ ๋ง๋ ํ๊ณผ ํผํด์ผ ํ ํ
Together AI๋ ๋ถํ์คํ ํธ์ถ๋ก ์์ํ ์คํ ๋ชจ๋ธ ์ํฌ๋ก๋๊ฐ ๊ณํ๋ ์ฉ๋ ์ด์์ผ๋ก ์ฑ์ฅํ ๊ฒ์ผ๋ก ์์ํ๋ ํ์ฌ์ ์ ํฉํฉ๋๋ค. ์ ๋น์ฉ API๊ฐ ํ์ํ ๋ชจ๋ ๊ฐ๋ฐ์์๊ฒ ์๋์ผ๋ก ์ ๋ต์ธ ํ๋ซํผ์ ์๋๋๋ค.
1์ธ ๊ธฐ์ ๊ฐ๋ฐ์๋ ์๋ฒ๋ฆฌ์ค๋ก ์์ํ๊ณ ์ฒซ ๊ตฌ๋งค๋ฅผ $5๋ก ์ ์งํด์ผ ํฉ๋๋ค. ๋ฒ์๊ฐ ์ ํด์ง ์์ ์ DeepSeek V4 Flash, gpt-oss-120B ๋๋ ํ์ง ํํ์ ์ ๋๋ ๋ค๋ฅธ ๋ชจ๋ธ๋ก ๋ผ์ฐํ ํฉ๋๋ค. ํ๋ก๋์ ๋ก๊ทธ์์ ์์ ์ ์ธ ์์๊ฐ ์ ์ฆ๋๊ธฐ ์ ์๋ PTU์ ์ ์ฉ ํ๋์จ์ด๋ฅผ ํผํด์ผ ํฉ๋๋ค. ๋ชฉ์ ์ด ํญ๋์ ๋ชจ๋ธ ์ฒดํ์ด๋ ๋ฌด๋ฃ ์ก์ธ์ค๋ฟ์ด๋ผ๋ฉด OpenRouter๊ฐ ๋ ๊น๋ํ ์ฒซ ๊ณ์ ์ผ ์ ์์ต๋๋ค.
ํฌ์ ์ ์น ์คํํธ์ ์ฐฝ์ ์๋ ๋ฐฐํฌ ๋จ๊ณ๊ฐ ํฅํ ๋ง์ด๊ทธ๋ ์ด์ ์์ ์ ์ค์ฌ ์ค ๋ Together๋ฅผ ์จ์ผ ํฉ๋๋ค. ์๋ฒ๋ฆฌ์ค๋ก ์ ํ์ ๊ฒ์ฆํ๊ณ , ๊ฐ์ API ๋ค์์ PTU๋ก ์์ ์ ์ธ ์คํ ๋ชจ๋ธ์ ์์ฝํ๋ฉฐ, Dedicated Inference๋ก ํ์ธํ๋ ๋๋ ์ปค์คํ ๋ชจ๋ธ์ ํธ์คํ ํ ์ ์์ต๋๋ค. ์ ํ ๋ก๋๋งต์ด ์ด๋ฏธ ์์ฝ ์ฉ๋์ ํฅํ๋ค๋ฉด ์ด ์ฐ์์ฑ์ด ์์ ํ ํฐ ๊ฐ๊ฒฉ ์ฐจ์ด๋ณด๋ค ๊ฐ์น ์์ต๋๋ค.
์ค๊ฒฌ๊ธฐ์ CTO๋ ์ฒญ๊ตฌ์ก์ด ํฌ๋ค๋ ์ด์ ๊ฐ ์๋๋ผ ์๋น์ค ์ฝ์ ์ ์ํด PTU๋ฅผ ๊ตฌ๋งคํด์ผ ํฉ๋๋ค. ์ ์ ์จ์ ์์ธกํ๊ณ 99% SLA๋ฅผ ๊ณ ๊ฐ ์ฝ์๊ณผ ๋น๊ตํ๋ฉฐ, ๊ฑฐ๋ ์์ค์ด๋ ์ง์ ์์ค์ปฌ๋ ์ด์ ์ ๊ธฐ์ค์ผ๋ก ์ฉ๋ ์์ฝ์ ๊ฐ์น๋ฅผ ๊ณ์ฐํฉ๋๋ค. ์ ํ๋ฆฌ์ผ์ด์ ์ 99.9% ๊ฐ์ฉ์ฑ์ด ํ์ํ๋ค๋ฉด 99%๋ผ๋ ๋ฌธ๊ตฌ๋ง์ผ๋ก๋ ๋ถ์กฑํฉ๋๋ค. ํด๋ฐฑ์ ์ค๊ณํ๊ฑฐ๋ ๊ณ์ฝ์ ํ์ํด์ผ ํฉ๋๋ค.
์๋ จ๋ ์ด์์๋ ์ฉ๋์ ์์ฝํ๊ธฐ ์ ์ ์คํ๋ผ์ธ ์์ ๋ถํฐ Batch๋ก ์ฎ๊ฒจ์ผ ํฉ๋๋ค. ๋ถ๋ฅ, ๋ณด๊ฐ, ํ๊ฐ, ํฉ์ฑ ๋ฐ์ดํฐ ์์ ์ ๋์ ๋ชจ๋ธ์์ ์ต๋ 50% ํ ์ธ์ ๋ฐ์ ์ ์์ต๋๋ค. ์ง์ฐ ์๊ฐ์ ๋ฐ์๋ค์ด๊ณ ์ป๋ ์ง์ ํ ์ธ์ ๋๋ค. PTU๋ ์ฉ๋ ๊ตฌ๋งค์ด๋ฏ๋ก ๊ทธ๋ค์์ ๊ฒํ ํด์ผ ํฉ๋๋ค.
๋ฆฌ์์น ๋๋ ๋ชจ๋ธ ํ์ ์ฌ์ฉ๋ฅ ๋ด๋น์๊ฐ ์์ ๋๋ง Dedicated Inference๋ GPU ํด๋ฌ์คํฐ๋ฅผ ์ฌ์ฉํด์ผ ํฉ๋๋ค. ํ์ต, ์ปค์คํ ์๋น, ์ ์์ค ์ ์ด๊ฐ ์คํ์ ์ ๋นํํ ์ ์์ต๋๋ค. GPU-hour, ์ ํด ๋ ํ๋ฆฌ์นด, ๋ฒ์คํธ ์ฌ์ฉ๋, ์๊ตฌ ๋ณผ๋ฅจ์ ๋ชจ๋ํฐ๋งํ์ง ๋ชปํ๋ ํ์ ํต์ ํ ์ ์๋ ์ธํ๋ผ๋ฅผ ์ฌ๋ ์ ์ ๋๋ค.
๋ค์ ๋ค ์กฐ๊ฑด ์ค ํ๋๋ผ๋ ํด๋นํ๋ฉด Together AI๋ฅผ ํผํด์ผ ํฉ๋๋ค. ๋ผ์ฐํ ๋ ์ต์ ํ ํฐ ๊ฐ๊ฒฉ๋ง ์ค์ํ๊ฑฐ๋, ํธ๋ํฝ์ด ๋๋ฌด ๋ถ๊ท์นํด 1๊ฐ์ ์์ฝ์ด ๋ง์ง ์๊ฑฐ๋, ํ์ํ ๋ชจ๋ธ์ด ๋ค๋ฅธ ๊ณณ์ ์๊ฑฐ๋, ์์ ํ์ ์์ด ๋ ๊ฐํ ๊ณต๊ฐ SLA๊ฐ ํ์ํ ๋์ ๋๋ค. Fireworks, Groq, OpenRouter ๋๋ ๋ชจ๋ธ ์ง์ ๊ณต๊ธ์๊ฐ ๋ ์ ํฉํ ์ ์์ต๋๋ค.
- ํ ๊ณ์ ์์ ์๋ฒ๋ฆฌ์ค, ์์ฝ ํ ํฐ ์ฉ๋, ์ ์ฉ ์ถ๋ก , ํ์ธํ๋, GPU ํด๋ฌ์คํฐ, ์๋๋ฐ์ค ์ปดํจํ , ์คํ ๋ฆฌ์ง๋ฅผ ์ด์ฉํ ์ ์์ต๋๋ค.
- ํ์ฌ ์๋ฒ๋ฆฌ์ค ์๊ธ์ ์ฌ๋ฌ ์คํ ๋ชจ๋ธ์์ ๊ฒฝ์๋ ฅ์ด ์๊ณ , ์ง์ ์๋ํฌ์ธํธ์ ์บ์ ์ ๋ ฅ ํ ์ธ ํญ๋ ํฝ๋๋ค.
- ๊ตฌ๋งคํ ์ ๋ถ ํฌ๋ ๋ง์ ํ์ฌ ๋ง๋ฃ๋์ง ์์ต๋๋ค.
- Provisioned Throughput์ ๊ณต์ ์ถ๋ก ๊ณผ ์ ์ฉ ์ถ๋ก ์ฌ์ด์ ๊ณต๊ฐ๋ $0.05/PTU-minute ๊ฒฝ๋ก๋ฅผ ์ ๊ณตํฉ๋๋ค.
- ๊ฒฐ์ ์๋ ๋ฌด๋ฃ ์ฒดํ์ด ์์ผ๋ฉฐ ํ๋ซํผ ์ก์ธ์ค์ $5 ๊ตฌ๋งค๊ฐ ํ์ํฉ๋๋ค.
- ๊ณต๊ฐ PTU ์ ๊ฐ๋ ํ์ ํ ์ธ ์ ๊ธฐ์ค์ผ๋ก ์์ ํ ์ ์ ํด์ผ Together ์๋ฒ๋ฆฌ์ค์ ๋น์ฉ์ด ๊ฐ์์ง๋๋ค.
- ํด๋ฐฑ์ด ์๋ค๋ฉด 99% PTU ๊ฐ๋ ์๊ฐ SLA๋ ์ค์ํ ๊ณ ๊ฐ ๊ฒฝ๋ก์ ์ถฉ๋ถํ์ง ์์ ์ ์์ต๋๋ค.
- Dedicated, ์์ฝ GPU, ์คํ ๋ฆฌ์ง, ํ์ธํ๋ ๋ฐฐํฌ๋ ์์ฒญ๋์ด 0์ด์ด๋ ๊ณ์ ๊ณผ๊ธ๋ ์ ์์ต๋๋ค.
- ์ค์๊ฐ ๊ฐ๊ฒฉ๊ณผ ์ค๋๋ ์ ํ ๋ฌธ์๊ฐ ์ถฉ๋ํ ์ ์์ผ๋ฏ๋ก ๊ตฌ๋งคํ์ ๋ ์ง๊ฐ ๋ช ์๋ ์ถ์ฒ๋ฅผ ์ฌ์ฉํด์ผ ํฉ๋๋ค.
์์์ผ ์คํ์: ์์ฝ ์ ์ ์ํฌ๋ก๋ ํ๋๋ฅผ ์ธก์ ํฉ๋๋ค
์์์ผ์๋ ๋ฒ์๊ฐ ์ ํด์ง ํ๋ก๋์ ์ํฌํ๋ก ํ๋๋ฅผ ๊ณจ๋ผ 7์ผ๊ฐ์ ๋น์ฉ ๊ธฐ๋ก์ ๋ง๋ญ๋๋ค. ๋ชจ๋ ๋ชจ๋ธ์ ์ํํ๋ ๊ฒ์ด ๋ชฉ์ ์ ์๋๋๋ค. ์ด ๋ถํ๋ฅผ ์๋ฒ๋ฆฌ์ค, Batch, PTU, ์ ์ฉ ์ฉ๋ ์ค ์ด๋์ ๋ฐฐ์นํ ์ง ์์๋ด๋ ๊ฒ์ด ๋ชฉํ์ ๋๋ค.
์น์ธ๋ ๊ฒฐ๊ณผ ํ๋๋ฅผ ์ ์ํฉ๋๋ค
์ ํจํ ๋ถ๋ฅ, ํ ์คํธ๋ฅผ ํต๊ณผํ ์ฝ๋ ๋ณ๊ฒฝ, ์น์ธ๋ ์ง์ ๋ต์ ์ด์, ์๋ฃ๋ ์ถ์ถ์ฒ๋ผ ์ฑ์ ํ ์ ์๋ ๊ฒฐ๊ณผ๋ฅผ ๊ฐ์ง ์์ ์ ์ ํํฉ๋๋ค. ์น์ธ๋ ๊ฒฐ๊ณผ๋น ๋น์ฉ์ด ์ฌ์ ์งํ์ ๋๋ค.
์ ์ฒด ์ฌ์ฉ๋ ํํ๋ฅผ ๊ธฐ๋กํฉ๋๋ค
7์ผ ๋์ ์์ฒญ ์, ์บ์๋์ง ์์ ์ ๋ ฅ, ์บ์ ์ ๋ ฅ, ์ถ๋ ฅ, ์ฌ์๋, ์ด๋น ์ต๋ ์์ฒญ ์, 429 ์๋ต, ์ง์ฐ ์๊ฐ, ์๋๋ฐ์ค ์๊ฐ, ์น์ธ๋ ๊ฒฐ๊ณผ๋ฅผ ์์งํฉ๋๋ค. ํ์ผ ํผํฌ์ ์ผ๊ฐยท์ฃผ๋ง์ ๊ตฌ๋ถํฉ๋๋ค.
์๋ฒ๋ฆฌ์ค ๊ธฐ์ค ๋น์ฉ์ ๊ณ์ฐํฉ๋๋ค
์ธก์ ํ ํ ํฐ ๊ตฌ์ฑ์ ์ค์๊ฐ ๋ชจ๋ธ ์๊ธ์ ์ ์ฉํฉ๋๋ค. ๋์ ์คํ๋ผ์ธ ์์ ์ Batch๋ก ์ฎ๊ธด ๋ค ๋ค์ ๊ณ์ฐํฉ๋๋ค. ๋ถํ์ํ ์ถ๋ ฅ์ ์ ํํ๊ณ ๊ณ ์ ํ๋กฌํํธ ํ๋ฆฌํฝ์ค๋ฅผ ์ ์งํด ์ค์ ๋ก ๋ฌ์ฑ ๊ฐ๋ฅํ ์บ์ ์ ๊ฐ์ ๊ธฐ์ค ๋น์ฉ์ ํฌํจํฉ๋๋ค.
PTU ์ ์ ์จ ํ ์คํธ๋ฅผ ์คํํฉ๋๋ค
์ต๋ ์์ฒญ๋ฅ , ์บ์ ์ ์ค๋ฅ , ํ ํฐ ๊ตฌ์ฑ์ ์ค์๊ฐ PTU ๊ณ์ฐ๊ธฐ์ ๋ฃ์ต๋๋ค. ํ์ํ PTU ์์ ํ๊ท ์ฌ์ฉ๋์ ๋น๊ตํฉ๋๋ค. ์ ์ ์จ 80%์์ ๊ณต๊ฐ ์ ๊ฐ๋ 25%์ ์คํจ ํ ํฐ ํ๋ฆฌ๋ฏธ์์ ํฌํจํฉ๋๋ค. ์์ฝ ์ฉ๋๊ณผ 99% SLA๊ฐ ๊ทธ ๊ฐ์ ํ๋์ง ํ๋จํฉ๋๋ค.
์๊ตฌ์ฌํญ์ ์ด๋ฆ์ ๋ ์ ์์ ๋๋ง ์์ ๋จ๊ณ๋ก ๊ฐ๋๋ค
์ปค์คํ ๋ชจ๋ธ, ๋จ์ผ ํ ๋ํธ ์ ์ด ๋๋ ์์ ์ ์ธ ํ๋์จ์ด ์ฑ๋ฅ์ด ํ์ํ ๋ Dedicated Inference๋ก ์ด๋ํฉ๋๋ค. ํ์ด ์๋น ๋๋ ํ์ต ์คํ์ ์ง์ ์์ ํ ๋๋ง GPU ํด๋ฌ์คํฐ๋ก ์ด๋ํฉ๋๋ค. ์์ฐ ๋ด๋น์ ์์ ์ข ๋ฃ ๋ฐ ์คํ ๋ฆฌ์ง ์ ๋ฆฌ ๋ด๋น์๋ฅผ ์ง์ ํฉ๋๋ค.
์ต์ข ๊ฒฐ์ ์ ์ฌ๋ฌดํ๊ณผ ์์ง๋์ด๋งํ์ด ํจ๊ป ์ธ ์ ์๋ ํ ๋ฌธ์ฅ์ ๋๋ค. "์ด ์ํฌ๋ก๋๋ ์๋ฒ๋ฆฌ์ค์ ๋จ๊ธด๋ค", "์ด ์คํ๋ผ์ธ ๊ตฌ๊ฐ์ Batch๋ก ์ฎ๊ธด๋ค", ๋๋ "์ฉ๋ ๋ณด์ฅ์ด ์ธก์ ๋ ์ ํด ํ๋ฆฌ๋ฏธ์๋งํผ ๊ฐ์น ์์ผ๋ฏ๋ก ์ด ๊ณ ๊ฐ ๊ฒฝ๋ก์ N PTU๋ฅผ ์์ฝํ๋ค"์ ๋๋ค. ๊ฐ๊ฒฉ ๋ฌธ๊ตฌ๋ง ๋ณด๊ณ ์ธํ๋ผ๋ฅผ ์ด์ ํ๋ ์ผ์ด ์๋๋ผ ์์์ผ์ ๋ฐ๋ก ์คํํ ์ ์๋ ์กฐ์น์ ๋๋ค.
Together AI pricing ์์ฃผ ๋ฌป๋ ์ง๋ฌธ
Together AI์์ ํ ํฐ 1,000๊ฐ๋ ์ผ๋ง์ธ๊ฐ์?
๋ชจ๋ธ์ 1 million๋น ์๊ธ์ 1,000์ผ๋ก ๋๋๊ณ ์ ๋ ฅ๊ณผ ์ถ๋ ฅ์ ๋ฐ๋ก ๊ณ์ฐํฉ๋๋ค. MiniMax M3๋ ์บ์๋์ง ์์ ์ ๋ ฅ ํ ํฐ 1,000๊ฐ๋น $0.0003, ์ถ๋ ฅ ํ ํฐ 1,000๊ฐ๋น $0.0012์ ๋๋ค. Kimi K3๋ ํ ํฐ 1,000๊ฐ๋น ์ ๋ ฅ $0.003, ์ถ๋ ฅ $0.015์ ๋๋ค.
Together AI์ ์ ๋น์ฉ์ ์ผ๋ง์ธ๊ฐ์?
์๋ฒ๋ฆฌ์ค์๋ ๊ณ ์ ์ ๊ตฌ๋ ๋ฃ๊ฐ ์์ต๋๋ค. $5 ์ก์ธ์ค ๊ตฌ๋งค ํ ์๋น์ฉ์ ์ฌ์ฉ๋์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋๋ค. PTU 1๊ฐ๋ 30์ผ ๊ธฐ์ค $2,160์ด๋ฉฐ, ๊ฐ๊ฒฉ ํ์ด์ง์ ํ๊ท ์ ๊ฐ์ ์ธ 43,800๋ถ์ ์ฐ๋ฉด ์ฝ $2,190์ ๋๋ค. ํ์ฌ ์๊ฐ๋น $5.49 ์๊ธ์ผ๋ก Dedicated H100 1๊ฐ๋ฅผ 720์๊ฐ ๊ณ์ ์คํํ๋ฉด $3,952.80์ ๋๋ค.
Together AI๋ ๋ฌด๋ฃ์ธ๊ฐ์?
์๋๋๋ค. Together AI๋ ํ์ฌ ๋ฌด๋ฃ ์ฒดํ์ ์ ๊ณตํ์ง ์์ผ๋ฉฐ ํ๋ซํผ ์ก์ธ์ค์ ์ต์ $5 ์ ๋ถ ํฌ๋ ๋ง ๊ตฌ๋งค๊ฐ ํ์ํฉ๋๋ค. ์ค์๊ฐ ์นดํ๋ก๊ทธ์๋ Ternary Bonsai 27B์ ์ ๋ ฅยท์ถ๋ ฅ ํ ํฐ ์๊ธ์ด $0์ผ๋ก ํ์๋์ง๋ง, ๊ณ์ ์๋ ์ฌ์ ํ $5 ๊ตฌ๋งค๊ฐ ํ์ํฉ๋๋ค.
Together AI๋ ๋ฌด๋ฃ ํฌ๋ ๋ง์ ์ ๊ณตํ๋์?
์์ ๊ฐ์ ํํ์ผ๋ก๋ ์ ๊ณตํ์ง ์์ต๋๋ค. ๊ณผ๊ฑฐ ๊ฐ์ ํ๋ก๋ชจ์ ์ ์ข ๋ฃ๋๊ณ , ํ์ฌ ์ก์ธ์ค์๋ $5 ๊ตฌ๋งค๊ฐ ํ์ํฉ๋๋ค. Together๋ ์ ๊ท ์์ ๋ฐ์์ ํ๋ก์ ํธ๋ฅผ ์งํํ๋ ํ์์ ์ํ ์ด๋ ์ ์ฉ ๋ฆฌ์์น ํฌ๋ ๋ง ํ๋ก๊ทธ๋จ๋ ์ด์ํ์ง๋ง ๋๋ฆฌ ์ ๊ณต๋๋ ์ ๋๋ ์๋๋๋ค.
Together AI ๋ฌด๋ฃ ๊ณ์ธต์ ํ๋๋ ์ผ๋ง์ธ๊ฐ์?
์ผ๋ฐ์ ์ธ ๋ฌด๋ฃ ๊ณ์ธต์ ์์ต๋๋ค. $5 ์์ก์ ๊ตฌ๋งคํ๋ฉด ๊ณ์ ์ Build Tier 1์ด ๋๋ฉฐ, ํ์ฌ ๋ถ๋น LLM ์์ฒญ 600ํ, ๋ถ๋น ์๋ฒ ๋ฉ ์์ฒญ 3,000ํ, ๋ฆฌ๋ญํฌ ํ๋ 500,000์ ํ์ํฉ๋๋ค. ๋ชจ๋ธ๋ณยท๋์ ํ๋๋ ์ด๋ณด๋ค ๋ฎ์ ์ ์์ต๋๋ค.
Together AI์ ๊ฐ์ฅ ์ข์ ๋์์ ๋ฌด์์ธ๊ฐ์?
Fireworks AI๋ ๊ด๋ฒ์ํ ์คํ ๋ชจ๋ธ ์ถ๋ก ๊ณผ ํ์ธํ๋์์ ๊ฐ์ฅ ๊ฐ๊น์ด ๋์์ด๊ณ , Groq๋ ์ง์๋๋ ์ ์ง์ฐ ๋ชจ๋ธ์ ๋งค๋ ฅ์ ์ด๋ฉฐ, OpenRouter๋ ํญ๋์ ๋ชจ๋ธ ๋ผ์ฐํ ๊ณผ ํด๋ฐฑ์ ๊ฐํฉ๋๋ค. gpt-oss-120B์์ Together, Fireworks, Groq์ ํ์ฌ 1 million tokens๋น ์ ๋ ฅ ์๊ธ์ $0.15, ์ถ๋ ฅ ์๊ธ์ $0.60์ผ๋ก ๊ฐ์ต๋๋ค. ์ด ์์ ์ OpenRouter ๋ผ์ฐํ ๊ฐ๊ฒฉ์ ๋ ๋ฎ์ง๋ง ํฌ๋ ๋ง ๊ตฌ๋งค ์์๋ฃ์ ์ ๊ทธ๋ฆฌ๊ฒ์ดํฐ ๊ณ์ธต์ด ์ถ๊ฐ๋ฉ๋๋ค.
Together AI์ ํ์ ํ ์ธ์ด ์๋์?
Together AI๋ ์์ ํ์ ์๊ธ์ ๋ฅผ ๊ณต๊ฐํ์ง ์์ต๋๋ค. ์ด๋ ์ ์ฉ ๋ฆฌ์์น ํฌ๋ ๋ง ํ๋ก๊ทธ๋จ์ ์ ๊ท ์์ ๋ฐ์์ ํ๋ก์ ํธ๋ฅผ ์งํํ๋ ํ์์๊ฒ ์๊ท๋ชจ ์ง์๊ธ์ ์ ๊ณตํ๋ฉฐ, ๊ฒฐ๊ณผ๋ฌผ์ Together AI๋ฅผ ๋ช ์ํ๋๋ก ์๊ตฌํฉ๋๋ค.
Together AI์ ํ๋ถ ์ ์ฑ ์ ๋ฌด์์ธ๊ฐ์?
Together ์ฝ๊ด์ ์ฃผ๋ฌธ์์ ๋ฌ๋ฆฌ ๋ช ์๋์ง ์๋ ํ ์๊ธ์ ๊ธฐ๋ณธ์ ์ผ๋ก ํ๋ถ๋์ง ์๊ณ , ๊ฒฐ์ ์๋ฌด๋ ์ทจ์ํ ์ ์์ผ๋ฉฐ ์ผํ ๊ณ์ฐ๋์ง ์์ต๋๋ค. GPU ์์ฝ๋ ํ๋ถ๋์ง ์์ต๋๋ค. ํ์ธํ๋ ์์ ์ ์ทจ์ํ๋ฉด ์๋ฃ๋ ์คํ ์ ์ฒญ๊ตฌํ๊ณ ์๋ฃ๋์ง ์์ ๋ถ๋ถ๋ง ํ๋ถํฉ๋๋ค.
Together AI ํฌ๋ ๋ง์ ๋ง๋ฃ๋๋์?
๊ตฌ๋งคํ ์ ๋ถ ํฌ๋ ๋ง์ ํ์ฌ ๋ง๋ฃ๋์ง ์์ต๋๋ค. ํ๋ถ ๊ฐ๋ฅ ์ฌ๋ถ์๋ ๋ณ๊ฐ์ ๋๋ค. ํฌ๋ ๋ง์ ํ๋ถ๋์ง ์์๋ ๊ณ์ ์ฌ์ฉํ ์ ์์ผ๋ฉฐ, ์ฒญ๊ตฌ์๊ฐ ๋ฐํ๋ ๋ค ๊ตฌ๋งคํ ํฌ๋ ๋ง์ผ๋ก ๊ธฐ์กด ์ฐ์ฒด ์์ก์ ์ ์ฐํ ์๋ ์์ต๋๋ค.
2026๋ ์ Together AI ๊ฐ๊ฒฉ์ด ๋ฐ๋์๋์?
๊ทธ๋ ์ต๋๋ค. Together AI๋ 2026๋ 7์ 8์ผ Provisioned Throughput์ ์ถ์ํด ๋ถ๋น $0.05/PTU์ ์์ฝ ํ ํฐ ์ฉ๋, ์ต์ 1๊ฐ์ ์ฝ์ , 99% ๊ฐ๋ ์๊ฐ SLA๋ฅผ ์ถ๊ฐํ์ต๋๋ค. ํ์ฌ ์๋ฒ๋ฆฌ์ค ์นดํ๋ก๊ทธ์ ์ ์ฉ ํ๋์จ์ด ์๊ธ๋ 6์ ์ดํ ๋ฐ๋์์ผ๋ฏ๋ก ์ด ๊ธ์๋ 8์ 22์ผ ํ์ธ ๋ ์ง๋ฅผ ๋ช ์ํ์ต๋๋ค.
Provisioned Throughput์ด Together ์๋ฒ๋ฆฌ์ค๋ณด๋ค ์ ๋ ดํ๊ฐ์?
์๋์ผ๋ก ์ ๋ ดํด์ง๋ ๊ฒ์ ์๋๋๋ค. ๊ณต๊ฐ ์ ๊ฐ์์ PTU 1๊ฐ๋ฅผ ์์ ํ ์ ์ ํ๋ฉด 30์ผ ๊ฐ์น๊ฐ ํด๋น Together ์๋ฒ๋ฆฌ์ค ์ฉ๋๊ณผ ๊ฑฐ์ ์ ํํ ๊ฐ์ต๋๋ค. ์ฌ์ฉ๋ฅ ์ด ๋ฎ์ผ๋ฉด ์คํจ ํ ํฐ ๊ฐ๊ฒฉ์ด ์ค๋ฆ ๋๋ค. PTU๋ ์์ฝ ์ฉ๋๊ณผ SLA๋ฅผ ๊ตฌ๋งคํ๋ ์ํ์ ๋๋ค. ์ฝ์ ํ ์ธ์ ํ์ํ๋ฉด ์์จ์ด ์ข์์ง ์ ์์ง๋ง Together๋ ๊ทธ ํ ์ธํ๋ฅผ ๊ณต๊ฐํ์ง ์์ต๋๋ค.
๋น์ฆ๋์ค ์ค๋๋ฅผ ์ํ AI Tools Map ๋ฐ๊ธฐ
AI Tools Map for Business Owners๋ ๋ชจ๋ธ ๊ฐ๊ฒฉ์ ์ค์ ๋์ ์คํ์ผ๋ก ๋ฐ๊ฟ ์ค๋๋ค. ๊ฐ ํด์ ํ์ง ํํ์ , ๋ผ์ฐํ ์ญํ , ๋น์ฉ ์ ํ ๊ธฐ์ค์ ๋ด์์ต๋๋ค. ๋ค์ ์๋์ ์ ๋ฌด๋ฃ๋ก ๋ฐ์๋ณด์ธ์.
- ๊ฒ์์ผ
- ์นดํ ๊ณ ๋ฆฌ
- AI
- ์ธ์ด







