Together AI pricing 2026: PTU๋Š” ํ• ์ธ๋ณด๋‹ค ์šฉ๋Ÿ‰์„ ์‚ฝ๋‹ˆ๋‹ค

Together AI pricing์„ ์„œ๋ฒ„๋ฆฌ์Šค ํ† ํฐ๋ถ€ํ„ฐ PTU, Dedicated Inference, GPU ํด๋Ÿฌ์Šคํ„ฐ๊นŒ์ง€ ๋ถ„์„ํ•ฉ๋‹ˆ๋‹ค. 2026๋…„ ์ตœ์‹  ์š”๊ธˆ ๊ธฐ์ค€์œผ๋กœ $5 ์„ ๋ถˆ ์•ก์„ธ์Šค, $0.05/PTU-minute, ์ ์œ ์œจ๋ณ„ ์†์ต๋ถ„๊ธฐ์ ๊ณผ ์ˆจ์€ ๋น„์šฉ์„ ํ•œ ๋ฒˆ์— ํ™•์ธํ•˜์„ธ์š”.

๊ฒŒ์‹œ์ผ

์ž‘์„ฑ์ž
Together AI pricing 2026: PTU๋Š” ํ• ์ธ๋ณด๋‹ค ์šฉ๋Ÿ‰์„ ์‚ฝ๋‹ˆ๋‹ค

Together AI pricing์—์„œ ๊ฐ€์žฅ ์ €๋ ดํ•œ ์„ ํƒ์€ ์„œ๋ฒ„๋ฆฌ์Šค์ž…๋‹ˆ๋‹ค. ์ƒˆ๋กœ ๋‚˜์˜จ $0.05/PTU-minute ์˜ต์…˜๋„ ์ž์ฒด ํ† ํฐ ์š”๊ธˆ๋ณด๋‹ค ์‹ธ๊ฒŒ ์ œ๊ณตํ•˜๋Š” ์ •๊ฐ€ ํ• ์ธ ์ƒํ’ˆ์€ ์•„๋‹™๋‹ˆ๋‹ค. PTU 1๊ฐœ๋ฅผ 30์ผ ๋‚ด๋‚ด ์˜ˆ์•ฝํ•˜๋ฉด $2,160์ž…๋‹ˆ๋‹ค. ์‚ฌ์šฉํ•˜์ง€ ์•Š๋Š” ํ† ํฐ์„ ์‹ธ๊ฒŒ ์‚ฌ๊ธฐ ์œ„ํ•ด์„œ๊ฐ€ ์•„๋‹ˆ๋ผ, ๋ณด์žฅ๋œ ์šฉ๋Ÿ‰๊ณผ 99% ๊ฐ€๋™ ์‹œ๊ฐ„ SLA๊ฐ€ ํ•„์š”ํ•  ๋•Œ ๊ตฌ๋งคํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

Together AI pricing ํ•œ๋ˆˆ์— ๋ณด๊ธฐ

Together AI๋Š” ๋‹จ๊ณ„์ ์œผ๋กœ ๋„์ž…ํ•˜๋Š” ํŽธ์ด ๊ฐ€์žฅ ํ•ฉ๋ฆฌ์ ์ž…๋‹ˆ๋‹ค. ์„ ๋ถˆ ์„œ๋ฒ„๋ฆฌ์Šค ์‚ฌ์šฉ๋Ÿ‰์œผ๋กœ ์‹œ์ž‘ํ•˜๊ณ , ํŠธ๋ž˜ํ”ฝ์ด ์ผ์ •ํ•˜๊ฑฐ๋‚˜ ์•ˆ์ •์„ฑ์ด ์ค‘์š”ํ•œ ๊ตฌ๊ฐ„์€ Provisioned Throughput์œผ๋กœ ์˜ฎ๊ธด ๋’ค, ๋‹จ์ผ ํ…Œ๋„ŒํŠธ ์ œ์–ด ๋˜๋Š” ์ปค์Šคํ…€ ๋ชจ๋ธ์ด ๊ผญ ํ•„์š”ํ•œ ์›Œํฌ๋กœ๋“œ์—๋งŒ ์ „์šฉ ํ•˜๋“œ์›จ์–ด๋ฅผ ์˜ˆ์•ฝํ•ฉ๋‹ˆ๋‹ค. ์ด ๋‹จ๊ณ„๋ฅผ ์‚ฌ์šฉ๋Ÿ‰ ํ• ์ธ์œผ๋กœ ์˜คํ•ดํ•˜๋ฉด ํฐ ๋น„์šฉ์ด ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค. ๊ฐ ์ƒํ’ˆ์€ ์ธก์ • ๋‹จ์œ„๊ฐ€ ๋‹ค๋ฅด๊ณ  ๊ณ ๊ฐ์—๊ฒŒ ์ด์ „ํ•˜๋Š” ์šด์˜ ๋ฆฌ์Šคํฌ๋„ ๋‹ค๋ฆ…๋‹ˆ๋‹ค.

์„œ๋ฒ„๋ฆฌ์Šค, Provisioned Throughput, Dedicated Inference, GPU ํด๋Ÿฌ์Šคํ„ฐ, ์ƒŒ๋“œ๋ฐ•์Šค, ์Šคํ† ๋ฆฌ์ง€, ํŒŒ์ธํŠœ๋‹์„ ๋ณด์—ฌ ์ฃผ๋Š” Together AI ์‹ค์‹œ๊ฐ„ ๊ฐ€๊ฒฉ ํŽ˜์ด์ง€
2026๋…„ 8์›” 22์ผ์— ํ™•์ธํ•œ Together AI pricing

Together AI์—๋Š” ๋‹จ์ˆœํ•œ Free, Pro, Business ์š”๊ธˆ์ œ๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค. ์„œ๋ฒ„๋ฆฌ์Šค ํ† ํฐ๊ณผ ๋ฏธ๋””์–ด ์ถœ๋ ฅ, ์˜ˆ์•ฝํ˜• ํ† ํฐ ์šฉ๋Ÿ‰, ๊ด€๋ฆฌํ˜• ์ „์šฉ GPU, ์›์‹œ GPU ํด๋Ÿฌ์Šคํ„ฐ, ์ƒŒ๋“œ๋ฐ•์Šค ์ปดํ“จํŒ…, ์Šคํ† ๋ฆฌ์ง€, ํŒŒ์ธํŠœ๋‹์„ ๊ฐ๊ฐ ํŒ๋งคํ•ฉ๋‹ˆ๋‹ค. ํ•˜๋‚˜์˜ ์ œํ’ˆ์—์„œ ์—ฌ๋Ÿฌ ๊ณผ๊ธˆ ๋‹จ์œ„๊ฐ€ ๋™์‹œ์— ๋ฐœ์ƒํ•  ์ˆ˜๋„ ์žˆ์Šต๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด ์—์ด์ „ํŠธ๋Š” ๋ชจ๋ธ ํ† ํฐ, ์ƒŒ๋“œ๋ฐ•์Šค CPU์™€ ๋ฉ”๋ชจ๋ฆฌ, ์š”์ฒญ์ด ์—†์„ ๋•Œ๋„ ๋น„์šฉ์ด ๋ฐœ์ƒํ•˜๋Š” ํŒŒ์ธํŠœ๋‹ ์—”๋“œํฌ์ธํŠธ๋ฅผ ํ•จ๊ป˜ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ œํ’ˆํ˜„์žฌ ์ •๊ฐ€์•ฝ์ •์ ํ•ฉํ•œ ์šฉ๋„
์„œ๋ฒ„๋ฆฌ์Šค ์ถ”๋ก ํ…์ŠคํŠธ ๋ชจ๋ธ $0-$15/M tokens, ๋ฏธ๋””์–ด๋Š” ์ด๋ฏธ์ง€ยท์˜์ƒยท๋ถ„ยท๋ฌธ์ž ๋‹จ์œ„ ์š”๊ธˆ$5 ์„ ๋ถˆ ์•ก์„ธ์Šค ๊ตฌ๋งค ํ›„ ์‚ฌ์šฉ๋Ÿ‰ ๊ธฐ๋ฐ˜ํ”„๋กœํ† ํƒ€์ž…, ๋ณ€๋™์„ฑ ๋†’์€ ํŠธ๋ž˜ํ”ฝ, ๋ชจ๋ธ ํ‰๊ฐ€
Provisioned Throughput$0.05/PTU-minute ๋˜๋Š” 30์ผ ๊ธฐ์ค€ PTU๋‹น $2,160์ตœ์†Œ 1๊ฐœ์›”์˜ˆ์•ฝ ์šฉ๋Ÿ‰๊ณผ 99% ๊ฐ€๋™ ์‹œ๊ฐ„ SLA๊ฐ€ ํ•„์š”ํ•œ ์•ˆ์ •์ ์ธ ํ”„๋กœ๋•์…˜ ํŠธ๋ž˜ํ”ฝ
Dedicated InferenceH100 $5.49/GPU-hour, B200 $8.99/GPU-hour์‹คํ–‰ ์ค‘ ๊ณผ๊ธˆ, ์˜ˆ์•ฝ ์กฐ๊ฑด์€ ๊ฒฌ์ ํŒŒ์ธํŠœ๋‹ยท์ปค์Šคํ…€ ๋ชจ๋ธ, ์˜ˆ์ธก ๊ฐ€๋Šฅํ•œ ์ง€์—ฐ ์‹œ๊ฐ„, ๋‹จ์ผ ํ…Œ๋„ŒํŠธ ์ œ์–ด
GPU ํด๋Ÿฌ์Šคํ„ฐH100 ์˜จ๋””๋งจ๋“œ $3.99/GPU-hour ๋˜๋Š” 91-180์ผ ์•ฝ์ • ์‹œ $3.19, H200๊ณผ B200์€ ๋” ๋น„์Œˆ์˜จ๋””๋งจ๋“œ ๋˜๋Š” ๊ณต๊ฐœ๋œ 7-180์ผ ์˜ˆ์•ฝ์ž์ฒด ํ•™์Šต ๋˜๋Š” ์ถ”๋ก  ์Šคํƒ์„ ์šด์˜ํ•˜๋Š” ํŒ€
์ƒŒ๋“œ๋ฐ•์Šค์™€ ์Šคํ† ๋ฆฌ์ง€$0.0446/vCPU-hour, $0.0149/GiB RAM-hour, $0.16/GiB-month storage์‚ฌ์šฉ๋Ÿ‰ ๊ธฐ๋ฐ˜์—์ด์ „ํŠธ ์ฝ”๋“œ ์‹คํ–‰๊ณผ ์˜๊ตฌ ๋ฐ์ดํ„ฐ
ํŒŒ์ธํŠœ๋‹ํ‘œ์ค€ $0.48-$8/M processed tokens, ํŠนํ™” ๋ชจ๋ธ $3-$100/M ๋ฐ ์ž‘์—…๋ณ„ ์ตœ์†Œ ์š”๊ธˆ์ž‘์—…๋ณ„ ๊ณผ๊ธˆ, ํ˜ธ์ŠคํŒ… ๋ณ„๋„ํ•™์Šตยท๋ฐฐํฌ ๋น„์šฉ์„ ์ƒ์‡„ํ•  ๊ฐ€์น˜๊ฐ€ ์žˆ๋Š” ์ปค์Šคํ…€ ๋™์ž‘

์ด ๊ธ€์˜ ๋ชจ๋“  ๊ฐ€๊ฒฉ๊ณผ ํ•œ๋„๋Š” 2026๋…„ 8์›” 22์ผ Together AI์˜ ์‹ค์‹œ๊ฐ„ ๊ฐ€๊ฒฉ ํŽ˜์ด์ง€, ๊ฒฐ์ œ ๋ฌธ์„œ, ์ œํ’ˆ ๋ฌธ์„œ์—์„œ ํ™•์ธํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด ๋‚ ์งœ๊ฐ€ ์ค‘์š”ํ•œ ์ด์œ ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ํ˜„์žฌ ํŽ˜์ด์ง€๋Š” 6์›”์˜ ๊ฐ€๊ฒฉ ์ •๋ณด์™€ ์ด๋ฏธ ํฌ๊ฒŒ ๋‹ฌ๋ผ์กŒ์Šต๋‹ˆ๋‹ค. MiniMax M3, Kimi K3, GLM-5.2๊ฐ€ ์ถ”๊ฐ€๋๊ณ  ์‹ค์‹œ๊ฐ„ ์ „์šฉ ํ•˜๋“œ์›จ์–ด ์š”๊ธˆ์€ ๋‚ฎ์•„์กŒ์œผ๋ฉฐ ์ƒˆ๋กœ์šด Provisioned Throughput ๊ณ„์ธต๋„ ์ƒ๊ฒผ์Šต๋‹ˆ๋‹ค.

์ฒซ ๋ฒˆ์งธ ํŒ๋‹จ ๊ธฐ์ค€์€ ๊ฐ„๋‹จํ•ฉ๋‹ˆ๋‹ค. ์ˆ˜์š”๊ฐ€ ๋ถˆํ™•์‹คํ•˜๊ฑฐ๋‚˜ ์ˆœ๊ฐ„์ ์œผ๋กœ ๋ชฐ๋ฆฌ๋ฉด ์„œ๋ฒ„๋ฆฌ์Šค๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ํŠน์ • ๋ชจ๋ธ์ด ์•ˆ์ •์ ์ธ ๊ธฐ๋ณธ ๋ถ€ํ•˜๋ฅผ ์ฒ˜๋ฆฌํ•˜๊ณ  ์˜ˆ์•ฝ ์šฉ๋Ÿ‰์— ์‚ฌ์—…์  ๊ฐ€์น˜๊ฐ€ ์žˆ๋‹ค๋ฉด PTU๋ฅผ ๊ฒ€ํ† ํ•ฉ๋‹ˆ๋‹ค. ์ปค์Šคํ…€ ๋ชจ๋ธ, ๋‹จ์ผ ํ…Œ๋„ŒํŠธ ํ•˜๋“œ์›จ์–ด ๋˜๋Š” ๊ตฌ์„ฑ ์ œ์–ด๊ฐ€ ํ•„์š”ํ•˜๋ฉด Dedicated Inference๋ฅผ ์„ ํƒํ•ฉ๋‹ˆ๋‹ค. ํšŒ์‚ฌ๊ฐ€ ๊ด€๋ฆฌํ˜• ์ถ”๋ก  ๊ฒฐ๊ณผ๋ฅผ ๊ตฌ๋งคํ•˜๋Š” ๋Œ€์‹  ๊ธฐ๋ฐ˜ ์ปดํ“จํŒ…์„ ์ง์ ‘ ์šด์˜ํ•˜๋ ค๋Š” ๊ฒฝ์šฐ์—๋งŒ GPU ํด๋Ÿฌ์Šคํ„ฐ๋ฅผ ์„ ํƒํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

๋ณ€๋™์„ฑ ๋†’์€ ์›Œํฌ๋กœ๋“œ๋Š” ์„œ๋ฒ„๋ฆฌ์Šค๋กœ, ์•ˆ์ •์ ์ธ SLA ์›Œํฌ๋กœ๋“œ๋Š” PTU๋กœ, ์ปค์Šคํ…€ ๋ชจ๋ธ์€ Dedicated Inference๋กœ ์—ฐ๊ฒฐํ•˜๋Š” ์˜์‚ฌ๊ฒฐ์ • ํ๋ฆ„
์›” ์ฒญ๊ตฌ์•ก๋งŒ ๋ณด์ง€ ๋ง๊ณ  ์›Œํฌ๋กœ๋“œ ํ˜•ํƒœ์— ๋งž์ถฐ ๊ณผ๊ธˆ ๋‹จ์œ„๋ฅผ ์„ ํƒํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค

์ด ์ฐจ์ด ๋•๋ถ„์— ์‹คํ—˜๋ถ€ํ„ฐ ์˜ˆ์•ฝํ˜• ์ธํ”„๋ผ๊นŒ์ง€ ํ•˜๋‚˜์˜ API ๊ฒฝ๋กœ๋ฅผ ์›ํ•˜๋Š” ํˆฌ์ž ์œ ์น˜ ์Šคํƒ€ํŠธ์—… ์ฐฝ์—…์ž์—๊ฒŒ Together AI๋Š” ๋งค๋ ฅ์ ์ž…๋‹ˆ๋‹ค. ๋ฐ˜๋ฉด ๊ฐ€์žฅ ๋‚ฎ์€ ์ˆœ๊ฐ„ ํ† ํฐ ๊ฐ€๊ฒฉ๋งŒ ์ฐพ๋Š” 1์ธ ๊ฐœ๋ฐœ์ž๋‚˜ ํ•œ ๋‹ฌ ์ˆ˜์š”์กฐ์ฐจ ์˜ˆ์ธกํ•˜๊ธฐ ์–ด๋ ค์šด ํŒ€์—๋Š” ๋œ ๋งค๋ ฅ์ ์ž…๋‹ˆ๋‹ค. ์œ ์—ฐ์„ฑ์€ ์„œ๋ฒ„๋ฆฌ์Šค ์ƒํ’ˆ์—์„œ ์‚ฌ๊ณ , ์•ฝ์ •์€ ๋ณ„๋„๋กœ ๊ตฌ๋งคํ•˜๋Š” ๊ตฌ์กฐ์ž…๋‹ˆ๋‹ค.

๊ธฐ๋ณธ์€ ์„œ๋ฒ„๋ฆฌ์Šค ์ถ”๋ก ์ด๋ฉฐ, ์ฒญ๊ตฌ์•ก์€ ๋ชจ๋ธ ์„ ํƒ์ด ์ขŒ์šฐํ•ฉ๋‹ˆ๋‹ค

์„œ๋ฒ„๋ฆฌ์Šค๋Š” ํ”„๋กœ๋น„์ €๋‹ ๋น„์šฉ์ด ์—†๊ณ , $5 ํ”Œ๋žซํผ ์•ก์„ธ์Šค ๊ตฌ๋งค ์™ธ์—๋Š” ์ตœ์†Œ ์‚ฌ์šฉ๋Ÿ‰๋„ ์—†์œผ๋ฏ€๋กœ ๊ฐ€์žฅ ์ ์ ˆํ•œ ์ถœ๋ฐœ์ ์ž…๋‹ˆ๋‹ค. ๊ณต์œ  ํ”Œ๋ฆฟ์— ์š”์ฒญ์„ ๋ณด๋‚ด๊ณ  ์™„๋ฃŒ๋œ ์ž‘์—…๋งŒํผ ์ง€๋ถˆํ•ฉ๋‹ˆ๋‹ค. ์ฒญ๊ตฌ์„œ์—์„œ Together AI๋ผ๋Š” ์ด๋ฆ„๋ณด๋‹ค ํ›จ์”ฌ ์ค‘์š”ํ•œ ๊ฒƒ์€ ๋ชจ๋ธ, ํ† ํฐ ๋ฐฉํ–ฅ, ์บ์‹œ ์š”๊ธˆ, ์ถœ๋ ฅ ๊ธธ์ด์ž…๋‹ˆ๋‹ค.

ํ˜„์žฌ ์ฑ„ํŒ… ์นดํƒˆ๋กœ๊ทธ์˜ ๊ฐ€๊ฒฉ ํญ์€ ๋งค์šฐ ๋„“์Šต๋‹ˆ๋‹ค. LFM2.5-8B-A1B๋Š” ์ž…๋ ฅ ํ† ํฐ 1 million๊ฐœ๋‹น $0.03, ์ถœ๋ ฅ ํ† ํฐ 1 million๊ฐœ๋‹น $0.12์ž…๋‹ˆ๋‹ค. DeepSeek V4 Flash 0731์€ ์ž…๋ ฅ $0.14, ์บ์‹œ ์ž…๋ ฅ $0.03, ์ถœ๋ ฅ $0.28์ž…๋‹ˆ๋‹ค. gpt-oss-120B๋Š” ์ž…๋ ฅ $0.15, ์ถœ๋ ฅ $0.60์ž…๋‹ˆ๋‹ค. ํ‘œ์‹œ๋œ ํ…์ŠคํŠธ ๋ชฉ๋ก์˜ ์ƒ๋‹จ์—์„œ๋Š” Kimi K3๊ฐ€ 1 million tokens๋‹น ์ž…๋ ฅ $3, ์บ์‹œ ์ž…๋ ฅ $0.30, ์ถœ๋ ฅ $15์ž…๋‹ˆ๋‹ค.

Together๊ฐ€ ํ˜ธ์ŠคํŒ…ํ•˜๋Š” DeepSeek ์š”๊ธˆ์€ ํ•ด๋‹น ๊ณต๊ธ‰์ž์—๋งŒ ์ ์šฉ๋˜๋Š” ๊ณผ๊ธˆ ๋‹จ์œ„์ž…๋‹ˆ๋‹ค. ๋ณ„๋„์˜ DeepSeek ๊ฐ€๊ฒฉ ๋ถ„์„์€ ๋ชจ๋ธ์„ ์ง์ ‘ ์‚ฌ์šฉํ•  ๋•Œ์˜ ๊ฒฝ์ œ์„ฑ์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค. Together ์ฒญ๊ตฌ์•ก์„ ๊ณ„์‚ฐํ•  ๋•Œ๋Š” Together์˜ ์‹ค์‹œ๊ฐ„ ํŽ˜์ด์ง€๋ฅผ ์‚ฌ์šฉํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

LFM์˜ ์ถœ๋ ฅ ์š”๊ธˆ $0.12์™€ Kimi K3์˜ ์ถœ๋ ฅ ์š”๊ธˆ $15 ์‚ฌ์ด์—๋Š” 125๋ฐฐ ์ฐจ์ด๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ชจ๋ธ ๋ผ์šฐํŒ…์„ ๋ฌด์‹œํ•œ ์ฑ„ ๊ณต๊ธ‰์ž๋งŒ ์ตœ์ ํ™”ํ•˜๋Š” ๊ฒƒ์€ ๋ชจ๋“  ์†Œํฌ๋ฅผ ํ•ญ๊ณต์œผ๋กœ ๋ณด๋‚ด๋ฉด์„œ ์šด์ž„์˜ ์ž‘์€ ํ• ์ธ๋งŒ ํ˜‘์ƒํ•˜๋Š” ๊ฒƒ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ฒซ ๋ฒˆ์งธ ๋น„์šฉ ์ ˆ๊ฐ ์ˆ˜๋‹จ์€ ๊ฐ ์ž‘์—…์˜ ํ’ˆ์งˆ ํ•˜ํ•œ์„ ์„ ๋„˜๋Š” ๊ฐ€์žฅ ์ €๋ ดํ•œ ๋ชจ๋ธ์„ ๋ฐฐ์ •ํ•˜๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค.

์—์ด์ „ํŠธ ์›Œํฌ๋กœ๋“œ ์˜ˆ์‹œ๋กœ ์‚ดํŽด๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค. ํ˜ธ์ถœ 1,000ํšŒ๊ฐ€ ๊ฐ๊ฐ ์ž…๋ ฅ ํ† ํฐ 8,000๊ฐœ๋ฅผ ์“ฐ๊ณ  ์ถœ๋ ฅ ํ† ํฐ 1,000๊ฐœ๋ฅผ ์ƒ์„ฑํ•œ๋‹ค๊ณ  ๊ฐ€์ •ํ•ฉ๋‹ˆ๋‹ค. ์ด ์ž…๋ ฅ ํ† ํฐ์€ 8 million๊ฐœ, ์ถœ๋ ฅ ํ† ํฐ์€ 1 million๊ฐœ์ž…๋‹ˆ๋‹ค.

  • DeepSeek V4 Flash 0731์˜ ์ด๋น„์šฉ์€ $1.40, ํ˜ธ์ถœ๋‹น $0.0014์ž…๋‹ˆ๋‹ค.
  • gpt-oss-120B์˜ ์ด๋น„์šฉ์€ $1.80, ํ˜ธ์ถœ๋‹น $0.0018์ž…๋‹ˆ๋‹ค.
  • MiniMax M3์˜ ์ด๋น„์šฉ์€ $3.60, ํ˜ธ์ถœ๋‹น $0.0036์ž…๋‹ˆ๋‹ค.
  • GLM-5.2์˜ ์ด๋น„์šฉ์€ $15.60, ํ˜ธ์ถœ๋‹น $0.0156์ž…๋‹ˆ๋‹ค.
  • Kimi K3์˜ ์ด๋น„์šฉ์€ $39, ํ˜ธ์ถœ๋‹น $0.039์ž…๋‹ˆ๋‹ค.

๊ฐ€์žฅ ํฐ ์ฐจ์ด๋ฅผ ๋งŒ๋“œ๋Š” ๊ฒƒ์€ ๊ณต๊ธ‰์ž ์˜ค๋ฒ„ํ—ค๋“œ๊ฐ€ ์•„๋‹ˆ๋ผ ์„ ํƒํ•œ ๋ชจ๋ธ๊ณผ ๋น„์‹ผ ์ถœ๋ ฅ์˜ ์–‘์ž…๋‹ˆ๋‹ค. ๋ผ๋ฒจ ํ•˜๋‚˜๋งŒ ๋ฐ˜ํ™˜ํ•˜๋Š” ๊ณ ๊ฐ ์ง€์› ๋ถ„๋ฅ˜๊ธฐ์— ๊ธด ๋‹ต๋ณ€์„ ์ž‘์„ฑํ•˜๋Š” ๋ฆฌ์„œ์น˜ ์—์ด์ „ํŠธ์™€ ๊ฐ™์€ ์ถœ๋ ฅ ์˜ˆ์‚ฐ์„ ๋ฐฐ์ •ํ•  ํ•„์š”๋Š” ์—†์Šต๋‹ˆ๋‹ค. ๋” ์ €๋ ดํ•œ ์—”๋“œํฌ์ธํŠธ๋ฅผ ์ฐพ๊ธฐ ์ „์— ๋ฒ”์œ„๊ฐ€ ์ •ํ•ด์ง„ ์ž‘์—…์˜ ์ถœ๋ ฅ ์ƒํ•œ๋ถ€ํ„ฐ ๊ฐ•์ œํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

๋”ฐ๋ผ์„œ ๋” ํญ๋„“์€ ์ตœ์ €๊ฐ€ AI API ๋น„๊ต๋„ ์ž‘์—… ์กฐ๊ฑด์„ ๋™์ผํ•˜๊ฒŒ ๋งž์ถ˜ ๋’ค์—์•ผ ์˜๋ฏธ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ํ”„๋กฌํ”„ํŠธ ๊ธธ์ด, ์‘๋‹ต ๊ธธ์ด, ์บ์‹œ ๊ฐ€์ • ๋˜๋Š” ๋ชจ๋ธ์ด ์„œ๋กœ ๋‹ค๋ฅธ ๊ณต๊ธ‰์ž๋ฅผ ๋น„๊ตํ•˜๋ฉด ๋ณด๊ธฐ ์ข‹์€ ์ˆซ์ž๋Š” ์–ป์„ ์ˆ˜ ์žˆ์–ด๋„ ์˜ˆ์‚ฐ ํŒ๋‹จ์—๋Š” ์“ธ ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.

์บ์‹œ ์ž…๋ ฅ์€ ๋น„์šฉ์ด ํฐ ๋ฐ˜๋ณต ํ”„๋ฆฌํ”ฝ์Šค๋ฅผ ์ค„์—ฌ ์ค๋‹ˆ๋‹ค

ํ”„๋กฌํ”„ํŠธ๊ฐ€ ๋ฐ˜๋ณต๋  ๋•Œ ์บ์‹œ ์ž…๋ ฅ์€ ์…€ํ”„์„œ๋น„์Šค์—์„œ ๊ฐ€์žฅ ๊ฐ•๋ ฅํ•œ ํ• ์ธ ์ˆ˜๋‹จ์ž…๋‹ˆ๋‹ค. ๊ธด ์‹œ์Šคํ…œ ์ง€์นจ์ด๋‚˜ ๊ณ ์ •๋œ ์ฐธ์กฐ ์ปจํ…์ŠคํŠธ์ฒ˜๋Ÿผ ๋ฐ”๋€Œ์ง€ ์•Š๋Š” ํ”„๋ฆฌํ”ฝ์Šค๋ฅผ Together๊ฐ€ ์ธ์‹ํ•˜๊ณ , ์ง€์› ๋ชจ๋ธ์—์„œ ํ•ด๋‹น ํ† ํฐ์— ๋” ๋‚ฎ์€ ์š”๊ธˆ์„ ์ ์šฉํ•˜๋Š” ๋ฐฉ์‹์ž…๋‹ˆ๋‹ค.

๊ฐ™์€ 1,000ํšŒ ํ˜ธ์ถœ ์›Œํฌ๋กœ๋“œ์—์„œ 8 million ์ž…๋ ฅ ํ† ํฐ์˜ 80%๊ฐ€ ์บ์‹œ ์š”๊ธˆ ์ ์šฉ ๋Œ€์ƒ์ด๋ผ๊ณ  ๊ฐ€์ •ํ•ฉ๋‹ˆ๋‹ค. MiniMax M3๋Š” $3.60์—์„œ $2.064๋กœ, GLM-5.2๋Š” $15.60์—์„œ $8.304๋กœ, Kimi K3๋Š” $39์—์„œ $21.72๋กœ ๋‚ฎ์•„์ง‘๋‹ˆ๋‹ค. ๊ฐ๊ฐ 42.7%, 46.8%, 44.3% ์ ˆ๊ฐ๋ฉ๋‹ˆ๋‹ค.

์šด์˜์ƒ ์˜๋ฏธ๋Š” ํ• ์ธ์œจ๋ณด๋‹ค ํฝ๋‹ˆ๋‹ค. ์ˆ™๋ จ๋œ ์šด์˜์ž๋Š” ๊ณ ์ • ํ”„๋ฆฌํ”ฝ์Šค์™€ ์š”์ฒญ๋ณ„ ์ปจํ…์ŠคํŠธ๋ฅผ ๋ถ„๋ฆฌํ•˜๊ณ , ์บ์‹œ๋œ ํ† ํฐ๊ณผ ์บ์‹œ๋˜์ง€ ์•Š์€ ํ† ํฐ์„ ๋”ฐ๋กœ ๊ธฐ๋กํ•˜๋ฉฐ, ์บ์‹œ๋ฅผ ๋ฌดํšจํ™”ํ•˜๋Š” ํ”„๋กฌํ”„ํŠธ ๋ณ€๊ฒฝ์„ ๊ฐ์‹œํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ํŠธ๋ž˜ํ”ฝ์ด ๊ทธ๋Œ€๋กœ์—ฌ๋„ ํ”„๋กฌํ”„ํŠธ๋ฅผ ๊ณ ์น˜๋ฉด ๋น„์šฉ์ด ์˜ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์บ์‹œ ๋ฐ์ดํ„ฐ๋ฅผ ๋ณด๊ธฐ ์ „์—๋Š” ๊ฐ€๊ฒฉ ๋ฌธ์ œ์ฒ˜๋Ÿผ ๋ณด์ด๋Š” ํ˜„์ƒ์ž…๋‹ˆ๋‹ค.

Batch๋Š” ๋ชจ๋ธ๊ณผ ์›Œํฌํ”Œ๋กœ๊ฐ€ ์กฐ๊ฑด์„ ์ถฉ์กฑํ•  ๋•Œ๋งŒ ์ €๋ ดํ•ฉ๋‹ˆ๋‹ค

Together AI์˜ Batch API๋Š” ๋น„๋™๊ธฐ ์™„๋ฃŒ๋ฅผ ๋ฐ›์•„๋“ค์ด๋Š” ๋Œ€์‹  ์ผ๋ถ€ ์„œ๋ฒ„๋ฆฌ์Šค ๋ชจ๋ธ์— ์ตœ๋Œ€ 50% ํ• ์ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์˜คํ”„๋ผ์ธ ๋ถ„๋ฅ˜, ํ•ฉ์„ฑ ๋ฐ์ดํ„ฐ, ํ‰๊ฐ€, ๋Œ€๋Ÿ‰ ์š”์•ฝ์— ์•Œ๋งž์Šต๋‹ˆ๋‹ค. ๋‹ค์Œ ์‘๋‹ต์„ ๊ธฐ๋‹ค๋ฆฌ๋Š” ์‹ค์‹œ๊ฐ„ ์ฑ„ํŒ…, ๊ฒฐ์ œ ๋„์šฐ๋ฏธ ๋˜๋Š” ๊ณ ๊ฐ ์„œ๋น„์Šค ํ๋ฆ„์—๋Š” ๋งž์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

ํ˜„์žฌ Batch ๊ณ„์•ฝ์—์„œ๋Š” 100 MB ์ž…๋ ฅ ํŒŒ์ผ ํ•˜๋‚˜์— ์š”์ฒญ์„ ์ตœ๋Œ€ 50,000๊ฐœ๊นŒ์ง€ ๋„ฃ์„ ์ˆ˜ ์žˆ๊ณ , ๋ชจ๋ธ๋‹น ๋Œ€๊ธฐ์—ด ํ† ํฐ์€ ์ตœ๋Œ€ 30 billion๊ฐœ์ž…๋‹ˆ๋‹ค. ์™„๋ฃŒ ์‹œ๊ฐ„์€ 24์‹œ๊ฐ„์œผ๋กœ ๊ณ ์ •๋˜์ง€๋งŒ ์ตœ์„ ํ˜• ๋ชฉํ‘œ์ž…๋‹ˆ๋‹ค. Together๋Š” 1,000-10,000๊ฐœ ์š”์ฒญ์œผ๋กœ ๊ตฌ์„ฑํ•œ ๋ฐฐ์น˜๋ฅผ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค. ์„ฑ๊ณตํ•œ ์‘๋‹ต์—๋Š” ๋น„์šฉ์ด ์ฒญ๊ตฌ๋˜๊ณ  ์‹คํŒจํ•œ ์š”์ฒญ์—๋Š” ์ฒญ๊ตฌ๋˜์ง€ ์•Š์œผ๋ฉฐ, ๋ฐฐ์น˜๋ฅผ ์ทจ์†Œํ•ด๋„ ์ด๋ฏธ ์™„๋ฃŒ๋œ ์‘๋‹ต์˜ ๋น„์šฉ์€ ์‚ฌ๋ผ์ง€์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

50%๋ผ๋Š” ๋ฌธ๊ตฌ๊ฐ€ ๋ชจ๋“  ๊ฒฝ์šฐ์— ์ ์šฉ๋˜์ง€๋Š” ์•Š์Šต๋‹ˆ๋‹ค. ํ• ์ธ์„ ๋ฐ›๋Š” ๊ฒƒ์€ ์„ ํƒ๋œ ์„œ๋ฒ„๋ฆฌ์Šค ๋ชจ๋ธ๋ฟ์ด๋ฉฐ, ์ผ๋ถ€ ๋ชจ๋ธ์€ Batch์—์„œ ์ „ํ˜€ ์‹คํ–‰ํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. ์ „์šฉ ์—”๋“œํฌ์ธํŠธ๋„ ๋ฐฐ์น˜ ์ž‘์—…์„ ๋ฐ›์„ ์ˆ˜ ์žˆ์ง€๋งŒ ํ• ์ธ์€ ์ ์šฉ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์˜ˆ์ธก ๋ชจ๋ธ์„ ๋งŒ๋“ค๊ธฐ ์ „์— ์‹ค์‹œ๊ฐ„ Batch ๋ชจ๋ธ ๋ชฉ๋ก์„ ํ™•์ธํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

ํ˜„์žฌ ํ• ์ธ ๋Œ€์ƒ ์˜ˆ์‹œ๋กœ, Llama 3.3 70B์—์„œ ์ž…๋ ฅ 8 million๊ฐœ์™€ ์ถœ๋ ฅ 1 million๊ฐœ ํ† ํฐ์€ ์ž…๋ ฅยท์ถœ๋ ฅ ์š”๊ธˆ $1.04 ๊ธฐ์ค€ $9.36์ž…๋‹ˆ๋‹ค. 50% ํ• ์ธ ์กฐ๊ฑด์„ ์ถฉ์กฑํ•˜๋Š” ๋ฐฐ์น˜๋ผ๋ฉด $4.68์ž…๋‹ˆ๋‹ค. ๋ชจ๋“  ์„œ๋ฒ„๋ฆฌ์Šค ์š”์ฒญ์ด ์‹ธ์ง„ ๊ฒƒ์ด ์•„๋‹ˆ๋ผ ์ž‘์—…์ด ์ง€์—ฐ ์™„๋ฃŒ๋ฅผ ํ—ˆ์šฉํ•˜๊ธฐ ๋•Œ๋ฌธ์— ์˜๋ฏธ ์žˆ๋Š” ์ ˆ๊ฐ์ด ์ƒ๊น๋‹ˆ๋‹ค.

์ด๋ฏธ์ง€ยท์˜์ƒยท์˜ค๋””์˜คยท์Šคํ† ๋ฆฌ์ง€๋Š” ๋‹จ์œ„๊ฐ€ ์„œ๋กœ ๋‹ค๋ฆ…๋‹ˆ๋‹ค

์„œ๋ฒ„๋ฆฌ์Šค๋Š” ํ…์ŠคํŠธ์—๋งŒ ๋จธ๋ฌผ์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์‹ค์‹œ๊ฐ„ ์ด๋ฏธ์ง€ ์นดํƒˆ๋กœ๊ทธ์˜ ํ‘œ์‹œ ๋ชจ๋ธ์€ ์ด๋ฏธ์ง€ ๋˜๋Š” ๋ฉ”๊ฐ€ํ”ฝ์…€๋‹น $0.0017-$0.134, ์˜์ƒ ๋ชฉ๋ก์€ ์ƒ์„ฑ ์˜์ƒ๋‹น $0.115-$3.20์ž…๋‹ˆ๋‹ค. ์Œ์„ฑ ์ธ์‹์€ ์˜ค๋””์˜ค ๋ถ„๋‹น $0.0015-$0.0045์ด๊ณ , ์Œ์„ฑ ํ•ฉ์„ฑ์€ 1 million characters๋‹น $4-$65์ž…๋‹ˆ๋‹ค. Multilingual e5 large instruct ์ž„๋ฒ ๋”ฉ์€ 1 million tokens๋‹น $0.02, Llama Guard 4 12B ๋ชจ๋”๋ ˆ์ด์…˜์€ 1 million tokens๋‹น $0.20์ž…๋‹ˆ๋‹ค.

์ด ๋ฒ”์œ„๋Š” ์„œ๋กœ ๋ฐ”๊ฟ” ์“ธ ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. Together๋Š” ํ‘œ์‹œ๋œ ์ด๋ฏธ์ง€ยท์˜์ƒ ๊ฐ€๊ฒฉ์ด ๊ฐ€์žฅ ๋‚ฎ์€ ํ•ด์ƒ๋„๋‚˜ ์žฌ์ƒ ์‹œ๊ฐ„์„ ๊ธฐ์ค€์œผ๋กœ ํ•˜๋ฉฐ, ๊ธฐ๋ณธ ์ƒ์„ฑ ์Šคํ…์„ ๋„˜์œผ๋ฉด ์ถ”๊ฐ€ ๋น„์šฉ์ด ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ๋‹ค๊ณ  ์•ˆ๋‚ดํ•ฉ๋‹ˆ๋‹ค. ์งง์€ ์˜์ƒ 100,000๊ฐœ๋ฅผ ์ƒ์„ฑํ•  ์˜ˆ์‚ฐ์„ ์งœ๋Š” ์ œํ’ˆ ๊ด€๋ฆฌ์ž๋Š” ์ •ํ™•ํ•œ ๋ชจ๋ธ, ์žฌ์ƒ ์‹œ๊ฐ„, ํ•ด์ƒ๋„, ์˜ค๋””์˜ค ์„ค์ •, ์žฌ์‹œ๋„์œจ์„ ์•Œ์•„์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๊ฐ€์žฅ ์‹ผ ์ธ๋„ค์ผ ๊ฐ€๊ฒฉ์— ํ”„๋กœ๋•์…˜ ์ˆ˜๋Ÿ‰๋งŒ ๊ณฑํ•˜๋ฉด ์‹ค์ œ ํ•ญ๋ชฉ ๋น„์šฉ์„ ๊ณผ์†Œํ‰๊ฐ€ํ•˜๊ฒŒ ๋ฉ๋‹ˆ๋‹ค.

๋Œ€๋ถ€๋ถ„์˜ ์ƒˆ ์›Œํฌ๋กœ๋“œ์—๋Š” ์—ฌ์ „ํžˆ ์„œ๋ฒ„๋ฆฌ์Šค๊ฐ€ ๊ธฐ๋ณธ ์„ ํƒ์ž…๋‹ˆ๋‹ค. ํ•œ๊ณ„๋Š” ํ† ํฐ ์š”๊ธˆ์ด ์•„๋‹ˆ๋ผ ๊ณต์œ  ์šฉ๋Ÿ‰, ๋™์  ์†๋„ ์ œํ•œ, ๊ทธ๋ฆฌ๊ณ  Provisioned ์ƒํ’ˆ๊ณผ ๊ฐ™์€ ๊ณต๊ฐœ ๊ฐ€๋™ ์‹œ๊ฐ„ ์•ฝ์ •์ด ์—†๋‹ค๋Š” ์ ์ž…๋‹ˆ๋‹ค. ์ด ๋ฌธ์ œ๊ฐ€ ๊ณ ๊ฐ ๋Œ€์ƒ ๋ฆฌ์Šคํฌ๊ฐ€ ๋˜๋Š” ์ˆœ๊ฐ„๋ถ€ํ„ฐ๋Š” ์ผ๋ฐ˜์ ์ธ ์—…๊ทธ๋ ˆ์ด๋“œ๊ฐ€ ์•„๋‹ˆ๋ผ ์šฉ๋Ÿ‰์„ ํŒ๋‹จํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

Provisioned Throughput์€ ์šฉ๋Ÿ‰์„ ์›” ์•ฝ์ •์œผ๋กœ ๋ฐ”๊ฟ‰๋‹ˆ๋‹ค

์˜ˆ์•ฝ ํ† ํฐ ์šฉ๋Ÿ‰์ด ์‹ค์ œ ์‚ฌ์—… ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•  ๋•Œ๋งŒ Provisioned Throughput์„ ๊ตฌ๋งคํ•  ๊ฐ€์น˜๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. Together AI๋Š” 2026๋…„ 7์›” 8์ผ, ์ตœ์„ ํ˜• ์„œ๋ฒ„๋ฆฌ์Šค์™€ ์™„์ „ํžˆ ๊ตฌ์„ฑ ๊ฐ€๋Šฅํ•œ Dedicated Inference ์‚ฌ์ด์˜ ์ค‘๊ฐ„ ๊ณ„์ธต์œผ๋กœ ์ด ์ƒํ’ˆ์„ ์ถœ์‹œํ–ˆ์Šต๋‹ˆ๋‹ค. 99% ๊ฐ€๋™ ์‹œ๊ฐ„ SLA, ์ตœ์†Œ 1๊ฐœ์›” ์•ฝ์ •, ๋ถ„๋‹น Provisioned Throughput Unit(PTU) $0.05๋ผ๋Š” ๊ณต๊ฐœ ์ •๊ฐ€๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

PTU๋Š” ํ† ํฐ ๋ฌถ์Œ์ด ์•„๋‹™๋‹ˆ๋‹ค. ์ง€์› ๋ชจ๋ธ ํ•˜๋‚˜์— ๋Œ€ํ•ด ๊ณ ๊ฐ ์ „์šฉ์œผ๋กœ ํ™•๋ณดํ•œ ๋ถ„๋‹น ํ† ํฐ ์ฒ˜๋ฆฌ์œจ์ž…๋‹ˆ๋‹ค. ์ž…๋ ฅ, ์บ์‹œ ์ž…๋ ฅ, ์ถœ๋ ฅ์€ ์„œ๋กœ ๋‹ค๋ฅธ ๋น„์œจ๋กœ ์ด ์šฉ๋Ÿ‰์„ ์†Œ๋ชจํ•ฉ๋‹ˆ๋‹ค. ํ˜„์žฌ ์‹ค์‹œ๊ฐ„ ํŽ˜์ด์ง€์—๋Š” ๊ณต๊ฐœ๋œ ์„ธ ๊ฐ€์ง€ ์Šค์ผ€์ค„์ด ์žˆ์Šต๋‹ˆ๋‹ค.

MiniMax M3๋Š” PTU๋‹น ๋ถ„๋‹น ์ž…๋ ฅ ํ† ํฐ 166,667๊ฐœ, ์บ์‹œ ์ž…๋ ฅ ํ† ํฐ 833,333๊ฐœ ๋˜๋Š” ์ถœ๋ ฅ ํ† ํฐ 41,667๊ฐœ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. Kimi K3๋Š” ์ž…๋ ฅ 16,667๊ฐœ, ์บ์‹œ ์ž…๋ ฅ 166,667๊ฐœ ๋˜๋Š” ์ถœ๋ ฅ 3,333๊ฐœ์ž…๋‹ˆ๋‹ค. GLM-5.2๋Š” ์ž…๋ ฅ 35,714๊ฐœ, ์บ์‹œ ์ž…๋ ฅ 192,308๊ฐœ ๋˜๋Š” ์ถœ๋ ฅ 11,364๊ฐœ์ž…๋‹ˆ๋‹ค. ์ž…๋ ฅ๊ณผ ์ถœ๋ ฅ์ด ์„ž์ธ ์š”์ฒญ์€ ์ด ์šฉ๋Ÿ‰์„ ํ˜ผํ•ฉํ•ด ์†Œ๋ชจํ•ฉ๋‹ˆ๋‹ค.

๋ถ„๋‹น $0.05์ด๋ฉด PTU 1๊ฐœ๋Š” ์‹œ๊ฐ„๋‹น $3, ํ•˜๋ฃจ $72, 30์ผ๊ฐ„ $2,160์ž…๋‹ˆ๋‹ค. Together ๊ณ„์‚ฐ๊ธฐ์˜ ๊ฐ์ฃผ๋Š” ์—ฐ์† ํ‰๊ท  ์›” ํ”„๋กœ๋น„์ €๋‹์— ์•ฝ 43,800๋ถ„์„ ์ ์šฉํ•˜๋ฉฐ, ์ด๋•Œ ์•ฝ $2,190์ด ๋ฉ๋‹ˆ๋‹ค. ์žฌ๋ฌดํŒ€์€ ๋ชจ๋“  ๋‹ฌ์„ ๊ณ ์ • $2,160๋กœ ๊ฐ„์ฃผํ•˜์ง€ ๋ง๊ณ  ์ •ํ™•ํ•œ ๊ณ„์•ฝ๊ณผ ํ•ด๋‹น ์›”์˜ ๋‹ฌ๋ ฅ์„ ์‚ฌ์šฉํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

PTU ์ ์œ ์œจ ํ…Œ์ŠคํŠธ

ํ•ต์‹ฌ ๊ณ„์‚ฐ์€ PTU 1๊ฐœ์˜ ์šฉ๋Ÿ‰์„ Together ์ž์ฒด ์„œ๋ฒ„๋ฆฌ์Šค ์š”๊ธˆ์œผ๋กœ ์ผ๋‹ค๋ฉด ์–ผ๋งˆ์ธ์ง€ ๋น„๊ตํ•˜๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค. MiniMax M3 PTU๋ฅผ 30์ผ ๋™์•ˆ ์ž…๋ ฅ์—๋งŒ ํ• ๋‹นํ•˜๋ฉด ์•ฝ 7.2 billion ์ž…๋ ฅ ํ† ํฐ์„ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์„œ๋ฒ„๋ฆฌ์Šค ์š”๊ธˆ 1 million๊ฐœ๋‹น $0.30์„ ์ ์šฉํ•˜๋ฉด ์•ฝ $2,160์˜ ๊ฐ€์น˜์ž…๋‹ˆ๋‹ค. ์ถœ๋ ฅ์—๋งŒ ํ• ๋‹นํ•˜๋ฉด ์•ฝ 1.8 billion ์ถœ๋ ฅ ํ† ํฐ์„ ์ฒ˜๋ฆฌํ•˜๋ฉฐ, 1 million๊ฐœ๋‹น $1.20์„ ์ ์šฉํ•ด๋„ ์•ฝ $2,160์ž…๋‹ˆ๋‹ค. ์บ์‹œ ์ž…๋ ฅ ๊ฒฝ๋กœ ์—ญ์‹œ ๋ฐ˜์˜ฌ๋ฆผ ์˜ค์ฐจ ์•ˆ์—์„œ ๊ฐ™์€ ์ง€์ ์— ๋„๋‹ฌํ•ฉ๋‹ˆ๋‹ค.

Kimi K3์™€ GLM-5.2๋„ ๊ฐ™์€ ๋ฐฉ์‹์œผ๋กœ ๋ณด์ •๋ฉ๋‹ˆ๋‹ค. ๊ณต๊ฐœ PTU ์šฉ๋Ÿ‰์€ 30์ผ ๋‚ด๋‚ด ๊ฑฐ์˜ ์™„์ „ํžˆ ์ ์œ ํ•ด์•ผ ๊ณต๊ฐœ ์„œ๋ฒ„๋ฆฌ์Šค ๊ฐ€๊ฒฉ๊ณผ ์†์ต์ด ๊ฐ™์•„์ง‘๋‹ˆ๋‹ค. ๊ณต๊ฐœ ๊ณ„์‚ฐ๊ธฐ์—์„œ ์„ ํƒํ•œ ์ƒ์šฉ ๋ชจ๋ธ ๋Œ€๋น„ ํฐ ์ ˆ๊ฐ์•ก์ด ํ‘œ์‹œ๋  ์ˆ˜ ์žˆ์ง€๋งŒ, ์ด๋Š” ๋ช…์‹œ์ ์œผ๋กœ ๊ทธ ์™ธ๋ถ€ ๋ชจ๋ธ์˜ ์ •๊ฐ€์™€ PTU ๋น„์šฉ์„ ๋น„๊ตํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค. Together ์ž์ฒด ์„œ๋ฒ„๋ฆฌ์Šค ์š”๊ธˆ๋ณด๋‹ค ์–ธ์ œ๋‚˜ ์‹ธ๋‹ค๋Š” ๋œป์€ ์•„๋‹™๋‹ˆ๋‹ค.

PTU ์ ์œ ์œจ ํ…Œ์ŠคํŠธ์˜ ๊ฒฐ๋ก ์€ ์ด๋ ‡์Šต๋‹ˆ๋‹ค. ์˜ˆ์•ฝ ๋‹จ์œ„๋ฅผ ์™„์ „ํžˆ ์‚ฌ์šฉํ•  ๋•Œ๋งŒ ์šฉ๋Ÿ‰ ๊ฐ€์น˜์™€ ์„œ๋ฒ„๋ฆฌ์Šค ๊ฐ€์น˜๊ฐ€ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์‚ฌ์šฉ๋ฅ  50%์—์„œ๋Š” MiniMax M3์˜ ์‹คํšจ ์š”๊ธˆ์ด ์ž…๋ ฅ 1 million tokens๋‹น $0.60, ์บ์‹œ ์ž…๋ ฅ $0.12, ์ถœ๋ ฅ $2.40์œผ๋กœ 2๋ฐฐ๊ฐ€ ๋ฉ๋‹ˆ๋‹ค. 25%์—์„œ๋Š” $1.20, $0.24, $4.80์œผ๋กœ 4๋ฐฐ๊ฐ€ ๋ฉ๋‹ˆ๋‹ค. 70%์—์„œ๋Š” ์‹คํšจ ์š”๊ธˆ์ด ์„œ๋ฒ„๋ฆฌ์Šค์˜ ์•ฝ 1.43๋ฐฐ๋กœ, ์ž…๋ ฅ ์•ฝ $0.43, ์ถœ๋ ฅ ์•ฝ $1.71์ž…๋‹ˆ๋‹ค.

25%, 50%, 100% ์‚ฌ์šฉ๋ฅ ์—์„œ ์‹คํšจ ์ถœ๋ ฅ ๊ฐ€๊ฒฉ์„ ๋ณด์—ฌ ์ฃผ๋Š” MiniMax M3 PTU ์ ์œ ์œจ ๊ฒŒ์ด์ง€
$2,160 PTU๋Š” 30์ผ๊ฐ„ ์™„์ „ํžˆ ์ ์œ ํ•ด์•ผ Together ์„œ๋ฒ„๋ฆฌ์Šค์™€ ๊ฐ€๊ฒฉ์ด ๊ฐ™์•„์ง‘๋‹ˆ๋‹ค

๊ทธ๋ ‡๋‹ค๊ณ  PTU๊ฐ€ ๋‚˜์œ ์ƒํ’ˆ์ด๋ผ๋Š” ๋œป์€ ์•„๋‹™๋‹ˆ๋‹ค. ์ƒํ’ˆ์˜ ์„ฑ๊ฒฉ์„ ์ •ํ™•ํžˆ ๋ณด์—ฌ ์ค„ ๋ฟ์ž…๋‹ˆ๋‹ค. ๊ณ ๊ฐ ๋Œ€์ƒ ์—์ด์ „ํŠธ๋ฅผ ์šด์˜ํ•˜๋Š” ์ค‘๊ฒฌ๊ธฐ์—… CTO๋ผ๋ฉด ์˜ˆ์•ฝ ๊ตฌ๊ฐ„์ด ์Šค๋กœํ‹€๋ง ์œ„ํ—˜์„ ์ค„์ด๊ณ  99% ๊ฐ€๋™ ์‹œ๊ฐ„ SLA๊ฐ€ ๊ณ„์•ฝ์ƒ ๊ฐ€์น˜๊ฐ€ ์žˆ์„ ๋•Œ ์œ ํœด ์šฉ๋Ÿ‰ 20%๋ฅผ ํ•ฉ๋ฆฌ์ ์œผ๋กœ ๋ฐ›์•„๋“ค์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํ‰์ผ์—๋งŒ ์ˆ˜์š”๊ฐ€ ์žˆ๋Š” ์ฐฝ์—…์ž๋Š” ์šฉ๋Ÿ‰ ๋ณด์žฅ์ด ๊ทธ ํ”„๋ฆฌ๋ฏธ์—„๋ณด๋‹ค ํฐ ๋งค์ถœ์„ ๋ณดํ˜ธํ•˜์ง€ ์•Š๋Š” ํ•œ ๋ฐค๊ณผ ์ฃผ๋ง๊นŒ์ง€ ๋น„์šฉ์„ ๋‚ด์„œ๋Š” ์•ˆ ๋ฉ๋‹ˆ๋‹ค.

๊ณต๊ฐœ ํŽ˜์ด์ง€๋Š” ๋” ๊ธด ์•ฝ์ •์— ํ• ์ธ์ด ์ ์šฉ๋  ์ˆ˜ ์žˆ๋‹ค๊ณ  ์•ˆ๋‚ดํ•˜์ง€๋งŒ ํ• ์ธํ‘œ๋Š” ๊ณต๊ฐœํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ˜‘์ƒ ํ• ์ธ์€ ์†์ต๋ถ„๊ธฐ ์ ์œ ์œจ์„ 100% ์•„๋ž˜๋กœ ๋‚ฎ์ถฅ๋‹ˆ๋‹ค. ์˜์—…ํŒ€์ด ์ฃผ๋ฌธ์„œ์— ์š”์œจ์„ ๋ช…์‹œํ•˜๊ธฐ ์ „๊นŒ์ง€๋Š” ๊ณต๊ฐœ ์ •๊ฐ€๋กœ ๊ณ„์‚ฐํ•˜๊ณ , ํ• ์ธ์€ ์ถ”๊ฐ€ ์ด์ต์œผ๋กœ ์ทจ๊ธ‰ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

99% SLA๋„ ์‚ฌ์—… ๊ด€์ ์—์„œ ํ•ด์„ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค

์›” ๊ฐ€๋™ ์‹œ๊ฐ„ ๋ชฉํ‘œ 99%๋Š” 30.4์ผ ๊ธฐ์ค€ ์•ฝ 7์‹œ๊ฐ„ 18๋ถ„์˜ ์ค‘๋‹จ์„ ํ—ˆ์šฉํ•ฉ๋‹ˆ๋‹ค. ์ตœ์„ ํ˜• ์•ก์„ธ์Šค๋ณด๋‹ค๋Š” ๊ฐ•ํ•˜์ง€๋งŒ Groq์˜ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ Performance ๊ณ„์ธต์€ 99.9%๋ฅผ ๊ณต๊ฐœํ•˜๋ฏ€๋กœ, ์ด ๋น„๊ต๊ตฐ์—์„œ 99%๋Š” ๊ฐ€์žฅ ๊ฐ•ํ•œ ์•ฝ์ •์ด ์•„๋‹™๋‹ˆ๋‹ค. ํผ์„ผํŠธ ๊ธฐํ˜ธ๊ฐ€ ๋ถ™์€ ์„ธ ๊ธ€์ž๋งŒ ๋ณด๊ณ  ๋ฉˆ์ถ”์ง€ ๋ง๊ณ  ์„œ๋ฉด ๋ณด์ƒ, ์œ ์ง€๋ณด์ˆ˜ ์ œ์™ธ ์กฐํ•ญ, ๋ฆฌ์ „ ์„ค๊ณ„, ๋Œ€์ฒด ๊ฒฝ๋กœ๋ฅผ ๋น„๊ตํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

Provisioned Throughput์€ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์— ์•ˆ์ •์ ์ธ ๊ธฐ๋ณธ ๋ถ€ํ•˜์™€ ์˜ˆ์ธก ๊ฐ€๋Šฅํ•œ ๋ชจ๋ธ ์„ ํƒ์ด ์žˆ๊ณ , ๊ณต์œ  ํ”Œ๋ฆฟ ์Šค๋กœํ‹€๋ง์œผ๋กœ ๊ณ ๊ฐ ์•ฝ์†์ด ๊นจ์งˆ ์ˆ˜ ์žˆ์„ ๋•Œ ๊ฐ€์žฅ ํƒ€๋‹นํ•ฉ๋‹ˆ๋‹ค. ํŠธ๋ž˜ํ”ฝ์ด 10๋ฐฐ์”ฉ ํ”๋“ค๋ฆฌ๊ฑฐ๋‚˜ ๋ชจ๋ธ์ด ๋งค์ฃผ ๋ฐ”๋€Œ๊ฑฐ๋‚˜ ์˜คํ”„๋ผ์ธ ์ž‘์—…์„ Batch๋กœ ์˜ฎ๊ธธ ์ˆ˜ ์žˆ๋‹ค๋ฉด ์„ค๋“๋ ฅ์ด ๋–จ์–ด์ง‘๋‹ˆ๋‹ค. ์ด๋Ÿฐ ๊ฒฝ์šฐ ์˜ˆ์•ฝ์€ ๋ถˆํ™•์‹ค์„ฑ์„ ์œ ๋ฃŒ ์œ ํœด ์‹œ๊ฐ„์œผ๋กœ ๋ฐ”๊ฟ‰๋‹ˆ๋‹ค.

์›”์š”์ผ ์˜ˆ์‚ฐ ํšŒ์˜์˜ ์งˆ๋ฌธ์ด ๋‹ฌ๋ผ์ง‘๋‹ˆ๋‹ค

2026๋…„ 7์›” 8์ผ ์ด์ „์—๋Š” Together๋ฅผ ์„ ํƒํ•œ ํŒ€์ด ๊ณต์œ ํ˜• ํ† ํฐ๋‹น ์„œ๋ฒ„๋ฆฌ์Šค์—์„œ ์ „์šฉ GPU ์ธํ”„๋ผ๋กœ ํฌ๊ฒŒ ๋›ฐ์–ด์•ผ ํ–ˆ์Šต๋‹ˆ๋‹ค. PTU๋Š” ๊ทธ ์‚ฌ์ด์— ์ƒˆ๋กœ์šด ์˜ˆ์‚ฐ ํ•ญ๋ชฉ์„ ์ถ”๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. GPU ํฌ๊ธฐ๋ฅผ ์‚ฐ์ •ํ•˜๊ฑฐ๋‚˜ ์ปค์Šคํ…€ ์„œ๋น™ ์Šคํƒ์„ ๋– ๋งก์ง€ ์•Š๊ณ ๋„ ๋ชจ๋ธ ์ฒ˜๋ฆฌ๋Ÿ‰์„ ์˜ˆ์•ฝํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์—”์ง€๋‹ˆ์–ด๋ง์€ ๊ฐ™์€ ์ถ”๋ก  API๋ฅผ ์œ ์ง€ํ•˜๋ฉด์„œ ์žฌ๋ฌดํŒ€์€ ๊ณ ์ •๋œ ์›” ์šฉ๋Ÿ‰ ํ•œ๋„๋ฅผ ์Šน์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๊ทธ ๊ฒฐ๊ณผ ์ƒˆ๋กœ์šด ์šด์˜ ์ง€ํ‘œ๊ฐ€ ํ•„์š”ํ•ด์ง‘๋‹ˆ๋‹ค. ํ† ํฐ ๋น„์šฉ๋งŒ์œผ๋กœ๋Š” ๋ถ€์กฑํ•ฉ๋‹ˆ๋‹ค. ๋‹ด๋‹น์ž๋Š” ์ดˆ๋‹น ์ตœ๋Œ€ ์š”์ฒญ ์ˆ˜, ์ž…๋ ฅยท์ถœ๋ ฅ ํ† ํฐ ๋น„์œจ, ์บ์‹œ ์ ์ค‘๋ฅ , ์šฉ๋Ÿ‰ ์ ์œ ์œจ, ์Šค๋กœํ‹€๋œ ์š”์ฒญ, ์Šน์ธ๋œ ๊ฒฐ๊ณผ๋ฅผ ํŒŒ์•…ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋Œ€์‹œ๋ณด๋“œ์—์„œ ์ด ์—ฌ์„ฏ ๊ฐ€์ง€๋ฅผ ๋ณด์—ฌ ์ฃผ์ง€ ๋ชปํ•˜๋ฉด PTU๊ฐ€ ๋ณดํ˜ธ ์žฅ์น˜์ธ์ง€ ๋‚ญ๋น„์ธ์ง€ ํŒ๋‹จํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.

MiniMax M3 PTU 1๊ฐœ๋กœ ์‹ค์‚ฌ์šฉ ์—์ด์ „ํŠธ ํ˜ธ์ถœ ์•ฝ 600,000ํšŒ๋ฅผ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค

๊ฐ ํ˜ธ์ถœ์ด ์บ์‹œ๋˜์ง€ ์•Š์€ ์ž…๋ ฅ ํ† ํฐ 8,000๊ฐœ์™€ ์ถœ๋ ฅ ํ† ํฐ 1,000๊ฐœ๋ฅผ ์‚ฌ์šฉํ•œ๋‹ค๋ฉด PTU 1๊ฐœ๋กœ 30์ผ ๋™์•ˆ MiniMax M3 ํ˜ธ์ถœ ์•ฝ 600,000ํšŒ๋ฅผ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์•ž์„œ ์„œ๋ฒ„๋ฆฌ์Šค ํ˜ธ์ถœ๋‹น $0.0036๋กœ ๊ณ„์‚ฐํ•œ ๊ฒƒ๊ณผ ๊ฐ™์€ ์›Œํฌ๋กœ๋“œ์ด๋ฏ€๋กœ, ์„œ๋ฒ„๋ฆฌ์Šค ํ˜ธ์ถœ 600,000ํšŒ๋„ $2,160์ž…๋‹ˆ๋‹ค. ์™„์ „ํžˆ ์ ์œ ํ•˜๋ฉด ์šฉ๋Ÿ‰ ๋‹จ์œ„์™€ ํ† ํฐ ๋‹จ์œ„ ๋น„์šฉ์ด ์„ค๊ณ„๋Œ€๋กœ ๋งŒ๋‚ฉ๋‹ˆ๋‹ค.

์šฉ๋Ÿ‰ ๊ณ„์‚ฐ์—๋Š” ์š”์ฒญ์˜ ์ž…๋ ฅ๊ณผ ์ถœ๋ ฅ์ด ๋ชจ๋‘ ๋“ค์–ด๊ฐ‘๋‹ˆ๋‹ค. ์ž…๋ ฅ ํ† ํฐ 8,000๊ฐœ๋Š” MiniMax M3์˜ ๋ถ„๋‹น ์ž…๋ ฅ ํ† ํฐ 166,667๊ฐœ ์Šค์ผ€์ค„์—์„œ ์•ฝ 0.048 PTU-minute๋ฅผ ์†Œ๋ชจํ•ฉ๋‹ˆ๋‹ค. ์ถœ๋ ฅ ํ† ํฐ 1,000๊ฐœ๋Š” ๋ถ„๋‹น ์ถœ๋ ฅ ํ† ํฐ 41,667๊ฐœ์—์„œ 0.024 PTU-minute๋ฅผ ๋” ์†Œ๋ชจํ•ฉ๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ์ „์ฒด ์š”์ฒญ์€ ์•ฝ 0.072 PTU-minute๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ํ•œ ๋‹ฌ์˜ 43,200 PTU-minute๋ฅผ ์ด ์š”์ฒญ ๋‹จ์œ„๋กœ ๋‚˜๋ˆ„๋ฉด ์•ฝ 600,000ํšŒ๊ฐ€ ๋ฉ๋‹ˆ๋‹ค.

์ด ์ˆ˜์น˜๋กœ ๋ฐ”๋กœ ์˜์‚ฌ๊ฒฐ์ •์— ์“ธ ์ˆ˜ ์žˆ๋Š” ์šด์˜ ์˜ˆ์‚ฐ์„ ๋งŒ๋“ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ ์œ ์œจ 80%์—์„œ๋Š” PTU๊ฐ€ ์•ฝ 480,000ํšŒ ํ˜ธ์ถœ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. ๊ฐ™์€ ์ž‘์—…์˜ ์„œ๋ฒ„๋ฆฌ์Šค ์ฒญ๊ตฌ์•ก์€ $1,728์ด๋ฏ€๋กœ ์›” ์˜ˆ์•ฝ ํ”„๋ฆฌ๋ฏธ์—„์€ $432์ž…๋‹ˆ๋‹ค. PTU๊ฐ€ ์‹ค์ œ๋กœ ์†Œ๋น„ํ•œ ์„œ๋ฒ„๋ฆฌ์Šค ์ž‘์—…๋ณด๋‹ค 25% ๋น„์Œ‰๋‹ˆ๋‹ค. ์˜ˆ์•ฝ ์šฉ๋Ÿ‰๊ณผ 99% SLA๊ฐ€ ๋งค์ถœ, ์ง€์› ์‹œ๊ฐ„ ๋˜๋Š” ํ‰ํŒ ๋น„์šฉ $432 ์ด์ƒ์„ ๋ณดํ˜ธํ•œ๋‹ค๋ฉด ๊ณ ๊ฐ ๋Œ€์ƒ ์ œํ’ˆ์€ ์ด ํ”„๋ฆฌ๋ฏธ์—„์„ ๋ฐ›์•„๋“ค์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ ์œ ์œจ 70%์—์„œ๋Š” ์•ฝ 420,000ํšŒ ํ˜ธ์ถœ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. ์„œ๋ฒ„๋ฆฌ์Šค๋Š” $1,512์ด๋ฏ€๋กœ ์šฉ๋Ÿ‰ ํ”„๋ฆฌ๋ฏธ์—„์€ $648์ž…๋‹ˆ๋‹ค. 50%์—์„œ๋Š” 300,000ํšŒ ํ˜ธ์ถœ์„ ์ง€์›ํ•˜๊ณ  ์„œ๋ฒ„๋ฆฌ์Šค๋Š” $1,080์ด๋ฏ€๋กœ PTU ์ฒญ๊ตฌ์•ก์˜ ์ ˆ๋ฐ˜์ด ์œ ํœด ์šฉ๋Ÿ‰ ๋น„์šฉ์œผ๋กœ ๋‚จ์Šต๋‹ˆ๋‹ค.

์บ์‹œ๋Š” ํ•œ ๋‹จ์œ„์— ๋“ค์–ด๊ฐ€๋Š” ํ˜ธ์ถœ ์ˆ˜๋„ ๋ฐ”๊ฟ‰๋‹ˆ๋‹ค. ์ž…๋ ฅ์˜ 80%๊ฐ€ ์บ์‹œ๋˜๋ฉด ์š”์ฒญ๋‹น ์‚ฌ์šฉ๋Ÿ‰์ด ์•ฝ 0.072์—์„œ 0.04128 PTU-minute๋กœ ์ค„์–ด๋“ญ๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋ฉด PTU 1๊ฐœ๋กœ ๊ฐ™์€ ํ˜ธ์ถœ์„ ์™„์ „ ์ ์œ  ๊ธฐ์ค€ ์•ฝ 1.0465 millionํšŒ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์„œ๋ฒ„๋ฆฌ์Šค ๊ฐ€๊ฒฉ๋„ ๋™์‹œ์— ํ˜ธ์ถœ๋‹น $0.0036์—์„œ $0.002064๋กœ ๋‚ด๋ ค๊ฐ€๋ฏ€๋กœ, ์™„์ „ ๋ถ€ํ•˜ ๋น„์šฉ์€ ์—ฌ์ „ํžˆ $2,160 ๋ถ€๊ทผ์— ์ˆ˜๋ ดํ•ฉ๋‹ˆ๋‹ค.

๋”ฐ๋ผ์„œ ์บ์‹œ์˜ ์‚ฌ์—…์  ์ด์ ์€ ๋‹จ๊ฐ€ ์ ˆ๊ฐ๋ฟ ์•„๋‹ˆ๋ผ ์ฒ˜๋ฆฌ๋Ÿ‰ ์ฆ๊ฐ€์—๋„ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ธธ๊ณ  ๊ณ ์ •๋œ ์‹œ์Šคํ…œ ํ”„๋ฆฌํ”ฝ์Šค๊ฐ€ ์žˆ์œผ๋ฉด ๊ฐ™์€ ์˜ˆ์•ฝ ์šฉ๋Ÿ‰์œผ๋กœ ๋” ๋งŽ์€ ๊ณ ๊ฐ ์ž‘์—…์„ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํ”„๋กฌํ”„ํŠธ ๋ณ€๊ฒฝ์œผ๋กœ ์บ์‹œ ์žฌ์‚ฌ์šฉ์ด ๊นจ์ง€๋ฉด PTU ์—ฌ์œ  ์šฉ๋Ÿ‰์ด ์ค„๊ณ  ์„œ๋ฒ„๋ฆฌ์Šค ๋น„์šฉ๋„ ๋™์‹œ์— ์˜ค๋ฆ…๋‹ˆ๋‹ค.

์ด์ œ ์˜ˆ์‚ฐ ํ•ญ๋ชฉ ๊ทœ๋ชจ๋กœ ํ™•์žฅํ•ด ๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค. PTU 10๊ฐœ๋Š” 30์ผ ๊ธฐ์ค€ $21,600์ด๋ฉฐ, ์™„์ „ํžˆ ์ ์œ ํ•˜๋ฉด ์บ์‹œ๋˜์ง€ ์•Š์€ ์˜ˆ์‹œ ํ˜ธ์ถœ์„ ์•ฝ 6 millionํšŒ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. 70%์—์„œ๋Š” 4.2 millionํšŒ์ž…๋‹ˆ๋‹ค. ๊ฐ™์€ ์ž‘์—…์˜ ์„œ๋ฒ„๋ฆฌ์Šค ์ฒญ๊ตฌ์•ก์€ $15,120์ด๋ฏ€๋กœ ์˜ˆ์•ฝ ์šฉ๋Ÿ‰๊ณผ SLA์— ๋Œ€ํ•œ ์›” ํ”„๋ฆฌ๋ฏธ์—„์€ $6,480์ž…๋‹ˆ๋‹ค.

CTO๊ฐ€ ์„ค๋ช…ํ•ด์•ผ ํ•  ์ˆซ์ž๋Š” ๋ฐ”๋กœ $6,480์ž…๋‹ˆ๋‹ค. ๊ณต์œ  ํ”Œ๋ฆฟ ์Šค๋กœํ‹€๋ง์œผ๋กœ ์œ„ํ˜‘๋ฐ›๋Š” ์ด๋งˆ์ง„, ์ง€์› ๋ถ€๋‹ด ๋˜๋Š” ๊ณ„์•ฝ์ƒ ์œ„์•ฝ๊ธˆ์ด $6,480๋ณด๋‹ค ํฌ๋‹ค๋ฉด ์˜ˆ์•ฝ์€ ์ œ๊ฐ’์„ ํ•ฉ๋‹ˆ๋‹ค. ๊ทธ๋ ‡์ง€ ์•Š๋‹ค๋ฉด ์„œ๋ฒ„๋ฆฌ์Šค๋ฅผ ์ด์šฉํ•ด ๊ฐ™์€ $6,480์„ ์ œํ’ˆ ๊ฐœ๋ฐœ์— ๋‚จ๊ธธ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ง‰์—ฐํžˆ "ํ† ํฐ์— $15,000์„ ์“ฐ๊ณ  ์žˆ๋‹ค"๋Š” ์ฃผ์žฅ๋งŒ์œผ๋กœ๋Š” ์ด ๊ฒฐ๋ก ์— ๋„๋‹ฌํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.

Dedicated Inference๋Š” ์ถœ๋ ฅ ์ฒ˜๋ฆฌ๋Ÿ‰์ด ๋ชจ๋ธ, ์–‘์žํ™”, ๋ฐฐ์น˜ ํ˜•ํƒœ, ํ•˜๋“œ์›จ์–ด ์ˆ˜, ๊ตฌ์„ฑ์— ๋”ฐ๋ผ ๋‹ฌ๋ผ์ง€๋ฏ€๋กœ ๊ณต๊ฐœ ํ† ํฐ ์†์ต๋ถ„๊ธฐ์ ์„ ์ด์ฒ˜๋Ÿผ ๊น”๋”ํ•˜๊ฒŒ ๊ณ„์‚ฐํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. GPU ์›” ๊ฐ€๊ฒฉ์„ ํ•˜๋‚˜์˜ ์ผ๋ฐ˜ ํ† ํฐ ์š”๊ธˆ์œผ๋กœ ๋‚˜๋ˆˆ ๋’ค ๋ณดํŽธ์  ๊ต์ฐจ์ ์„ ์„ ์–ธํ•˜๋Š” ๊ธ€์€ ๋‹ต์„ ์ขŒ์šฐํ•˜๋Š” ๋ณ€์ˆ˜๋ฅผ ์ˆจ๊ธฐ๋Š” ์…ˆ์ž…๋‹ˆ๋‹ค. ๋Œ€์ƒ ์—”๋“œํฌ์ธํŠธ์—์„œ ํ›„๋ณด ๋ชจ๋ธ์„ ์ธก์ •ํ•œ ํ›„, ๊ด€์ธก๋œ ์‚ฌ์šฉ๋ฅ ์—์„œ ์Šน์ธ๋œ ๊ฒฐ๊ณผ๋‹น ๋น„์šฉ์„ ๋น„๊ตํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

Dedicated Inference์™€ GPU ํด๋Ÿฌ์Šคํ„ฐ๋Š” ์„œ๋กœ ๋‹ค๋ฅธ ๋ฌธ์ œ๋ฅผ ํ’‰๋‹ˆ๋‹ค

์…€ํ”„์„œ๋น„์Šค์˜ ์œ ์—ฐ์„ฑ๋ณด๋‹ค ์ œ์–ด๊ฐ€ ์ค‘์š”ํ•  ๋•Œ Dedicated Inference๊ฐ€ ๋งž์Šต๋‹ˆ๋‹ค. Together๋Š” ๋‹จ์ผ ํ…Œ๋„ŒํŠธ ํ•˜๋“œ์›จ์–ด๋ฅผ ํ• ๋‹นํ•˜๊ณ  ์ปค์Šคํ…€ ๋ชจ๋ธ, ์˜คํ† ์Šค์ผ€์ผ๋ง, ํŠธ๋ž˜ํ”ฝ ๊ธ‰์ฆ ์ฒ˜๋ฆฌ๋ฅผ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. ์‹ค์‹œ๊ฐ„ ๊ฐ€๊ฒฉ์€ NVIDIA HGX H100์ด $5.49/GPU-hour, HGX B200์ด $8.99/GPU-hour์ž…๋‹ˆ๋‹ค. H200, B300, GB200 NVL72, GB300 NVL72๋Š” ์˜์—… ๋ฌธ์˜๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

30์ผ ์—ฐ์† ์‚ฌ์šฉ ์‹œ H100 1๊ฐœ๋Š” $3,952.80, B200 1๊ฐœ๋Š” $6,472.80์ž…๋‹ˆ๋‹ค. ๋ฉ€ํ‹ฐ GPU ์š”๊ตฌ์‚ฌํ•ญ์„ ์ ์šฉํ•˜๊ธฐ ์ „์˜ GPU๋‹น ์ˆ˜์น˜์ž…๋‹ˆ๋‹ค. ์—”๋“œํฌ์ธํŠธ๋Š” ์š”์ฒญ๋Ÿ‰๊ณผ ๊ด€๊ณ„์—†์ด ์‹คํ–‰๋˜๋Š” ๋™์•ˆ ๊ณผ๊ธˆ๋˜๋ฏ€๋กœ, ์œ ํœด ๋ฐฐํฌ๋„ ์‹ค์ œ ์˜ˆ์‚ฐ ํ•ญ๋ชฉ์ž…๋‹ˆ๋‹ค.

ํ•˜๋“œ์›จ์–ด ๋น„์šฉ์„ ์˜ˆ์ธกํ•  ๋•Œ ์˜ค๋ž˜๋œ ์ „์šฉ ์—”๋“œํฌ์ธํŠธ ๋ฌธ์„œ๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์•ˆ ๋ฉ๋‹ˆ๋‹ค. ํ˜„์žฌ ๋ฌธ์„œ์—๋Š” ์‹ค์‹œ๊ฐ„ ๊ฐ€๊ฒฉ ํŽ˜์ด์ง€์™€ ์ถฉ๋Œํ•˜๋Š” H100, H200, B200 ์ˆ˜์น˜๊ฐ€ ๋‚จ์•„ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ธ€์—์„œ๋Š” ๋” ์ตœ์‹  ์ถœ์ฒ˜์ธ ํ˜„์žฌ ๊ฐ€๊ฒฉ ํŽ˜์ด์ง€๋ฅผ ํ™•์ธํ–ˆ์Šต๋‹ˆ๋‹ค. ์ธํ”„๋ผ ๊ฐ€๊ฒฉ์— ๋‚ ์งœ๊ฐ€ ํ•„์š”ํ•œ ์ด์œ ๊ฐ€ ๋ฐ”๋กœ ์—ฌ๊ธฐ์— ์žˆ์Šต๋‹ˆ๋‹ค.

ํŒŒ์ธํŠœ๋‹ํ•˜๊ฑฐ๋‚˜ ์—…๋กœ๋“œํ•œ ๋ชจ๋ธ์„ ๊ณต์œ  ์„œ๋ฒ„๋ฆฌ์Šค์—์„œ ์‹คํ–‰ํ•  ์ˆ˜ ์—†์„ ๋•Œ, p99 ์ง€์—ฐ ์‹œ๊ฐ„์— ์•ˆ์ •์ ์ธ ํ•˜๋“œ์›จ์–ด๊ฐ€ ํ•„์š”ํ•  ๋•Œ, ๋ชจ๋ธ ์„œ๋น™์— ์ปค์Šคํ…€ ์„ค์ •์ด ํ•„์š”ํ•  ๋•Œ, ๋˜๋Š” ๊พธ์ค€ํžˆ ๋†’์€ ์‚ฌ์šฉ๋ฅ  ๋•๋ถ„์— ์˜ˆ์•ฝ GPU๊ฐ€ ๊ฒฝ์ œ์ ์œผ๋กœ ์šฐ์„ธํ•  ๋•Œ Dedicated Inference๋Š” ๋น„์šฉ์˜ ๊ฐ€์น˜๋ฅผ ํ•ฉ๋‹ˆ๋‹ค. ํ•˜๋ฃจ ๋Œ€๋ถ€๋ถ„์„ ๊ธฐ๋‹ค๋ฆฌ๋Š” ์—”๋“œํฌ์ธํŠธ๋ผ๋ฉด ์†ํ•ด์ž…๋‹ˆ๋‹ค.

GPU ํด๋Ÿฌ์Šคํ„ฐ๊ฐ€ ๋” ์ €๋ ดํ•ด ๋ณด์ด๋Š” ๋ฐ๋Š” ํ•จ์ •์ด ์žˆ์Šต๋‹ˆ๋‹ค

GPU ํด๋Ÿฌ์Šคํ„ฐ๋Š” ์Šคํƒ์˜ ๋” ๋งŽ์€ ๋ถ€๋ถ„์„ ๊ตฌ๋งค์ž์—๊ฒŒ ๋„˜๊น๋‹ˆ๋‹ค. ํ˜„์žฌ ์˜จ๋””๋งจ๋“œ ์š”๊ธˆ์€ GPU-hour๋‹น H100 $3.99, H200 $5.99, B200 $8.19์ž…๋‹ˆ๋‹ค. 30์ผ ๊ธฐ์ค€ H100 ํ™˜์‚ฐ ๋น„์šฉ์€ $2,872.80์ด์ง€๋งŒ, ์ด๊ฒƒ์ด $3,952.80์ธ Dedicated H100์˜ ์ €๋ ดํ•œ ๋Œ€์ฒด์žฌ๋ผ๋Š” ๋œป์€ ์•„๋‹™๋‹ˆ๋‹ค. ํด๋Ÿฌ์Šคํ„ฐ ๊ตฌ๋งค์ž๊ฐ€ ๋ฐฐํฌ, ์„œ๋น™, ์˜ค์ผ€์ŠคํŠธ๋ ˆ์ด์…˜, ๊ด€์ธก์„ฑ, ์‚ฌ์šฉ๋ฅ  ๊ด€๋ฆฌ์˜ ๋” ๋งŽ์€ ๋ถ€๋ถ„์„ ๋งก์Šต๋‹ˆ๋‹ค.

์˜ˆ์•ฝ ํด๋Ÿฌ์Šคํ„ฐ ์š”๊ธˆ์€ ์•ฝ์ • ๊ธฐ๊ฐ„์ด ๊ธธ์ˆ˜๋ก ๋‚ด๋ ค๊ฐ‘๋‹ˆ๋‹ค. H100์€ 7-30์ผ $3.69, 31-90์ผ $3.45, 91-180์ผ $3.19๋กœ ๋–จ์–ด์ง‘๋‹ˆ๋‹ค. H200์€ ๊ฐ™์€ ๊ตฌ๊ฐ„์—์„œ $4.99, $4.15, $3.99์ž…๋‹ˆ๋‹ค. B200์€ $7.99, $7.79, $6.79์ž…๋‹ˆ๋‹ค. 181์ผ ์ด์ƒ์€ ๊ฒฌ์ ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

ํ• ์ธ์—๋Š” ๋ถ„๋ช…ํ•œ ์ œ์•ฝ์ด ๋”ฐ๋ฆ…๋‹ˆ๋‹ค. Together์˜ GPU ๊ฒฐ์ œ ๋ฌธ์„œ์— ๋”ฐ๋ฅด๋ฉด ์ „์ฒด ์˜ˆ์•ฝ ์š”๊ธˆ์€ ํ”„๋กœ๋น„์ €๋‹ ์‹œ ์„ ๊ฒฐ์ œ๋˜๊ฑฐ๋‚˜ ํ•œ ๋ฒˆ์— ์ฐจ๊ฐ๋ฉ๋‹ˆ๋‹ค. ์˜ˆ์•ฝ์€ ํ™˜๋ถˆ๋˜์ง€ ์•Š๊ณ  ๋ถ€๋ถ„ ํ™˜๋ถˆ๋„ ๋ถˆ๊ฐ€๋Šฅํ•˜๋ฉฐ ์ผ์‹œ ์ค‘์ง€ํ•  ์ˆ˜๋„ ์—†์Šต๋‹ˆ๋‹ค. ํด๋Ÿฌ์Šคํ„ฐ๊ฐ€ ์˜ˆ์•ฝ ์šฉ๋Ÿ‰์„ ์ดˆ๊ณผํ•ด ํ™•์žฅ๋˜๋ฉด ์ถ”๊ฐ€ ์šฉ๋Ÿ‰์€ ์˜จ๋””๋งจ๋“œ ์š”๊ธˆ์œผ๋กœ ์ฒญ๊ตฌ๋ฉ๋‹ˆ๋‹ค.

91-180์ผ H100 ์˜ˆ์•ฝ์€ 720์‹œ๊ฐ„์œผ๋กœ ํ™˜์‚ฐํ•œ ํ•œ ๋‹ฌ GPU๋‹น $2,296.80์ž…๋‹ˆ๋‹ค. ์˜จ๋””๋งจ๋“œ ํ™˜์‚ฐ์•ก๋ณด๋‹ค $576 ์ €๋ ดํ•ฉ๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ GPU๋ฅผ ์œ ์šฉํ•˜๊ฒŒ ๊ณ„์† ์ ์œ ํ•  ๋•Œ๋งŒ ์ด ์ ˆ๊ฐ์— ๊ฐ€์น˜๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. GPU 4๊ฐœ ์˜ˆ์•ฝ ์ค‘ ์ ˆ๋ฐ˜์ด ๋†€๊ณ  ์žˆ๋‹ค๋ฉด ์‹œ๊ฐ„๋‹น ํ•ญ๋ชฉ์ด ๋‚ฎ๋‹ค๋Š” ์ด์œ ๋กœ ๊ฒฝ์ œ์„ฑ์ด ์ƒ๊ธฐ์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์Šคํ† ๋ฆฌ์ง€์—๋„ ๋ณ„๋„ ์ˆ˜๋ช… ์ฃผ๊ธฐ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ณต์œ  ์Šคํ† ๋ฆฌ์ง€๋Š” $0.16/GiB-month์ด๋ฏ€๋กœ 1 TiB๋Š” ์›” ์•ฝ $163.84์ž…๋‹ˆ๋‹ค. ๋ณผ๋ฅจ์€ ํด๋Ÿฌ์Šคํ„ฐ๋ฅผ ์ข…๋ฃŒํ•œ ๋’ค์—๋„ ๋ˆ„๊ตฐ๊ฐ€ ์‚ญ์ œํ•  ๋•Œ๊นŒ์ง€ ์œ ์ง€๋˜๋ฉฐ ๊ณ„์† ๊ณผ๊ธˆ๋ฉ๋‹ˆ๋‹ค. ์˜๊ตฌ ๋ฐ์ดํ„ฐ ์ฃผ๋ณ€์— ์ปดํ“จํŒ…์„ ๋‹ค์‹œ ๋งŒ๋“œ๋Š” ๋ฐ๋Š” ์œ ์šฉํ•˜์ง€๋งŒ, ๋ฐฉ์น˜๋œ ๋ณผ๋ฅจ์ด ์กฐ์šฉํžˆ ๋น„์šฉ์„ ๋งŒ๋“œ๋Š” ๊ตฌ์กฐ์ด๊ธฐ๋„ ํ•ฉ๋‹ˆ๋‹ค.

ํŒŒ์ธํŠœ๋‹์€ ํ•™์Šต ๋น„์šฉ์ด ๋‚ฎ์•„๋„ ์œ ์ง€ ๋น„์šฉ์ด ํด ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค

ํŒŒ์ธํŠœ๋‹ ๋น„์šฉ์€ ํ•™์Šต ์ž‘์—…๊ณผ ์ดํ›„ ๋ชจ๋ธ ๋ฐฐํฌ๋ผ๋Š” ๋‘ ๋ถ€๋ถ„์œผ๋กœ ๋‚˜๋‰ฉ๋‹ˆ๋‹ค. ํ•™์Šต ํ•ญ๋ชฉ์€ ์•„์ฃผ ์ž‘์•„ ๋ณด์ผ ์ˆ˜ ์žˆ์ง€๋งŒ, ๊ฒฐ๊ณผ๋ฌผ์„ ํ˜ธ์ŠคํŒ…ํ•˜๋Š” ๋น„์šฉ์ด ์›” ์ง€์ถœ์˜ ๋Œ€๋ถ€๋ถ„์„ ์ฐจ์ง€ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Together๋Š” ๋ฐ์ดํ„ฐ์…‹ ํ† ํฐ์— ์—ํฌํฌ ์ˆ˜๋ฅผ ๊ณฑํ•˜๊ณ , ์„ ํƒ์  ํ‰๊ฐ€ ํ† ํฐ์— ํ‰๊ฐ€ ์‹คํ–‰ ํšŸ์ˆ˜๋ฅผ ๊ณฑํ•ด ํ‘œ์ค€ ํ•™์Šต ๋น„์šฉ์„ ๊ณ„์‚ฐํ•ฉ๋‹ˆ๋‹ค. ์ตœ๋Œ€ 16B ํŒŒ๋ผ๋ฏธํ„ฐ ๋ชจ๋ธ์˜ ์ง€๋„ ํŒŒ์ธํŠœ๋‹์€ 1 million processed tokens๋‹น LoRA $0.48, ์ „์ฒด ํŒŒ์ธํŠœ๋‹ $0.54์ž…๋‹ˆ๋‹ค. Direct Preference Optimization(DPO)์€ LoRA $1.20, ์ „์ฒด ํŠœ๋‹ $1.35์ž…๋‹ˆ๋‹ค.

17B-69B ๋ชจ๋ธ์˜ ๋„ค ๊ฐ€์ง€ ์š”๊ธˆ์€ ๊ฐ๊ฐ $1.50, $1.65, $3.75, $4.12์ž…๋‹ˆ๋‹ค. 70B-100B ๋ชจ๋ธ์€ $2.90, $3.20, $7.25, $8์ž…๋‹ˆ๋‹ค. ํ‘œ์ค€ ์ž‘์—…์˜ ์ตœ์†Œ ์š”๊ธˆ์€ $4์ž…๋‹ˆ๋‹ค.

๋” ํฐ ๋ชจ๋ธ๊ณผ ์ง€์ • ๋ชจ๋ธ์—๋Š” ํŠนํ™” ์š”๊ธˆ์ด ์ ์šฉ๋ฉ๋‹ˆ๋‹ค. DeepSeek V4 Flash LoRA๋Š” ์ง€๋„ ํŒŒ์ธํŠœ๋‹์ด 1 million processed tokens๋‹น $6, DPO๊ฐ€ $15์ด๋ฉฐ ์ตœ์†Œ ์š”๊ธˆ์€ $12์ž…๋‹ˆ๋‹ค. gpt-oss-120B๋Š” $5์™€ $12.50์ด๊ณ  ์ตœ์†Œ ์š”๊ธˆ์€ $6์ž…๋‹ˆ๋‹ค. Kimi K2.6 ๋˜๋Š” K2.7-Code๋Š” $15์™€ $37.50์ด๊ณ  ์ตœ์†Œ ์š”๊ธˆ์€ $60์ž…๋‹ˆ๋‹ค. GLM-5.2๋Š” $40๊ณผ $100์ด๊ณ  ์ตœ์†Œ ์š”๊ธˆ์€ $60์ž…๋‹ˆ๋‹ค.

์ด๋Ÿฌํ•œ ๋ชจ๋ธ๋ณ„ ๊ฐ€๊ฒฉ ์ฐจ์ด๋Š” ๋‹จ์ˆœํ•ด ๋ณด์ด๋Š” ์‹คํ—˜์˜ ๋น„์šฉ์„ ๋ฐ”๊ฟ‰๋‹ˆ๋‹ค. ํ† ํฐ 20 million๊ฐœ์ธ ๋ฐ์ดํ„ฐ์…‹์„ 3์—ํฌํฌ ํ•™์Šตํ•˜๋ฉด 60 million tokens๊ฐ€ ์ฒ˜๋ฆฌ๋ฉ๋‹ˆ๋‹ค. ํ‘œ์ค€ ์ตœ๋Œ€ 16B LoRA ์ง€๋„ ํ•™์Šต์€ $28.80์ด์ง€๋งŒ, ํŠนํ™” GLM-5.2 LoRA์—์„œ๋Š” ๊ฐ™์€ ์ฒ˜๋ฆฌ ํ† ํฐ ์ˆ˜์— $2,400์ด ๋“ญ๋‹ˆ๋‹ค. ๋ฐ์ดํ„ฐ์…‹ ํฌ๊ธฐ๋Š” ๊ทธ๋Œ€๋กœ์ด๊ณ  ๊ธฐ๋ณธ ๋ชจ๋ธ ๊ฐ€๊ฒฉ๋งŒ ๋‹ฌ๋ผ์กŒ์Šต๋‹ˆ๋‹ค.

ํ•™์Šต ์ž‘์—…๋งŒ์œผ๋กœ ์ „์ฒด ์ˆ˜๋ช… ์ฃผ๊ธฐ ๋น„์šฉ์ด ๋๋‚˜์ง€๋Š” ์•Š์Šต๋‹ˆ๋‹ค. ํŒŒ์ธํŠœ๋‹ ๋ชจ๋ธ์—๋Š” ๋ฐฐํฌ ์šฉ๋Ÿ‰๊ณผ ์ถฉ๋ถ„ํ•œ ์„ ๋ถˆ ์ž”์•ก์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ํ˜„์žฌ Dedicated H100 1๊ฐœ๋ฅผ 30์ผ ๋™์•ˆ ๊ณ„์† ์‹คํ–‰ํ•˜๋ฉด $3,952.80์ž…๋‹ˆ๋‹ค. ์ž‘์€ ์–ด๋Œ‘ํ„ฐ๋ฅผ ๋งŒ๋“œ๋Š” ๋ฐ $28.80์„ ์“ด ๋’ค, H100 ํ•˜๋‚˜๋ฅผ ์œ ์ง€ํ•˜๋Š” ๋ฐ ๋งค์›” ๊ทธ ๊ธˆ์•ก์˜ 137๋ฐฐ ์ด์ƒ์„ ์ง€์ถœํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

ํ”„๋กœํ† ํƒ€์ž… ์˜ˆ์‚ฐ์€ ๋Œ€๊ฐœ ์—ฌ๊ธฐ์„œ ๋ฌด๋„ˆ์ง‘๋‹ˆ๋‹ค. ๋ฐ์ดํ„ฐ ๊ณผํ•™์ž๋Š” ํ•™์Šต ์‹คํ–‰ ๋น„์šฉ์„ ๋ณด๊ณ ํ•˜์ง€๋งŒ, ์žฌ๋ฌดํŒ€์€ ๋‚˜์ค‘์— ์„œ๋น™ ์ฒญ๊ตฌ์„œ๋ฅผ ๋ฐ›์Šต๋‹ˆ๋‹ค. ์‹คํ—˜์„ ์Šน์ธํ•  ๋•Œ ์˜ˆ์ƒ ์˜จ๋ผ์ธ ์‹œ๊ฐ„, GPU ์ˆ˜, ์˜คํ† ์Šค์ผ€์ผ๋ง ์ตœ์ €์น˜, ์š”์ฒญ๋Ÿ‰, ์ข…๋ฃŒ ๋‹ด๋‹น์ž๋ฅผ ํฌํ•จํ•œ ๋ฐฐํฌ ๊ณ„ํš์„ ๋ถ™์—ฌ์•ผ ํ•ฉ๋‹ˆ๋‹ค.

์ทจ์†Œํ•œ ํ•™์Šต ์ž‘์—…์˜ ํ™˜๋ถˆ ๋ฒ”์œ„๋Š” ๋งŽ์€ ๊ตฌ๋งค์ž๊ฐ€ ์˜ˆ์ƒํ•˜๋Š” ๊ฒƒ๋ณด๋‹ค ์ข์Šต๋‹ˆ๋‹ค. Together๋Š” ์™„๋ฃŒ๋œ ์Šคํ…์„ ์ฒญ๊ตฌํ•˜๊ณ  ์™„๋ฃŒ๋˜์ง€ ์•Š์€ ์ž‘์—…๋งŒ ํ™˜๋ถˆํ•ฉ๋‹ˆ๋‹ค. ๊ทธ ๋ฐ–์˜ ํ‘œ์ค€ ํ”Œ๋žซํผ ์š”๊ธˆ์€ ์•ฝ๊ด€์ƒ ๊ธฐ๋ณธ์ ์œผ๋กœ ํ™˜๋ถˆ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ•™์Šต ์ž‘์—…์€ ๋˜๋Œ๋ฆด ์ˆ˜ ์žˆ๋Š” ์†Œํ”„ํŠธ์›จ์–ด ๊ตฌ๋…์ด ์•„๋‹ˆ๋ผ ์ด๋ฏธ ์†Œ๋น„๋œ ์ปดํ“จํŒ…์œผ๋กœ ๋ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

Sandbox์™€ Code Interpreter๋Š” ๋ณ„๋„์˜ ์—์ด์ „ํŠธ ๊ณผ๊ธˆ ํ•ญ๋ชฉ์ž…๋‹ˆ๋‹ค

Code Sandbox๋Š” vCPU-hour๋‹น $0.0446์™€ RAM GiB-hour๋‹น $0.0149๋ฅผ ํ•ฉ์‚ฐํ•ด ๊ณผ๊ธˆํ•ฉ๋‹ˆ๋‹ค. 2 vCPUs์™€ 8 GiB๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ์ƒŒ๋“œ๋ฐ•์Šค๋ฅผ 160์‹œ๊ฐ„ ์‹คํ–‰ํ•˜๋ฉด ์•ฝ $33.34์ž…๋‹ˆ๋‹ค. Code Interpreter๋Š” ๋ณ„๋„ ๋‹จ์œ„๋กœ 60-minute session๋‹น $0.03์ž…๋‹ˆ๋‹ค.

์—์ด์ „ํŠธ ์ œํ’ˆ์—์„œ๋Š” ์ด ๋น„์šฉ์ด ๋ชจ๋ธ ์ถ”๋ก  ๋น„์šฉ ์˜†์— ๋ถ™์Šต๋‹ˆ๋‹ค. ์›” ์—์ด์ „ํŠธ ์‹คํ–‰ 10,000ํšŒ๊ฐ€ ๊ฐ๊ฐ 1์‹œ๊ฐ„ ์ธํ„ฐํ”„๋ฆฌํ„ฐ ์„ธ์…˜์„ ์—ด๋ฉด, ๋ชจ๋ธ ํ† ํฐ์„ ์ œ์™ธํ•˜๊ณ ๋„ ์ธํ„ฐํ”„๋ฆฌํ„ฐ ํ•ญ๋ชฉ๋งŒ $300์ž…๋‹ˆ๋‹ค. ์„ธ์…˜์„ ์•ˆ์ „ํ•˜๊ฒŒ ์žฌ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค๋ฉด ์ œํ’ˆ ์•„ํ‚คํ…์ฒ˜๊ฐ€ ์™„๋ฃŒ ์ž‘์—…๋‹น ๋น„์šฉ์„ ๋ฐ”๊ฟ‰๋‹ˆ๋‹ค. ์ผ์ด ๋๋‚œ ๋’ค์—๋„ ์„ธ์…˜์ด ์—ด๋ ค ์žˆ์œผ๋ฉด ์œ ํœด ์‹คํ–‰์€ ๋” ์ž‘์€ ๊ทœ๋ชจ์˜ ์œ ํœด GPU ์šฉ๋Ÿ‰๊ณผ ๊ฐ™์€ ๋ฌธ์ œ๊ฐ€ ๋ฉ๋‹ˆ๋‹ค.

๋”ฐ๋ผ์„œ ์˜ฌ๋ฐ”๋ฅธ ์ธก์ • ๋‹จ์œ„๋Š” 1 million tokens๋‹น ๋น„์šฉ์ด ์•„๋‹ˆ๋ผ ์Šน์ธ๋œ ๊ฒฐ๊ณผ๋‹น ๋น„์šฉ์ž…๋‹ˆ๋‹ค. ์˜ˆ์‹œ MiniMax M3 ํ˜ธ์ถœ์€ $0.0036์ด์ง€๋งŒ $0.03 Code Interpreter ์„ธ์…˜ ํ•˜๋‚˜๋ฅผ ๋”ํ•˜๋ฉด, ์žฌ์‹œ๋„๋‚˜ ๋‹ค๋ฅธ ํˆด ํ˜ธ์ถœ ์ „์—๋„ ์ „์ฒด ๊ฒฝ๋กœ๊ฐ€ ์ตœ์†Œ $0.0336์ž…๋‹ˆ๋‹ค. ์ „์ฒด ๊ฒฝ๋กœ๋ฅผ ๊ณ„์ธกํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

ํ† ํฐ ์š”๊ธˆ์ด $0์ธ ๋ชจ๋ธ์ด ์žˆ์–ด๋„ Together AI๋Š” ๋ฌด๋ฃŒ๊ฐ€ ์•„๋‹™๋‹ˆ๋‹ค

Together AI๋Š” ํ˜„์žฌ ๋ฌด๋ฃŒ ์ฒดํ—˜์„ ์ œ๊ณตํ•˜์ง€ ์•Š์œผ๋ฉฐ ํ”Œ๋žซํผ์— ์•ก์„ธ์Šคํ•˜๋ ค๋ฉด ์ตœ์†Œ $5 ์„ ๋ถˆ ํฌ๋ ˆ๋”ง์„ ๊ตฌ๋งคํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ๋ฌด๋ฃŒ ํ”Œ๋žœ ์—ฌ๋ถ€์— ๋Œ€ํ•œ ๋‹ต์€ ๋ถ„๋ช…ํ•ฉ๋‹ˆ๋‹ค. API๋ฅผ ๊ฒฐ์ œ ์—†์ด ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๋ฌด๋ฃŒ ๊ณ„์ •์€ ์—†์Šต๋‹ˆ๋‹ค.

์‹ค์‹œ๊ฐ„ ์นดํƒˆ๋กœ๊ทธ์—๋Š” Ternary Bonsai 27B๊ฐ€ ์ž…๋ ฅ 1 million tokens๋‹น $0, ์ถœ๋ ฅ 1 million tokens๋‹น $0์œผ๋กœ ์˜ฌ๋ผ์™€ ์žˆ์Šต๋‹ˆ๋‹ค. ํ•ด๋‹น ๋ชฉ๋ก์ด ์œ ์ง€๋˜๋Š” ๋™์•ˆ ์ง€์†์ ์ธ ์ถ”๋ก  ๋น„์šฉ์€ $0์ผ ์ˆ˜ ์žˆ์ง€๋งŒ, ๊ณ„์ • ์•ก์„ธ์Šค๋ฅผ ์œ„ํ•ด์„œ๋Š” ์—ฌ์ „ํžˆ $5๋ฅผ ๊ตฌ๋งคํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ์ด $5๋Š” ์›” ๊ตฌ๋…๋ฃŒ๋กœ ์„ค๋ช…๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ˜„์žฌ ๊ตฌ๋งคํ•œ ์„ ๋ถˆ ํฌ๋ ˆ๋”ง์—๋Š” ๋งŒ๋ฃŒ์ผ์ด ์—†์Šต๋‹ˆ๋‹ค.

์ฒ˜์Œ ๋‚ธ $5 ์™ธ์— ์ถ”๊ฐ€ ๊ฒฐ์ œ๊ฐ€ ์ „ํ˜€ ํ•„์š” ์—†๋Š” ์‚ฌ์šฉ์ž๋Š” ๋ˆ„๊ตฌ์ผ๊นŒ์š”? ํ˜„์žฌ ๋ฌด๋ฃŒ ๋ชจ๋ธ๋งŒ ์“ฐ๊ณ , ์†๋„ ์ œํ•œ ์•ˆ์— ๋จธ๋ฌผ๋ฉฐ, ์œ ๋ฃŒ ์„œ๋น„์Šค๋ฅผ ์‹œ์ž‘ํ•˜์ง€ ์•Š๋Š” ์ทจ๋ฏธ ์‚ฌ์šฉ์ž๋‚˜ ํ‰๊ฐ€์ž๋Š” ๊ตฌ๋งค ์ž”์•ก์„ ๊ทธ๋Œ€๋กœ ๋‘˜ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋Š” ํ”„๋กœ๋•์…˜ ๋ฌด๋ฃŒ ๊ณ„์ธต์ด ์•„๋‹ˆ๋ผ ๋งค์šฐ ์ œํ•œ์ ์ธ ์‚ฌ๋ก€์ž…๋‹ˆ๋‹ค. ๋ชจ๋ธ ์ œ๊ณต ์—ฌ๋ถ€, ์šฉ๋Ÿ‰, ๊ฐ€๊ฒฉ์€ ๋ฐ”๋€” ์ˆ˜ ์žˆ์œผ๋ฏ€๋กœ ์ œํ’ˆ์ด ํ”„๋กœ๋ชจ์…˜ ๋˜๋Š” ๋ฌด๋ฃŒ ์—”๋“œํฌ์ธํŠธ๋ฅผ ์˜๊ตฌ ๋ฐฑ์—”๋“œ๋กœ ์œ ์ง€ํ•˜๊ฒ ๋‹ค๊ณ  ๊ณ ๊ฐ์—๊ฒŒ ์•ฝ์†ํ•ด์„œ๋Š” ์•ˆ ๋ฉ๋‹ˆ๋‹ค.

๊ณผ๊ฑฐ์— ์ œ๊ณตํ•˜๋˜ ๋ฌด๋ฃŒ ๊ฐ€์ž… ํฌ๋ ˆ๋”ง์€ ์ข…๋ฃŒ๋์Šต๋‹ˆ๋‹ค. Together์˜ ํ˜„์žฌ ์ง€์› ์ •์ฑ…์— ๋”ฐ๋ฅด๋ฉด ์‚ฌ์šฉ์ž๋Š” ์ตœ์†Œ $5๋ฅผ ๊ตฌ๋งคํ•˜๊ณ  ๊ฒฐ์ œ ์ˆ˜๋‹จ์„ ์—ฐ๊ฒฐํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ์ผ๋ฐ˜ ์„ ๋ถˆ ์•ก์„ธ์Šค์—์„œ๋Š” ๋งˆ์ด๋„ˆ์Šค ์ž”์•ก์ด ํ—ˆ์šฉ๋˜์ง€ ์•Š์œผ๋ฉฐ, ๊ตฌ๋งค ์ž”์•ก์ด 0์ด ๋˜๋ฉด ํฌ๋ ˆ๋”ง์„ ์ถ”๊ฐ€ํ•  ๋•Œ๊นŒ์ง€ API ์•ก์„ธ์Šค๊ฐ€ ์ค‘๋‹จ๋ฉ๋‹ˆ๋‹ค. ๊ณ„์•ฝ ๊ณ ๊ฐ์—๊ฒŒ๋Š” ์ฃผ๋ฌธ ์กฐ๊ฑด์ด ์ ์šฉ๋ฉ๋‹ˆ๋‹ค.

ํฌ๋ ˆ๋”ง์€ ๋งŒ๋ฃŒ๋˜์ง€ ์•Š์ง€๋งŒ ํ™˜๋ถˆ ๊ฐ€๋Šฅํ•œ ์ €์ถ• ๊ณ„์ขŒ๋„ ์•„๋‹™๋‹ˆ๋‹ค

๊ตฌ๋งคํ•œ ํฌ๋ ˆ๋”ง์—๋Š” ํ˜„์žฌ ๋งŒ๋ฃŒ์ผ์ด ์—†์Šต๋‹ˆ๋‹ค. ์—ฐ๊ฐ„ ๋งŒ๋ฃŒ ์ •์ฑ…๋ณด๋‹ค๋Š” ์œ ๋ฆฌํ•˜์ง€๋งŒ, ๊ณผ๋„ํ•œ ์ถฉ์ „์ด ์•„๋ฌด ๋ฌธ์ œ ์—†๋‹ค๋Š” ๋œป์€ ์•„๋‹™๋‹ˆ๋‹ค. Together ์•ฝ๊ด€์ƒ ์ฃผ๋ฌธ์„œ์— ๋‹ฌ๋ฆฌ ๋ช…์‹œ๋˜์ง€ ์•Š๋Š” ํ•œ ์ง€๋ถˆํ•œ ์š”๊ธˆ์€ ๊ธฐ๋ณธ์ ์œผ๋กœ ํ™˜๋ถˆ๋˜์ง€ ์•Š๊ณ , ๊ฒฐ์ œ ์˜๋ฌด๋Š” ์ทจ์†Œํ•  ์ˆ˜ ์—†์œผ๋ฉฐ, ์›” ์ค‘ ์ผ๋ถ€ ๊ธฐ๊ฐ„๋„ ์ผํ•  ๊ณ„์‚ฐ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์ž๋™ ์ถฉ์ „์€ ์‹ ์ค‘ํ•˜๊ฒŒ ์„ค์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๊ฒฐ์ œ ๋ฌธ์„œ์—๋Š” ๊ธฐ๋ณธ ์ถฉ์ „์•ก์ด $25๋กœ ๋‚˜์™€ ์žˆ๊ณ , ํ˜„์žฌ ์ž”์•ก๋ณด๋‹ค ๋†’์€ ์ž„๊ณ„๊ฐ’์„ ์„ค์ •ํ•˜๋ฉด ์ฐจ์ด๊ฐ€ ๋ฉ”์›Œ์งˆ ๋•Œ๊นŒ์ง€ ์ฆ‰์‹œ ๋ฐ˜๋ณต ๊ตฌ๋งค๊ฐ€ ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ๋‹ค๊ณ  ๊ฒฝ๊ณ ํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ์ƒ ์†Œ์ง„๋Ÿ‰์— ๋งž์ถฐ ์ž„๊ณ„๊ฐ’์„ ์„ค์ •ํ•˜๊ณ , ๊ตฌ๋งคํ•  ๋•Œ๋งˆ๋‹ค ์•Œ๋ฆผ์„ ๋ณด๋‚ด๋ฉฐ, ํฌ๋ ˆ๋”ง ์ž”์•ก๊ณผ ๋ณ„๋„๋กœ ํ”„๋กœ์ ํŠธ ์˜ˆ์‚ฐ์„ ๊ด€๋ฆฌํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

Build Tier๋Š” ๋ˆ„์  ์ง€์ถœ์— ๋”ฐ๋ผ ํ•œ๋„๊ฐ€ ์˜ฌ๋ผ๊ฐ‘๋‹ˆ๋‹ค

Together์˜ Build Tier ๋‹ค์„ฏ ๋‹จ๊ณ„๋Š” ์›”๋ณ„ ๊ธฐ๋Šฅ ํ”Œ๋žœ์ด ์•„๋‹ˆ๋ผ ๋ˆ„์  ์ง€์ถœ์„ ๊ธฐ์ค€์œผ๋กœ ํ•œ ์†๋„ ์ œํ•œ ๊ตฌ๊ฐ„์ž…๋‹ˆ๋‹ค. Tier 1์€ $5๋ถ€ํ„ฐ ์‹œ์ž‘ํ•˜๋ฉฐ ๋ถ„๋‹น LLM ์š”์ฒญ 600ํšŒ๋ฅผ ํ‘œ์‹œํ•ฉ๋‹ˆ๋‹ค. Tier 2๋Š” $50๋ถ€ํ„ฐ 1,800ํšŒ, Tier 3์€ $100๋ถ€ํ„ฐ 3,000ํšŒ, Tier 4๋Š” $250๋ถ€ํ„ฐ 4,500ํšŒ, Tier 5๋Š” $1,000๋ถ€ํ„ฐ 6,000ํšŒ์ž…๋‹ˆ๋‹ค.

์ž„๋ฒ ๋”ฉ ํ•œ๋„๋Š” Tier 1์˜ 3,000 RPM์—์„œ Tier 4์™€ 5์˜ 10,000 RPM๊นŒ์ง€ ์˜ฌ๋ผ๊ฐ‘๋‹ˆ๋‹ค. ๋ฆฌ๋žญํฌ ํ—ˆ์šฉ๋Ÿ‰์€ ๋‹ค์„ฏ ๋‹จ๊ณ„์— ๊ฑธ์ณ 500,000์—์„œ 5,000,000์œผ๋กœ ์ฆ๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. ๋ชจ๋“  ๋ชจ๋ธ์— ๊ณตํ†ต์œผ๋กœ ๋ณด์žฅ๋˜๋Š” ์ˆ˜์น˜๋Š” ์•„๋‹™๋‹ˆ๋‹ค. Together๋Š” ๋ชจ๋ธ๋ณ„ ์ œํ•œ์„ ์ ์šฉํ•  ์ˆ˜ ์žˆ๊ณ , ํ˜„์žฌ ์„œ๋ฒ„๋ฆฌ์Šค ๋ฌธ์„œ๋„ ์‹ค์‹œ๊ฐ„ ์šฉ๋Ÿ‰๊ณผ ์ตœ๊ทผ์˜ ์„ฑ๊ณต ํŠธ๋ž˜ํ”ฝ์— ๋ฐ˜์‘ํ•˜๋Š” ๋™์  ํ•œ๋„๋ฅผ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค.

์ถœ์‹œ ์‹œ์ ์—๋Š” ์ด ์กฐํ•ฉ์„ ๊ณ ๋ คํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. Tier 5 ๊ณ„์ •๋„ ์ธ๊ธฐ ๋ชจ๋ธ์˜ ์šฉ๋Ÿ‰์ด ๋” ๋นก๋นกํ•˜๊ฑฐ๋‚˜ ํŠธ๋ž˜ํ”ฝ์ด ์ตœ๊ทผ ํŒจํ„ด์„ ํฌ๊ฒŒ ๋›ฐ์–ด๋„˜์œผ๋ฉด 429 ์‘๋‹ต์„ ๋ฐ›์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์„œ๋ฒ„๋ฆฌ์Šค๋Š” ํ”„๋กœ๋น„์ €๋‹์„ ํ•ด๊ฒฐํ•˜์ง€๋งŒ ๋ชจ๋“  ๋ฒ„์ŠคํŠธ๋ฅผ ํ•ด๊ฒฐํ•˜์ง€๋Š” ์•Š์Šต๋‹ˆ๋‹ค. ๋Œ€์•ˆ์€ Batch, PTU, Dedicated Inference์ด๋ฉฐ ๊ฐ๊ฐ ๋น„์šฉ๊ณผ ์ง€์—ฐ ์‹œ๊ฐ„์˜ ์ ˆ์ถฉ์ ์ด ๋‹ค๋ฆ…๋‹ˆ๋‹ค.

์ˆจ์€ ๋น„์šฉ์€ ๋Œ€๋ถ€๋ถ„ ์œ ํœด ๊ณผ๊ธˆ๊ณผ ์ •์ฑ… ๊ฒฝ๊ณ„์—์„œ ๋‚˜์˜ต๋‹ˆ๋‹ค

Together AI์˜ ๋ˆˆ์— ๋ณด์ด๋Š” ํ† ํฐ ๊ฐ€๊ฒฉ์€ ๋Œ€์ฒด๋กœ ๋ช…ํ™•ํ•ฉ๋‹ˆ๋‹ค. ํฐ ๋น„์šฉ์˜ ํ•จ์ •์€ ์ƒํ’ˆ ์‚ฌ์ด, ์•ฝ์ •, ์œ ํœด ๋ฆฌ์†Œ์Šค, ๋ณดํŽธ์ ์œผ๋กœ ๋ณด์ด์ง€๋งŒ ์‹ค์ œ๋กœ๋Š” ๊ทธ๋ ‡์ง€ ์•Š์€ ๊ฐ€์ •์— ์ˆจ์–ด ์žˆ์Šต๋‹ˆ๋‹ค.

PTU ๋‹ฌ๋ ฅ ๊ณ„์‚ฐ: ๋ถ„๋‹น $0.05๋ฅผ 30์ผ์— ์ ์šฉํ•˜๋ฉด $2,160์ž…๋‹ˆ๋‹ค. ์‹ค์‹œ๊ฐ„ ๊ณ„์‚ฐ๊ธฐ์˜ ๊ฐ์ฃผ๋Š” ์•ฝ 43,800๋ถ„์„ ์ ์šฉํ•˜๋ฏ€๋กœ ์•ฝ $2,190์ด ๋ฉ๋‹ˆ๋‹ค. PTU๋‹น $30์˜ ์ฐจ์ด๋Š” 100 PTU์—์„œ $3,000์ด ๋ฉ๋‹ˆ๋‹ค. ๊ณ„์•ฝ์„œ์˜ ๊ณผ๊ธˆ ๊ธฐ์ค€์„ ์‚ฌ์šฉํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

PTU ๋ฏธ์‚ฌ์šฉ: ๊ณต๊ฐœ PTU๋Š” 30์ผ ๋‚ด๋‚ด ์™„์ „ํžˆ ์ ์œ ํ•ด์•ผ Together ์„œ๋ฒ„๋ฆฌ์Šค ๊ฐ€์น˜์™€ ๊ฐ™๋„๋ก ๋ณด์ •๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ์ ์œ ์œจ 50%์—์„œ๋Š” ์‹คํšจ ํ† ํฐ ๋น„์šฉ์ด 2๋ฐฐ๊ฐ€ ๋ฉ๋‹ˆ๋‹ค. ์šฉ๋Ÿ‰๊ณผ SLA ๊ฐ€์น˜๊ฐ€ ์ด ํ”„๋ฆฌ๋ฏธ์—„์„ ์ •๋‹นํ™”ํ•  ์ˆ˜๋Š” ์žˆ์ง€๋งŒ, ํ”„๋ฆฌ๋ฏธ์—„ ์ž์ฒด๋Š” ๋ช…ํ™•ํžˆ ๋ณด์—ฌ์•ผ ํ•ฉ๋‹ˆ๋‹ค.

์ „์šฉ ๋ฆฌ์†Œ์Šค์˜ ์œ ํœด ์‹œ๊ฐ„: Dedicated Inference๋Š” ์š”์ฒญ์ด 0์ด์–ด๋„ ํ• ๋‹น๋œ ํ•˜๋“œ์›จ์–ด๊ฐ€ ์‹คํ–‰๋˜๋Š” ๋™์•ˆ ๊ณผ๊ธˆ๋ฉ๋‹ˆ๋‹ค. ํŒŒ์ธํŠœ๋‹ ๋ชจ๋ธ ํ˜ธ์ŠคํŒ…์€ ์‹คํ—˜ ํ‹ฐ์ผ“๋ฟ ์•„๋‹ˆ๋ผ ์›” ์˜ˆ์ธก์—๋„ ํฌํ•จํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

ํ™˜๋ถˆ ๋ถˆ๊ฐ€ ์˜ˆ์•ฝ: GPU ํด๋Ÿฌ์Šคํ„ฐ ์˜ˆ์•ฝ์€ ์ „์ฒด ๊ธฐ๊ฐ„ ๋น„์šฉ์ด ์ฒญ๊ตฌ๋˜๋ฉฐ ์ผ์‹œ ์ค‘์ง€ํ•˜๊ฑฐ๋‚˜ ๋ถ€๋ถ„ ํ™˜๋ถˆํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. ์˜ˆ์ธก ์˜ค๋ฅ˜๊ฐ€ ํ™•์ • ์ง€์ถœ๋กœ ๋ฐ”๋€๋‹ˆ๋‹ค.

์˜จ๋””๋งจ๋“œ ๋ฒ„์ŠคํŠธ ์ดˆ๊ณผ๋ถ„: ์˜ˆ์•ฝ GPU ์šฉ๋Ÿ‰์„ ๋„˜์–ด ํ™•์žฅํ•˜๋ฉด ๋” ๋†’์€ ์˜จ๋””๋งจ๋“œ ์š”๊ธˆ์ด ์ ์šฉ๋ฉ๋‹ˆ๋‹ค. ์•ˆ์ •์ ์ธ ๊ธฐ๋ณธ ๋ถ€ํ•˜๊ฐ€ ์žˆ์–ด๋„ ๋ฒ„์ŠคํŠธ ๊ฐ€์ •์„ ๋„ˆ๋ฌด ๋‚ฎ๊ฒŒ ์žก์œผ๋ฉด ์˜ˆ์ƒ ๋ฐ– ๋น„์šฉ์ด ์ƒ๊ธธ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์˜๊ตฌ ์Šคํ† ๋ฆฌ์ง€: ์Šคํ† ๋ฆฌ์ง€๋Š” ํด๋Ÿฌ์Šคํ„ฐ๊ฐ€ ์ข…๋ฃŒ๋œ ๋’ค์—๋„ ๋‚จ์•„ ์‚ญ์ œํ•  ๋•Œ๊นŒ์ง€ ๊ณ„์† ๊ณผ๊ธˆ๋ฉ๋‹ˆ๋‹ค. ํด๋Ÿฌ์Šคํ„ฐ๋ฅผ ํ•ด์ฒดํ•  ๋•Œ๋งˆ๋‹ค ์œ ์ง€ ๋˜๋Š” ์‚ญ์ œ๋ฅผ ๋ช…์‹œ์ ์œผ๋กœ ๊ฒฐ์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

Batch ์ ์šฉ ์กฐ๊ฑด: ํ• ์ธ์€ ๋ชจ๋ธ๋ณ„๋กœ ๋‹ค๋ฅด๊ณ  24์‹œ๊ฐ„ ์™„๋ฃŒ ์‹œ๊ฐ„์€ ์ตœ์„ ํ˜•์ด๋ฉฐ, ์ทจ์†Œ ํ›„์—๋„ ์™„๋ฃŒ๋œ ์‘๋‹ต์—๋Š” ๋น„์šฉ์ด ์ฒญ๊ตฌ๋ฉ๋‹ˆ๋‹ค. ์‹ค์‹œ๊ฐ„ ๋ชฉ๋ก์„ ํ™•์ธํ•˜์ง€ ์•Š์€ ์ฑ„ ์ „์ฒด ์˜คํ”„๋ผ์ธ ์˜ˆ์‚ฐ์— 50%๋ฅผ ์ ์šฉํ•˜๋ฉด ์•ˆ ๋ฉ๋‹ˆ๋‹ค.

๋ฉ€ํ‹ฐ๋ฏธ๋””์–ด ๊ธฐ๋ณธ๊ฐ’: ์ด๋ฏธ์ง€ยท์˜์ƒ ๊ฐ€๊ฒฉ์€ ์ตœ์ € ํ•ด์ƒ๋„, ์žฌ์ƒ ์‹œ๊ฐ„ ๋˜๋Š” ๊ธฐ๋ณธ ์Šคํ… ์ˆ˜๋ฅผ ๊ธฐ์ค€์œผ๋กœ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํ”„๋กœ๋•์…˜ ํ’ˆ์งˆ ์„ค์ •๊ณผ ์žฌ์‹œ๋„๋Š” ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ์—์…‹๋‹น ๋น„์šฉ์„ ๋ฐ”๊ฟ‰๋‹ˆ๋‹ค.

์ž๋™ ์ถฉ์ „ ๋™์ž‘: ๊ณต๊ฒฉ์ ์ธ ์ž„๊ณ„๊ฐ’์€ ์ฆ‰์‹œ ๊ตฌ๋งค๋ฅผ ์ผ์œผํ‚ฌ ์ˆ˜ ์žˆ๊ณ  ์ผ๋ฐ˜ ์š”๊ธˆ์€ ํ™˜๋ถˆ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ž๋™ ์ถฉ์ „์€ ๋ฐฉ์น˜ํ˜• ํŽธ์˜ ๊ธฐ๋Šฅ์ด ์•„๋‹ˆ๋ผ ์•Œ๋ฆผ์„ ๊ฐ–์ถ˜ ํ”„๋กœ๋•์…˜ ์—ฐ์†์„ฑ ์ œ์–ด๋กœ ๋‹ค๋ค„์•ผ ํ•ฉ๋‹ˆ๋‹ค.

์ถœ๋ ฅ ๋“œ๋ฆฌํ”„ํŠธ: ๋” ๊ธด ์‘๋‹ต์„ ๋งŒ๋“œ๋Š” ํ”„๋กฌํ”„ํŠธ ๋˜๋Š” ๋ชจ๋ธ ์—…๋ฐ์ดํŠธ๋Š” ์š”์ฒญ๋Ÿ‰์ด ๊ทธ๋Œ€๋กœ์—ฌ๋„ ์ง€์ถœ์„ ๋†’์ž…๋‹ˆ๋‹ค. ์ž…๋ ฅ, ์บ์‹œ ์ž…๋ ฅ, ์ถœ๋ ฅ, ์Šน์ธ๋œ ๊ฒฐ๊ณผ๋ฅผ ๋”ฐ๋กœ ์ถ”์ ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

์†๋„ ์ œํ•œ ๋“œ๋ฆฌํ”„ํŠธ: ์„œ๋ฒ„๋ฆฌ์Šค ํ•œ๋„๋Š” ๋™์ ์ด๋ฉฐ ๋ชจ๋ธ๋งˆ๋‹ค ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ˆ„์  ์ง€์ถœ๋กœ Tier 5๋ฅผ ๋‹ฌ์„ฑํ•ด๋„ ๊ธฐ๋ฐ˜ ํ”Œ๋ฆฟ์ด ์˜ˆ์•ฝ๋˜๋Š” ๊ฒƒ์€ ์•„๋‹™๋‹ˆ๋‹ค.

ํ‘œ์ค€ ์…€ํ”„์„œ๋น„์Šค ์—ฐ๊ฐ„ ํ• ์ธ์€ ๋”ฐ๋กœ ๋ชจ๋ธ๋งํ•  ๊ฒƒ์ด ์—†์Šต๋‹ˆ๋‹ค. ์„œ๋ฒ„๋ฆฌ์Šค๋Š” ์„ ๋ถˆ ์‚ฌ์šฉ๋Ÿ‰ ๊ธฐ๋ฐ˜์ด๊ณ , PTU๋Š” ์ตœ์†Œ 1๊ฐœ์›” ์•ฝ์ •์ด๋ฉฐ, GPU ์˜ˆ์•ฝ์€ 7-30์ผ, 31-90์ผ, 91-180์ผ ๊ตฌ๊ฐ„์„ ๊ณต๊ฐœํ•ฉ๋‹ˆ๋‹ค. ๋” ๊ธด ์•ฝ์ •์€ ์˜์—…ํŒ€์„ ๊ฑฐ์นฉ๋‹ˆ๋‹ค. ์—ฐ๊ฐ„ ์ข…์† ๋ฆฌ์Šคํฌ๋Š” ๊ณต๊ฐœ ์—ฐ๊ฐ„ ์•ฑ ํ”Œ๋žœ์ด ์•„๋‹ˆ๋ผ ์ปค์Šคํ…€ ์ฃผ๋ฌธ์„œ๋‚˜ ์—ฐ์†๋œ ์ธํ”„๋ผ ์˜ˆ์•ฝ์— ์กด์žฌํ•ฉ๋‹ˆ๋‹ค.

Together AI ๋Œ€์•ˆ: ๊ฐ™์€ ๋ชจ๋ธ๊ณผ ์กฐ๊ฑด์œผ๋กœ ๋น„๊ตํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค

Together AI๊ฐ€ ๋ชจ๋“  ๊ณต์œ  ๋ชจ๋ธ์—์„œ ์œ ์ผํ•˜๊ฒŒ ์ €๋ ดํ•œ ๊ฒƒ์€ ์•„๋‹™๋‹ˆ๋‹ค. gpt-oss-120B์˜ ๊ณต๊ฐœ ์„œ๋ฒ„๋ฆฌ์Šค ๊ฐ€๊ฒฉ์€ Fireworks AI, Groq์™€ ์ •ํ™•ํžˆ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ž…๋ ฅ ํ† ํฐ 1 million๊ฐœ๋‹น $0.15, ์ถœ๋ ฅ ํ† ํฐ 1 million๊ฐœ๋‹น $0.60์ž…๋‹ˆ๋‹ค. ์ž…๋ ฅ 1 million๊ฐœ์™€ ์ถœ๋ ฅ 250,000๊ฐœ ํ† ํฐ์„ ์“ฐ๋Š” ์ž‘์—…์€ ์บ์‹œ ์ž…๋ ฅ ํ˜œํƒ์ด๋‚˜ ๊ณ„์ •๋ณ„ ๊ณ„์•ฝ์„ ์ ์šฉํ•˜๊ธฐ ์ „ ๊ธฐ์ค€์œผ๋กœ ์„ธ ๊ณต๊ธ‰์ž ๋ชจ๋‘ $0.30์ž…๋‹ˆ๋‹ค.

์ด์ฒ˜๋Ÿผ ๊ฐ€๊ฒฉ์ด ๊ฐ™๋‹ค๋Š” ์ ์€ ์˜คํžˆ๋ ค ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค. ํ† ํฐ ๊ฐ€๊ฒฉ์„ ๊ฒฐ์ • ์š”์ธ์—์„œ ์ œ์™ธํ•˜๊ณ  ์บ์‹œ ์š”๊ธˆ, ์†๋„ ์ œํ•œ, ์ง€์—ฐ ์‹œ๊ฐ„, ๊ณต๊ธ‰์ž ์ œ์–ด, ํด๋ฐฑ ๋™์ž‘, ๋ฐฐํฌ ๊ฒฝ๋กœ, SLA ๊ตฌ์„ฑ์„ ๋น„๊ตํ•˜๊ฒŒ ๋งŒ๋“ค๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค.

Fireworks AI๋Š” ๊ธฐ๋ณธ ์š”๊ธˆ์ด ๊ฐ™๊ณ  ์บ์‹œ ์š”๊ธˆ์€ ๋” ๋‚ฎ์Šต๋‹ˆ๋‹ค

Fireworks AI์˜ gpt-oss-120B Standard ์„œ๋ฒ„๋ฆฌ์Šค ์š”๊ธˆ์€ 1 million tokens๋‹น ์ž…๋ ฅ $0.15, ์บ์‹œ ์ž…๋ ฅ $0.015, ์ถœ๋ ฅ $0.60์ž…๋‹ˆ๋‹ค. ์บ์‹œ๋ฅผ ์ ์šฉํ•˜์ง€ ์•Š์€ ๋™์ผ ์กฐ๊ฑด ์ž‘์—…์€ Together์™€ ๊ฐ™์€ $0.30์ž…๋‹ˆ๋‹ค. Fireworks๋Š” ์‹œ์ž‘ ํฌ๋ ˆ๋”ง $1๋„ ํ™๋ณดํ•ฉ๋‹ˆ๋‹ค.

gpt-oss-120B ์š”๊ธˆ์„ ๋ณด์—ฌ ์ฃผ๋Š” Fireworks AI ์„œ๋ฒ„๋ฆฌ์Šค ๊ฐ€๊ฒฉ ๋ฌธ์„œ
Fireworks AI ์„œ๋ฒ„๋ฆฌ์Šค ๊ฐ€๊ฒฉ

ํ˜„์žฌ Fireworks์˜ gpt-oss ์บ์‹œ ์ž…๋ ฅ ์š”๊ธˆ์€ ๋ช…ํ™•ํ•˜๊ณ  ๋‚ฎ์œผ๋ฏ€๋กœ, ์žฌ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ํ”„๋ฆฌํ”ฝ์Šค๊ฐ€ ํฐ ์›Œํฌ๋กœ๋“œ์—์„œ๋Š” ์ด ์ข์€ ๋น„๊ต์—์„œ Fireworks๊ฐ€ ์•ž์„ญ๋‹ˆ๋‹ค. Standard, Priority, Fast ์„œ๋ฒ„๋ฆฌ์Šค ๊ณ„์ธต๋„ ์ œ๊ณตํ•ด ์ง€์—ฐ ์‹œ๊ฐ„๊ณผ ๊ฐ€๊ฒฉ ์‚ฌ์ด์—์„œ ์„ ํƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋‹ค๋งŒ ์ถ”๊ฐ€ ๊ณ„์ธต ๋•Œ๋ฌธ์— ๋‹จ์ˆœํ•ด ๋ณด์ด๋Š” ์š”๊ธˆ ๋น„๊ต๊ฐ€ ๋ณต์žกํ•ด์ง€๊ณ , ์ „์šฉ GPU ๊ฐ€๊ฒฉ์€ Together์˜ PTU์™€ ๋‹ค๋ฅธ ์ƒํ’ˆ์ด๋ผ๋Š” ํ•œ๊ณ„๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค.

์บ์‹œ ๋น„์ค‘์ด ๋†’์€ ์˜คํ”ˆ ๋ชจ๋ธ ์„œ๋ฒ„๋ฆฌ์Šค๊ฐ€ ํ•ต์‹ฌ ์š”๊ตฌ์‚ฌํ•ญ์ด๊ณ  ์„œ๋น„์Šค ๊ณ„์ธต ์ œ์–ด๊ฐ€ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์— ๋งž์œผ๋ฉด Fireworks๋ฅผ ์„ ํƒํ•  ๋งŒํ•ฉ๋‹ˆ๋‹ค. ๊ฐ™์€ API์—์„œ PTU, ์ „์šฉ ๋ชจ๋ธ ์ถ”๋ก , ํŒŒ์ธํŠœ๋‹, ์ƒŒ๋“œ๋ฐ•์Šค ๋˜๋Š” ์›์‹œ ํด๋Ÿฌ์Šคํ„ฐ๋กœ ์ด์–ด์ง€๋Š” ๊ฒฝ๋กœ์˜ ์ „๋žต์  ๊ฐ€์น˜๊ฐ€ ๋” ํฌ๋‹ค๋ฉด Together๋ฅผ ์„ ํƒํ•˜๋Š” ํŽธ์ด ๋‚ซ์Šต๋‹ˆ๋‹ค.

Groq๋Š” ๊ฐ™์€ ํ† ํฐ ๊ฐ€๊ฒฉ์— ์†๋„๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค

Groq์˜ gpt-oss-120B ์š”๊ธˆ๋„ ์ž…๋ ฅ $0.15, ์ถœ๋ ฅ $0.60์œผ๋กœ ๊ฐ™์•„์„œ ๋™์ผ ์กฐ๊ฑด ์ž‘์—…์€ $0.30์ž…๋‹ˆ๋‹ค. ํ˜„์žฌ ๋ชจ๋ธ ํŽ˜์ด์ง€์—๋Š” ์•ฝ 500 tokens per second, Developer ํ”Œ๋žœ์—์„œ ๋ถ„๋‹น 250,000 tokens์™€ ๋ถ„๋‹น 1,000 requests ํ•œ๋„๊ฐ€ ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค.

gpt-oss-120B ๊ฐ€๊ฒฉ, ์†๋„, ์†๋„ ์ œํ•œ์„ ๋ณด์—ฌ ์ฃผ๋Š” Groq ์ง€์› ๋ชจ๋ธ ๋ฌธ์„œ
Groq ๋ชจ๋ธ ๊ฐ€๊ฒฉ๊ณผ ํ•œ๋„

๋‚ฎ์€ ์ƒ์„ฑ ์ง€์—ฐ ์‹œ๊ฐ„์ด ์ œํ’ˆ์˜ ํ•ต์‹ฌ ์•ฝ์†์ด๋ผ๋ฉด Groq๊ฐ€ ๋” ๋‚ ์นด๋กœ์šด ํ›„๋ณด์ž…๋‹ˆ๋‹ค. ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ Performance ๊ณ„์ธต์€ ํ”„๋กœ๋น„์ €๋‹๋œ ์ฒ˜๋ฆฌ๋Ÿ‰๊ณผ 99.9% ๊ฐ€์šฉ์„ฑ SLA๋ฅผ ์ถ”๊ฐ€ํ•˜์ง€๋งŒ ๊ณต๊ฐœ ๊ฐ€๊ฒฉ์€ ์—†์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ์…€ํ”„์„œ๋น„์Šค ํ† ํฐ ๋น„์šฉ์€ ์‰ฝ๊ฒŒ ๋น„๊ตํ•  ์ˆ˜ ์žˆ์–ด๋„ ์˜ˆ์•ฝ ์šฉ๋Ÿ‰ ๋น„์šฉ์€ ๊ฒฌ์  ์—†์ด๋Š” ๊ฐ™์€ ์กฐ๊ฑด์œผ๋กœ ๋งž์ถœ ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.

์ง€์› ๋ชจ๋ธ ๋ฒ”์œ„์™€ ์†๋„๊ฐ€ Together์˜ ๊ด‘๋ฒ”์œ„ํ•œ ํ•™์Šตยท์ธํ”„๋ผ ์Šคํƒ๋ณด๋‹ค ์ค‘์š”ํ•œ ์ธํ„ฐ๋ž™ํ‹ฐ๋ธŒ ๊ฒฝ๋กœ์—๋Š” Groq๊ฐ€ ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค. ํ•˜๋‚˜์˜ ๊ณ„์ •์—์„œ Together์˜ ํŒŒ์ธํŠœ๋‹, GPU ํด๋Ÿฌ์Šคํ„ฐ, ์ƒŒ๋“œ๋ฐ•์Šค ๋˜๋Š” ๊ณต๊ฐœ PTU ๊ฒฝ๋กœ๊ฐ€ ํ•„์š”ํ•˜๋‹ค๋ฉด ์ ํ•ฉํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

OpenRouter๋Š” ๋” ์ €๋ ดํ•  ์ˆ˜ ์žˆ์ง€๋งŒ ์• ๊ทธ๋ฆฌ๊ฒŒ์ดํ„ฐ์˜ ์ ˆ์ถฉ์ด ๋”ฐ๋ฆ…๋‹ˆ๋‹ค

ํ˜„์žฌ OpenRouter์˜ gpt-oss-120B ์š”๊ธˆ์€ 1 million tokens๋‹น ์ž…๋ ฅ $0.03, ์บ์‹œ ์ž…๋ ฅ $0.03, ์ถœ๋ ฅ $0.17์ž…๋‹ˆ๋‹ค. ์ž…๋ ฅ 1 million๊ฐœ์™€ ์ถœ๋ ฅ 250,000๊ฐœ์ธ ๋™์ผ ์กฐ๊ฑด ์ž‘์—…์€ ํฌ๋ ˆ๋”ง ๊ตฌ๋งค ์ˆ˜์ˆ˜๋ฃŒ ์ „ $0.0725์ž…๋‹ˆ๋‹ค. ๊ตฌ๋งคํ•œ ํฌ๋ ˆ๋”ง์„ ๋ชจ๋‘ ์‚ฌ์šฉํ•œ๋‹ค๊ณ  ๋ณด๊ณ  5.5% ์ˆ˜์ˆ˜๋ฃŒ๋ฅผ ๋ฐฐ๋ถ„ํ•˜๋ฉด ์•ฝ $0.0765๊ฐ€ ๋˜์ง€๋งŒ, ์†Œ์•ก ์ถฉ์ „์—์„œ๋Š” ์ตœ์†Œ ์ˆ˜์ˆ˜๋ฃŒ $0.80์˜ ์˜ํ–ฅ์ด ๋” ํฝ๋‹ˆ๋‹ค.

์‹ค์‹œ๊ฐ„ ํ† ํฐ ๊ฐ€๊ฒฉ๊ณผ ๊ณต๊ธ‰์ž ๋ผ์šฐํŒ…์„ ๋ณด์—ฌ ์ฃผ๋Š” OpenRouter gpt-oss-120B ๋ชจ๋ธ ํŽ˜์ด์ง€
OpenRouter gpt-oss-120B ๊ฐ€๊ฒฉ

OpenRouter๋Š” ์—…์ŠคํŠธ๋ฆผ ๊ณต๊ธ‰์ž ์‚ฌ์ด๋ฅผ ๋ผ์šฐํŒ…ํ•ด ์ˆœ๊ฐ„ ๊ฐ€๊ฒฉ ์˜ˆ์‹œ์—์„œ ์•ž์„ญ๋‹ˆ๋‹ค. ์ž๋™ ํด๋ฐฑ๊ณผ ํ›จ์”ฌ ๋„“์€ ๋ชจ๋ธ ์นดํƒˆ๋กœ๊ทธ๋„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ Together ์šฉ๋Ÿ‰์„ ์˜ˆ์•ฝํ•˜๊ฑฐ๋‚˜ ๋‹จ์ผ ์ธํ”„๋ผ ๊ณต๊ธ‰์ž๋ฅผ ์„ ํƒํ•˜๋Š” ๊ฒƒ๊ณผ ๊ฐ™์€ ์ƒํ’ˆ์€ ์•„๋‹™๋‹ˆ๋‹ค. ๋ผ์šฐํŒ… ์„ ํƒ, ๋ฐ์ดํ„ฐ ์ •์ฑ…, ์ง€์—ฐ ์‹œ๊ฐ„, ์—…์ŠคํŠธ๋ฆผ ๊ฐ€์šฉ์„ฑ, ๊ณต๊ธ‰์ž ๋ณ€๊ฒฝ์ด ์•„ํ‚คํ…์ฒ˜์˜ ์ผ๋ถ€๊ฐ€ ๋ฉ๋‹ˆ๋‹ค.

๋ฌด๋ฃŒ ๊ณ„์ธต๋„ Together๋ณด๋‹ค ์ ‘๊ทผํ•˜๊ธฐ ์‰ฝ์Šต๋‹ˆ๋‹ค. ํ˜„์žฌ ๊ฐ€๊ฒฉ ํŽ˜์ด์ง€์—๋Š” 25๊ฐœ๊ฐ€ ๋„˜๋Š” ๋ฌด๋ฃŒ ๋ชจ๋ธ๊ณผ ํ•˜๋ฃจ 50ํšŒ ์š”์ฒญ์ด ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค. ๊ทธ ๋Œ€์‹  ๋‚ฎ์€ ๋ฌด๋ฃŒ ํ•œ๋„, ์‚ฌ์šฉ๋Ÿ‰ ๊ธฐ๋ฐ˜ ๊ฒฐ์ œ์— ๋ถ™๋Š” 5.5% ํ”Œ๋žซํผ ์ˆ˜์ˆ˜๋ฃŒ, ์‚ฌ์šฉํ•˜์ง€ ์•Š์€ ํฌ๋ ˆ๋”ง์„ 1๋…„ ๋’ค ๋งŒ๋ฃŒ์‹œํ‚ฌ ์ˆ˜ ์žˆ๋Š” ๊ถŒ๋ฆฌ๋ผ๋Š” ์ ˆ์ถฉ์ด ์žˆ์Šต๋‹ˆ๋‹ค. Together๋Š” ํ˜„์žฌ ๊ตฌ๋งคํ•œ ํฌ๋ ˆ๋”ง์ด ๋งŒ๋ฃŒ๋˜์ง€ ์•Š๋Š”๋‹ค๊ณ  ์•ˆ๋‚ดํ•ฉ๋‹ˆ๋‹ค.

๊ด‘๋ฒ”์œ„ํ•œ ๋ชจ๋ธ ์ ‘๊ทผ, ํด๋ฐฑ, ํ˜„์žฌ์˜ ๋ผ์šฐํŒ… ์ˆœ๊ฐ„ ๊ฐ€๊ฒฉ์ด ๊ฐ€์žฅ ์ค‘์š”ํ•˜๋ฉด OpenRouter๋ฅผ ์„ ํƒํ•  ๋งŒํ•ฉ๋‹ˆ๋‹ค. ์ง์ ‘์ ์ธ ๊ณต๊ธ‰์ž ์ œ์–ด, ์˜ˆ์ธก ๊ฐ€๋Šฅํ•œ ์˜ˆ์•ฝ ์šฉ๋Ÿ‰ ๊ฒฝ๋กœ, ๋ชจ๋ธ ํ•™์Šต ๋˜๋Š” ์ „์šฉ ์ธํ”„๋ผ๊ฐ€ ์ตœ์ €๊ฐ€ ๋ผ์šฐํŒ… ์š”์ฒญ๋ณด๋‹ค ์ค‘์š”ํ•˜๋ฉด Together๊ฐ€ ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค.

๊ฐ™์€ ์กฐ๊ฑด์œผ๋กœ ๋งž์ถ˜ ๊ฒฐ๋ก ์€ ๋ช…ํ™•ํ•ฉ๋‹ˆ๋‹ค. gpt-oss-120B์—์„œ Together, Fireworks, Groq๋Š” ์บ์‹œ๋ฅผ ์ œ์™ธํ•œ ํ† ํฐ ๊ฐ€๊ฒฉ์ด ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ด ์‹œ์ ์˜ OpenRouter๋Š” ๋” ์ €๋ ดํ•˜์ง€๋งŒ ๊ณต๊ธ‰ ๊ด€๊ณ„๊ฐ€ ๋‹ฌ๋ผ์ง‘๋‹ˆ๋‹ค. ์„ ํƒ์„ ๋’ค์ง‘๋Š” ๊ฒƒ์€ ์–ด๋А ํ”Œ๋žซํผ์ด ์ผ๋ฐ˜์ ์œผ๋กœ ๋” ์‹ธ๋‹ค๋Š” ์ฃผ์žฅ์ด ์•„๋‹ˆ๋ผ ์šด์˜ ์š”๊ตฌ์‚ฌํ•ญ์ž…๋‹ˆ๋‹ค.

Together AI๊ฐ€ ๋งž๋Š” ํŒ€๊ณผ ํ”ผํ•ด์•ผ ํ•  ํŒ€

Together AI๋Š” ๋ถˆํ™•์‹คํ•œ ํ˜ธ์ถœ๋กœ ์‹œ์ž‘ํ•œ ์˜คํ”ˆ ๋ชจ๋ธ ์›Œํฌ๋กœ๋“œ๊ฐ€ ๊ณ„ํš๋œ ์šฉ๋Ÿ‰ ์šด์˜์œผ๋กœ ์„ฑ์žฅํ•  ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒํ•˜๋Š” ํšŒ์‚ฌ์— ์ ํ•ฉํ•ฉ๋‹ˆ๋‹ค. ์ €๋น„์šฉ API๊ฐ€ ํ•„์š”ํ•œ ๋ชจ๋“  ๊ฐœ๋ฐœ์ž์—๊ฒŒ ์ž๋™์œผ๋กœ ์ •๋‹ต์ธ ํ”Œ๋žซํผ์€ ์•„๋‹™๋‹ˆ๋‹ค.

1์ธ ๊ธฐ์ˆ  ๊ฐœ๋ฐœ์ž๋Š” ์„œ๋ฒ„๋ฆฌ์Šค๋กœ ์‹œ์ž‘ํ•˜๊ณ  ์ฒซ ๊ตฌ๋งค๋ฅผ $5๋กœ ์œ ์ง€ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋ฒ”์œ„๊ฐ€ ์ •ํ•ด์ง„ ์ž‘์—…์„ DeepSeek V4 Flash, gpt-oss-120B ๋˜๋Š” ํ’ˆ์งˆ ํ•˜ํ•œ์„ ์„ ๋„˜๋Š” ๋‹ค๋ฅธ ๋ชจ๋ธ๋กœ ๋ผ์šฐํŒ…ํ•ฉ๋‹ˆ๋‹ค. ํ”„๋กœ๋•์…˜ ๋กœ๊ทธ์—์„œ ์•ˆ์ •์ ์ธ ์ˆ˜์š”๊ฐ€ ์ž…์ฆ๋˜๊ธฐ ์ „์—๋Š” PTU์™€ ์ „์šฉ ํ•˜๋“œ์›จ์–ด๋ฅผ ํ”ผํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋ชฉ์ ์ด ํญ๋„“์€ ๋ชจ๋ธ ์ฒดํ—˜์ด๋‚˜ ๋ฌด๋ฃŒ ์•ก์„ธ์Šค๋ฟ์ด๋ผ๋ฉด OpenRouter๊ฐ€ ๋” ๊น”๋”ํ•œ ์ฒซ ๊ณ„์ •์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

ํˆฌ์ž ์œ ์น˜ ์Šคํƒ€ํŠธ์—… ์ฐฝ์—…์ž๋Š” ๋ฐฐํฌ ๋‹จ๊ณ„๊ฐ€ ํ–ฅํ›„ ๋งˆ์ด๊ทธ๋ ˆ์ด์…˜ ์ž‘์—…์„ ์ค„์—ฌ ์ค„ ๋•Œ Together๋ฅผ ์จ์•ผ ํ•ฉ๋‹ˆ๋‹ค. ์„œ๋ฒ„๋ฆฌ์Šค๋กœ ์ œํ’ˆ์„ ๊ฒ€์ฆํ•˜๊ณ , ๊ฐ™์€ API ๋’ค์—์„œ PTU๋กœ ์•ˆ์ •์ ์ธ ์˜คํ”ˆ ๋ชจ๋ธ์„ ์˜ˆ์•ฝํ•˜๋ฉฐ, Dedicated Inference๋กœ ํŒŒ์ธํŠœ๋‹ ๋˜๋Š” ์ปค์Šคํ…€ ๋ชจ๋ธ์„ ํ˜ธ์ŠคํŒ…ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ œํ’ˆ ๋กœ๋“œ๋งต์ด ์ด๋ฏธ ์˜ˆ์•ฝ ์šฉ๋Ÿ‰์„ ํ–ฅํ•œ๋‹ค๋ฉด ์ด ์—ฐ์†์„ฑ์ด ์ž‘์€ ํ† ํฐ ๊ฐ€๊ฒฉ ์ฐจ์ด๋ณด๋‹ค ๊ฐ€์น˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ค‘๊ฒฌ๊ธฐ์—… CTO๋Š” ์ฒญ๊ตฌ์•ก์ด ํฌ๋‹ค๋Š” ์ด์œ ๊ฐ€ ์•„๋‹ˆ๋ผ ์„œ๋น„์Šค ์•ฝ์ •์„ ์œ„ํ•ด PTU๋ฅผ ๊ตฌ๋งคํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ์ ์œ ์œจ์„ ์˜ˆ์ธกํ•˜๊ณ  99% SLA๋ฅผ ๊ณ ๊ฐ ์•ฝ์†๊ณผ ๋น„๊ตํ•˜๋ฉฐ, ๊ฑฐ๋ž˜ ์†์‹ค์ด๋‚˜ ์ง€์› ์—์Šค์ปฌ๋ ˆ์ด์…˜์„ ๊ธฐ์ค€์œผ๋กœ ์šฉ๋Ÿ‰ ์˜ˆ์•ฝ์˜ ๊ฐ€์น˜๋ฅผ ๊ณ„์‚ฐํ•ฉ๋‹ˆ๋‹ค. ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์— 99.9% ๊ฐ€์šฉ์„ฑ์ด ํ•„์š”ํ•˜๋‹ค๋ฉด 99%๋ผ๋Š” ๋ฌธ๊ตฌ๋งŒ์œผ๋กœ๋Š” ๋ถ€์กฑํ•ฉ๋‹ˆ๋‹ค. ํด๋ฐฑ์„ ์„ค๊ณ„ํ•˜๊ฑฐ๋‚˜ ๊ณ„์•ฝ์„ ํ˜‘์ƒํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

์ˆ™๋ จ๋œ ์šด์˜์ž๋Š” ์šฉ๋Ÿ‰์„ ์˜ˆ์•ฝํ•˜๊ธฐ ์ „์— ์˜คํ”„๋ผ์ธ ์ž‘์—…๋ถ€ํ„ฐ Batch๋กœ ์˜ฎ๊ฒจ์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋ถ„๋ฅ˜, ๋ณด๊ฐ•, ํ‰๊ฐ€, ํ•ฉ์„ฑ ๋ฐ์ดํ„ฐ ์ž‘์—…์€ ๋Œ€์ƒ ๋ชจ๋ธ์—์„œ ์ตœ๋Œ€ 50% ํ• ์ธ์„ ๋ฐ›์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ง€์—ฐ ์‹œ๊ฐ„์„ ๋ฐ›์•„๋“ค์ด๊ณ  ์–ป๋Š” ์ง์ ‘ ํ• ์ธ์ž…๋‹ˆ๋‹ค. PTU๋Š” ์šฉ๋Ÿ‰ ๊ตฌ๋งค์ด๋ฏ€๋กœ ๊ทธ๋‹ค์Œ์— ๊ฒ€ํ† ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

๋ฆฌ์„œ์น˜ ๋˜๋Š” ๋ชจ๋ธ ํŒ€์€ ์‚ฌ์šฉ๋ฅ  ๋‹ด๋‹น์ž๊ฐ€ ์žˆ์„ ๋•Œ๋งŒ Dedicated Inference๋‚˜ GPU ํด๋Ÿฌ์Šคํ„ฐ๋ฅผ ์‚ฌ์šฉํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ํ•™์Šต, ์ปค์Šคํ…€ ์„œ๋น™, ์ €์ˆ˜์ค€ ์ œ์–ด๊ฐ€ ์Šคํƒ์„ ์ •๋‹นํ™”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. GPU-hour, ์œ ํœด ๋ ˆํ”Œ๋ฆฌ์นด, ๋ฒ„์ŠคํŠธ ์‚ฌ์šฉ๋Ÿ‰, ์˜๊ตฌ ๋ณผ๋ฅจ์„ ๋ชจ๋‹ˆํ„ฐ๋งํ•˜์ง€ ๋ชปํ•˜๋Š” ํŒ€์€ ํ†ต์ œํ•  ์ˆ˜ ์—†๋Š” ์ธํ”„๋ผ๋ฅผ ์‚ฌ๋Š” ์…ˆ์ž…๋‹ˆ๋‹ค.

๋‹ค์Œ ๋„ค ์กฐ๊ฑด ์ค‘ ํ•˜๋‚˜๋ผ๋„ ํ•ด๋‹นํ•˜๋ฉด Together AI๋ฅผ ํ”ผํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋ผ์šฐํŒ…๋œ ์ตœ์ € ํ† ํฐ ๊ฐ€๊ฒฉ๋งŒ ์ค‘์š”ํ•˜๊ฑฐ๋‚˜, ํŠธ๋ž˜ํ”ฝ์ด ๋„ˆ๋ฌด ๋ถˆ๊ทœ์น™ํ•ด 1๊ฐœ์›” ์˜ˆ์•ฝ์ด ๋งž์ง€ ์•Š๊ฑฐ๋‚˜, ํ•„์š”ํ•œ ๋ชจ๋ธ์ด ๋‹ค๋ฅธ ๊ณณ์— ์žˆ๊ฑฐ๋‚˜, ์˜์—… ํ˜‘์ƒ ์—†์ด ๋” ๊ฐ•ํ•œ ๊ณต๊ฐœ SLA๊ฐ€ ํ•„์š”ํ•  ๋•Œ์ž…๋‹ˆ๋‹ค. Fireworks, Groq, OpenRouter ๋˜๋Š” ๋ชจ๋ธ ์ง์ ‘ ๊ณต๊ธ‰์ž๊ฐ€ ๋” ์ ํ•ฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๊ฐ•์ 
์ž˜ํ•˜๋Š” ๊ฒƒ
9 points

  • ํ•œ ๊ณ„์ •์—์„œ ์„œ๋ฒ„๋ฆฌ์Šค, ์˜ˆ์•ฝ ํ† ํฐ ์šฉ๋Ÿ‰, ์ „์šฉ ์ถ”๋ก , ํŒŒ์ธํŠœ๋‹, GPU ํด๋Ÿฌ์Šคํ„ฐ, ์ƒŒ๋“œ๋ฐ•์Šค ์ปดํ“จํŒ…, ์Šคํ† ๋ฆฌ์ง€๋ฅผ ์ด์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ํ˜„์žฌ ์„œ๋ฒ„๋ฆฌ์Šค ์š”๊ธˆ์€ ์—ฌ๋Ÿฌ ์˜คํ”ˆ ๋ชจ๋ธ์—์„œ ๊ฒฝ์Ÿ๋ ฅ์ด ์žˆ๊ณ , ์ง€์› ์—”๋“œํฌ์ธํŠธ์˜ ์บ์‹œ ์ž…๋ ฅ ํ• ์ธ ํญ๋„ ํฝ๋‹ˆ๋‹ค.
  • ๊ตฌ๋งคํ•œ ์„ ๋ถˆ ํฌ๋ ˆ๋”ง์€ ํ˜„์žฌ ๋งŒ๋ฃŒ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • Provisioned Throughput์€ ๊ณต์œ  ์ถ”๋ก ๊ณผ ์ „์šฉ ์ถ”๋ก  ์‚ฌ์ด์— ๊ณต๊ฐœ๋œ $0.05/PTU-minute ๊ฒฝ๋กœ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
  • ๊ฒฐ์ œ ์—†๋Š” ๋ฌด๋ฃŒ ์ฒดํ—˜์ด ์—†์œผ๋ฉฐ ํ”Œ๋žซํผ ์•ก์„ธ์Šค์— $5 ๊ตฌ๋งค๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
  • ๊ณต๊ฐœ PTU ์ •๊ฐ€๋Š” ํ˜‘์ƒ ํ• ์ธ ์ „ ๊ธฐ์ค€์œผ๋กœ ์™„์ „ํžˆ ์ ์œ ํ•ด์•ผ Together ์„œ๋ฒ„๋ฆฌ์Šค์™€ ๋น„์šฉ์ด ๊ฐ™์•„์ง‘๋‹ˆ๋‹ค.
  • ํด๋ฐฑ์ด ์—†๋‹ค๋ฉด 99% PTU ๊ฐ€๋™ ์‹œ๊ฐ„ SLA๋Š” ์ค‘์š”ํ•œ ๊ณ ๊ฐ ๊ฒฝ๋กœ์— ์ถฉ๋ถ„ํ•˜์ง€ ์•Š์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • Dedicated, ์˜ˆ์•ฝ GPU, ์Šคํ† ๋ฆฌ์ง€, ํŒŒ์ธํŠœ๋‹ ๋ฐฐํฌ๋Š” ์š”์ฒญ๋Ÿ‰์ด 0์ด์–ด๋„ ๊ณ„์† ๊ณผ๊ธˆ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์‹ค์‹œ๊ฐ„ ๊ฐ€๊ฒฉ๊ณผ ์˜ค๋ž˜๋œ ์ œํ’ˆ ๋ฌธ์„œ๊ฐ€ ์ถฉ๋Œํ•  ์ˆ˜ ์žˆ์œผ๋ฏ€๋กœ ๊ตฌ๋งคํŒ€์€ ๋‚ ์งœ๊ฐ€ ๋ช…์‹œ๋œ ์ถœ์ฒ˜๋ฅผ ์‚ฌ์šฉํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

์›”์š”์ผ ์‹คํ–‰์•ˆ: ์˜ˆ์•ฝ ์ „์— ์›Œํฌ๋กœ๋“œ ํ•˜๋‚˜๋ฅผ ์ธก์ •ํ•ฉ๋‹ˆ๋‹ค

์›”์š”์ผ์—๋Š” ๋ฒ”์œ„๊ฐ€ ์ •ํ•ด์ง„ ํ”„๋กœ๋•์…˜ ์›Œํฌํ”Œ๋กœ ํ•˜๋‚˜๋ฅผ ๊ณจ๋ผ 7์ผ๊ฐ„์˜ ๋น„์šฉ ๊ธฐ๋ก์„ ๋งŒ๋“ญ๋‹ˆ๋‹ค. ๋ชจ๋“  ๋ชจ๋ธ์„ ์‹œํ—˜ํ•˜๋Š” ๊ฒƒ์ด ๋ชฉ์ ์€ ์•„๋‹™๋‹ˆ๋‹ค. ์ด ๋ถ€ํ•˜๋ฅผ ์„œ๋ฒ„๋ฆฌ์Šค, Batch, PTU, ์ „์šฉ ์šฉ๋Ÿ‰ ์ค‘ ์–ด๋””์— ๋ฐฐ์น˜ํ• ์ง€ ์•Œ์•„๋‚ด๋Š” ๊ฒƒ์ด ๋ชฉํ‘œ์ž…๋‹ˆ๋‹ค.

  1. ์Šน์ธ๋œ ๊ฒฐ๊ณผ ํ•˜๋‚˜๋ฅผ ์ •์˜ํ•ฉ๋‹ˆ๋‹ค

    ์œ ํšจํ•œ ๋ถ„๋ฅ˜, ํ…Œ์ŠคํŠธ๋ฅผ ํ†ต๊ณผํ•œ ์ฝ”๋“œ ๋ณ€๊ฒฝ, ์Šน์ธ๋œ ์ง€์› ๋‹ต์•ˆ ์ดˆ์•ˆ, ์™„๋ฃŒ๋œ ์ถ”์ถœ์ฒ˜๋Ÿผ ์ฑ„์ ํ•  ์ˆ˜ ์žˆ๋Š” ๊ฒฐ๊ณผ๋ฅผ ๊ฐ€์ง„ ์ž‘์—…์„ ์„ ํƒํ•ฉ๋‹ˆ๋‹ค. ์Šน์ธ๋œ ๊ฒฐ๊ณผ๋‹น ๋น„์šฉ์ด ์‚ฌ์—… ์ง€ํ‘œ์ž…๋‹ˆ๋‹ค.

  2. ์ „์ฒด ์‚ฌ์šฉ๋Ÿ‰ ํ˜•ํƒœ๋ฅผ ๊ธฐ๋กํ•ฉ๋‹ˆ๋‹ค

    7์ผ ๋™์•ˆ ์š”์ฒญ ์ˆ˜, ์บ์‹œ๋˜์ง€ ์•Š์€ ์ž…๋ ฅ, ์บ์‹œ ์ž…๋ ฅ, ์ถœ๋ ฅ, ์žฌ์‹œ๋„, ์ดˆ๋‹น ์ตœ๋Œ€ ์š”์ฒญ ์ˆ˜, 429 ์‘๋‹ต, ์ง€์—ฐ ์‹œ๊ฐ„, ์ƒŒ๋“œ๋ฐ•์Šค ์‹œ๊ฐ„, ์Šน์ธ๋œ ๊ฒฐ๊ณผ๋ฅผ ์ˆ˜์ง‘ํ•ฉ๋‹ˆ๋‹ค. ํ‰์ผ ํ”ผํฌ์™€ ์•ผ๊ฐ„ยท์ฃผ๋ง์„ ๊ตฌ๋ถ„ํ•ฉ๋‹ˆ๋‹ค.

  3. ์„œ๋ฒ„๋ฆฌ์Šค ๊ธฐ์ค€ ๋น„์šฉ์„ ๊ณ„์‚ฐํ•ฉ๋‹ˆ๋‹ค

    ์ธก์ •ํ•œ ํ† ํฐ ๊ตฌ์„ฑ์— ์‹ค์‹œ๊ฐ„ ๋ชจ๋ธ ์š”๊ธˆ์„ ์ ์šฉํ•ฉ๋‹ˆ๋‹ค. ๋Œ€์ƒ ์˜คํ”„๋ผ์ธ ์ž‘์—…์„ Batch๋กœ ์˜ฎ๊ธด ๋’ค ๋‹ค์‹œ ๊ณ„์‚ฐํ•ฉ๋‹ˆ๋‹ค. ๋ถˆํ•„์š”ํ•œ ์ถœ๋ ฅ์„ ์ œํ•œํ•˜๊ณ  ๊ณ ์ • ํ”„๋กฌํ”„ํŠธ ํ”„๋ฆฌํ”ฝ์Šค๋ฅผ ์œ ์ง€ํ•ด ์‹ค์ œ๋กœ ๋‹ฌ์„ฑ ๊ฐ€๋Šฅํ•œ ์บ์‹œ ์ ˆ๊ฐ์„ ๊ธฐ์ค€ ๋น„์šฉ์— ํฌํ•จํ•ฉ๋‹ˆ๋‹ค.

  4. PTU ์ ์œ ์œจ ํ…Œ์ŠคํŠธ๋ฅผ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค

    ์ตœ๋Œ€ ์š”์ฒญ๋ฅ , ์บ์‹œ ์ ์ค‘๋ฅ , ํ† ํฐ ๊ตฌ์„ฑ์„ ์‹ค์‹œ๊ฐ„ PTU ๊ณ„์‚ฐ๊ธฐ์— ๋„ฃ์Šต๋‹ˆ๋‹ค. ํ•„์š”ํ•œ PTU ์ˆ˜์™€ ํ‰๊ท  ์‚ฌ์šฉ๋Ÿ‰์„ ๋น„๊ตํ•ฉ๋‹ˆ๋‹ค. ์ ์œ ์œจ 80%์—์„œ ๊ณต๊ฐœ ์ •๊ฐ€๋Š” 25%์˜ ์‹คํšจ ํ† ํฐ ํ”„๋ฆฌ๋ฏธ์—„์„ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ์•ฝ ์šฉ๋Ÿ‰๊ณผ 99% SLA๊ฐ€ ๊ทธ ๊ฐ’์„ ํ•˜๋Š”์ง€ ํŒ๋‹จํ•ฉ๋‹ˆ๋‹ค.

  5. ์š”๊ตฌ์‚ฌํ•ญ์˜ ์ด๋ฆ„์„ ๋Œˆ ์ˆ˜ ์žˆ์„ ๋•Œ๋งŒ ์ƒ์œ„ ๋‹จ๊ณ„๋กœ ๊ฐ‘๋‹ˆ๋‹ค

    ์ปค์Šคํ…€ ๋ชจ๋ธ, ๋‹จ์ผ ํ…Œ๋„ŒํŠธ ์ œ์–ด ๋˜๋Š” ์•ˆ์ •์ ์ธ ํ•˜๋“œ์›จ์–ด ์„ฑ๋Šฅ์ด ํ•„์š”ํ•  ๋•Œ Dedicated Inference๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค. ํŒ€์ด ์„œ๋น™ ๋˜๋Š” ํ•™์Šต ์Šคํƒ์„ ์ง์ ‘ ์†Œ์œ ํ•  ๋•Œ๋งŒ GPU ํด๋Ÿฌ์Šคํ„ฐ๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ์‚ฐ ๋‹ด๋‹น์ž ์˜†์— ์ข…๋ฃŒ ๋ฐ ์Šคํ† ๋ฆฌ์ง€ ์ •๋ฆฌ ๋‹ด๋‹น์ž๋ฅผ ์ง€์ •ํ•ฉ๋‹ˆ๋‹ค.

์ตœ์ข… ๊ฒฐ์ •์€ ์žฌ๋ฌดํŒ€๊ณผ ์—”์ง€๋‹ˆ์–ด๋งํŒ€์ด ํ•จ๊ป˜ ์“ธ ์ˆ˜ ์žˆ๋Š” ํ•œ ๋ฌธ์žฅ์ž…๋‹ˆ๋‹ค. "์ด ์›Œํฌ๋กœ๋“œ๋Š” ์„œ๋ฒ„๋ฆฌ์Šค์— ๋‚จ๊ธด๋‹ค", "์ด ์˜คํ”„๋ผ์ธ ๊ตฌ๊ฐ„์€ Batch๋กœ ์˜ฎ๊ธด๋‹ค", ๋˜๋Š” "์šฉ๋Ÿ‰ ๋ณด์žฅ์ด ์ธก์ •๋œ ์œ ํœด ํ”„๋ฆฌ๋ฏธ์—„๋งŒํผ ๊ฐ€์น˜ ์žˆ์œผ๋ฏ€๋กœ ์ด ๊ณ ๊ฐ ๊ฒฝ๋กœ์— N PTU๋ฅผ ์˜ˆ์•ฝํ•œ๋‹ค"์ž…๋‹ˆ๋‹ค. ๊ฐ€๊ฒฉ ๋ฌธ๊ตฌ๋งŒ ๋ณด๊ณ  ์ธํ”„๋ผ๋ฅผ ์ด์ „ํ•˜๋Š” ์ผ์ด ์•„๋‹ˆ๋ผ ์›”์š”์ผ์— ๋ฐ”๋กœ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ๋Š” ์กฐ์น˜์ž…๋‹ˆ๋‹ค.

Together AI pricing ์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ

Together AI์—์„œ ํ† ํฐ 1,000๊ฐœ๋Š” ์–ผ๋งˆ์ธ๊ฐ€์š”?

๋ชจ๋ธ์˜ 1 million๋‹น ์š”๊ธˆ์„ 1,000์œผ๋กœ ๋‚˜๋ˆ„๊ณ  ์ž…๋ ฅ๊ณผ ์ถœ๋ ฅ์„ ๋”ฐ๋กœ ๊ณ„์‚ฐํ•ฉ๋‹ˆ๋‹ค. MiniMax M3๋Š” ์บ์‹œ๋˜์ง€ ์•Š์€ ์ž…๋ ฅ ํ† ํฐ 1,000๊ฐœ๋‹น $0.0003, ์ถœ๋ ฅ ํ† ํฐ 1,000๊ฐœ๋‹น $0.0012์ž…๋‹ˆ๋‹ค. Kimi K3๋Š” ํ† ํฐ 1,000๊ฐœ๋‹น ์ž…๋ ฅ $0.003, ์ถœ๋ ฅ $0.015์ž…๋‹ˆ๋‹ค.

Together AI์˜ ์›” ๋น„์šฉ์€ ์–ผ๋งˆ์ธ๊ฐ€์š”?

์„œ๋ฒ„๋ฆฌ์Šค์—๋Š” ๊ณ ์ • ์›” ๊ตฌ๋…๋ฃŒ๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค. $5 ์•ก์„ธ์Šค ๊ตฌ๋งค ํ›„ ์›”๋น„์šฉ์€ ์‚ฌ์šฉ๋Ÿ‰์— ๋”ฐ๋ผ ๋‹ฌ๋ผ์ง‘๋‹ˆ๋‹ค. PTU 1๊ฐœ๋Š” 30์ผ ๊ธฐ์ค€ $2,160์ด๋ฉฐ, ๊ฐ€๊ฒฉ ํŽ˜์ด์ง€์˜ ํ‰๊ท  ์›” ๊ฐ€์ •์ธ 43,800๋ถ„์„ ์“ฐ๋ฉด ์•ฝ $2,190์ž…๋‹ˆ๋‹ค. ํ˜„์žฌ ์‹œ๊ฐ„๋‹น $5.49 ์š”๊ธˆ์œผ๋กœ Dedicated H100 1๊ฐœ๋ฅผ 720์‹œ๊ฐ„ ๊ณ„์† ์‹คํ–‰ํ•˜๋ฉด $3,952.80์ž…๋‹ˆ๋‹ค.

Together AI๋Š” ๋ฌด๋ฃŒ์ธ๊ฐ€์š”?

์•„๋‹™๋‹ˆ๋‹ค. Together AI๋Š” ํ˜„์žฌ ๋ฌด๋ฃŒ ์ฒดํ—˜์„ ์ œ๊ณตํ•˜์ง€ ์•Š์œผ๋ฉฐ ํ”Œ๋žซํผ ์•ก์„ธ์Šค์— ์ตœ์†Œ $5 ์„ ๋ถˆ ํฌ๋ ˆ๋”ง ๊ตฌ๋งค๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ์‹ค์‹œ๊ฐ„ ์นดํƒˆ๋กœ๊ทธ์—๋Š” Ternary Bonsai 27B์˜ ์ž…๋ ฅยท์ถœ๋ ฅ ํ† ํฐ ์š”๊ธˆ์ด $0์œผ๋กœ ํ‘œ์‹œ๋˜์ง€๋งŒ, ๊ณ„์ •์—๋Š” ์—ฌ์ „ํžˆ $5 ๊ตฌ๋งค๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

Together AI๋Š” ๋ฌด๋ฃŒ ํฌ๋ ˆ๋”ง์„ ์ œ๊ณตํ•˜๋‚˜์š”?

์ƒ์‹œ ๊ฐ€์ž… ํ˜œํƒ์œผ๋กœ๋Š” ์ œ๊ณตํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ๊ณผ๊ฑฐ ๊ฐ€์ž… ํ”„๋กœ๋ชจ์…˜์€ ์ข…๋ฃŒ๋๊ณ , ํ˜„์žฌ ์•ก์„ธ์Šค์—๋Š” $5 ๊ตฌ๋งค๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. Together๋Š” ์ •๊ทœ ์ˆ˜์—… ๋ฐ–์—์„œ ํ”„๋กœ์ ํŠธ๋ฅผ ์ง„ํ–‰ํ•˜๋Š” ํ•™์ƒ์„ ์œ„ํ•œ ์ดˆ๋Œ€ ์ „์šฉ ๋ฆฌ์„œ์น˜ ํฌ๋ ˆ๋”ง ํ”„๋กœ๊ทธ๋žจ๋„ ์šด์˜ํ•˜์ง€๋งŒ ๋„๋ฆฌ ์ œ๊ณต๋˜๋Š” ์ œ๋„๋Š” ์•„๋‹™๋‹ˆ๋‹ค.

Together AI ๋ฌด๋ฃŒ ๊ณ„์ธต์˜ ํ•œ๋„๋Š” ์–ผ๋งˆ์ธ๊ฐ€์š”?

์ผ๋ฐ˜์ ์ธ ๋ฌด๋ฃŒ ๊ณ„์ธต์€ ์—†์Šต๋‹ˆ๋‹ค. $5 ์ž”์•ก์„ ๊ตฌ๋งคํ•˜๋ฉด ๊ณ„์ •์€ Build Tier 1์ด ๋˜๋ฉฐ, ํ˜„์žฌ ๋ถ„๋‹น LLM ์š”์ฒญ 600ํšŒ, ๋ถ„๋‹น ์ž„๋ฒ ๋”ฉ ์š”์ฒญ 3,000ํšŒ, ๋ฆฌ๋žญํฌ ํ•œ๋„ 500,000์„ ํ‘œ์‹œํ•ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ๋ณ„ยท๋™์  ํ•œ๋„๋Š” ์ด๋ณด๋‹ค ๋‚ฎ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Together AI์˜ ๊ฐ€์žฅ ์ข‹์€ ๋Œ€์•ˆ์€ ๋ฌด์—‡์ธ๊ฐ€์š”?

Fireworks AI๋Š” ๊ด‘๋ฒ”์œ„ํ•œ ์˜คํ”ˆ ๋ชจ๋ธ ์ถ”๋ก ๊ณผ ํŒŒ์ธํŠœ๋‹์—์„œ ๊ฐ€์žฅ ๊ฐ€๊นŒ์šด ๋Œ€์•ˆ์ด๊ณ , Groq๋Š” ์ง€์›๋˜๋Š” ์ €์ง€์—ฐ ๋ชจ๋ธ์— ๋งค๋ ฅ์ ์ด๋ฉฐ, OpenRouter๋Š” ํญ๋„“์€ ๋ชจ๋ธ ๋ผ์šฐํŒ…๊ณผ ํด๋ฐฑ์— ๊ฐ•ํ•ฉ๋‹ˆ๋‹ค. gpt-oss-120B์—์„œ Together, Fireworks, Groq์˜ ํ˜„์žฌ 1 million tokens๋‹น ์ž…๋ ฅ ์š”๊ธˆ์€ $0.15, ์ถœ๋ ฅ ์š”๊ธˆ์€ $0.60์œผ๋กœ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ด ์‹œ์ ์˜ OpenRouter ๋ผ์šฐํŒ… ๊ฐ€๊ฒฉ์€ ๋” ๋‚ฎ์ง€๋งŒ ํฌ๋ ˆ๋”ง ๊ตฌ๋งค ์ˆ˜์ˆ˜๋ฃŒ์™€ ์• ๊ทธ๋ฆฌ๊ฒŒ์ดํ„ฐ ๊ณ„์ธต์ด ์ถ”๊ฐ€๋ฉ๋‹ˆ๋‹ค.

Together AI์— ํ•™์ƒ ํ• ์ธ์ด ์žˆ๋‚˜์š”?

Together AI๋Š” ์ƒ์‹œ ํ•™์ƒ ์š”๊ธˆ์ œ๋ฅผ ๊ณต๊ฐœํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ดˆ๋Œ€ ์ „์šฉ ๋ฆฌ์„œ์น˜ ํฌ๋ ˆ๋”ง ํ”„๋กœ๊ทธ๋žจ์€ ์ •๊ทœ ์ˆ˜์—… ๋ฐ–์—์„œ ํ”„๋กœ์ ํŠธ๋ฅผ ์ง„ํ–‰ํ•˜๋Š” ํ•™์ƒ์—๊ฒŒ ์†Œ๊ทœ๋ชจ ์ง€์›๊ธˆ์„ ์ œ๊ณตํ•˜๋ฉฐ, ๊ฒฐ๊ณผ๋ฌผ์— Together AI๋ฅผ ๋ช…์‹œํ•˜๋„๋ก ์š”๊ตฌํ•ฉ๋‹ˆ๋‹ค.

Together AI์˜ ํ™˜๋ถˆ ์ •์ฑ…์€ ๋ฌด์—‡์ธ๊ฐ€์š”?

Together ์•ฝ๊ด€์ƒ ์ฃผ๋ฌธ์„œ์— ๋‹ฌ๋ฆฌ ๋ช…์‹œ๋˜์ง€ ์•Š๋Š” ํ•œ ์š”๊ธˆ์€ ๊ธฐ๋ณธ์ ์œผ๋กœ ํ™˜๋ถˆ๋˜์ง€ ์•Š๊ณ , ๊ฒฐ์ œ ์˜๋ฌด๋Š” ์ทจ์†Œํ•  ์ˆ˜ ์—†์œผ๋ฉฐ ์ผํ•  ๊ณ„์‚ฐ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. GPU ์˜ˆ์•ฝ๋„ ํ™˜๋ถˆ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํŒŒ์ธํŠœ๋‹ ์ž‘์—…์„ ์ทจ์†Œํ•˜๋ฉด ์™„๋ฃŒ๋œ ์Šคํ…์€ ์ฒญ๊ตฌํ•˜๊ณ  ์™„๋ฃŒ๋˜์ง€ ์•Š์€ ๋ถ€๋ถ„๋งŒ ํ™˜๋ถˆํ•ฉ๋‹ˆ๋‹ค.

Together AI ํฌ๋ ˆ๋”ง์€ ๋งŒ๋ฃŒ๋˜๋‚˜์š”?

๊ตฌ๋งคํ•œ ์„ ๋ถˆ ํฌ๋ ˆ๋”ง์€ ํ˜„์žฌ ๋งŒ๋ฃŒ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ™˜๋ถˆ ๊ฐ€๋Šฅ ์—ฌ๋ถ€์™€๋Š” ๋ณ„๊ฐœ์ž…๋‹ˆ๋‹ค. ํฌ๋ ˆ๋”ง์€ ํ™˜๋ถˆ๋˜์ง€ ์•Š์•„๋„ ๊ณ„์† ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ์ฒญ๊ตฌ์„œ๊ฐ€ ๋ฐœํ–‰๋œ ๋’ค ๊ตฌ๋งคํ•œ ํฌ๋ ˆ๋”ง์œผ๋กœ ๊ธฐ์กด ์—ฐ์ฒด ์ž”์•ก์„ ์ •์‚ฐํ•  ์ˆ˜๋Š” ์—†์Šต๋‹ˆ๋‹ค.

2026๋…„์— Together AI ๊ฐ€๊ฒฉ์ด ๋ฐ”๋€Œ์—ˆ๋‚˜์š”?

๊ทธ๋ ‡์Šต๋‹ˆ๋‹ค. Together AI๋Š” 2026๋…„ 7์›” 8์ผ Provisioned Throughput์„ ์ถœ์‹œํ•ด ๋ถ„๋‹น $0.05/PTU์˜ ์˜ˆ์•ฝ ํ† ํฐ ์šฉ๋Ÿ‰, ์ตœ์†Œ 1๊ฐœ์›” ์•ฝ์ •, 99% ๊ฐ€๋™ ์‹œ๊ฐ„ SLA๋ฅผ ์ถ”๊ฐ€ํ–ˆ์Šต๋‹ˆ๋‹ค. ํ˜„์žฌ ์„œ๋ฒ„๋ฆฌ์Šค ์นดํƒˆ๋กœ๊ทธ์™€ ์ „์šฉ ํ•˜๋“œ์›จ์–ด ์š”๊ธˆ๋„ 6์›” ์ดํ›„ ๋ฐ”๋€Œ์—ˆ์œผ๋ฏ€๋กœ ์ด ๊ธ€์—๋Š” 8์›” 22์ผ ํ™•์ธ ๋‚ ์งœ๋ฅผ ๋ช…์‹œํ–ˆ์Šต๋‹ˆ๋‹ค.

Provisioned Throughput์ด Together ์„œ๋ฒ„๋ฆฌ์Šค๋ณด๋‹ค ์ €๋ ดํ•œ๊ฐ€์š”?

์ž๋™์œผ๋กœ ์ €๋ ดํ•ด์ง€๋Š” ๊ฒƒ์€ ์•„๋‹™๋‹ˆ๋‹ค. ๊ณต๊ฐœ ์ •๊ฐ€์—์„œ PTU 1๊ฐœ๋ฅผ ์™„์ „ํžˆ ์ ์œ ํ•˜๋ฉด 30์ผ ๊ฐ€์น˜๊ฐ€ ํ•ด๋‹น Together ์„œ๋ฒ„๋ฆฌ์Šค ์šฉ๋Ÿ‰๊ณผ ๊ฑฐ์˜ ์ •ํ™•ํžˆ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์‚ฌ์šฉ๋ฅ ์ด ๋‚ฎ์œผ๋ฉด ์‹คํšจ ํ† ํฐ ๊ฐ€๊ฒฉ์ด ์˜ค๋ฆ…๋‹ˆ๋‹ค. PTU๋Š” ์˜ˆ์•ฝ ์šฉ๋Ÿ‰๊ณผ SLA๋ฅผ ๊ตฌ๋งคํ•˜๋Š” ์ƒํ’ˆ์ž…๋‹ˆ๋‹ค. ์•ฝ์ • ํ• ์ธ์„ ํ˜‘์ƒํ•˜๋ฉด ์š”์œจ์ด ์ข‹์•„์งˆ ์ˆ˜ ์žˆ์ง€๋งŒ Together๋Š” ๊ทธ ํ• ์ธํ‘œ๋ฅผ ๊ณต๊ฐœํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

๋น„์ฆˆ๋‹ˆ์Šค ์˜ค๋„ˆ๋ฅผ ์œ„ํ•œ AI Tools Map ๋ฐ›๊ธฐ

AI Tools Map for Business Owners๋Š” ๋ชจ๋ธ ๊ฐ€๊ฒฉ์„ ์‹ค์ œ ๋„์ž… ์Šคํƒ์œผ๋กœ ๋ฐ”๊ฟ” ์ค๋‹ˆ๋‹ค. ๊ฐ ํˆด์˜ ํ’ˆ์งˆ ํ•˜ํ•œ์„ , ๋ผ์šฐํŒ… ์—ญํ• , ๋น„์šฉ ์ „ํ™˜ ๊ธฐ์ค€์„ ๋‹ด์•˜์Šต๋‹ˆ๋‹ค. ๋‹ค์Œ ์—๋””์…˜์„ ๋ฌด๋ฃŒ๋กœ ๋ฐ›์•„๋ณด์„ธ์š”.

๊ฒŒ์‹œ์ผ
์นดํ…Œ๊ณ ๋ฆฌ
AI
Claude ์‚ฌ์šฉ๋ฒ•: Google Workspace ์„ค์น˜๋ถ€ํ„ฐ ํŒ€ ๋„์ž…๊นŒ์ง€

Claude ์‚ฌ์šฉ๋ฒ•: Google Workspace ์„ค์น˜๋ถ€ํ„ฐ ํŒ€ ๋„์ž…๊นŒ์ง€

Claude ์‚ฌ์šฉ๋ฒ•์„ Google Workspace ์—…๋ฌด์— ์ ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ •๋ฆฌํ•ฉ๋‹ˆ๋‹ค. Docs ๋ฌธ์„œ ์ˆ˜์ •, Sheets ๋ฐ์ดํ„ฐ ์ •๋ฆฌ์™€ ํ”ผ๋ฒ—, Slides ๋ฐœํ‘œ ์ž๋ฃŒ ์ž‘์„ฑ๋ถ€ํ„ฐ ์œ ๋ฃŒ ๋ฒ ํƒ€ ์„ค์น˜, ์Šน์ธ ๋ฐฉ์‹, ๊ด€๋ฆฌ์ž ์„ค์ •๊ณผ ํŒ€ ์‹œํ—˜ ์šด์˜์˜ ์„ฑ๊ณผ ์ธก์ •๊นŒ์ง€ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค.2026๋…„ 10์›” 10์ผAI
๋งค์ถœ ๋Œ€์‹œ๋ณด๋“œ ๋งŒ๋“ค๊ธฐ: Claude Dashboards ๋ฒ ํƒ€ ์„ค์ •๊ณผ ๊ฒ€์ฆ

๋งค์ถœ ๋Œ€์‹œ๋ณด๋“œ ๋งŒ๋“ค๊ธฐ: Claude Dashboards ๋ฒ ํƒ€ ์„ค์ •๊ณผ ๊ฒ€์ฆ

Claude Dashboards ๋ฒ ํƒ€๋กœ ๋งค์ถœ ๋Œ€์‹œ๋ณด๋“œ๋ฅผ ๋งŒ๋“œ๋Š” ๋ฐฉ๋ฒ•์„ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค. ์š”๊ธˆ์ œ์™€ ๋ฐ์ดํ„ฐ ์—ฐ๊ฒฐ๋ถ€ํ„ฐ SQLยท์ƒˆ๋กœ๊ณ ์นจ ์‹œ์  ์ ๊ฒ€, ์ง€์—ญ๋ณ„ ์ˆ˜์ฃผ ๊ธˆ์•ก ๊ฒ€์ฆ, ๋™๋ฃŒ์—๊ฒŒ ๊ณต์œ ํ•  ๋•Œ์˜ ์ ‘๊ทผ ๊ถŒํ•œ ํ™•์ธ๊นŒ์ง€ ์•ˆ๋‚ดํ•ฉ๋‹ˆ๋‹ค. ๊ธฐ์กด BI ํˆด์„ ์œ ์ง€ํ•ด์•ผ ํ•  ์—…๋ฌด๋„ ํ•จ๊ป˜ ๋น„๊ตํ•ฉ๋‹ˆ๋‹ค.2026๋…„ 10์›” 10์ผAI
AI ํšŒ์˜๋ก ์•ฑ Granola ๋ฆฌ๋ทฐ: ์š”๊ธˆ๊ณผ ๊ธฐ๋Šฅ, ๋„์ž… ์ „ ํ™•์ธํ•  ํ•œ๊ณ„

AI ํšŒ์˜๋ก ์•ฑ Granola ๋ฆฌ๋ทฐ: ์š”๊ธˆ๊ณผ ๊ธฐ๋Šฅ, ๋„์ž… ์ „ ํ™•์ธํ•  ํ•œ๊ณ„

AI ํšŒ์˜๋ก ์•ฑ Granola์˜ ์š”๊ธˆ๊ณผ ๊ธฐ๋Šฅ์„ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค. ๋ด‡ ์—†๋Š” ๊ธฐ๋ก ๋ฐฉ์‹๋ถ€ํ„ฐ ํ…œํ”Œ๋ฆฟยท๋ ˆ์‹œํ”ผ, ์—ฐ๋™, ๋™์˜์™€ ๋ฐ์ดํ„ฐ ๊ด€๋ฆฌ, ๊ธฐ๊ธฐ๋ณ„ ํ•œ๊ณ„๊นŒ์ง€ ๋น„๊ตํ•ฉ๋‹ˆ๋‹ค. ์ฐฝ์—…์žยท์˜์—… ๋‹ด๋‹น์žยท์ปจ์„คํ„ดํŠธ๊ฐ€ ๋ฌด๋ฃŒ Basic์œผ๋กœ ์‹œ์ž‘ํ• ์ง€, Business๋กœ ์ „ํ™˜ํ• ์ง€, ๋‹ค๋ฅธ ํˆด์„ ๊ณ ๋ฅผ์ง€ ํŒ๋‹จํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.2026๋…„ 10์›” 10์ผAI
์ด๋ฉ”์ผ ์ž๋™ํ™” ํˆด Fyxer ๋ฆฌ๋ทฐ: ์š”๊ธˆ๊ณผ ๊ธฐ๋Šฅ, ๊ตฌ๋…ํ•  ๋งŒํ• ๊นŒ์š”?

์ด๋ฉ”์ผ ์ž๋™ํ™” ํˆด Fyxer ๋ฆฌ๋ทฐ: ์š”๊ธˆ๊ณผ ๊ธฐ๋Šฅ, ๊ตฌ๋…ํ•  ๋งŒํ• ๊นŒ์š”?

์ด๋ฉ”์ผ ์ž๋™ํ™” ํˆด Fyxer์˜ ๋ฉ”์ผ ๋ถ„๋ฅ˜, ๋‹ต์žฅ ์ดˆ์•ˆ, ํšŒ์˜๋ก๊ณผ ์š”๊ธˆ์„ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค. ProยทTeam์˜ ํฌ๋ ˆ๋”ง ์ œํ•œ๊ณผ ๊ฐœ์ธ์ •๋ณด ์„ค์ •, ๋ฌธ์„œ ๊ฐ„ ์ฐจ์ด, SaneBoxยทGeminiยทCopilot ๋Œ€์•ˆ์„ ๋น„๊ตํ•ด ์ฐฝ์—…์ž์™€ ์˜์—…ํŒ€์ด ๊ตฌ๋…ํ•  ๊ฐ€์น˜๊ฐ€ ์žˆ๋Š”์ง€ ํŒ๋‹จํ•  ์ˆ˜ ์žˆ๋„๋ก ์ •๋ฆฌํ–ˆ์Šต๋‹ˆ๋‹ค.2026๋…„ 10์›” 9์ผAI
GPT 6 ์„ ํƒ ๊ฐ€์ด๋“œ: ๋ชจ๋ธ๋ณ„ ์ฐจ์ด๋ถ€ํ„ฐ ์ถœ์‹œ์ผยท์š”๊ธˆ๊นŒ์ง€

GPT 6 ์„ ํƒ ๊ฐ€์ด๋“œ: ๋ชจ๋ธ๋ณ„ ์ฐจ์ด๋ถ€ํ„ฐ ์ถœ์‹œ์ผยท์š”๊ธˆ๊นŒ์ง€

GPT 6์˜ AstraยทSolยท6.1 SolยทLuna๋Š” ๋ฌด์—‡์ด ๋‹ค๋ฅผ๊นŒ์š”? ๋ชจ๋ธ๋ณ„ ์ถœ์‹œ์ผ๊ณผ ChatGPT ์š”๊ธˆ์ œ๋ณ„ ์ด์šฉ ๋ฒ”์œ„, WorkยทCodexยทAPI ์ง€์›์„ ์ •๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ๋‹ฌ๋Ÿฌ ๊ธฐ์ค€ ํ† ํฐ ์š”๊ธˆ๊ณผ ์›”๊ฐ„ ๋น„์šฉ ๊ณ„์‚ฐ, ์บ์‹œ ์ž…๋ ฅ ์š”๊ธˆ, GPT-5.5 ์ง€์› ์ข…๋ฃŒ ์ „ ํ™•์ธํ•  ์‚ฌํ•ญ๊นŒ์ง€ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค.2026๋…„ 10์›” 9์ผAI
ChatGPT ์š”๊ธˆ์ œ, ๋ฌด๋ฃŒ๋กœ ์–ด๋””๊นŒ์ง€ ์“ธ ์ˆ˜ ์žˆ์„๊นŒ์š”?

ChatGPT ์š”๊ธˆ์ œ, ๋ฌด๋ฃŒ๋กœ ์–ด๋””๊นŒ์ง€ ์“ธ ์ˆ˜ ์žˆ์„๊นŒ์š”?

ChatGPT ์š”๊ธˆ์ œ ์ค‘ Free๋Š” ์—…๋ฌด์—๋„ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํŒŒ์ผยท์ด๋ฏธ์ง€ยท์Œ์„ฑ ์‚ฌ์šฉ ํ•œ๋„, ๊ด‘๊ณ  ๋…ธ์ถœ, ๊ณ„์ • ์—†์ด ์ด์šฉํ•˜๋Š” ์กฐ๊ฑด์„ ์ •๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ๋ฏธ๊ตญ ๊ธฐ์ค€ ์›” $8์ธ Go์™€ ์›” $20์ธ Plus์˜ ์ฐจ์ด, API ๋ณ„๋„ ๊ณผ๊ธˆ๊นŒ์ง€ ํ™•์ธํ•˜๊ณ  ์—…๋ฌด์— ๋งž๋Š” ์š”๊ธˆ์ œ๋ฅผ ์„ ํƒํ•˜์‹œ๊ธฐ ๋ฐ”๋ž๋‹ˆ๋‹ค.2026๋…„ 10์›” 9์ผAI
Gemini Enterprise AI ์—์ด์ „ํŠธ: ๊ธฐ๋Šฅยท๊ฐ€๊ฒฉยท์‹œ๋ฒ” ๋„์ž… ๊ฐ€์ด๋“œ

Gemini Enterprise AI ์—์ด์ „ํŠธ: ๊ธฐ๋Šฅยท๊ฐ€๊ฒฉยท์‹œ๋ฒ” ๋„์ž… ๊ฐ€์ด๋“œ

Gemini Enterprise AI ์—์ด์ „ํŠธ ๋„์ž…์„ ๊ฒ€ํ† ํ•˜๋Š” IT ๋‹ด๋‹น์ž๋ฅผ ์œ„ํ•œ ๊ฐ€์ด๋“œ์ž…๋‹ˆ๋‹ค. ์ปค๋„ฅํ„ฐ์™€ ๊ณ„์ • ๊ถŒํ•œ, ์ง€์ถœ ํ•œ๋„, ๊ฐ€๊ฒฉ ํ™•์ธ ๋ฐฉ๋ฒ•๊ณผ 30์ผ Plus ๋ฌด๋ฃŒ ์ฒดํ—˜์„ ์‚ดํŽด๋ณด๊ณ , ์–ผ๋ฆฌ ์•ก์„ธ์Šค ๊ธฐ๋Šฅ๊ณผ ๊ฒ€ํ† ยท๊ด€๋ฆฌ ๋น„์šฉ๊นŒ์ง€ ๋ฐ˜์˜ํ•ด ์‹œ๋ฒ” ๋„์ž…์˜ ๋ฒ”์œ„๋ฅผ ์ •ํ•ฉ๋‹ˆ๋‹ค.2026๋…„ 10์›” 9์ผAI
AI ์—์ด์ „ํŠธ Marblism ๋ฆฌ๋ทฐ: 7๊ฐœ ์—ญํ• ๊ณผ ์š”๊ธˆ, ๋จผ์ € ๋งก๊ธธ ์—…๋ฌด

AI ์—์ด์ „ํŠธ Marblism ๋ฆฌ๋ทฐ: 7๊ฐœ ์—ญํ• ๊ณผ ์š”๊ธˆ, ๋จผ์ € ๋งก๊ธธ ์—…๋ฌด

AI ์—์ด์ „ํŠธ Marblism์˜ 7๊ฐœ ์—ญํ• ๊ณผ ์›” $44ยท์—ฐ๊ฐ„ ๊ฒฐ์ œ ์‹œ ์›” ํ™˜์‚ฐ $24 ์š”๊ธˆ, ๊ณต์œ  50์‹œ๊ฐ„์˜ ์ฐจ๊ฐ ๋ฐฉ์‹์„ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค. FyxerยทSmith.aiยทSintra ๋น„๊ต์™€ ๊ณต๊ฐœ ๋ฆฌ๋ทฐ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ๋จผ์ € ๋งก๊ธธ ์—…๋ฌด, ๊ฒ€ํ† ํ•  ๊ฒฐ๊ณผ๋ฌผ, ์‹œ๊ฐ„์„ ์ ˆ์•ฝํ•˜๋Š”์ง€ ํŒ๋‹จํ•  ๊ธฐ์ค€์„ ์ •๋ฆฌํ•ฉ๋‹ˆ๋‹ค.2026๋…„ 10์›” 9์ผAI
๋‰ด์Šค๋ ˆํ„ฐ

๋งค์ฃผ ์ผ์š”์ผ, ํ•œ ํ†ต์˜ ํŽธ์ง€.๋œจ๊ฑฐ์šด ์˜๊ฒฌ์ด ์•„๋‹Œ, ๋Œ์•„๊ฐ€๋Š” ์‹œ์Šคํ…œ.

์ฃผ๊ฐ„ ๋ฐœํ–‰. ์ŠคํŒธ ์—†์Œ. ์–ธ์ œ๋“  ํ•ด์ง€ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.