ํ“จ๋ฆฌ์˜ค์‚ฌ ๋ ˆ๋‹ˆ๊ฒŒ์ด๋“œ ๊ธฐ์กด ์„ฑ๋Šฅ ๋Œ€๋ฐฐ ์ „๋ ฅํšจ์œจ ๊ฐ•์  ์•Œ์•„๋ณด๊ธฐ

์ด๋ฏธ์ง€
  ํ“จ๋ฆฌ์˜ค์‚ฌ ๋ ˆ๋‹ˆ๊ฒŒ์ด๋“œ(RNGD)๊ฐ€ ์—”๋น„๋””์•„๋ณด๋‹ค ์šฐ์ˆ˜ํ•˜๋‹ค”๋Š” ํ‘œํ˜„์€ ๋ถ€๋ถ„์ ์œผ๋กœ๋งŒ ๋งž๋Š” ๋ง์ž…๋‹ˆ๋‹ค. ์–ด๋–ค ์šฉ๋„(ํŠนํžˆ LLM ์ถ”๋ก , ์ „๋ ฅ ํšจ์œจ)์—์„œ๋Š” ๊ฐ•์ ์ด ์žˆ์ง€๋งŒ, ๋ฒ”์šฉ์œผ๋กœ “์—”๋น„๋””์•„๋ณด๋‹ค ์šฐ์ˆ˜”๋ผ๊ณ  ๋งํ•˜๊ธฐ์—๋Š” ๊ณผ์žฅ์ž…๋‹ˆ๋‹ค. ๋ญ๊ฐ€ ๋” ์ข‹์€์ง€ ‘์กฐ๊ฑด’๋ถ€ํ„ฐ ๋‹ค๋ฆ„ RNGD๋Š” AI ์ถ”๋ก (inference) ์ „์šฉ NPU๋ผ์„œ, ์ด๋ฏธ ํ•™์Šต๋œ LLM·๋น„์ „ ๋ชจ๋ธ์„ ๋Œ๋ฆด ๋•Œ ์ „๋ ฅ ๋Œ€๋น„ ์„ฑ๋Šฅ์ด ๋งค์šฐ ์ข‹๊ฒŒ ์„ค๊ณ„๋œ ์นฉ์ž…๋‹ˆ๋‹ค. ์—”๋น„๋””์•„ A100·H100·B200 ๊ฐ™์€ GPU๋Š” ํ•™์Šต+์ถ”๋ก  ๋ชจ๋‘๋ฅผ ๋…ธ๋ฆฌ๋Š” ๋ฒ”์šฉ ๊ฐ€์†๊ธฐ๋ผ์„œ, ์ ˆ๋Œ€ ์„ฑ๋Šฅ·์ƒํƒœ๊ณ„(CUDA, ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ, ํˆด)๊นŒ์ง€ ํฌํ•จํ•˜๋ฉด ์•„์ง ์‹œ์žฅ ์ง€๋ฐฐ์ ์ž…๋‹ˆ๋‹ค. ์ฆ‰ “๋ฌด์—‡์„ ๊ธฐ์ค€์œผ๋กœ ์šฐ์ˆ˜ํ•˜๋‹ค๊ณ  ํ•˜๋А๋ƒ”๊ฐ€ ํ•ต์‹ฌ์ž…๋‹ˆ๋‹ค. ์ „๋ ฅ ํšจ์œจ·๋น„์šฉ ์ธก๋ฉด์—์„œ๋Š” ๊ฐ•์  FuriosaAI ์„œ๋ฒ„(8์žฅ RNGD)๋Š” FP8 ๊ธฐ์ค€ 4 PFLOPS์— 3kW๋กœ, ๊ฐ™์€ ๊ธ‰ ์ถ”๋ก  ์„ฑ๋Šฅ ๋Œ€๋น„ ์ „๋ ฅ ์†Œ๋ชจ๊ฐ€ ์ ์–ด ์„ฑ๋Šฅ/W(ํšจ์œจ)์ด ๋†’๋‹ค๊ณ  ํ‰๊ฐ€๋ฉ๋‹ˆ๋‹ค. LG AI ์—ฐ๊ตฌ์†Œ๋Š” ์ž์‚ฌ EXAONE ๋ชจ๋ธ ์ถ”๋ก ์—์„œ GPU ๋Œ€๋น„ 2๋ฐฐ ์ด์ƒ ๋†’์€ ์„ฑ๋Šฅ/์™€ํŠธ๋ฅผ ๋ดค๋‹ค๊ณ  ํ–ˆ๊ณ , ์ผ๋ถ€ ํ…Œ์ŠคํŠธ์—์„œ๋Š” ์—”๋น„๋””์•„ 5๋…„ ์ „ ์„ธ๋Œ€ GPU๋ณด๋‹ค ์ตœ๋Œ€ 2.25๋ฐฐ ํšจ์œจ ์šฐ์œ„๊ฐ€ ๋‚˜์˜ค๊ธฐ๋„ ํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋ž˜์„œ “๋™์ผ ์ถ”๋ก  ์ฒ˜๋ฆฌ๋Ÿ‰์„ ๋” ์ ์€ ์ „๋ ฅ·๋น„์šฉ์œผ๋กœ ๋Œ๋ฆฐ๋‹ค”๋Š” ์˜๋ฏธ์—์„œ ํšจ์œจ์ด ๋” ์šฐ์ˆ˜ํ•˜๋‹ค๋Š” ์ฃผ์žฅ์€ ๊ฝค ๊ทผ๊ฑฐ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ์ ˆ๋Œ€ ์„ฑ๋Šฅ·์ƒํƒœ๊ณ„๋Š” ์•„์ง ์—”๋น„๋””์•„ ์šฐ์œ„ ๋‹จ์ผ ์นด๋“œ ๊ธฐ์ค€์œผ๋กœ ๋ณด๋ฉด RNGD๋Š” H100/B200๋ณด๋‹ค ์ ˆ๋Œ€ ์—ฐ์‚ฐ๋Ÿ‰·๋ฉ”๋ชจ๋ฆฌ ๋Œ€์—ญํญ์ด ๋‚ฎ๊ณ , ์ฃผ๋กœ ์ถ”๋ก ์— ์ตœ์ ํ™”๋œ ๊ตฌ์กฐ๋ผ ํ•™์Šต ์„ฑ๋Šฅ์—์„œ๋Š” ์ง์ ‘ ๋น„๊ต ์ƒ๋Œ€๊ฐ€ ์•„๋‹™๋‹ˆ๋‹ค. ๋ฌด์—‡๋ณด๋‹ค CUDA, cuDNN, Triton, ๋‹ค์–‘ํ•œ ํ”„๋ ˆ์ž„์›Œํฌ ์ตœ์ ํ™” ๋“ฑ ์†Œํ”„ํŠธ์›จ์–ด ์ƒํƒœ๊ณ„๋Š” ์•„์ง ์—”๋น„๋””์•„๊ฐ€ ์••๋„์ ์ด๋ผ “๊ทธ๋ƒฅ ๊ฝ‚์œผ๋ฉด ์ž˜ ๋Œ์•„๊ฐ€๋Š” ํ™˜๊ฒฝ”์€ ์—”๋น„๋””์•„ ์ชฝ์ด ํ›จ์”ฌ ์•ž์„œ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋ž˜์„œ ๋Œ€ํ˜• ํด๋ผ์šฐ๋“œ(AWS, GCP, Azure)๋‚˜ ๋น…ํ…Œํฌ๊ฐ€ ํ•™์Šต·์ถ”๋ก  ๋ชจ๋‘ ๊ณ ๋ คํ•  ๋• ์—ฌ์ „ํžˆ ์—”๋น„๋””์•„๋ฅผ ๊ธฐ๋ณธ ์˜ต์…˜์œผ๋กœ ์“ฐ๋Š” ์ƒํ™ฉ์ž…๋‹ˆ๋‹ค. ​ ์ •๋ฆฌํ•˜๋ฉด (ํˆฌ์ž/์‹ค์‚ฌ์šฉ ๊ด€์ ) “RNGD๊ฐ€ ์—”๋น„๋””์•„ ์นฉ๋ณด๋‹ค ์šฐ์ˆ˜ํ•˜๋‹ค” → ์ถ”๋ก  ์ „์šฉ,...

์ด๋งˆํŠธ ๊ณ ๋ž˜์ž‡ ํŽ˜์Šคํƒ€ ์ง€๊ธˆ ๋ญ๊ฐ€ ์–ผ๋งˆ๋‚˜ ์‹ธ๋ƒ? (ํ˜„์žฌํŒฉํŠธ ์ด์ •๋ฆฌ

๐Ÿ‹ ์ด๋งˆํŠธ ๊ณ ๋ž˜์ž‡ ํŽ˜์Šคํƒ€ ์ง€๊ธˆ ๋ญ๊ฐ€ ์–ผ๋งˆ๋‚˜ ์‹ธ๋ƒ? (ํ˜„์žฌํŒฉํŠธ ์ด์ •๋ฆฌ)

๐Ÿ“… ํ–‰์‚ฌ ๊ธฐ๊ฐ„ & ์ง„ํ–‰ ๋ฐฉ์‹

ํ˜„์žฌ ๊ธฐ์ค€ ํ™•์ธ๋œ ์ •๋ณด๋กœ ๋ณด๋ฉด ์ด๋ฒˆ ๊ณ ๋ž˜์ž‡ ํŽ˜์Šคํƒ€๋Š” ๊ธฐ๊ฐ„์„ ๊ธฐ์กด๋ณด๋‹ค ๋Š˜๋ ค ์ง„ํ–‰ํ•˜๋ฉฐ ์ „๊ตญ ์ด๋งˆํŠธ ๋งค์žฅ์—์„œ ๋™์‹œ์— ์šด์˜๋ฉ๋‹ˆ๋‹ค. ํŠนํžˆ ์ผ์ฃผ์ผ ์ด์ƒ ์ด์–ด์ง€๋Š” ๋กฑ๋Ÿฐ ํ• ์ธ ํ–‰์‚ฌ๋ผ์„œ ์ฃผ๋ง์—๋งŒ ํ˜œํƒ์ด ๋ชฐ๋ฆฌ์ง€ ์•Š๊ณ  ํ‰์ผ์—๋„ ์ถฉ๋ถ„ํžˆ ์‹ธ๊ฒŒ ์‚ด ์ˆ˜ ์žˆ๋Š” ์ ์ด ์žฅ์ ์ž…๋‹ˆ๋‹ค.

๐Ÿ›’ ์ฃผ์š” ํ• ์ธ ํ’ˆ๋ชฉ & ์‹ค์ œ ์ฒด๊ฐ ๊ฐ€๊ฒฉ

์ด๋ฒˆ ํ–‰์‚ฌ์˜ ํ•ต์‹ฌ์€ ์—ญ์‹œ ๋จน๊ฑฐ๋ฆฌ์ž…๋‹ˆ๋‹ค. ์‚ผ๊ฒน์‚ด, ํ•œ์šฐ, ์ˆ˜์‚ฐ๋ฌผ, ๋‹ฌ๊ฑ€, ๋”ธ๊ธฐ ๊ฐ™์€ ์‹ค์ƒํ™œ ํ•ต์‹ฌ ์‹ํ’ˆ์ด ์ค‘์‹ฌ์ด๊ณ  ์—ฌ๊ธฐ์— ์ƒํ™œ์šฉํ’ˆ + ์ผ๋ถ€ ๊ฐ€์ „๊นŒ์ง€ ์ถ”๊ฐ€๋˜๋ฉด์„œ ์‹ค์ œ๋กœ ์žฅ๋ณด๋Ÿฌ ๊ฐ€๋ฉด ์ฒด๊ฐ ํ• ์ธ ํญ์ด ๊ฝค ํฌ๊ฒŒ ๋А๊ปด์ง€๋Š” ๊ตฌ์กฐ์ž…๋‹ˆ๋‹ค.

๐Ÿ”Ž ํ• ์ธ ํ˜œํƒ ํ•ต์‹ฌ ์ •๋ฆฌ

์‹ ์„ธ๊ณ„ ํฌ์ธํŠธ์™€ ํ–‰์‚ฌ์นด๋“œ๊ฐ€ ์žˆ์œผ๋ฉด ํ˜œํƒ์ด ํ›จ์”ฌ ์ปค์ง‘๋‹ˆ๋‹ค. ๋Œ€ํ‘œ์ ์œผ๋กœ ๊ณ ๊ธฐ·์ˆ˜์‚ฐ๋ฌผ ์ผ๋ถ€ ํ’ˆ๋ชฉ์€ ์ตœ๋Œ€ 50% ์ˆ˜์ค€์˜ ํŒŒ๊ฒฉ ํ• ์ธ์ด ์ ์šฉ๋˜๋ฉฐ ๊ณ„๋ž€·๊ณผ์ผ·์ƒํ™œ์šฉํ’ˆ์€ 20%~40% ์„ ์—์„œ ํ• ์ธ ๋ฐ›๋Š” ๊ตฌ์„ฑ์ด ๋งŽ์Šต๋‹ˆ๋‹ค.

๐Ÿ“ ๊ผญ ์•Œ์•„์•ผ ํ•  ๊ตฌ๋งค ํŒ

์ธ๊ธฐ ํ’ˆ๋ชฉ์€ ํ–‰์‚ฌ ์‹œ์ž‘ ์ดˆ๋ฐ˜์— ํ’ˆ์ ˆ๋˜๋Š” ๊ฒฝ์šฐ๊ฐ€ ๋งŽ๊ธฐ ๋•Œ๋ฌธ์— ๊ฐ€๋Šฅํ•˜๋ฉด ํ–‰์‚ฌ ์ดˆ๋ฐ˜ ๋ฐฉ๋ฌธ์ด ์œ ๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ๋˜ํ•œ ์นด๋“œ ์กฐ๊ฑด / ํฌ์ธํŠธ ์กฐ๊ฑด์ด ์žˆ๋Š” ํ’ˆ๋ชฉ์ด ์žˆ์œผ๋‹ˆ ๊ณ„์‚ฐ ์ „์— ๋ฐ˜๋“œ์‹œ ํ• ์ธ ์ ์šฉ ์—ฌ๋ถ€๋ฅผ ํ™•์ธํ•˜๋Š” ๊ฒƒ์ด ์ข‹์Šต๋‹ˆ๋‹ค.

์ด ๋ธ”๋กœ๊ทธ์˜ ์ธ๊ธฐ ๊ฒŒ์‹œ๋ฌผ

์Šคํˆฌ์‹œ ์ •ํ’ˆ ๊ตฌ๋ณ„๋ฒ• ์™„๋ฒฝ ๊ฐ€์ด๋“œ 2025 | Stรผssy ๊ฐ€ํ’ˆ ๊ฐ๋ณ„ ํŒ

์ธ์Šคํƒ€๊ทธ๋žจ ์Šคํ† ๋ฆฌ ์ˆจ๊น€ ๊ธฐ๋Šฅ ์™„๋ฒฝ ๋ถ„์„ (์ฐจ๋‹จ๊ณผ์˜ ์ฐจ์ด)

๋‚˜๋…ธ๋ฐ”๋‚˜๋‚˜ ํญ๋ฐœ ์ธ๊ธฐ, ์˜คํ”ˆAI · ๋””์ฆˆ๋‹ˆ ์†์žก์€ ๋น„๋ฐ€?