ํ“จ๋ฆฌ์˜ค์‚ฌ ๋ ˆ๋‹ˆ๊ฒŒ์ด๋“œ ๊ธฐ์กด ์„ฑ๋Šฅ ๋Œ€๋ฐฐ ์ „๋ ฅํšจ์œจ ๊ฐ•์  ์•Œ์•„๋ณด๊ธฐ

์ด๋ฏธ์ง€
  ํ“จ๋ฆฌ์˜ค์‚ฌ ๋ ˆ๋‹ˆ๊ฒŒ์ด๋“œ(RNGD)๊ฐ€ ์—”๋น„๋””์•„๋ณด๋‹ค ์šฐ์ˆ˜ํ•˜๋‹ค”๋Š” ํ‘œํ˜„์€ ๋ถ€๋ถ„์ ์œผ๋กœ๋งŒ ๋งž๋Š” ๋ง์ž…๋‹ˆ๋‹ค. ์–ด๋–ค ์šฉ๋„(ํŠนํžˆ LLM ์ถ”๋ก , ์ „๋ ฅ ํšจ์œจ)์—์„œ๋Š” ๊ฐ•์ ์ด ์žˆ์ง€๋งŒ, ๋ฒ”์šฉ์œผ๋กœ “์—”๋น„๋””์•„๋ณด๋‹ค ์šฐ์ˆ˜”๋ผ๊ณ  ๋งํ•˜๊ธฐ์—๋Š” ๊ณผ์žฅ์ž…๋‹ˆ๋‹ค. ๋ญ๊ฐ€ ๋” ์ข‹์€์ง€ ‘์กฐ๊ฑด’๋ถ€ํ„ฐ ๋‹ค๋ฆ„ RNGD๋Š” AI ์ถ”๋ก (inference) ์ „์šฉ NPU๋ผ์„œ, ์ด๋ฏธ ํ•™์Šต๋œ LLM·๋น„์ „ ๋ชจ๋ธ์„ ๋Œ๋ฆด ๋•Œ ์ „๋ ฅ ๋Œ€๋น„ ์„ฑ๋Šฅ์ด ๋งค์šฐ ์ข‹๊ฒŒ ์„ค๊ณ„๋œ ์นฉ์ž…๋‹ˆ๋‹ค. ์—”๋น„๋””์•„ A100·H100·B200 ๊ฐ™์€ GPU๋Š” ํ•™์Šต+์ถ”๋ก  ๋ชจ๋‘๋ฅผ ๋…ธ๋ฆฌ๋Š” ๋ฒ”์šฉ ๊ฐ€์†๊ธฐ๋ผ์„œ, ์ ˆ๋Œ€ ์„ฑ๋Šฅ·์ƒํƒœ๊ณ„(CUDA, ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ, ํˆด)๊นŒ์ง€ ํฌํ•จํ•˜๋ฉด ์•„์ง ์‹œ์žฅ ์ง€๋ฐฐ์ ์ž…๋‹ˆ๋‹ค. ์ฆ‰ “๋ฌด์—‡์„ ๊ธฐ์ค€์œผ๋กœ ์šฐ์ˆ˜ํ•˜๋‹ค๊ณ  ํ•˜๋А๋ƒ”๊ฐ€ ํ•ต์‹ฌ์ž…๋‹ˆ๋‹ค. ์ „๋ ฅ ํšจ์œจ·๋น„์šฉ ์ธก๋ฉด์—์„œ๋Š” ๊ฐ•์  FuriosaAI ์„œ๋ฒ„(8์žฅ RNGD)๋Š” FP8 ๊ธฐ์ค€ 4 PFLOPS์— 3kW๋กœ, ๊ฐ™์€ ๊ธ‰ ์ถ”๋ก  ์„ฑ๋Šฅ ๋Œ€๋น„ ์ „๋ ฅ ์†Œ๋ชจ๊ฐ€ ์ ์–ด ์„ฑ๋Šฅ/W(ํšจ์œจ)์ด ๋†’๋‹ค๊ณ  ํ‰๊ฐ€๋ฉ๋‹ˆ๋‹ค. LG AI ์—ฐ๊ตฌ์†Œ๋Š” ์ž์‚ฌ EXAONE ๋ชจ๋ธ ์ถ”๋ก ์—์„œ GPU ๋Œ€๋น„ 2๋ฐฐ ์ด์ƒ ๋†’์€ ์„ฑ๋Šฅ/์™€ํŠธ๋ฅผ ๋ดค๋‹ค๊ณ  ํ–ˆ๊ณ , ์ผ๋ถ€ ํ…Œ์ŠคํŠธ์—์„œ๋Š” ์—”๋น„๋””์•„ 5๋…„ ์ „ ์„ธ๋Œ€ GPU๋ณด๋‹ค ์ตœ๋Œ€ 2.25๋ฐฐ ํšจ์œจ ์šฐ์œ„๊ฐ€ ๋‚˜์˜ค๊ธฐ๋„ ํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋ž˜์„œ “๋™์ผ ์ถ”๋ก  ์ฒ˜๋ฆฌ๋Ÿ‰์„ ๋” ์ ์€ ์ „๋ ฅ·๋น„์šฉ์œผ๋กœ ๋Œ๋ฆฐ๋‹ค”๋Š” ์˜๋ฏธ์—์„œ ํšจ์œจ์ด ๋” ์šฐ์ˆ˜ํ•˜๋‹ค๋Š” ์ฃผ์žฅ์€ ๊ฝค ๊ทผ๊ฑฐ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ์ ˆ๋Œ€ ์„ฑ๋Šฅ·์ƒํƒœ๊ณ„๋Š” ์•„์ง ์—”๋น„๋””์•„ ์šฐ์œ„ ๋‹จ์ผ ์นด๋“œ ๊ธฐ์ค€์œผ๋กœ ๋ณด๋ฉด RNGD๋Š” H100/B200๋ณด๋‹ค ์ ˆ๋Œ€ ์—ฐ์‚ฐ๋Ÿ‰·๋ฉ”๋ชจ๋ฆฌ ๋Œ€์—ญํญ์ด ๋‚ฎ๊ณ , ์ฃผ๋กœ ์ถ”๋ก ์— ์ตœ์ ํ™”๋œ ๊ตฌ์กฐ๋ผ ํ•™์Šต ์„ฑ๋Šฅ์—์„œ๋Š” ์ง์ ‘ ๋น„๊ต ์ƒ๋Œ€๊ฐ€ ์•„๋‹™๋‹ˆ๋‹ค. ๋ฌด์—‡๋ณด๋‹ค CUDA, cuDNN, Triton, ๋‹ค์–‘ํ•œ ํ”„๋ ˆ์ž„์›Œํฌ ์ตœ์ ํ™” ๋“ฑ ์†Œํ”„ํŠธ์›จ์–ด ์ƒํƒœ๊ณ„๋Š” ์•„์ง ์—”๋น„๋””์•„๊ฐ€ ์••๋„์ ์ด๋ผ “๊ทธ๋ƒฅ ๊ฝ‚์œผ๋ฉด ์ž˜ ๋Œ์•„๊ฐ€๋Š” ํ™˜๊ฒฝ”์€ ์—”๋น„๋””์•„ ์ชฝ์ด ํ›จ์”ฌ ์•ž์„œ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋ž˜์„œ ๋Œ€ํ˜• ํด๋ผ์šฐ๋“œ(AWS, GCP, Azure)๋‚˜ ๋น…ํ…Œํฌ๊ฐ€ ํ•™์Šต·์ถ”๋ก  ๋ชจ๋‘ ๊ณ ๋ คํ•  ๋• ์—ฌ์ „ํžˆ ์—”๋น„๋””์•„๋ฅผ ๊ธฐ๋ณธ ์˜ต์…˜์œผ๋กœ ์“ฐ๋Š” ์ƒํ™ฉ์ž…๋‹ˆ๋‹ค. ​ ์ •๋ฆฌํ•˜๋ฉด (ํˆฌ์ž/์‹ค์‚ฌ์šฉ ๊ด€์ ) “RNGD๊ฐ€ ์—”๋น„๋””์•„ ์นฉ๋ณด๋‹ค ์šฐ์ˆ˜ํ•˜๋‹ค” → ์ถ”๋ก  ์ „์šฉ,...

์ฒ ๋„๋…ธ์กฐ ํŒŒ์—… ๋Œ€๋น„ ์ˆ˜๋„๊ถŒ ์ „์ฒ ·์ง€๋ฐฉ์—ด์ฐจ ๊ฐ์ถ• ์šดํ–‰๋ฅ ๊ณผ ๋Œ€์ฒด ๊ตํ†ต์ˆ˜๋‹จ ์•Œ์•„๋ณด๊ธฐ

์ฒ ๋„๋…ธ์กฐ ํŒŒ์—… ๋Œ€๋น„
์ˆ˜๋„๊ถŒ ์ „์ฒ ·์ง€๋ฐฉ์—ด์ฐจ ๊ฐ์ถ• ์šดํ–‰๋ฅ ๊ณผ
๋Œ€์ฒด ๊ตํ†ต์ˆ˜๋‹จ ์ด์ •๋ฆฌ

1. ํŒŒ์—… ์‹œ ์šดํ–‰๋ฅ  ๊ฐ์ถ• ๊ฐœ์š”

์ฒ ๋„๋…ธ์กฐ๊ฐ€ ๋ฌด๊ธฐํ•œ ํŒŒ์—…์„ ์ง„ํ–‰ํ•˜๋ฉด ์ฝ”๋ ˆ์ผ์€ ํ•„์ˆ˜์œ ์ง€ ์—…๋ฌด ์ธ๋ ฅ๊ณผ ๋Œ€์ฒด ์ธ๋ ฅ์„ ๋™์›ํ•ด ์—ด์ฐจ ์šดํ–‰์„ ์œ ์ง€ํ•˜๋„๋ก ํ•ฉ๋‹ˆ๋‹ค.




ํŒŒ์—… ์ค‘์—๋„ ์ „์ฒ  ๋ฐ KTX ๋“ฑ์€ ์ผ์ • ์ˆ˜์ค€ ์šดํ–‰๋ฅ ์„ ํ™•๋ณดํ•˜๋ ค๋Š” ๊ณ„ํš์ด ๋ฐœํ‘œ๋œ ๋ฐ” ์žˆ์Šต๋‹ˆ๋‹ค.




ํ•˜์ง€๋งŒ ํ‰์ƒ์‹œ ๋Œ€๋น„ ๋ฐฐ์ฐจ ๊ฐ„๊ฒฉ์ด ๊ธธ์–ด์ง€๊ณ  ์˜คํ›„ ๋น„์ˆ˜๊ธฐ ์‹œ๊ฐ„์—๋Š” ์šดํ–‰๋ฅ ์ด ๋” ๋–จ์–ด์งˆ ๊ฐ€๋Šฅ์„ฑ์ด ํฝ๋‹ˆ๋‹ค.

2. ์ˆ˜๋„๊ถŒ ์ „์ฒ  ์šดํ–‰๋ฅ  ๋ณ€ํ™”

์ˆ˜๋„๊ถŒ ๊ด‘์—ญ์ „์ฒ ์€ ์ผ๋ฐ˜์ ์œผ๋กœ ํ‰์ƒ์‹œ ๋Œ€๋น„ ๊ฐ์ถ• ์šดํ–‰๋ฉ๋‹ˆ๋‹ค.




์ผ๋ถ€ ๊ณ„ํš์—์„œ๋Š” ๊ฐ์ถ• ์ดํ›„์—๋„ ์ „์ฒด์ ์œผ๋กœ ์ผ์ • ์ˆ˜์ค€์˜ ์šดํ–‰๋ฅ  ํ™•๋ณด๋ฅผ ์‹œ๋„ํ•œ๋‹ค๋Š” ๋ฐœํ‘œ๊ฐ€ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค.




์ถœํ‡ด๊ทผ ๋“ฑ ํ˜ผ์žก ์‹œ๊ฐ„๋Œ€์—๋Š” ๋‹ค์†Œ ๋†’์€ ์šดํ–‰๋ฅ ์„ ์œ ์ง€ํ•ด ์šดํ–‰์„ ์‹œ๋„ํ•˜๋Š” ๊ฒฝ์šฐ๋„ ๋ณด๊ณ ๋œ ๋ฐ” ์žˆ์Šต๋‹ˆ๋‹ค.

3. KTX·์—ฌ๊ฐ์—ด์ฐจ ์šดํ–‰๋ฅ  ๋ณ€ํ™”

KTX๋Š” ํ‰์ƒ์‹œ ๋Œ€๋น„ ์•ฝ 67% ์ˆ˜์ค€๊นŒ์ง€ ์šดํ–‰๋ฅ ์ด ๊ฐ์†Œํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์ „๋ง์ด ์žˆ์Šต๋‹ˆ๋‹ค.




์—ฌ๊ฐ์—ด์ฐจ(์ƒˆ๋งˆ์„ํ˜ธ, ๋ฌด๊ถํ™”ํ˜ธ ๋“ฑ)๋„ ์šดํ–‰๋ฅ ์ด ์ ˆ๋ฐ˜ ์ˆ˜์ค€ ์ดํ•˜๋กœ ๋‚ฎ์•„์งˆ ๊ฐ€๋Šฅ์„ฑ์ด ์žˆ์Šต๋‹ˆ๋‹ค.




ํ™”๋ฌผ์—ด์ฐจ๋Š” ์šฐ์„ ์ˆœ์œ„ ํ™”๋ฌผ ์šด์†ก ์œ„์ฃผ๋กœ ์ค„์–ด๋“ค๋ฉฐ ๋งค์šฐ ๋‚ฎ์€ ์ˆ˜์ค€์œผ๋กœ ์šดํ–‰๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

4. ๋Œ€์ฒด ๊ตํ†ต์ˆ˜๋‹จ ์ข…๋ฅ˜๋ณ„ ํŠน์ง•

๊ณ ์†๋ฒ„์Šค ๋ฐ ์‹œ์™ธ๋ฒ„์Šค๋Š” ํŒŒ์—… ๊ธฐ๊ฐ„ ์—ด์ฐจ ์ทจ์†Œ ๋ฐ ๊ฐ์ถ•์œผ๋กœ ์ธํ•œ ์ฃผ์š” ๋Œ€์ฒด ์ˆ˜๋‹จ์œผ๋กœ ํ™œ์šฉ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.




๊ตญ๋‚ด์„  ํ•ญ๊ณตํŽธ์€ ์žฅ๊ฑฐ๋ฆฌ ์ด๋™ ์‹œ ๊ฐ€์žฅ ๋น ๋ฅธ ๋Œ€์•ˆ์ด์ง€๋งŒ ๋น„์šฉ ๋ถ€๋‹ด์ด ์ƒ๋Œ€์ ์œผ๋กœ ๋†’์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.




ํƒ์‹œ, ์นดํ’€, ๊ด‘์—ญ·๋งˆ์„๋ฒ„์Šค ๋“ฑ์€ ๋‹จ๊ฑฐ๋ฆฌ ์ด๋™์— ์œ ๋ฆฌํ•˜๋ฉฐ ํŠนํžˆ ๋„์‹ฌ ๊ตฌ๊ฐ„ ์ด๋™์— ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค.

5. ์ด์šฉ ์ „ ํ™•์ธ ๋ฐ ์‹ค์ „ ํŒ

์—ด์ฐจ ์šดํ–‰ ์—ฌ๋ถ€๋Š” ์ฝ”๋ ˆ์ผ ๊ณต์‹ ์•ฑ์ด๋‚˜ ํ™ˆํŽ˜์ด์ง€์—์„œ ์‹ค์‹œ๊ฐ„์œผ๋กœ ํ™•์ธํ•˜๋ฉด ๊ฐ€์žฅ ์ •ํ™•ํ•ฉ๋‹ˆ๋‹ค.




๊ฐ€๊ธ‰์  ์ถœ๋ฐœ ์ตœ์†Œ 2์‹œ๊ฐ„ ์ „์—๋Š” ๋Œ€์ฒด ๊ตํ†ต์ˆ˜๋‹จ์„ ์˜ˆ์•ฝํ•˜๊ฑฐ๋‚˜ ํ™•์ธํ•ด ๋‘๋Š” ๊ฒƒ์ด ์•ˆ์ „ํ•ฉ๋‹ˆ๋‹ค.




์ฒ ๋„ ํŒŒ์—… ๊ธฐ๊ฐ„์—๋Š” ์ขŒ์„ ํ™•๋ณด๊ฐ€ ์ค‘์š”ํ•˜๋ฏ€๋กœ ๋ฒ„์Šค·ํ•ญ๊ณต ๋“ฑ๋„ ๋ฏธ๋ฆฌ ์˜ˆ์•ฝํ•ด ๋‘๋Š” ๊ฒƒ์ด ๋ถˆํŽธ์„ ์ค„์ด๋Š” ํ•ต์‹ฌ์ž…๋‹ˆ๋‹ค.

์ฒ ๋„ ํŒŒ์—… ์ƒํ™ฉ์—์„œ๋Š” ์šดํ–‰๋ฅ  ๊ฐ์†Œ์— ์œ ์—ฐํ•˜๊ฒŒ ๋Œ€์‘ํ•˜๋Š” ๊ฒƒ์ด ์ค‘์š”ํ•ฉ๋‹ˆ๋‹ค.

์ด ๋ธ”๋กœ๊ทธ์˜ ์ธ๊ธฐ ๊ฒŒ์‹œ๋ฌผ

์Šคํˆฌ์‹œ ์ •ํ’ˆ ๊ตฌ๋ณ„๋ฒ• ์™„๋ฒฝ ๊ฐ€์ด๋“œ 2025 | Stรผssy ๊ฐ€ํ’ˆ ๊ฐ๋ณ„ ํŒ

์ธ์Šคํƒ€๊ทธ๋žจ ์Šคํ† ๋ฆฌ ์ˆจ๊น€ ๊ธฐ๋Šฅ ์™„๋ฒฝ ๋ถ„์„ (์ฐจ๋‹จ๊ณผ์˜ ์ฐจ์ด)

๋‚˜๋…ธ๋ฐ”๋‚˜๋‚˜ ํญ๋ฐœ ์ธ๊ธฐ, ์˜คํ”ˆAI · ๋””์ฆˆ๋‹ˆ ์†์žก์€ ๋น„๋ฐ€?