'๋น ํ ํฌ ์ ์ํฐ' ๋ AI ์นฉ ์์ฅ, ์๋น๋์ ๋ ์ ๊ตฌ์กฐ ํ๋ค๋ฆฌ๋
์ ๋ ฅ
์์
๊ตฌ๊ธยท๋ฉํยทMSยท์ธํ ๋ฑ ์ค์ค์ด '์์ฒด AI ์นฉ' ๊ฐ๋ฐ
AI ์์ฅ ์ฐธ์ ๋ฆ์ ์ ํ๋ ๊ฐ๋ฐ ์์ง์ ๋ณธ๊ฒฉํ
AI ์นฉ ์์ฅ 80% ๊ฑฐ๋จธ์ฅ ์๋น๋์, ์ถํ ์ ์ง๋

์ ์์ ๋น ํ ํฌ ๊ธฐ์ ๋ค์ด ์ค์ค์ด 'AI(์ธ๊ณต์ง๋ฅ) ์นฉ' ์ ์์ ๋ฐ์ด๋ค๊ณ ์๋ค. ๋ฏธ๊ตญ ๋ฐ๋์ฒด ๊ธฐ์ ์๋น๋์์ ์์ฅ ๋ ๊ณผ์ ๊ตฌ์กฐ๊ฐ AI ์นฉ ํ๊ท ํ์์ ๋ณ์ ๊ฐ์ด๋ฐ, ๋น ํ ํฌ ์ ๊ณ์ ์์ฅ ์ฃผ๋๊ถ ๊ฒฝ์์ด ๊ฑฐ๋์ธ์ด๋ชจ๋ธ(LLM) ๋ถ๋ฌธ์์ ์์ฒด AI ์นฉ๊ณผ ์ค์์ฒ๋ฆฌ์ฅ์น(CPU) ๊ฐ๋ฐ ๋ถ๋ฌธ๊น์ง ํ๋๋๋ ์์์ด๋ค.
๋น ํ ํฌ 'AI ์นฉ ๊ฒฝ์' ๋ณธ๊ฒฉํ
8์ผ ์ ๊ณ์ ๋ฐ๋ฅด๋ฉด ์ต๊ทผ ๊ตฌ๊ธ, ๋ฉํ, ๋ง์ดํฌ๋ก์ํํธ(MS) ๋ฑ ๋น ํ ํฌ ๊ธฐ์ ๋ค์ ์ ๊ทน์ ์ผ๋ก ์์ฒด AI ์นฉ์ ๊ฐ๋ฐ, ๋ ์์ ์ธ AI ์ํ๊ณ ์กฐ์ฑ์ ํ์ ์๊ณ ์๋ค. ์ ๋ด์ ์ ๊ฒ์ ๊ตฌ๊ธ์ด๋ค. ๊ตฌ๊ธ์ ์์ฑํ AI ๋ชจ๋ธ์ธ '์ ๋ฏธ๋์ด'๋ฅผ ํ๋ จํ๊ธฐ ์ํด ๋ง๋ค์ด์งย ํ ์์ฒ๋ฆฌ์ฅ์น(TPU) ์ ์ ํ 'v5p'๋ฅผ ์ ์ ์ถ์ํ๋ฉฐ ์์ฅ์ ์ถ์ฌํ๋ฅผ ๋์ก๋ค.ย TPU๋ ๊ตฌ๊ธ์ ์์ฒด AI ์ ์ฉ ์นฉ์ด๋ค.ย
MS๋ AI ํ์ต๊ณผ ์ถ๋ก ์ ์ํด ์ค๊ณ๋ ์นฉ์ธ '๋ง์ด์100'์ ์ ๋ณด์๋ค. ๋ง์ด์100์ 5๋๋ ธ๋ฏธํฐ(nm) ๊ณต์ ์ผ๋ก ๋ง๋ค์ด์ง MS์ AI ๊ฐ์๊ธฐ '์ ์ ๋ง์ด์' ์๋ฆฌ์ฆ ์ฒซ ์ธ๋ ์ ํ์ผ๋ก, ํ์ฌ MS์ ๋๋งน ๊ด๊ณ์ธ ์คํAI๋ฅผ ํตํด ํ ์คํธ ๊ณผ์ ์ ๊ฑฐ์น๊ณ ์๋ค. ์์ธ๋ฌ MS๋ AI ์ถ๋ก ์ ์ฉ์นฉ '์ํ ๋' ๊ฐ๋ฐ์ ์ํด ๋ฏธ๊ตญ์ ๋ฐ๋์ฒด ๊ธฐ์ AMD์๋ ์ ๊ทน์ ์ผ๋ก ํ๋ ฅํ๊ณ ์๋ค.
๋ฉํ๋ ์์ฒด AI ์นฉ์ธ MTIAv2(Meta Training and Inference Acceleratorยท๋ฉํ ํ๋ จ ๋ฐ ์ถ๋ก ๊ฐ์๊ธฐ)๋ฅผ ๊ณต๊ฐํ ์ํ๋ค. MTIAv2๋ ๋ฉํ์ ์์ฒด LLM์ธ '๋ผ๋ง'์ ๊ฐ์ ์์ฑํ AI๋ฅผ ํ๋ จํ๊ธฐ ์ํด ๊ธฐํ๋ ์ ํ์ผ๋ก, ๋ฉํ๊ฐ ์ด์ํ๋ SNS์ ์ถ์ฒ ์๊ณ ๋ฆฌ์ฆ์ ๋ง๋๋ ๋ฐ ํ์ฉ๋๊ณ ์๋ค. ์๋ง์กด์น์๋น์ค(AWS) ์ญ์ AI ์ถ๋ก ์นฉ 'AWS ์ธํผ๋ฐ์์(AWS Inferentia)'๋ฅผ ์์ฒด ๊ฐ๋ฐํด ๋ฐ์ดํฐ์ผํฐ(IDC) ๋ฑ์ ์ ๊ทน ํ์ฉํ๊ณ ์๋ค.
์ธํ ๋ํ ์ ํ AI ๋ฐ๋์ฒด '๊ฐ์ฐ๋3'๋ฅผ ๊ณต๊ฐํ๋ฉฐ AI ์นฉ ๊ฒฝ์์ ๋ฐ์ด๋ค์๋ค. ์ธํ ์ "๊ฐ์ฐ๋3๊ฐ ์๋น๋์์ ์์ฉ AI ๋ฐ๋์ฒด H100๋ณด๋ค ํ์ต๊ณผ ์ถ๋ก ์๋๊ฐ ํจ์ฌ ๋น ๋ฅด๊ณ ์ ๋ ฅ ํจ์จ์ฑ๋ ๋ฐ์ด๋๋ค"๋ฉฐ ์ ํ์ ๋ํ ์์ ๊ฐ์ ๋๋ฌ๋๋ค. ํด๋น ์ ํ์ ์ํ์ ํ์ฌ ๊ตญ๋ด ๊ธฐ์ ๋ค์ด๋ฒ ๋ฑ ์ฃผ์ ํํธ๋์ฌ์ ์ ๋ฌ๋ ์ํ๋ฉฐ, ์์ฐ์ ์ค๋ 3๋ถ๊ธฐ์ ๋ณธ๊ฒฉํํ ๊ฒ์ผ๋ก ์ ๋ง๋๋ค.
ํ๋ฐ ์ฃผ์ ์ ํ๊น์ง ๋์ฐ๋ค
AI ๋ถ์ผ ํ๋ฐ ์ฃผ์๋ก ๊ผฝํ๋ ์ ํ๋ ์ต๊ทผ ์์ฒด AI ์นฉ ๊ฐ๋ฐ ์์์ ์ ํ๋ค. ์ง๋ 6์ผ(ํ์ง์๊ฐ) ์์คํธ๋ฆฌํธ์ ๋(WSJ)์ ์ฌ์์ ์ ํตํ ๊ด๊ณ์๋ฅผ ์ธ์ฉ, ์ ํ์ด ์๋ ์ ๋ถํฐ ๋ฐ์ดํฐ์ผํฐ์ฉ AI ์นฉ ๊ฐ๋ฐํ๊ธฐ ์ํ ํ๋ก์ ํธ ์ผํ์ผ๋ก ๋ด๋ถ ์ฝ๋๋ช โACDCโ๋ฅผ ์งํํด ์๋ค๊ณ ์ ํ๋ค. ์ ํ์ย AI ์นฉ ๊ฒฝ์ ์ฐธ์ ์์์ด ์๋ ค์ง ๊ฒ์ ์ด๋ฒ์ด ์ฒ์์ด๋ค. ์ ํ์ ์ง๊ธ๊น์ง ์ฐ์ ์ํ๊ณ๊ฐ AI๋ฅผ ์ค์ฌ์ผ๋ก ์ฌํธ๋๊ณ ์์์๋ ๋ถ๊ตฌํ๊ณ ๊ด๋ จ ์ ํ ๋ฐ ์๋น์ค๋ฅผ ๋ด๋์ง ์์ผ๋ฉด์ โ๊ธฐ์ ์ฃผ๋ณด๋ค๋ ๊ฐ์น์ฃผ์ ๊ฐ๊น๋คโ๋ ์์ฅ์ ๋นํ์ ๋ฐ์ ์จ ๋ฐ ์๋ค.
์ ํ์ด ๊ฐ๋ฐ ์ค์ธ ์นฉ์ AI ๋ชจ๋ธ์ ์ถ๋ก ๊ธฐ๋ฅ์ ์ ํฉํ ์ ํ์ธ ๊ฒ์ผ๋ก ์๋ ค์ก๋ค. ์๋น๋์๊ฐ ๊ทธ๋ํฝ์ฒ๋ฆฌ์ฅ์น(GPU) H100์ ํตํด AI 'ํ๋ จ'์ฉ ์นฉ ์์ฅ์ ์ฅ์ ํ๋ค๋ ์ ์ ๊ณ ๋ คํด ํ๋ จ์ด ์๋ ์ถ๋ก ๊ธฐ๋ฅ์ ์ค์ ์ ๋ ๊ฒ์ผ๋ก ํ์ด๋๋ค. ์ค์ MSยท์๋ง์กด ๋ฑ ๋ค์์ ๋น ํ ํฌ ๊ธฐ์ ์ด AI ์ถ๋ก ์ฉ ํน์ ์นฉ์ ์์ฒด ์ ์ํ๊ณ ์๋ค. ์ผ์ฑ์ ์๊ฐ ๊ฐ๋ฐ ์ค์ธ โ๋งํ-1โ ์ญ์ ์ผ์ข ์ ์ถ๋ก ํนํ ๋ฐ๋์ฒด๋ค.

์๋น๋์ ๊ทธ๋ฆผ์ ๋ฒ์ด๋๋ ๋น ํ ํฌ
๋น ํ ํฌ ๊ธฐ์ ๋ค์ด ์ค์ค์ด AI ์นฉ์ ๊ฐ๋ฐ์ ์ฐฉ์ํ๋ ์ด์ ๋ ๋ฌด์์ผ๊น. ํ์ฌ AI ์นฉ ์์ฅ์ ์๋น๋์๊ฐ 80% ์ด์์ ์ฅ์ ํ ์ํ๋ค. ๋ฌธ์ ๋ ์๋น๋์์ AI ์นฉ ๊ณต๊ธ ๋ฌผ๋์ด ์ข์ฒ๋ผ ์์ฅ ์์๋ฅผ ๋ฐ๋ผ์ก์ง ๋ชปํ๊ณ ์๋ค๋ ์ ์ด๋ค. ์ผ์ข ์ 'ํ๊ท ํ์'์ด ๋ฒ์ด์ง ์ ์ด๋ค. ํ ์ ๊ณ ๊ด๊ณ์๋ "์ต๊ทผ ์๋น๋์ AI ์นฉ ๊ฐ๊ฒฉ์ ๊ฐ๋น ์์ฒ๋ง์์ ๋ฌํ๋ค"๋ฉฐ "ํฐ๋์ ๋ด๊ณ ์ ํ์ ๊ตฌ์ ํด๋ ์ธ๋๊ฐ 1๋ ์ด์ ์ง์ฐ๋๋ ๊ฒฝ์ฐ๋ ์๋ค"๊ณ ์ ํ๋ค.
์ด ๊ฐ์ ๊ณต๊ธ ๋ถ์กฑ์ ์ฒจ๋จ AI ๊ธฐ์ ๊ฒฝ์์ ๋ฐ์ด๋ ๋น ํ ํฌ ๊ธฐ์ ๋ค์ '์น๋ช ํ'๋ก ์์ฉํ๋ค. ๊ธ๋ณํ๋ AI ์์ฅ์์ ์ฃผ๋๊ถ์ ์ฅ๊ธฐ ์ํด์๋ ๋๊ตฌ๋ณด๋ค ๋น ๋ฅด๊ฒ ์๋ก์ด ๊ธฐ์ ์ ์ ๋ณด์ผ ํ์๊ฐ ์๋ค. AI ์นฉ์ ๋น๋กฏํ ์ ํ ์๊ธ์ ๋ํญ์ ๊ฒช์ผ๋ฉฐ ๊ฐ๋ฐ์ด ์ง์ฐ๋ ๊ฒฝ์ฐ, ์์๊ฐ์ ์์ฅ ๊ฒฝ์๋ ฅ์ ์์ ์ ์๋ค๋ ์๋ฏธ๋ค. ๋น ํ ํฌ ์ ๊ณ์์ ๋ณธ๊ฒฉ์ ์ธ '์๋น๋์ ๊ฒฌ์ ' ์์ง์์ด ์ผ๊ธฐ ์์ํ ์ด์ ๋ค.
์๊ธฐ๋ฅผ ๊ฐ์งํ ๊ฐ ๊ธฐ์ ์ ์์ฒด AI ์นฉ ๊ฐ๋ฐ์ ํตํด ๋ ๋ฆฝ์ ์ธ AI ์ํ๊ณ๋ฅผ ์กฐ์ฑํ๊ธฐ ์์ํ๋ค. AI ์นฉ ๋ด์ฌํ์ ์ฑ๊ณตํ ๊ธฐ์ ์ AI ๊ฐ๋ฐ๊ณผ ์ด์์ ๋๋ ๋น์ฉ์ ํ๊ธฐ์ ์ผ๋ก ๊ฒฝ๊ฐํ ์ ์์ผ๋ฉฐ, ์ ํ ์๊ธ์ด ์ํํด์ ธ ๊ฐ๋ฐ ์๋๋ ๋ํญ ์๋น๊ธธ ์ ์๋ค. ์ด์ ์ ๊ณ์์๋ ์ถํ ๋น ํ ํฌ ์ ๊ณ ๋ด์์ ์์ฒด AI ์นฉ ๊ฐ๋ฐ์ด ์ ํ์ด ์๋ 'ํ์'๊ฐ ๋ ๊ฒ์ด๋ผ๋ ์ ๋ง๋ง์ ํ๋ฌ๋์จ๋ค.