"엔비디아만으론 부족하다" 삼성이 베팅한 유클리드부터 스타트업·빅테크까지, 글로벌 AI 반도체 경쟁 격화

삼성전자, 유클리드 시리즈A 투자 라운드 공동 주도
'추론 효율' 주목한 유클리드, 프로세서-메모리 공동 설계에 힘 실어
나날이 심화하는 AI 반도체 경쟁, 엔비디아 독점 시대 저물까

삼성전자가 네덜란드 인공지능(AI) 반도체 스타트업 유클리드에 투자를 단행했다. AI 데이터센터의 전력 소모 및 메모리 병목 문제가 나날이 심화하는 가운데, 유클리드의 프로세서·메모리 공동 설계 기술을 활용해 차세대 AI 인프라 시장의 변화에 선제적으로 대응하겠다는 구상이다. 유클리드를 비롯해 다수의 기업이 자체 AI 반도체 개발에 잇달아 속도를 내는 가운데, 시장에서는 향후 엔비디아 중심의 기존 경쟁 구도가 흔들릴 수 있다는 분석에 힘이 실린다.

유클리드, 시리즈A 투자 유치

21일 반도체 업계에 따르면, 유클리드는 지난 15일(이하 현지시각) 2억 유로(약 3,150억원)를 웃도는 규모의 시리즈A 투자를 유치했다고 발표했다. 이번 투자 라운드는 삼성전자의 기업형 벤처캐피털(CVC)인 삼성캐털리스트펀드, 네덜란드 투자사 서머싯캐피털파트너스, EQT가 운용하는 스케일업유럽펀드, 유럽 딥테크 전문 벤처캐피털(VC) 이노베이션인더스트리가 공동 주도했다. 여기에 덴마크 국책 투자기관인 수출투자기금(EIFO), 반도체 전문 VC imec.xpand, 네덜란드 브라반트개발청(BOM) 등도 투자자로 참여했다. 다만 투자 이후 기업가치, 투자사별 세부 출자액 등은 공개되지 않았다.

유클리드는 2024년 네덜란드에서 설립된 반도체 스타트업으로, 사명은 고대 그리스 수학자 유클리드의 이름에서 본땄다. AI 반도체를 기존 제품의 연장선에서 만드는 것이 아니라 '기본 원리'부터 다시 설계하겠다는 포부다. 삼성전자가 유클리드에 투자를 단행한 배경에도 기존 AI 인프라의 한계를 보완하는 효율성 및 확장성이 있다. 데데 골드슈미트 삼성전자 삼성반도체혁신센터장은 "AI의 다음 단계는 모델 혁신뿐 아니라 인프라의 효율성과 확장성에 의해서도 결정될 것"이라며 "유클리드는 역량 있는 팀과 AI 데이터센터의 제약을 해결하려는 차별화된 비전을 갖추고 있다"고 밝혔다.

AI 인프라 효율 제고 가능성

유클리드의 비전은 AI 모델의 추론 단계에 초점을 맞추고 있다. 일반적으로 생성형 AI와 에이전틱 AI는 활용이 확대될수록 같은 모델을 반복적으로 실행하는 추론 연산량이 빠르게 늘고, 이에 따라 데이터센터의 전력 소비, 메모리 대역폭, 인프라 구축 비용 등도 함께 증가하게 된다. 유클리드는 이 과정에서 프로세서의 연산 성능 향상 속도를 메모리의 데이터 공급 능력이 따라가지 못하면서 전체 시스템 성능이 제한되는 이른바 ‘메모리 병목(memory wall)’이 AI 인프라 확장의 핵심 제약으로 부상했다고 본다.

유클리드가 이 같은 한계를 해소하기 위해 내세운 핵심 전략은 ‘프로세서-메모리 공동 설계’다. 프로세서-메모리 공동 설계는 프로세서와 메모리를 각각 개발한 뒤 연결하는 기존 방식에서 벗어나, 두 요소를 처음부터 하나의 시스템으로 구축하는 방식이다. 무작정 연산 장치의 처리 속도만을 높이는 대신, 연산에 필요한 데이터를 최대한 빠르게 공급할 수 있도록 메모리 구조·데이터 이동 경로를 함께 최적화해 처리 지연과 전력 소모를 동시에 낮추는 형태다.

자체 기술로 비용 낮춘다

이러한 설계를 적용한 대표 제품이 AI 추론용 반도체 ‘크래프트워크’와 이를 탑재한 랙 단위 데이터센터 시스템 ‘크래프트워크 스테이션(CWS)’이다. 크래프트워크가 프로그래밍이 가능한 주문형반도체(ASIC)를 기반으로 다수의 전용 연산 프로세서를 병렬로 구동하고, 여기에 자체 메모리 구조와 시스템 단위 최적화 기술을 결합하는 식이다. 유클리드는 자체 시뮬레이션을 토대로 이 같은 구조가 특정 대규모언어모델(LLM) 추론 환경에서 기존 고성능 AI 시스템보다 높은 전력 효율을 확보하고, 토큰당 비용을 대폭 낮출 수 있다고 주장한다.

해당 기술을 발판 삼아 마련된 수익 모델은 크게 두 가지다. 보안 등의 이유로 AI 모델을 자체 시설에서 운용하고자 하는 기업에 반도체·랙 시스템을 직접 공급하거나, 자체 AI 반도체를 개발하려는 기업에 프로세서·메모리 관련 지식재산권(IP)을 제공하는 것이다. 베르나르도 카스트럽 유클리드 최고경영자(CEO)는 CNBC와의 인터뷰에서 "2028년부터 실물 반도체 시스템을 본격적으로 출시하고 2030년까지 수천 곳의 기업 고객을 확보하겠다"는 목표를 제시하기도 했다. 다만 유클리드는 수년 전 설립된 초기 단계 기업인 만큼, 현재 개발 중인 시스템을 대규모 상업 환경에서 검증한 실적은 아직 없다.

AI 반도체 시장 열기

최근 AI 반도체 시장에는 유클리드 외에도 엔비디아 중심의 기존 경쟁 구도를 흔들고자 하는 업체들이 잇달아 등장하고 있다. 미국의 d-매트릭스와 텐스토렌트가 대표적인 예다. AI 추론용 반도체를 개발하는 d-매트릭스는 지난해 11월 2억7,500만 달러(약 3,800억원) 규모의 시리즈C 투자를 유치하며 기업가치 20억 달러(약 2조7,670억원)를 인정받았고, 올해 6월에는 자체 추론 가속기 ‘코르세어’의 본격 양산에 들어갔다. 텐스토렌트 역시 올해 4월 AI 가속 시스템 ‘갤럭시 블랙홀’의 상용 공급을 시작했다. 갤럭시 블랙홀은 연산 장치, 메모리, 네트워크를 하나의 시스템으로 묶어 LLM 추론·영상 생성 등을 처리하는 구조를 띤다.

미 세레브라스시스템즈도 독자 아키텍처를 앞세워 몸집을 키우는 추세다. 세레브라스는 일반적인 반도체처럼 웨이퍼를 수백 개의 칩으로 잘라 쓰는 대신, 웨이퍼 한 장 전체를 하나의 대형 프로세서로 사용하는 ‘웨이퍼 스케일 엔진(WSE)’을 개발했다. 올해 5월에는 나스닥에 상장하면서 64억 달러(약 8조8,560억원) 규모의 기업가치를 인정받았으며, 2분기 기준 가동 중이거나 확보한 데이터센터 용량은 600메가와트(MW)를 넘어섰다. 최근에는 AMD와 공동으로 세레브라스의 저지연 추론 시스템과 AMD GPU를 결합하는 방식의 AI 인프라 개발을 본격화하기도 했다.

표1. 주요 기업의 자체 AI 반도체 개발 현황

빅테크 기업도 속속 참전

AMD는 여타 기업과의 협력을 넘어 자체적인 경쟁력 확보에도 힘을 싣고 있으며, 지난 7월에는 차세대 ‘인스팅트 MI400’ 계열 GPU와 이를 72개까지 연결하는 랙 단위 시스템 ‘헬리오스’를 공개했다. 오픈AI는 올해 4분기부터 헬리오스를 활용할 예정이며, 앤트로픽 역시 내년부터 최대 2기가와트(GW) 규모의 MI450 계열 GPU를 도입하기로 했다. 중국에서는 화웨이가 공격적으로 자체 AI 반도체 생태계를 확장해 나가고 있다. 화웨이는 ‘어센드’ 계열 가속기를 중심으로 칩, 서버, 네트워크를 동시에 개발하고 있으며, 수천 개의 반도체를 연결하는 ‘슈퍼포드' 등을 통해 대규모 AI 시스템 성능을 높이는 전략도 추진 중이다. 지난 17일에는 차세대 어센드 960DT 출시 일정을 2027년 1분기로 기존 계획보다 앞당기기도 했다.

대형 클라우드 업체들 역시 잇달아 AI 반도체 내재화에 나섰다. 아마존웹서비스(AWS)는 자체 AI 가속기 ‘트레이니엄’을 지속적으로 고도화하는 중이다. 현재 3나노 공정 기반의 트레이니엄3가 실제 서비스에 투입되고 있으며, 앤트로픽은 클로드 학습과 추론에 100만 개 이상의 트레이니엄2를 사용하고 있다. 마이크로소프트(MS) 역시 지난 1월 자체 추론 가속기 ‘마이아 200(Maia 200)’을 공개하고, 이를 애저· 마이크로소프트 파운드리·코파일럿·오픈AI의 GPT 계열 모델 구동 등에도 투입하겠다고 밝혔다. 구글은 이보다 10년가량 앞서 자체 AI 가속기 ‘텐서처리장치(TPU)’를 개발해 왔다. 현재 최신 제품은 7세대 TPU ‘아이언우드(Ironwood)’로, 하나의 포드에서 최대 9,216개의 칩을 연결할 수 있다고 전해진다. 최근 들어서는 오픈AI도 칩 설계 경쟁에 뛰어들었다. 오픈AI는 지난 6월 브로드컴과 공동 개발한 첫 자체 AI 가속기 '할라페뇨'를 공개했다. 할라페뇨는 LLM 추론에 초점을 맞춘 ASIC로, 올해 말부터 데이터센터에 배치될 예정이다.