“美 수출 통제 속 中 AI 자립 가속” 알리바바, 자체 칩으로 中 AI 시장 키운다
입력
수정
美 규제로 첨단칩 조달길 좁아지자 전우로 큐원 훈련 중국 기업에도 연산 설비 개방해 자체 칩 수요처 확대 자체 시험 일부 조건서 엔비디아 H20 수준 응답 속도

미국이 첨단 인공지능(AI) 반도체의 대중 수출 규제를 강화하는 가운데, 중국 최대 기술 기업 알리바바가 자체 칩을 기반으로 내수 시장을 키우고 있다. 직접 설계한 ‘전우(Zhenwu)’ 칩을 자사 데이터센터에 배치해 차세대 AI 모델 ‘큐원(Qwen)’을 훈련하고, 중국 기업들도 같은 설비에서 AI 서비스를 개발하도록 전용 소프트웨어를 공개했다. 자사 모델 훈련에서 중국 기업의 AI 서비스로 전우 칩의 쓰임새를 넓혀 독자 시장을 키우려는 포석으로 풀이된다.
‘큐원’ 훈련 전 과정 중국산 칩으로
19일(현지시각) 닛케이아시아에 따르면 우융밍 중국 알리바바 최고경영자(CEO)는 이날 실적 설명회에서 반도체 설계 자회사 티헤드(핑터우거∙T-Head)가 개발한 칩으로 큐원을 훈련 중이라고 밝혔다. 내년에는 모델이 방대한 데이터를 학습하는 사전훈련부터 답변의 정확도를 높이는 사후훈련까지 전 과정을 중국산 칩으로 뒷받침할 계획이다. 이는 미국이 첨단 AI 칩의 대중 수출에 이어 중국 기업이 해외 데이터센터를 통해 대규모 연산 자원을 빌려 쓰는 경로까지 규제한 가운데 나온 발언이다. 해외에서 미국산 칩을 이용하는 길마저 좁아지자 핵심 모델 개발에 필요한 연산 능력을 직접 확보하겠다는 뜻으로 풀이된다.
알리바바가 자체 칩의 첫 수요처로 삼은 곳은 클라우드 계열사의 데이터센터다. 지난 1월 공개한 ‘전우 810E’는 공개 당시 이미 알리바바 클라우드에서 가속기 1만 개를 연결한 여러 연산 설비에 쓰이고 있었다. 대규모 AI 모델의 학습과 답변 생성에 필요한 계산을 여러 칩이 나눠 맡는 방식이다. 지난 8월에는 후속 칩 ‘전우 M890’을 묶은 설비를 클라우드 고객에게 개방했다. 알리바바 측에 따르면 이 설비는 모델이 학습한 변수인 ‘매개변수’가 2조 개를 웃도는 대형 AI의 추론까지 지원한다.
데이터센터 증설 물량도 티헤드 칩이 주력
내년 1분기에는 차세대 칩 ‘전우 V900’ 양산에 들어갈 예정이다. 티헤드가 지난 9월 공개한 V900은 여러 연산을 동시에 처리하도록 설계돼 AI 모델 훈련과 추론에 모두 쓰인다. 알리바바는 V900에 칩 간 통신과 데이터 전송·저장을 담당하는 자체 반도체를 결합한 서버 시스템도 같은 분기 출시하기로 했다. V900이 연산을 나눠 맡고, 함께 탑재한 자체 반도체가 칩 사이에서 연산 결과를 주고받거나 데이터를 전송·저장하는 식이다.
알리바바는 앞으로 데이터센터에 추가로 들일 AI 칩 대부분을 티헤드 제품으로 채울 방침이다. 우융밍 CEO는 2027~2028년 중국에서 AI 연산 수요에 비해 공급이 가장 부족할 것으로 내다봤다. 이에 티헤드의 주력 칩은 차세대 큐원을 훈련하고 후속 모델의 성능을 높이는 데 우선 투입하기로 했다. 주요 협력사가 자체 모델을 개발할 때도 훈련용으로 티헤드 칩을 배정한다는 구상이다. 우 CEO는 자사와 협력사의 모델 훈련에 필요한 물량을 확보하기 위해 내년에는 티헤드 칩 생산을 대폭 늘릴 계획이라고 밝혔다.
표1. 엔비디아 쿠다와 알리바바 티헤드 세일 비교
| 구분 | 엔비디아 쿠다(CUDA) | 티헤드 세일(SAIL) |
|---|---|---|
| 공개 시점 | 2006년 공개 | 2026년 7월 상하이 세계인공지능대회에서 무료 공개 |
| 주요 기능 | GPU 병렬 연산 지원, 자주 쓰는 연산 코드 제공 | 전우 칩에서 AI 프로그램 구동, 해외 개발자에게도 소스코드 공개 |
| 기존 코드 활용 | 타사 칩 전환 시 쿠다 기반 코드 수정 부담 | 기존 코드 일부 수정으로 전우 칩에서 재사용 가능. 주요 AI 개발 도구와 호환성 강화 계획 |
코드 일부만 고치면 전우 칩에서도 재사용
알리바바가 티헤드 칩 증산과 함께 공을 들이는 쪽은 외부 개발자 확보다. 협력사가 전우 칩을 받아 자체 모델을 훈련하려면 기존에 쓰던 프로그램부터 새 칩에서 작동해야 한다. 그간 AI 개발업계가 주로 써 온 도구는 엔비디아의 병렬 연산 소프트웨어 ‘쿠다(CUDA)’다. 엔비디아는 2006년 쿠다를 선보인 뒤 그래픽처리장치(GPU)가 AI 학습에 필요한 계산을 나눠 처리하도록 각종 개발 도구를 공급해 왔다. 특히 자주 쓰는 연산은 미리 코드로 작성해 배포한 덕에 개발자가 같은 기능을 일일이 구현할 수고를 덜었다. 다만 쿠다를 토대로 개발한 프로그램이 늘면서 다른 회사 칩을 도입하려는 기업에는 그간 쌓아 온 코드를 새 환경에 맞춰 손보는 일이 부담으로 남았다.
티헤드가 지난 7월 상하이 세계인공지능대회에서 전우 칩 전용 소프트웨어 ‘세일(SAIL)’을 무료로 공개한 것도 이런 전환 부담을 덜기 위해서다. 공개 대상은 전우 칩에서 AI 프로그램을 구동하는 데 쓰이는 소프트웨어 일체로, 해외 개발자에게도 소스코드를 개방했다. 가오후이 티헤드 부사장의 설명에 따르면 세일을 이용하는 개발자는 기존 코드의 일부만 고쳐 전우 칩에서 재사용할 수 있다. 이미 다른 칩으로 모델을 훈련해 온 협력사로선 전우 칩을 도입할 때 새로 작성해야 할 코드가 줄어드는 이점이 있다. 알리바바는 세일 공개와 함께 개발자들이 널리 쓰는 AI 개발 도구와 전우 칩 간 호환성도 강화할 방침이다.
딥시크 모델도 전우 서버 한 대로 구동
전우 칩에 맞춘 프로그램으로 대형 모델을 훈련하려면 칩 수천 개를 함께 가동할 연산 설비도 필요하다. 알리바바가 중국 통신사 차이나텔레콤과 손잡고 지난 4월 광둥성 사오관 데이터센터에 구축한 설비가 대표적이다. 두 회사는 이곳에 전우 칩 1만 개를 연결해 매개변수가 수천억 개에 이르는 모델의 훈련과 추론을 지원하도록 했다. 설비 운영은 차이나텔레콤이 맡았으며, 양사가 연산 자원을 공급할 분야로는 의료와 첨단소재 연구 등을 꼽았다. 향후 수요 증가에 대비해 사오관 설비에 투입할 칩을 최대 10만 개까지 늘릴 여지도 뒀다.
사오관 데이터센터의 전우 칩은 외부 기업이 개발한 AI 모델도 지원한다. 알리바바 클라우드는 개발자들이 기존 프로그램을 전우 서버에 옮겨 쓰도록 주요 AI 개발 도구와 호환되는 공통 프로그래밍 인터페이스를 마련했다. 해당 서버 한 대에 탑재한 AI 연산용 메모리는 1.5테라바이트(TB)에 이른다. 알리바바 측은 자체 모델 ‘큐원 3.5’와 중국 AI 기업 딥시크의 ‘V3.2’ 모두 매개변수를 줄이지 않고 서버 한 대에서 구동할 사양이라고 설명했다. 사오관에서는 이 설비를 이용해 전자정보·바이오의약 분야 기업에 모델 훈련과 추론에 필요한 연산 자원을 제공하고, 각사 업무에 맞춰 모델 성능을 조정하는 작업도 지원하고 있다.
전우 810E, 8비트 추론서 엔비디아 H20과 대등
사오관 데이터센터에서 AI 서비스를 운영할 기업에는 전우 칩의 응답 처리 속도가 중요하다. 해외 반도체 업계가 주목한 대목도 전우 810E가 일부 추론 작업에서 엔비디아의 중국 시장용 칩 H20과 비슷한 성능을 냈다는 점이다. 알리바바 클라우드는 두 제품을 각각 두 개씩 연결한 뒤 매개변수 720억 개 규모의 ‘큐원 2.5’에 같은 길이의 답변을 생성하도록 했다. 연산에 쓰는 수치를 8비트로 표현한 대화 시험에선 두 제품 모두 초당 약 360토큰을 처리했다. 같은 모델에서도 연산 정밀도를 16비트로 높이자 초당 처리량은 H20이 565토큰, 전우 810E가 414토큰으로 차이를 보였다.
후속 칩을 선보이면서 알리바바가 성능 향상의 기준으로 삼은 제품은 자사 직전 모델이다. 지난 5월에는 M890이 810E의 3배 성능을 낸다고 밝혔고, 9월 V900을 공개한 자리에서도 M890 대비 3배라는 수치를 제시했다. 세대별로 개선 폭이 구체적으로 공개된 항목은 대형 모델을 구동하는 데 필요한 메모리 용량과 칩 간 통신 속도다. 칩 한 개에 탑재한 메모리는 M890의 144기가바이트(GB)에서 V900의 216GB로 늘었고, 칩끼리 초당 주고받는 데이터의 최대 용량도 800GB에서 1,200GB로 커졌다. 다만 V900 발표 자료에는 ‘성능 3배’를 측정한 모델명과 시험 조건이 빠져 있다. 차세대 큐원을 훈련할 때 같은 분량의 데이터를 처리하는 시간이 얼마나 줄었는지에 대해서도 알리바바는 구체적인 수치를 내놓지 않았다.