[중국 AI 병목] "아직도 엔비디아 칩 쓴다" 막대한 투자에도 中 AI 자립 지지부진, 하드웨어·소프트웨어 넘어 생태계까지 한계 명확

中 AI 산업, 소프트웨어 생태계 한계로 자국산 칩 도입에 난항
"화웨이 가속기 4장 있어야 엔비디아 1장" 하드웨어 성능 역시 부족
대규모 지원 이어가는 中 정부, 생태계 기반은 여전히 '위태'

중국 인공지능(AI) 개발사들이 엔비디아의 칩을 활용해 최첨단 모델을 훈련하고 있다. 중국 정부가 반도체 자립 정책에 힘을 싣고 있음에도 불구하고, 중국산 칩과 엔비디아 칩의 하드웨어 성능·소프트웨어 생태계 격차가 좀처럼 좁혀지지 않는 탓이다. 이에 더해 고품질 중국어 학습 데이터 부족·인터넷 검열에 따른 데이터 편중, AI 서비스 확산으로 인한 비용 부담 등도 중국 AI 산업의 성장을 가로막는 족쇄로 꼽힌다.

中 AI 업계의 엔비디아 의존

지난 10일(이하 현지시각) 홍콩 사우스차이나모닝포스트(SCMP)가 보도한 바에 따르면, 중국의 주요 AI 연구소와 기업 개발자들은 최신 프런티어 모델의 훈련 과정에서 여전히 엔비디아 하드웨어를 표준으로 사용하고 있다. 이들은 칩 국산화의 가장 결정적인 장애물로 소프트웨어 생태계의 격차를 꼽았다. 엔비디아의 병렬 컴퓨팅 플랫폼인 쿠다(CUDA)는 지난 수년간 전 세계 AI 업계에서 일종의 표준으로 활용돼 왔다. 중국 기업들이 정부 기조에 발맞춰 화웨이의 독자 컴퓨팅 아키텍처인 CANN(신경망 컴퓨팅 아키텍처)으로 개발 환경을 바꿀 경우, 기존에 구축한 엔비디아용 훈련 파이프라인과 코드를 전부 새로 작성하고 최적화해야 한다는 의미다.

상하이 소재 주요 대학 연구소의 AI 개발 연구원 제임스 왕은 SCMP와의 인터뷰에서 "기존에 구축된 학습 파이프라인이 전적으로 쿠다에 의존하고 있어 화웨이 어센드 칩에서는 직접 실행되지 않는다"며 "기존 워크플로를 화웨이 칩으로 이전할 경우 프로젝트에 투입되는 시간과 비용이 최소 50% 이상 증가한다"고 설명했다. 디 인포메이션 등 외신 보도를 종합하면, 최근 급격한 성능 개선으로 글로벌 AI 시장에 충격을 안긴 중국 스타트업 문샷 AI의 최신 모델 '키미 K3' 역시 엔비디아의 최신 블랙웰 프로세서를 포함한 엔비디아 컴퓨팅 클러스터에서 훈련된 것으로 전해졌다.

하드웨어 효율도 부진

중국산 칩의 하드웨어 성능 역시 엔비디아 대비 눈에 띄게 부진하다. 스페인 기술 매체 사타카는 지난달 텐센트의 공식 IT·기술 뉴스 매체 텐센트테크가 공개한 약 4시간 분량의 딥시크 투자자 회의 내용을 인용, 딥시크 창업자 겸 최고경영자(CEO) 량원펑이 중국과 미국 AI 산업의 가장 큰 차이를 ‘가용 컴퓨팅 자원’으로 규정했다고 전했다. 양국의 AI 인재 수준에는 본질적인 차이가 없지만, 자금과 첨단 칩을 비롯해 실제 모델 개발에 투입 가능한 자원의 규모에서 격차가 벌어지고 있다는 지적이다. 량 CEO는 이러한 현실을 엔비디아와 화웨이의 AI 가속기 성능 차이를 통해 구체화했다.

량 CEO의 설명에 따르면, 약 8,000억 개의 활성 매개변수를 갖춘 대형 AI 모델을 훈련할 때 필요한 엔비디아 가속기(GB300 기준)는 5만 장이다. 반면 같은 작업에 화웨이의 차세대 어센드 950을 사용할 경우 20만 장에 달하는 물량이 필요하다. 같은 규모의 연산을 처리하는 데 화웨이 가속기가 엔비디아 제품보다 약 4배 더 많이 필요하다는 의미다. 량 CEO는 합리적인 가격에 확보할 수만 있다면 현금을 은행에 보유하는 것보다 엔비디아 가속기를 사들이는 편이 낫다는 취지의 발언도 내놨다. 이는 앞서 딥시크가 자국산 칩 도입 과정에서 겪은 기술적 난관을 고려한 판단으로 읽힌다. 파이낸셜타임스(FT)는 지난해 딥시크가 화웨이 어센드 칩을 이용해 차기 모델을 훈련하려 했지만, △안정성 △칩 간 연결 △소프트웨어 문제 등에 부딪혀 결국 추론에만 화웨이 칩을 활용하는 방향으로 선회했다고 보도한 바 있다.

中 정부, 공격적 투자 기조 유지

중국 정부는 이러한 한계를 뛰어넘기 위해 막대한 규모의 투자를 이어 가는 중이다. 중국 반도체 자립 정책의 핵심 자금 기반인 국가집적회로산업투자펀드(이하 대기금)가 대표적인 예다. 대기금은 지난 10년간 중국 반도체 산업의 기초 체력을 키우는 역할을 수행해 왔다. 중국반도체산업협회(CSIA) 자료를 살펴보면, 2014년 1,300억 위안(약 25조1,930억원) 규모로 출범한 대기금 1기는 23개 기업의 75개 프로젝트에 자금을 집행했다. 대표 수혜 기업은 파운드리 업체인 중국인터내셔널반도체(SMIC)와 화훙그룹, 패키징 기업 JCET, 장비사 나우라 테크놀로지, 설계자산 업체 엠피리언 테크놀로지 등이다. 2019년 2,000억 위안(약 41조8,360억원) 규모로 조성된 대기금 2기는 미국 수출 규제에 맞서 공급망 다변화에 초점을 맞췄다. 2기 펀드의 최대 규모 단일 투자는 SMIC에 집행한 15억 달러(약 2조1,160억원)였으며, 창신메모리테크놀로지(CXMT) 지분 8.73%와 양쯔메모리테크놀로지(YMTC) 지분 11.38%도 대기금 2기가 보유하고 있다.

2024년 조성된 대기금 3기는 첨단 반도체 경쟁력 확보에 힘을 쏟고 있다. 첨단 패키징 분야 투자를 주도하는 사모투자펀드(PEF) 화신딩신은 차량용 영상 처리 기술을 다루는 톈수이신위안 테크놀로지에 3억 위안(약 630억원)을 투입해 지분 31.58%를 사들였고, 칩렛 기판 기술을 보유한 안후이쥐허 마이크로일렉틀로닉스 지분 18%도 확보했다. 장비 분야는 빅펀드 3기가 99.9% 지분을 보유한 펀드 궈터우지신이 전담하며, 대표 투자 사례로는 화학기상증착 장비 선두 주자 퉈징테크놀로지에서 분사한 하이브리드 본딩 장비 개발 업체 퉈징젠커(투자 규모 4억5,000만 위안·약 941억원)가 꼽힌다. AI 컴퓨팅 칩 분야에서는 위험 분산을 위해 다각도 투자가 진행된다. 주요 자금 투입 대상은 초고속 상호연결 기술을 개발하는 윈실리콘, 메모리 기반 컴퓨팅 기술을 다루는 칭마이크로, 생성형 AI 가속기를 개발하는 베이징아이제커신 등이다.

표1. 중국 반도체 대기금의 단계별 투자 전략

학습용 데이터 바닥 보인다

다만 이 같은 정부 차원의 공격적 투자가 실질적인 산업 성장세로 연결될 수 있을지는 불투명한 상황이다. AI 산업 성장의 기반이 될 관련 생태계가 아직 탄탄하게 갖춰지지 못했기 때문이다. 최근 SCMP는 중국 AI 전문가와 연구진을 인용, 고품질 학습 데이터의 부족이 하드웨어 수급난을 뛰어넘는 중국 기술 야망의 새로운 병목(Bottleneck)이 될 수 있다고 보도했다. 인류가 생성한 고품질의 공개 텍스트 데이터 공급이 나날이 말라붙어 가는 가운데, 중국 AI 산업이 중국어 특유의 언어적 구조로 인해 특히 치명적인 위기에 직면했다는 평가다.

실제 웹 분석업체 W3Techs에 따르면 전 세계 웹 텍스트 데이터 중 중국어가 차지하는 비중은 단 1.3%에 불과했다. 이는 스페인어(6%), 독일어(5.9%), 일본어(5%) 등에도 한참 미치지 못하는 수준이다. 이러한 격차는 웹페이지를 직접 수집하는 커먼크롤의 최신 집계에서도 확인됐다. 지난달 커먼크롤이 수집한 HTML 문서의 주 사용 언어 가운데 중국어 비중은 4.43%에 그쳤다. 고품질의 중국어 AI 모델을 훈련할 데이터 자체가 턱없이 부족한 셈이다. 일반적으로 대형언어모델(LLM)은 학습 데이터에서 사실관계, 논리 구조, 전문 지식, 문화적 맥락 등을 습득하며 성능을 끌어올린다. 원천 데이터가 부족하면 모델의 추론 능력과 정확도를 고도화하는 데도 한계가 생길 수밖에 없다는 의미다. 부족분을 영어 자료의 번역이나 AI가 만든 합성 데이터로 채우는 방법도 있지만, 이 경우 중국어 고유의 의미와 맥락이 훼손되거나 기존 모델의 오류 및 편향이 반복 학습될 위험이 크다.

체제·비용 한계까지 가시화

체제상의 한계도 명확하다. 문제의 핵심은 중국이 운영하는 인터넷 검열 시스템인 ‘만리방화벽(Great Firewall)’이다. 중국은 1990년대 후반부터 해외 인터넷 서비스와 정보의 유입을 광범위하게 제한하고, 정치적으로 민감한 콘텐츠의 검색과 유통을 통제해 왔다. 톈안먼 사태, 문화대혁명, 신장 위구르 문제, 민주화 운동이나 지도부 비판과 관련한 정보가 대표적인 통제 대상이다. 이 같은 규제는 AI가 학습할 데이터의 구성 질을 떨어뜨릴뿐더러, AI의 현실 이해 능력까지 약화할 수 있다. 한 시장 전문가는 "중국 공산당의 정부 통제 산하에서 AI는 단순히 정치적으로 민감한 질문에 답변하지 못하는 것 이상의 문제를 겪게 된다"며 "복잡한 사회·경제 문제를 분석하려면 서로 다른 가설, 반론, 실패 사례 등을 동시에 검토해야 하는데, 학습 데이터 자체가 한쪽으로 편중돼 있다면 모델 역시 기존 서사를 재생산하는 데 익숙해져 현실을 다각도로 분석하는 능력이 약해지게 된다"고 지적했다.

비용 부담 역시 가시화하는 추세다. AI 산업은 이용자가 늘수록 서버 및 전력 비용 부담이 함께 증가하는 특성이 있다. 지금껏 가격 경쟁력을 앞세워 입지를 키워 온 중국 AI 기업들이 최근 이용자 성장세를 견디지 못하고 줄줄이 흔들리기 시작한 이유다. 실제 중국의 대표적 AI 스타트업 중 하나인 Z.ai의 지난해 매출은 전년보다 131.9% 늘어난 7억2,400만 위안(약 1,570억원)을 기록했지만, 같은 기간 순손실 역시 29억6,000만 위안(약 6,420억원)에서 47억2,000만 위안(약 1조240억원)으로 60% 가까이 불어났다. 막대한 자금력을 갖춘 빅테크들도 무료·저가 AI 전략에서 속속 힘을 빼고 있다. 알리바바는 일부 고급 AI 서비스 가격을 최대 34% 인상했고, 바이트댄스도 AI 챗봇 더우바오에 월 68위안(약 1만5,000원)·200위안(약 4만3,000원)·500위안(약 10만9,000원)으로 구성된 3단계 유료 요금제를 도입했다. 문샷AI는 지난달 키미 K3의 가중치, 프로그래밍 코드, 설계 정보 등을 일반에 공개함과 동시에, 최근 12개월 매출이 2,000만 달러(약 290억원) 이상이며 키미 K3를 제3자에게 제공하는 모델 서비스 사업자에 별도 계약 의무를 부과했다.