"빅테크부터 오픈AI까지" 자체 AI 칩 개발 나서는 기업들, 엔비디아 독주 저지할 수 있을까

구글·아마존·MS 등 빅테크, 자체 AI 칩 개발에 '속도'
AI 칩 시장 독점하는 엔비디아, 가격 상승·공급 지연 등 문제 산적
"엔비디아 GPU 대비 30% 비용 절감하겠다" 오픈AI도 브로드컴과 손잡고 도전장 

엔비디아가 주도하는 인공지능(AI) 칩 시장에 변화의 바람이 불고 있다. 엔비디아에 의존해 거대 AI 인프라를 구축하던 글로벌 빅테크들이 줄줄이 자체 AI 칩 개발에 나선 것이다. 이는 AI 칩 시장 특유의 독점 구조에서 기인하는 비용 상승·공급 지연 문제를 해결하기 위한 전략으로 풀이된다.

속속 등장하는 '엔비디아 대항마'

24일 반도체업계에 따르면, 최근 글로벌 빅테크 기업들은 자체 AI 칩 개발에 박차를 가하고 있다. 일례로 구글 클라우드는 6일(이하 현지시간) 7세대 TPU(텐서 처리 장치) '아이언우드'(Ironwood)를 정식 출시했다. TPU는 구글이 2013년 급격히 증가한 딥러닝 연산량을 해결하기 위해 15개월 만에 설계·검증한 AI·머신러닝 특화 주문형 반도체(ASIC)로, 전력 공급 구조를 최적화해 엔비디아 그래픽처리장치(GPU)보다 전력 효율이 높다는 평가를 받는다. 아이언우드는 구글이 올해 4월 넥스트 2025 행사에서 공개한 차세대 TPU며, △모델 학습 △강화학습(RL) △저지연 대규모 추론 등 복잡한 연산을 수월하게 처리할 수 있도록 설계됐다.

메타 역시 올해 4분기 브로드컴과 손잡고 자체 개발 ASIC ‘메타 훈련 및 추론 가속기(MTIA·Meta Training and Inference Accelerator)’를 선보일 예정이다. 아마존웹서비스(AWS)는 대규모 모델 학습 시 GPU 대비 높은 비용 효율성과 성능을 확보할 수 있는 AI 학습 전용 칩 '트레니움', 음성 인식, 이미지 분류, 추천 시스템 등 실시간 서비스에 최적화된 AI 추론 전용 칩 '인퍼렌시아' 등을 개발했다.

마이크로소프트(MS)는 지난 18일 자체 개발한 신형 중앙처리장치(CPU) '애저 코발트 200'과 인공지능(AI) 칩 '애저 마이아 200'을 최초 공개했다. 코발트는 AI 클라우드에서 필요한 저전력·고성능·저비용 CPU로 AI 인프라 구축 비용을 낮추기 위해 설계됐으며, 마이아는 대규모 AI 학습·추론 시 사용되던 엔비디아의 GPU를 대체하기 위해 개발됐다. 스콧 거스리 MS 클라우드 플러스(+) AI 그룹 부사장은 "(자체 CPU와 AI 칩 개발은) 외부 의존도를 줄이고 우리가 원하는 시점에 원하는 규모로 공급을 확보할 수 있게 해준다"고 강조했다.

독점 구조가 낳은 폐해

이들 기업의 자체 AI 칩 개발은 엔비디아에 대한 의존도를 축소하기 위한 전략으로 풀이된다. 현시점 엔비디아는 AI 인프라 시장에서 GPU 공급 대부분을 독점하고 있다. 2025년 2분기 기준 엔비디아의 시장 점유율은 94~97%에 달한다. 특히 데이터센터용 GPU 시장에서는 97.7%라는 높은 점유율을 기록하며 사실상 독주 체제를 구축했다. 이 같은 시장 구조는 자연스레 GPU 가격 상승을 촉발했고, 제한된 공급량으로 인해 제품 인도도 차일피일 지연돼 왔다.

거대 인프라를 구축해야 하는 빅테크 기업의 경우 엔비디아 의존도가 특히 더 높은 것으로 추정되는 상황이다. 엔비디아가 미국 증권거래위원회(SEC)에 제출한 2025년 2분기 보고서에 따르면, 단 두 곳의 익명 고객사가 엔비디아 전체 매출 467억 달러(약 68조9,300억원) 중 39%를 차지하는 것으로 확인됐다. '고객사 A'는 23%, '고객시 B'는 16%를 담당했는데, 이는 전년도 같은 기간의 14%, 11%에서 크게 상승한 수치다.

엔비디아는 보고서에서 이들 고객사를 '직접 고객(direct customer)'이라고 명시했다. 이는 고객사 A와 B가 엔비디아 칩을 직접 구매한 뒤 시스템이나 보드를 만들어 재판매하는 기업임을 의미한다. 이들이 최종 사용자로서 거대 클라우드 AI 인프라 투자를 주도한다는 해석이 가능한 셈이다. 이에 업계와 애널리스트들은 해당 고객이 MS와 메타를 비롯한 미국 빅테크 하이퍼스케일러일 가능성에 무게를 두고 있다.

오픈AI, ASIC 가능성에 주목

이 같은 엔비디아 독주 체제에 반감을 품은 것은 빅테크업계 만이 아니다. AI 시대를 연 장본인인 오픈AI 역시 글로벌 통신용 반도체 강자 브로드컴과 손잡고 자체 AI 칩 개발에 착수한 상태다. 오픈AI는 엔비디아에 대항하기 위한 수단으로 ASIC를 낙점했다. 범용으로 설계된 엔비디아 GPU와 달리, 자사의 GPT와 같은 특정 AI 모델의 아키텍처와 연산 방식에 완벽하게 최적화된 맞춤형 칩을 만든다면 훨씬 높은 효율성과 전력 대비 성능을 구현할 수 있다는 계산이다.

이를 위한 파트너로 브로드컴을 선택한 것은 사실상 필연으로 평가된다. 브로드컴은 구글의 TPU와 메타, MS의 맞춤형 반도체 개발에 깊숙이 관여하며 ASIC 분야에서 세계 최고 수준의 기술력과 노하우를 입증한 기업이다. 향후 양 사는 오픈AI가 AI 모델 설계와 소프트웨어 최적화를 담당하고, 브로드컴이 이를 물리적인 칩으로 구현하는 방식의 협력 모델을 채택할 것으로 보인다.

오픈AI와 브로드컴의 목표는 엔비디아 GPU 대비 최소 30%의 비용을 절감하는 데 있다. 이는 단순히 칩 구매 단가를 낮추는 것을 넘어, 전력 효율성 개선을 통한 데이터센터 운영 비용 절감까지 포함하는 포괄적인 개념이다. 특정 연산에 불필요한 기능을 제거하고, 데이터 처리 경로를 최적화한 ASIC 칩은 범용 GPU 대비 전력 효율성이 높다. 향후 ASIC 칩 사용이 보편화할 시 AI 인프라 비용의 절반 이상을 차지하는 전기 요금과 냉각 비용이 획기적으로 감소, 총소유비용(TCO, 특정 자산을 획득, 운영, 유지, 폐기하는 전체 수명 주기 동안 발생하는 모든 직·간접적인 비용)이 줄어드는 효과가 발생할 수 있다.