트랜지스터, H100 800억 개 vs 블랙웰 2,080억 개
업계, 신형 AI 블랙웰 칩당 가격 최대 10만 달러 추정
압도적 성능 앞에서 무의미해진 '피아식별'

세계 최대 인공지능(AI) 반도체 기업 엔비디아가 18일(현지시간) 기존 제품 대비 성능을 대폭 끌어올린 차세대 AI 반도체를 선보이며, 고객 다잡기에 나섰다. 이에 자체 AI칩 개발을 선언하며 엔비디아 대항마를 자처했던 오픈AI의 샘 올트먼 CEO(최고경영자)마저 엔비디아가 공개한 새 AI칩을 극찬하며 기대감을 한껏 드러냈다. 엔비디아의 압도적인 성능 앞에서 피아식별도 사실상 무의미한 모양새다.

엔비디아, 'GTC 2024'에서 블랙웰 공개

이날 기조연설이 열린 새너제이 SAP센터에서 젠슨 황 엔비디아 CEO는 "지금 가속 컴퓨팅은 임계점에 도달했다"며 "우리는 더 많은 컴퓨팅을 사용할 수 있게 되고 그 효과는 엄청날 것"이라고 강조했다. 이어 데이터센터, 엔터프라이즈 IT, AI 팩토리, AI 코파일럿 등 전 영역에 AI가 적용되면서 100조 달러(약 13경원) 규모의 산업이 만들어질 것이라고 자신했다.

황 CEO는 또 새롭게 공개한 '블랙웰 플랫폼'과 여기에 들어가는 B200 반도체의 성능을 설명하면서 기존 모델인 H100 GPU 대비 성능이 월등하게 향상됐다고 힘줘 말했다. 매개변수가 1조8,000억 개인 오픈AI의 GPT 모델을 90일간 AI 학습에 사용한다고 가정할 경우 H100이 탑재된 기존 호퍼 플랫폼에서는 8,000개의 GPU로 15㎿의 전력이 필요한 반면, 블랙웰 플랫폼에서는 2,000개의 GPU로 4㎿의 전력만이 소모된다는 설명이다. 전체 소모 전력이 4분의 1가량으로 줄어든 셈이다. 황 CEO는 소비 전력이 감소한 것은 그만큼 성능이 뛰어나다는 것을 의미한다고 강조했다.

이어 황 CEO는 블랙웰이 '추론'에서는 더 뛰어난 성능을 보여준다고 설명했다. 학습이 완료된 AI 모델로 챗GPT처럼 텍스트를 생성하거나 미드저니처럼 이미지를 만들 때 데이터센터 GPU에선 추론 작업이 이뤄지는데, 블랙웰 호퍼(GB200)에서는 기존 H200보다 종합적인 성능이 30배 좋아진다고 역설했다. 아직 블랙웰의 가격이 공개되진 않았지만 업계에서는 칩 1개의 가격이 5만 달러에서 최대 10만 달러에 달할 것으로 예상하고 있다.

젠슨 황 “블랙웰이야말로 세계에서 가장 강력한 칩”

블랙웰은 게임 이론과 통계학을 전공한 수학자이자 흑인으로는 최초로 미국국립과학원에 들어간 데이비드 블랙웰을 기리기 위해 붙인 이름이다. 엔비디아는 “블랙웰이야말로 세계에서 가장 강력한 칩”이라고 단언했다. 실제로 이는 H100이 제공한 4페타플롭에 비해 20페타플롭의 속도로 AI기업의 개발 성능을 크게 높일 수 있다. H100의 경우 속도를 좌우하는 트랜지스터가 800억 개인 반면에 블랙웰의 트랜지스터는 2,080억 개에 육박한다. 그만큼의 시너지를 통해 최대 30배나 속도를 높일 수 있게 된 것이다. 이를 위해 엔비디아는 개발과정에서 초당 최대 10테라바이트의 속도로 서로 통신할 수 있는 두 개의 대형 칩 다이를 연결하는 방식을 동원한 것으로 전해졌다.

황 CEO는 기조연설에서 엔비디아가 '반도체'를 넘어 '컴퓨팅 플랫폼'으로 진화하고 '서비스' 회사로 변화해 가는 것을 강조했다. 신형 B200 GPU 두 개와 그레이스 CPU, 반도체를 연결하는 NV링크, 케이블 등이 결합해 슈퍼컴퓨터가 만들어지고, 이것이 모여서 AI를 학습시키는 AI 클러스터가 된다고 설명했다.

엔비디아가 만들고자 하는 AI 데이터센터는 GPU가 3만2,000개 들어가는데 이를 'AI 팩토리'라고 부른다. 이와 관련해 황 CEO는 엔비디아는 이제 반도체를 파는 것이 아니라 이같이 AI에 특화된 컴퓨터를 만든다고 말했다. 이어 그는 엔비디아의 모든 기술이 결합된 DGX GB200 NVL72라는 컴퓨터를 '1개의 거대한 GPU'라고 설명하면서 데이터센터 전체의 성능을 높여야 AI 학습과 추론에 드는 컴퓨팅 비용을 낮출 수 있다고 강조했다.

‘타도 엔비디아’ 외치던 빅테크 공룡들, 엔비디아에 손 내밀어

새로운 슈퍼칩 탄생에 글로벌 빅테크의 CEO들은 앞다퉈 엔비디아에 손을 내밀었다. 이날 황 CEO는 “아마존, 델 테크놀로지스, 구글, 메타, 마이크로소프트(MS), 오픈AI, 오라클, 테슬라 등 많은 기업이 블랙웰을 도입할 계획”이라고 했다. 특히 오픈AI의 CEO 샘 올트먼이 눈에 띈다. 최근까지만 해도 엔비디아의 AI칩 독점을 비판하며 자체 AI칩 생산을 위해 최대 7조 달러(약 9,300조원) 규모의 펀딩을 추진하고 있음에도 불구하고, 올트먼은 “블랙웰은 엄청난 성능 도약을 제공하고, 최첨단 모델을 제공하는 우리의 능력을 가속화할 것”이라며 “AI 컴퓨팅을 향상시키기 위해 엔비디아와 계속 협력하게 돼 기대가 매우 크다”고 말했다.

다른 빅테크 CEO들도 마찬가지였다. 테슬라의 CEO 일론 머스크는 성명을 통해 “현재 AI용 엔비디아 하드웨어보다 더 좋은 것은 없다”며 “새로 나온 블랙웰은 엄청난 성능 향상을 제공하고 최첨단 모델을 제공하는 능력을 가속화할 것”이라고 기대했다. 그러면서 “AI 컴퓨팅을 향상하기 위해 엔비디아와 계속 협력하게 돼 기쁘다”며 엔비디아를 추켜세웠다.

메타 CEO 저커버그는 자사의 AI 노력을 강화하기 위해 “대량의 인프라”, 즉 엔비디아 칩을 확보하기 위한 계획을 공표하기도 했다. 저커버그는 “연말까지 본사는 최대 35만 개의 엔비디아 H100을 확보하게 될 것”이라며 “다른 GPU를 포함한다면 전체적으로 60만 개의 H100, 또는 H100과 동등한 성능의 컴퓨팅 칩을 확보하게 될 것”이라고 전했다. 업계에선 이번 슈퍼칩을 통해 이미 AI칩 시장 80% 이상을 장악하고 있는 엔비디아의 독점적 지위가 더욱 강화할 것이란 전망이 나온다.