엔비디아 CEO, '컴퓨텍스 2024'서 루빈 사양 공개
블랙웰 차기 버전 반도체 칩에 HBM4 적용할 것
' 독자 진군' 삼성전자 vs '연합 구성' SK하이닉스 

글로벌 인공지능(AI) 반도체 칩 시장을 주도하는 엔비디아가 차세대 제품에 6세대 고대역폭메모리(HBM) 'HBM4' 탑재를 공식화했다. 아울러 AI 반도체 칩 출시 주기도 기존 2년에서 1년 단위로 앞당기면서 HBM 개발 속도 경쟁에 불을 붙일 전망이다.

엔비디아, '루빈'에 HBM4 탑재

젠슨 황 엔비디아 최고경영자(CEO)는 2일 대만 타이베이에서 열린 '컴퓨텍스 2024(Computex 2024)'에서 내년에 선보일 차세대 AI 반도체 칩(플랫폼) '루빈(Rubin)'의 세부 사양을 일부 공개했다. 루빈은 올해 선보인 '블랙웰'의 차기 버전이다.

구체적으로 루빈은 그래픽처리장치(GPU)에 HBM4를 적용해 AI 반도체 칩을 구현할 예정이다. 엔비디아가 차세대 반도체 칩의 HBM4 탑재 여부를 공개한 건 이번이 처음이다. 현재 SK하이닉스·삼성전자·마이크론이 개발 완료한 HBM은 5세대인 'HBM3E'다. HBM4는 메모리 기업이 현재 개발 중인 차세대 제품으로, 내년에 개발이 완료될 전망이다.

엔비디아에 따르면 기본 제품인 루빈에는 HBM4가 8개 탑재되지만 고성능 버전인 루빈 울트라에는 HBM4가 12개 적용된다. 엔비디아가 자사 AI 반도체 칩에 HBM을 12개 쓰는 것 역시 이번이 최초다. 향후 HBM 수요 확대가 예상되는 대목이다. 다만 HBM4의 단수는 공개되지 않았다.

엔비디아가 AI 반도체 칩 출시 주기를 앞당긴 것도 주목되는 부분이다. 엔비디아는 지난 2020년 암페어 구조의 A100 등 A시리즈를, 2022년에는 호퍼 구조의 H100 등 H시리즈를, 그리고 올해 블랙웰을 선보였다. 내년에 로빈을 출시한다는 것은 기존 2년 단위 출시 기간을 1년으로 단축했다는 의미다.

블랙웰이 지난 3월 공개, 올 하반기 양산 예정인 것을 고려하면 루빈 역시 내년 말께 제품을 공급할 것으로 추정된다. 이같은 주기는 최근 HBM 개발 주기와도 맥을 같이한다. 엔비디아에 HBM을 공급 중인 SK하이닉스도 최근 HBM4의 개발 완료 시점이 2025년이라고 밝힌 바 있다. 기존 로드맵에서 1년 정도 앞당긴 것이다.

HBM3, HBM3E, HBM4의 차이점

HBM은 여러 개의 D램을 수직으로 적층해 TSV(실리콘관통전극)으로 연결한 고부가 메모리다. 2013년 처음 개발된 뒤 1세대(HBM)와 2세대(HBM2), 3세대(HBM2E), 4세대(HBM3), 5세대(HBM3E) 순으로 진화를 거듭했고 현재는 D램 단품 칩을 12개 쌓은 HBM3E 12단 제품까지 나온 상태다. 메모리 업계는 그간 HBM 기술을 고도화하면서 4단, 8단, 12단으로 네 단씩 제품 단수를 높여왔다. 이는 국제반도체표준화협의기구(JEDEC)가 정한 HBM 규격에 맞춘 것이다.

HBM 성능이 올라가면서 제조사들의 공정 기술도 급격히 발전했다. 현재 HBM 공정에 사용되는 기술은 크게 ‘TC-NCF’와 ‘MR-MUF’로 나눌 수 있다. 삼성전자는 전통적 공정방식인 TC-NCF를, SK하이닉스는 이보다 최신 기술인 MR-MUF를 사용 중이다.

삼성전자가 사용하는 TC-NCF은 ‘열압착 비전도성접착필름(Thermal Compression Non Conductive Film)’이라는 기술로, 비전도성접착필름인 NCF를 각각의 반도체 칩 사이에 덧댄 후 열과 압력을 가해 붙인다. 여러 층으로 쌓인 팬케이크 사이에 버터를 넣은 후 한 장씩 뜨거운 팬으로 눌러 만드는 크레이프 케이크의 조리 과정과 유사하다고 보면 된다.

현재 SK하이닉스가 HBM 공정에 적용 중인 MR-MUF는 ‘대량 리플로 성형 언더필(Mass Reflow Molded Underfill)’이라는 기술로, 반도체 칩을 회로에 부착 후 쌓아 올리는 방식이다. 이때 각 칩 사이에 ‘에폭시몰딩컴파운드(EMC)’라는 액체를 집어넣어 굳힌다. 여기서 EMC는 반도체 소자를 열, 충격, 수분 등 외부 위험 요소로부터 보호하는 밀봉 재료로 실리카, 에폭시수지, 페놀수지 등 원료를 섞어 만든다.

6세대인 HBM4는 이전 세대 제품들과 달리 정보를 주고받는 통로인 입출력단자(I/O)를 2배(2,024개) 집적하는 것이 특징이다. 또한 적층 D램 수도 최대 16개로, 이전 세대(최대 12개)보다 4개 많다. 다만 D램 적층 수가 늘어나는 만큼, 패키징 기술에서 한계가 드러났다. 기존 HBM은 D램에 TSV 통로를 만들고, 작은 돌기 형태의 마이크로 범프를 통해 전기적으로 연결하는 TC(열압착) 본딩 기술을 적용해 왔다. 삼성전자와 하이닉스 모두 세부적인 방식은 다르지만 범프를 사용한다는 점에서는 동일하다.

그런데 당초 고객사들은 D램을 최대 16단으로 적층하면서도, HBM4의 최종 패키지 두께를 이전 세대들과 동일한 720마이크로미터(㎛)로 요구했다. 기존 본딩으로는 16단 D램 적층 HBM4를 720㎛로 구현하기에는 사실상 무리가 있다는 이유에서다. 이에 현재 업계에서는 ‘하이브리드 본딩’이 연구되고 있다. 이는 솔더볼을 없애고 칩과 칩을 직접 연결해 밀착시키는 기술로 기존 공법보다 쉽게 연결하고, 높이도 낮출 수 있다. 하이브리드 본딩이 33% 공간을 더 확보할 수 있다는 연구 결과도 있다.

새로운 격전지 HBM4, 세대 전환 가속화

이런 가운데 삼성전자와 SK하이닉스는 오는 2026년 HBM4의 상용화를 앞두고 준비에 분주한 모습이다. 먼저 HBM을 최초로 개발하며 리더십을 지켜왔던 SK하이닉스는 차세대 HBM 생산과 어드밴스드 패키징 기술 역량을 강화하기 위해 대만 TSMC와 긴밀히 협력하기로 했다. 양사는 최근 대만 타이페이에서 기술 협력을 위한 양해각서(MOU)를 체결, HBM4를 개발한다는 계획이다.

양사는 우선 HBM 패키지 내 최하단에 탑재되는 베이스 다이(Base Die)의 성능 개선에 나선다. HBM은 베이스 다이 위에 D램 단품 칩인 코어 다이(Core Die)를 쌓아 올린 뒤 이를 TSV 기술로 수직 연결해 만들어진다. 베이스 다이는 GPU와 연결돼 HBM을 컨트롤하는 역할을 수행한다.

SK하이닉스는 5세대인 HBM3E까지는 자체 공정으로 베이스 다이를 만들었으나, HBM4부터는 로직(Logic) 선단 공정을 활용할 계획이다. 이 다이를 생산하는 데 초미세 공정을 적용하면 다양한 기능을 추가할 수 있기 때문이다. 회사는 이를 통해 성능과 전력 효율 등 고객들의 폭넓은 요구에 부합하는 맞춤형(Customized) HBM을 생산한다는 계획이다. 이와 함께 SK하이닉스은 HBM과 TSMC이 특허권을 갖고 있는 고유 공정 CoWoS 기술 결합해 고객 요청에도 공동 대응 하기로 했다.

삼성전자는 세계 최고 수준의 자체 파운드리를 보유하고 있는 만큼, 개발부터 양산까지 모두 자체적으로 진행하는 방향으로 가닥을 잡은 것으로 전해진다. 메모리와 파운드리 사업부의 시너지 강화해 HBM 경쟁력을 높일 계획이다. 특히 삼성전자는 지난해 홍콩에서 열린 '삼성전자 인베스터스 포럼 2023'에서 'GDP(GAA, DRAM, PACKAGING)' 전략을 공개했는데 관련 기술을 HBM4 등에도 적극 적용할 것으로 관측된다.

GDP는 회로 폭 3㎚ 이하 프로세서의 누설전류를 줄이는 GAA 기술과 차세대 D램 제품, 최첨단 패키징을 결합한 서비스 의미한다. 최첨단 메모리반도체와 프로세서를 생산하고 두 칩을 한 칩처럼 작동할 수 있도록 배치해 최고 수준의 저전력·고성능 반도체를 공급하겠다는 구상으로 풀이된다.