엔비디아 손잡고 SOCAMM 시장 선점
삼성전자는 CXL·GDDR7로 반격 나서
용도·칩셋별 맞춤형 메모리 시대 열려

마이크론이 차세대 메모리 모듈 소캠(SOCAMM) 상용화를 선언하며 메모리 산업 판도에 중대한 균열을 예고했다. 기존에는 고대역폭메모리(HBM)를 중심으로 한 SK하이닉스와 삼성전자의 양강 구도가 이어졌지만, 새로운 메모리 아키텍처가 실용화 단계에 접어들면서 기술 경쟁의 전선이 넓어지는 양상이다. 삼성전자는 이에 맞서 CXL 메모리를 통해 연산 자원의 확장성과 연결성을 무기로 반격에 나섰고, 그래픽 처리에 특화된 그래픽D램(GDDR)7 양산에도 속도를 내고 있다.

고속 데이터 처리에 강점 보이는 SOCAMM

11일 반도체업계에 따르면 엔비디아는 연내 출시 예정인 차세대 AI 가속기 GB300에 HBM과 SOCAMM을 함께 탑재한다. GB300은 엔비디아 중앙처리장치(CPU) ‘그레이스’와 그래픽처리장치(GPU) ‘블랙웰 울트라’를 결합한 서버용 플랫폼이다. 엔비디아는 SOCAMM 탑재를 위해 삼성전자, SK하이닉스, 마이크론 등 세 곳에 SOCAMM 개발을 의뢰했으며, 이 가운데 마이크론 제품 양산을 가장 먼저 승인했다.

SOCAMM(Small Outline Compression Attached Memory Module)은 CPU나 GPU 등 시스템온칩에 직접 연결되는 차세대 메모리 모듈이다. 기존 D램과 달리 칩과 모듈 간 인터페이스를 최소화해 초고속 데이터 전송이 가능하며, 병목 현상 없이 연산 성능을 끌어올릴 수 있다는 점을 앞세워 AI 반도체 시장에서 크게 주목받고 있다. 마이크론이 해당 기술에서 가장 먼저 상용화에 나선 만큼 글로벌 메모리 시장의 지형도 또한 달라질 전망이다.

SOCAMM의 핵심은 연산 장치 가까이에 직접 배치돼 고속 처리를 가능하게 한다는 점이다. 이는 고성능 컴퓨팅(HPC), AI 학습 및 추론용 서버, 엣지 장비, 데이터센터용 GPU 모듈 등에서 매우 유용한 것으로 평가된다. 고속 연산이 필요한 응용 환경에서 기존 D램은 물리적 거리와 버스 병목의 한계가 컸지만, SOCAMM은 칩 바로 옆에서 데이터를 처리함으로써 성능을 극대화할 수 있다. 대규모언어모델(LLM) 학습, 실시간 영상 분석, 자율주행 알고리즘 등 적용 분야도 다양하다.

HBM이 제공하는 고대역폭의 장점은 여전히 유효하지만, SOCAMM은 이보다 더 유연한 설계 구조와 기존 메인보드 호환성이 특징이다. 냉각 효율이 높고 전력 소모도 낮아 서버 클러스터의 전반적 운영 효율을 개선할 수 있으며, 제조 단가 또한 상대적으로 낮다는 점에서 대중화 가능성이 크다. 특히 AI 반도체 시장이 다층화되면서 SOCAMM은 HBM 대비 적정 성능과 비용을 동시에 만족시킬 수 있는 ‘중간 지대’로 불린다.

마이크론은 SOCAMM과 HBM3E를 동시 생산할 수 있다는 점을 적극 활용해 경쟁사들과의 격차를 줄인다는 구상이다. 삼성전자와 SK하이닉스가 HBM 고도화에 집중하는 사이, 시장 수요를 선점할 수 있는 다중 포트폴리오 전략을 택한 것이다. SOCAMM이 실제 양산과 수요 확대 국면에 진입할 경우, 메모리 시장은 단일 기술 중심에서 벗어나 다양한 기술 간 공존 구조로 재편될 것이라는 게 업계의 관측이다.

전통 ‘D램 강자’ 삼성전자 전략적 행보

후발주자인 마이크론의 매서운 추격에 삼성전자가 꺼내든 대응 전략은 CXL(Compute Express Link) 기반 메모리다. CXL은 CPU와 GPU, 메모리 사이의 데이터 전송을 기존보다 훨씬 빠르고 유연하게 처리할 수 있는 고속 인터커넥트 기술로 AI 서버와 고성능 컴퓨팅 환경에서 병목 현상을 줄이는 데 큰 효과가 있다. 삼성전자는 자체 CXL 메모리 제품을 개발해 차세대 서버용 플랫폼 시장을 선도하겠다는 구상을 밝힌 바 있다.

CXL 메모리의 가장 큰 강점은 확장성과 호환성이다. 기존 메모리는 물리적 슬롯의 한계 때문에 확장이 어렵고, 새로운 연산 장치와의 호환성도 제한적이었다. 반면 CXL은 다양한 연산 장치와 메모리 모듈을 동적으로 연결할 수 있어 AI 서버나 클라우드 데이터센터처럼 유연한 자원 배치가 필요한 환경에서 강점을 가진다. 특히 AI 연산 수요가 폭발적으로 증가하는 상황에서 CXL 메모리는 병목 해소와 유연한 확장이라는 과제를 동시에 해결할 수 있는 해법으로 주목받고 있다.

다만 아직 CXL이 상용화된 시장 규모는 크지 않다. 그러나 삼성전자는 이 시장이 조만간 급성장할 것이라는 전망을 바탕으로 선제적 투자와 기술 확보에 나선 상태다. 마이크론과 SK하이닉스가 메모리 성능 고도화에 주력하는 동안 CXL을 통해 서버 인프라의 구조 자체를 혁신한다는 구상이다. SK하이닉스가 주도하던 HBM 중심 경쟁에서 마이크론이 SOCAMM으로 새로운 전선을 연 가운데, 삼성전자 CXL이라는 완전히 다른 카테고리의 기술로 대응하는 셈이다.

AI 메모리 시장 다변화, 단일 기술론 부족

이와 함께 삼성전자는 GDDR7의 상용화를 앞두고 있다. GDDR7은 그래픽 처리에 최적화된 고속 메모리로 기존 GDDR6 대비 속도는 1.4배, 전력 효율은 20% 이상 향상된 것으로 알려졌다. 이는 고사양 게이밍 GPU나 AI 추론용 그래픽 가속기, 고주사율 디스플레이 등에서 필수적인 기술이다. 삼성전자는 GDDR7 단독이 아닌 CXL이나 기존 더블데이터레이트(DDR)5와의 조합을 통해 목적에 맞는 메모리 솔루션을 맞춤형으로 제공하는 방식을 택했다. 단일 기술로는 뚜렷한 경쟁 우위를 담보할 수 없다는 판단에서다.

이처럼 글로벌 메모리 산업은 이제 단일 기술 주도의 시장에서 다중 기술이 병존하는 구조로 급속히 전환되고 있다. 특히 고성능 AI 연산, 대규모 데이터 처리, 실시간 그래픽 처리 등 다양한 수요가 분화되면서 하나의 기술이 모든 수요를 감당하는 구조는 더 이상 작동하지 않는 형국이다. 이러한 메모리 시장의 세분화는 반도체 기업들이 다양한 제품군을 유지해야 하는 부담으로 작용하는 동시에 수익 다변화의 기회 또한 제공한다.

실제로 삼성전자는 올 초 출시된 엔비디아의 최신 그래픽카드 ‘지포스 RTX 50’ 시리즈에 이어 신규 중국향 저가용 AI 가속기 ‘RTX PRO 6000D(B40)’의 메인 공급사로 낙점되면서 수익 개선에 청신호가 켜진 상태다. 김동원 KB증권 연구원은 “AI 서버 수요 증가가 여러 분야로 확장되면서 AI 반도체 수요 또한 확대되는 추세”라며 “이는 범용 메모리 업황의 반등 지속 요인으로 작용할 것”이라고 관측했다. 그러면서 “삼성전자 또한 HBM 중심의 AI 메모리 수요가 일반 메모리반도체로 확대되는 등 수혜 폭이 확대될 전망”이라고 분석했다.