오픈AI, 공정 안정성 중심 기술 실리 채택
CoWoS 기반 패키징 경쟁력 격차 확대
수율 안정화 및 저가 수주 통한 신뢰 회복 시급

인공지능(AI) 시대를 개척하고 있는 오픈AI의 자체 반도체 개발 프로젝트 '티그리스'가 구체적인 생산 가이드라인을 드러냈지만, 결과는 삼성전자에 냉혹한 패배를 안겼다. 오픈AI는 삼성전자가 야심 차게 제안한 턴키(메모리·파운드리 일괄 수행) 솔루션을 뒤로하고, 대만 TSMC를 단독 제조 파트너로 최종 낙점하며 실리콘 동맹의 견고함을 재확인했다. 이는 삼성의 파운드리 전략이 글로벌 AI 시장에서 여전히 기술적 해답을 주지 못하고 있음을 상징적으로 보여준다.

엔비디아 의존도 탈피 위한 오픈AI의 전략적 선택

9일 반도체업계에 따르면, 오는 10일로 예정된 TSMC의 3월 실적 발표를 앞두고 삼성전자 파운드리(반도체 위탁생산)의 소외 현상이 다시금 화두로 떠오르고 있다. 특히 지난달 말 브로드컴이 TSMC의 선단 공정 캐파(생산능력)가 한계에 도달했음을 알리며 오픈AI 등 빅테크의 생산 고착화를 공식화함에 따라, 현재 시장에서는 삼성전자가 제시했던 턴키 전략의 패배가 뼈아픈 현실로 다시금 조명되는 분위기다.

오픈AI는 AI 칩 선두주자 엔비디아에 대한 의존도를 낮추기 위해 미국 반도체 기업 브로드컴과 손잡고 맞춤형 AI칩(ASIC)을 개발하고 있다. 내년부터 AI칩을 대량 생산하는 게 목표다. 현시점 칩 개발 과정은 순조로운 것으로 보인다. 로이터통신은 "칩 공장에 칩 설계를 보내는 과정을 '테이핑 아웃'(taping out)이라고 한다"며 "대개 테이핑 아웃에는 수천만 달러의 비용이 들어가며 급행료를 지불하지 않는다면 이후 칩 생산까지는 약 6개월이 걸린다"고 전했다.

지난 2월 이뤄진 수주전에서 삼성전자는 오픈AI에 공급과 파운드리 제조를 한 번에 해결할 수 있는 최적의 파트너임을 강조했다. 2월 4일 당시 삼성전자 서초사옥에서 이재용 삼성전자 회장과 샘 올트먼 오픈AI 최고경영자(CEO), 손정의 일본 소프트뱅크 회장이 만남을 가진 후만 해도, 오픈AI가 ASIC 생산을 삼성전자 파운드리에도 일부 맡길 수도 있을 것이란 기대감이 컸었다. 삼성전자는 현재 파운드리 시장 내 입지가 위축돼 이 분야에서 분기별로 수조원의 적자를 기록하고 있다. 이 때문에 미국 텍사스주 테일러 공장을 가동 시기도 올해에서 내년으로 연기하는 등 투자에 적극 나서지 못하는 상황이다.

삼성 '턴키' 제안에도 패키징 격차에 패배

하지만 올트먼 CEO는 TSMC에 ASIC 생산을 맡기기로 결정했다. 삼성의 통합 솔루션이 가진 매력보다 각 분야에서 세계 최고를 고수하는 분업 체계를 선택한 것이다. 오픈AI는 수조원이 투입되는 '티그리스 프로젝트'의 성패가 공정의 불확실성에 좌우되는 것을 원치 않았다. 결국 검증된 데이터가 풍부한 TSMC의 3나노 및 2나노 공정을 선택하는 기술적 실리주의를 택한 것이다.

특히 반도체 성능을 결정짓는 핵심 요소가 미세 공정에서 후공정인 패키징으로 이동하면서 삼성의 약점은 더욱 도드라졌다. TSMC의 칩온웨이퍼온서브스트레이트(CoWoS) 기술은 현재 AI 칩 생산의 표준이나 다름없다. 오픈AI의 티그리스 프로젝트 역시 초대규모 연산 처리를 위해 고도의 패키징 기술이 필수적인데, 이 영역에서 삼성전자는 TSMC 대비 충분한 신뢰를 확보하지 못했다는 평가가 지배적이다.

게다가 역설적이게도 엔비디아의 칩을 가장 잘 만드는 곳이 TSMC라는 사실도 오픈AI의 결정을 도왔다. 엔비디아와 같은 생산 라인을 이용함으로써 얻을 수 있는 설계 자산의 호환성과 공급망 안정성은 오픈AI에 있어 포기할 수 없는 이점이다. 결국 삼성 파운드리는 엔비디아의 의존 탈피를 모색하는 고객에게조차 대안이 되지 못하는 처지에 놓이게 됐다.

현재 AI 반도체 시장은 특정 알고리즘에 최적화된 맞춤형 칩의 시대로 진입하고 있다. 오픈AI의 티그리스는 그 정점에 있는 프로젝트다. TSMC는 고객사가 원하는 미세한 설계 요구사항을 완벽하게 공정으로 구현해 낼 수 있는 유연함과 정교함에서 삼성을 압도했다. 삼성전자가 고수해 온 대량 생산 위주의 범용 중심 접근법이 맞춤형 AI 시대의 문법과 충돌하고 있다는 지적이 나오는 이유다.

멀어지는 파운드리 1위의 꿈

이런 상황에서 삼성의 현실적 선택지는 분명하다. 초대형 고객 유치에 집중하기보다 2나노·3나노 구간에서 게이트올어라운드(GAA) 공정의 안정성과 수율을 축적하고, 저가 수주를 통해 신뢰도를 단계적으로 확보하는 접근이 필요하다는 평가다. 삼성의 GAA 공정은 차세대 기술로서의 잠재력을 인정받고 있지만, 양산 신뢰성에 대해서는 의문 부호가 여전하다.

차세대 모바일 프로세서 시장의 절대적 갑이자, 삼성 파운드리의 부활을 견인할 구원수로 점 찍혔던 퀄컴이 최근 삼성 대신 TSMC로의 전량 회귀를 사실상 확정 지었다는 사실이 이를 방증한다. 대만 IT 전문 매체 디지타임즈에 따르면 삼성전자의 2나노 2세대 공정인 SF2P의 수율은 글로벌 팹리스(반도체 설계)의 양산 기준치를 충족하지 못하고 있는 것으로 파악됐다. 이로 인해 퀄컴은 내년도 플래그십 모델인 스냅드래곤 차기작의 생산 물량 전체를 TSMC의 2나노 라인으로 배정하기로 내부 방침을 굳혔다.

삼성의 SF2P 공정은 3나노에서 쌓은 GAA 경험을 바탕으로 전성비와 성능을 극대화하려 했던 야심작이다. 하지만 설계 단계에서 기대했던 이점은 실제 양산 환경에서 제대로 구현되지 못하고 있다. 초미세 공정으로 진입할수록 공정 변수와 물리적 제약이 급격히 증가하며, 이는 곧 수율 관리 난이도의 급등으로 이어진다. 현재 드러난 성능과 안정성 지표만으로는 대규모 물량을 맡기기엔 부담이 크다는 판단이 형성된 것으로 보인다.

퀄컴은 과거 삼성이 4나노 공정의 발열 및 수율 문제로 곤혹을 치렀을 때 지체 없이 TSMC로 발길을 돌렸던 전력이 있다. 이번 2나노 경쟁에서도 퀄컴은 모험보다는 안정을 선택했다. 삼성의 기술적 잠재력보다는 TSMC의 검증된 양산 안정성과 공급 능력이 기업의 이익을 지키는 데 더 유리하다고 판단한 것이다.

TSMC는 오픈AI와 퀄컴 물량 독식을 통해 2나노 시장에서도 독보적인 지배력을 다시금 입증했다. 글로벌 핵심 고객사들이 대만으로 몰리면서 TSMC는 대량 양산 데이터를 독점하며 공정 성숙도를 더욱 끌어올릴 기회를 잡았다. 반면 삼성전자는 공정 안정화에 어려움을 겪는 가운데 양산 경험 축적 기회마저 제한되고 있다. 이러한 격차는 향후 1나노 공정 경쟁에서도 TSMC가 진입 장벽을 더욱 높이는 요인으로 작용할 가능성이 크다. 수율이라는 통곡의 벽을 넘지 못할 경우, 삼성의 파운드리 신화는 시작되기도 전에 마침표를 찍을 수 있다는 의미다.