AI 데이터센터 열폭주 시대, ‘냉각 기술’이 패권 가른다

데이터센터 식히기 바쁜 기업들
AI 데이터센터 핵심은 ‘액체 냉각’
냉각 유리한 곳 찾아 고위도·해저·우주로

인공지능(AI) 기술이 폭발적으로 성장하는 가운데, 전 세계 데이터센터가 거대한 ‘열 장벽’에 직면했다. 구글 등 초대규모 데이터센터 운영사들이 성능 경쟁에 박차를 가하면서 기존 공랭식 시스템이 한계에 도달하자, 이를 해결할 첨단 냉각 기술이 미래 산업의 핵심 인프라로 급부상한 모양새다. 이 같은 흐름은 바닷속과 우주로까지 번지고 있다. 해저 데이터센터는 낮은 수온을 냉각원으로 활용해 효율을 끌어올리고, 우주 데이터센터는 진공 환경에서 열을 직접 방출하고 24시간 태양광을 확보할 수 있다는 점에서 차세대 인프라 모델로 거론된다.

데이터센터 냉각 설비 진화

15일 시장조사기관 글로벌마켓인사이트(Global Market Insight)에 따르면, 전 세계 냉난방 공조(HVAC) 시장은 2024년 3,016억 달러(약 445조4,300원)에서 2034년 5,454억 달러(약 805조5,000억원)까지 치솟을 것으로 전망된다. 10년 안에 HVAC 시장이 지난해 전 세계 스마트폰 시장 규모(5,700억 달러·약 842조원)와 맞먹는 크기로 성장하는 것이다.

이런 냉각 시장 성장 배경에는 AI 학습에 필수적인 그래픽처리장치(GPU)의 막대한 발열량이 있다. 데이터센터의 운영에 있어 발열 관리는 단순한 유지 보수 차원이 아닌 시스템의 연속성과 신뢰성을 좌우하는 핵심 요소다. 데이터센터에서 발생하는 열 중 대부분은 데이터 처리 과정에서 발생한다. AI 관련 데이터가 처리될 때 중앙처리장치(CPU)·GPU·메모리 등 핵심 부품에서 상당한 발열이 나타나기 때문이다. 특히 서버의 성능 향상으로 고밀도 서버의 보편화와 GPU 중심의 AI 연산 확산은 단위 면적당 열 발생량은 과거와 비교할 수 없을 만큼 훨씬 더 높아졌다.

이 때문에 냉각 방식도 과거와 달라졌다. 그간 데이터센터는 차가운 바람을 순환시키는 ‘공랭식’에 의존했다. 외부 기온이 중요한 만큼 추운 북유럽 국가에 데이터센터를 지으려는 수요가 많았다. 그러나 공랭식은 일정 수준 이상으로 온도가 높아지면 냉각 효율이 떨어진다는 단점이 있다. 가장 많이 쓰는 방식이지만 AI로 인한 변화에는 적절하지 않다는 평가다.

커지는 액침냉각 시장

이에 업계는 ‘수랭식’에 주목하고 있다. 특히 엔비디아가 차세대 AI 가속기 '블랙웰'에 수랭식 냉각을 도입하기로 하면서 관련 기술에 대한 빅테크 기업들의 관심이 높다. 그중 ‘직접액체냉각(Direct-to-Chip)’은 GPU 칩 표면에 냉각수가 흐르는 금속판(콜드 플레이트)을 밀착시켜 열을 식히는 방식이다. 냉각 팬을 사용하지 않아 소음과 먼지 문제에서 자유롭다는 장점도 있다.

또 다른 수랭식인 ‘액침냉각(Immersion Cooling)’도 차세대 기술로 부상하고 있다. 이는 서버 전체를 전기가 통하지 않는 특수 액체에 담가 식히는 방식이다. 직접액체냉각보다 냉각 범위가 넓고, 부품 간 온도 차이 없이 균일하게 식힐 수 있다. 특히 액침냉각은 랙당(서버와 네트워크 장비들을 층층이 쌓아 보관하는 표준 규격의 선반) 발열량이 50킬로와트(kW)를 넘어갈 경우 필수적으로 도입해야 하는 기술이다. 최신 AI 클러스터의 랙당 전력 밀도는 기존의 5배가 넘는 100kW를 돌파한 상태다.

냉각 기술을 발전시키는 방법 외에 데이터센터를 아예 저온의 환경에 지어 자연 냉각을 하려는 시도도 빨라지고 있다. 실제로 몇몇 기업들은 연중 평균 기온이 낮은 고위도 지역에서 데이터센터를 운영한다. 메타는 2013년 북극권에 인접한 스웨덴 룰레오 지역에 데이터센터를 세워 냉각 비용을 크게 절감한 것으로 알려졌다. 중국 야장컴퓨팅테크는 티베트 고원에 대규모 AI 전용 컴퓨팅센터 '야장 1호'를 구축했다. 야장 1호는 고성능 서버에 친환경 냉각시스템까지 갖춘 것으로 알려졌다. 네이버 역시 평균 기온이 낮은 강원 춘천시에 데이터센터를 지어 산에서 내려오는 찬바람으로 서버의 열을 식히는 구조를 만들었다.

이런 시도는 지상에 국한되지 않는다. 중국 하이랜더 디지털 테크놀로지(Highlander Digital Technology)는 상하이 연안에 새로운 해저 컴퓨팅 모듈을 배치할 계획이다. 해저 데이터센터는 서버의 온도를 조절한다. 이 기술은 2018년 마이크로소프트(MS)가 스코틀랜드 연안에서 처음 시험했었다. 바닷속의 낮은 수온을 활용해 에너지 효율을 높이는 게 목표로, 분석 결과 서버 고장률이 육지의 8분의 1 수준으로 낮았다. 중국이 진행 중인 프로젝트는 상용화를 겨냥한 초기 사례로 꼽힌다. 해저로 투입된 데이터센터의 전력 공급은 해상 풍력단지에서 대부분을 공급받아 재생에너지 비중을 95% 이상으로 끌어올릴 방침이다.

에너지·효율·공간 제약 없는 우주 데이터센터도 부상

최근에는 별도의 냉각 장치가 필요 없고 기후와 무관하게 24시간 태양광 발전이 가능하다는 점에서, 우주 데이터센터 설립까지 논의된다. 가장 앞서고 있는 기업은 일론 머스크가 창업한 스페이스X다. 스페이스X는 스타링크 위성에 AI 연산 장비를 탑재해 우주 AI 데이터센터를 구축하는 계획을 추진 중이다. 머스크 최고경영자(CEO)는 미국 기술 전문 매체와의 인터뷰에서 “스페이스X는 향후 실제로 궤도 데이터센터를 운영할 것”이라며 “(차세대 로켓)스타십이 상업적으로 완전히 안정화되면, 데이터센터 모듈을 우주로 올리는 비용은 지상 데이터센터 건립 비용과 비교해도 경쟁력이 생긴다”라고 밝혔다.

우주 기업 블루 오리진을 이끄는 제프 베이조스 아마존 의장도 현재 데이터 시장 최대 기업 중 하나인 아마존웹서비스(AWS) 클라우드를 우주로 확장하겠다는 비전을 갖고 있다. 베이조스 의장은 지난달 이탈리아에서 열린 한 행사에서 “10~20년 후에는 우리가 기가와트(GW)급 데이터센터를 우주에서 운영하는 시대가 올 것”이라고 밝혔다. 1기가와트급 데이터센터는 인구 100만 명 정도의 도시 하나의 전력 소모량에 해당한다.

엔비디아가 투자한 스타트업 스타클라우드는 최근 스페이스X 로켓으로 발사한 위성에 엔비디아 GPU H100을 탑재해 우주 궤도에서 AI 모델을 구동하는 데 성공했다. 우주에서 AI 모델을 학습시킨 건 이번이 처음이다. 구글도 지난달 4일 AI 인프라를 우주로 확장하는 ‘프로젝트 선캐처(Project Suncatcher)’ 구상을 공개했다. 태양전지로 전력을 스스로 생산하는 소형 위성에 TPU(텐서처리장치) 같은 AI 칩을 넣어 위성들을 하나의 연산 네트워크처럼 연결하겠다는 구상이다.

우주 AI 데이터센터란 AI 연산 장치를 여러 저궤도(지상 200~2,000㎞) 위성에 실어 데이터센터처럼 운영하는 기술이다. 여러 위성이 서로 연결돼 하나의 큰 컴퓨팅 센터처럼 협력해 연산을 수행하는 걸 목표로 한다. 우주는 지상과 달리 AI가 필요로 하는 3가지 조건을 모두 제공할 수 있다. 우주 저궤도에선 기상 영향 없이 태양광을 안정적으로 확보해 연산에 필요한 전력을 스스로 생산할 수 있고, 진공 상태에선 지상처럼 막대한 물을 쓰지 않고도 열을 우주 공간으로 직접 방출할 수 있다. 부지 제약 또한 사실상 없다. 베이조스 의장은 이에 대해 “우주에서는 24시간 끊기지 않는 태양 에너지를 쓸 수 있어 대형 AI 클러스터를 지구보다 훨씬 안정적으로 운영할 수 있다”고 말했다.