메모리 용량 절감할 ‘수학적 증명’
데이터 센터 전력 및 탄소 배출량 ‘대폭 감소’
‘공정한 AI 교육’도 가능

본 기사는 The Economy의 연구팀의 The Economy Research 기고를 번역한 기사입니다. 본 기고 시리즈는 글로벌 유수 연구 기관의 최근 연구 결과, 경제 분석, 정책 제안 등을 평범한 언어로 풀어내 일반 독자들에게 친근한 콘텐츠를 제공하는 데 목표를 두고 있습니다. 기고자의 해석과 논평이 추가된 만큼, 본 기사에 제시된 견해는 원문의 견해와 일치하지 않을 수도 있습니다.

MIT 컴퓨터 공학자인 라이언 윌리엄스(Ryan Williams)의 새로운 수학적 증명은 대학의 컴퓨팅 비용과 에너지 사용, 평등한 교육에 대한 새로운 시사점을 던지고 있다. 증명의 내용은 ‘n번의 단계를 거쳐야 하는 알고리즘이 n의 제곱근에 해당하는 메모리로 처리될 수 있다’는 것이다. 메모리가 컴퓨팅 용량과 비례한다는 오래된 믿음을 깨고, 사용량을 획기적으로 줄일 수 있는 발견이다.

메모리 사용량 ‘획기적 절감’ 가능

그러니까 예전에는 테라비트(terabits)가 필요했던 RAM(랜덤 액세스 메모리)이 기가비트(gigabits)면 돌아간다는 얘기다. 이는 클라우드 컴퓨팅 비용은 물론 탄소 배출량을 줄여 더 많은 학생과 기관이 고사양 컴퓨팅을 활용하도록 할 수 있다.

대학들은 현재 공용 클라우드 인프라에 시간당 1,400만 달러(190억원)를 쓰고 있는데, 이는 전 세계 학생들의 정신 건강과 교수진 개발 예산을 합친 것보다 많다. 데이터 센터들은 이미 다수의 국가보다 많은 전력을 쓰고 있으며 2030년에는 일본 전체의 에너지 사용량을 추월할 것으로 보인다. 모두 인공지능(AI)과 데이터 기반 연구에 필수적이라고 여겨지던 비용이다.

하지만 메모리 사용을 획기적으로 줄일 수 있다는 사실은 모든 것을 뒤집는다. RAM 비용으로 900달러(약 122만원)가 드는 기계 학습 과정이 압축 메모리를 사용하면 100달러(약 13만6천원)로 해결될 수 있다. 열이 덜 발생하니 냉각을 위한 전력 사용도 줄어든다.

대학 비용 및 교육 격차도 감소

비용과 탄소 배출 때문에 고민인 대학에는 그야말로 혁명적인 발견이다. 교육 과정도 마찬가지다. 수십 년간 장비 비용이 줄며 각국의 교수진은 방대한 데이터와 복잡한 모델이 수반되는 과제를 내고 있다. 이제 메모리 효율 자체가 과목이 될 만하다.

예를 들어 컴퓨터 공학 개론에서는 알고리즘 설계를 기본형과 압축형으로 나눠 가르칠 수 있다. 기계 학습에서는 사용할 수 있는 RAM 용량에 한도를 부과하고 최적화에 성공하면 높은 점수를 줄 수도 있다. 초중등 교육과정에도 코딩을 실제 에너지 사용과 연결할 수 있다. 대학원 과정이라면 핵심 컴퓨팅 과목에 ‘형식적 환원’(formal reduction, 본질적인 특성을 유지하면서 단순화하는 것)을 추가해 메모리 및 에너지 효율을 높일 수 있다.

예산이 부족한 학교에는 구원과 같다. 장비가 오래되거나 인터넷 속도가 느린 환경에서 공부하는 학생들도 유의미한 모델을 돌릴 수 있어 클라우드 컴퓨팅 관련 격차를 좁힐 수 있다. 대학들은 비싼 클라우드 비용을 절약할 수 있으며 데이터 센터 확장을 위한 보조금을 고민하는 정책당국은 압축 컴퓨팅으로 규모를 줄일 수 있을지 먼저 따져 볼 수 있다.

30%만 도입해도 ‘호주 전력량’ 줄어

AI 작업량의 30%만 압축 메모리로 옮길 수 있다면 글로벌 데이터 센터의 전력 사용량을 283 테라와트시(TWh) 줄일 수 있다. 이는 호주 전체의 연간 전력량이다. 절약한 에너지는 학교와 병원, 지역 태양광 국지 전력망(microgrids) 등에 활용하면 된다.

하지만 주의할 점도 있다. 압축된 메모리가 알고리즘상 예측 불가능성을 증가시킬 수 있고 몰랐던 취약성이 발견될 수도 있다. 낮아진 컴퓨팅 비용 때문에 전체 사용량이 증가하는 반등 효과(rebound effect)를 부를 수도 있다. 인허가에 주의하지 않으면 특정 압축 방법이 독점 상품으로 바뀔 가능성도 충분하다.

탄소 배출 축소로 ‘기후 정책’에도 도움

하지만 탄소 예산(carbon budget, 지구 온난화를 특정 수준으로 제한하면서 방출할 수 있는 최대 탄소량)과 조달 방식, 오픈 소스 도구(open-source tools, 소스 코드를 자유롭게 사용, 수정, 배포할 수 있는 소프트웨어 애플리케이션)를 지혜롭게 결합한 정책으로 문제를 해결할 수 있다.

먼저 기후 모델링이나 교육 등 공공 목적을 위한 압축 기술 개발에는 지원금을 제공하고 메모리 효율 개선을 교과 과정에 포함해야 한다. 또 데이터 센터나 장비 구입 시 메모리 비용을 가격과 연동하고, 오픈 소스 도구 개발을 위한 지역 중심을 구축하는 것도 효과적이다. 전반적으로 탈탄소 목표와 압축 컴퓨팅을 연계한 인프라 계획을 세울 필요가 있다.

새로운 증명은 비용과 탄소 배출량을 줄이면서 컴퓨팅에 대한 수요자의 접근을 확대하는 획기적인 발견이다. 지금 서두르지 않으면 오래된 시스템에 갇혀 기회를 놓칠 수도 있다.

본 연구 기사의 원문은 Beyond the Cloud: Re-Engineering Education for the Era of √t Memory | The Economy를 참고해 주시기 바랍니다. 2차 저작물의 저작권은 The Economy Research를 운영 중인 The Gordon Institute of Artificial Intelligence에 있습니다.