[AI MEMO] 수학 난제도 푸는 AI, 경제학자는 왜 유리할까

AI의 난제 해결로 수학자 입지 약화
인과관계 판단의 복잡성에 경제학계 우위
단순 분석 업무 축소와 전문인력 수요 변화

본 연구 기사는 유럽 경제 연구소 The Economy의 연구위원(Fellow)들이 작성한 The Economy Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술-경제-정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적인 의견이며, The Economy 또는 집필자의 소속 기관의 견해와 일치하지 않을 수 있습니다.

인공지능(AI)이 수학계의 오랜 난제를 잇달아 해결하면서 수학자들의 학계 진출과 연구 경력에 대한 불안감이 커지는 양상이다. 지난 8월 미국 매사추세츠공과대학(MIT) 수학과 대학원생들을 대상으로 실시한 설문조사에서 응답자의 75%는 AI로 인해 정년보장 교수직 등 안정적인 학계 진출이 어려워질 것으로 우려했다. 71%는 수학 분야에서 연구를 이어갈 가능성이 낮아졌다고 답했다. 설문 결과는 지난달 10일 학과 회의에서 공개됐다. 오픈AI가 수학계의 오랜 난제인 '나비에-스토크스(Navier-Stokes)' 문제의 해법을 발표한 지 이틀 뒤이자, 약 400개의 미해결 문제에 대한 증명을 추가 공개하기 약 4주 전이었다. 이처럼 AI가 수학적 증명을 생성하고 검증하는 수준에 이르면서 연구 노동시장의 경쟁력은 달라지고 있다.

수학 연구의 가치 하락

오픈AI는 나비에-스토크스 방정식의 해법을 도출하는 데 약 1만 개의 AI 에이전트를 투입했다. 이들은 88시간 동안 약 1,300억 개의 출력 토큰을 생성했으며 영국 BBC가 오픈AI의 공개 요금표를 바탕으로 추산한 연산 비용은 1,000만 달러(약 133억원)에 달한다. 이는 밀레니엄 문제에 걸린 상금 100만 달러(약 13억원)의 10배에 달하는 금액이다. 오픈AI는 상금을 청구하지 않겠다고 밝혔다. 다만 이번 연산 비용은 수 세대에 걸친 수학자들의 노력에도 약 90년간 풀리지 않았던 난제를 해결하는 데 투입됐다는 점에서 의미가 있다.

AI의 확산은 수학계의 연구 환경에도 변화를 가져왔다. 논문 사전공개 플랫폼 아카이브(arXiv)는 AI가 생성하거나 AI의 도움을 받은 연구 결과가 급증하면서 이달 1일부터 저자당 논문 제출 건수를 월 2건으로 제한했다. 쏟아지는 논문을 검토할 시간이 부족해졌기 때문이다. 과학 전문지 콴타매거진(Quanta Magazine)에 따르면 오픈AI는 100개 이상의 주요 연구 성과를 공개하지 않고 있다. 이에 연구자들은 이미 해결된 문제를 중복 연구할 가능성을 우려하며 새로운 연구 과제를 제기하는 데도 주저하는 상황이다.

이러한 변화는 계산기의 발전에 비유할 수 있다. 특정 도구가 인간보다 저렴한 비용으로 작업을 수행하고 정확성까지 보장한다면 동일한 작업을 수행하는 인간 노동의 시장가치는 도구의 사용 비용에 가까워진다. 그동안 수학에서 계산기의 역할은 산술 계산과 시뮬레이션에 국한됐다. 증명은 수학자의 몫이었으며, 정확성을 확인하는 동료 평가에도 수년이 걸리곤 했다. 그러나 수학 검증 시스템 린(Lean)의 등장으로 이러한 구분에도 변화가 생겼다. 나비에-스토크스 문제의 해법을 기계적으로 검증하는 데 걸린 시간은 17시간이었다. AI가 증명을 생성할 뿐 아니라 정확성까지 자동으로 검증할 수 있게 된 것이다. 이에 따라 정리 증명의 가치는 숙련된 수학자의 노동시간보다 컴퓨팅 비용에 더욱 밀접하게 연동되는 추세다.

순수수학자 고용시장에 드리운 AI 위협

증명 비용의 하락은 순수수학자들의 고용시장에도 위협 요인으로 작용하고 있다. 미국 노동통계국(BLS)이 지난 8월 27일 발표한 고용 전망에 따르면, 지난해 미국의 수학자 일자리는 약 2,200개였으며 연봉 중위값은 12만6,710달러(약 1억6,800만원)였다. 2035년까지 고용 증가율은 1%에 그쳐 신규 일자리는 사실상 늘어나지 않을 것으로 예상됐다. 이 전망은 오픈AI가 나비에-스토크스 문제의 해법을 발표하기 12일 전에 공개돼 AI의 영향을 반영하지 않았다. 수학자 고용이 이미 정체된 상황에서 증명을 자동으로 생성하는 AI까지 등장한 셈이다. 특히 연구자가 증명한 정리를 채용과 정년보장, 학문적 성과의 핵심 평가 기준으로 삼아온 수학계에서는 변화의 압박이 더욱 크다.

MIT의 한 교수는 미국 일간지 보스턴글로브(Boston Globe)와의 인터뷰에서 수학자의 역할이 직접 증명을 완성하는 것에서 그 결과를 해석하고 다른 사람에게 설명하는 방향으로 바뀌고 있다고 진단했다. 이는 복잡한 증명을 누구보다 빠르게 완성하는 능력을 경쟁력으로 삼아온 연구자들에게 더 큰 위협이 될 수 있다. 실제로 오픈AI의 발표 이틀 뒤 미국 캘리포니아대학교 버클리캠퍼스에서 열린 강연에서는 수학자라는 직업 자체가 사라질 수 있다는 경고가 나왔다. 수학 스타트업 액시엄매스(Axiom Math)에서 일하기 위해 휴직한 한 수학자는 학생과 박사후연구원, 교수 등 약 150명에게 졸업할 무렵에는 수학자라는 직업이 사라지거나 기존과 전혀 다른 모습으로 바뀔 수 있다는 우려를 전했다. 당초 50분으로 예정됐던 토론은 2시간 넘게 이어졌다. 캘리포니아공과대학(Caltech)의 한 박사과정 학생도 콴타매거진에 AI로 문제 해결은 쉬워졌지만, 해법을 이해하기는 여전히 어려운 현실이 수학계의 보상 체계를 무너뜨리고 있다고 지적했다.

자동 검증의 한계와 경제학자의 경쟁력

반면 실증경제학에서는 인간 연구자의 역할이 여전히 중요한 것으로 나타났다. 이달 경제정책연구센터(CEPR)가 발표한 40개 계량경제학 과제 실험에서 코드를 직접 작성·실행하고 오류까지 수정한 AI 에이전트는 97%의 정확도를 기록했다. 그러나 AI가 코드를 정확하게 실행하더라도 분석 결과까지 신뢰할 수 있는 것은 아니다. 실제 실험에서도 코드가 정상적으로 작동했지만, 잘못된 수치를 산출하는 '침묵하는 오류(silent error)'가 발견됐다. 대부분 잘못된 변수나 항목을 사용한 데 따른 것으로 코드를 다시 실행해도 오류를 찾아낼 수 없었다. 실험 방식에도 한계가 있었다. AI에 분석 방법과 데이터뿐 아니라 정답까지 미리 제공했기 때문이다. 결국 AI가 주어진 작업을 정확히 수행하는지만 확인했을 뿐, 해당 분석 방법이 실제 경제 현상의 인과관계를 제대로 설명하는지는 평가하지 않은 것이다.

이러한 차이는 경제학 연구에서 더욱 중요하다. 분석 과정에 오류가 없더라도 실제 인과관계에 대한 해석은 잘못될 수 있어서다. 도구변수 분석의 배제제약(exclusion restriction)이나 이중차분법(DiD)의 평행추세(parallel trends) 가정이 성립하는지는 현실의 인과관계를 따져봐야 한다. 이는 컴퓨터가 수학적 증명의 정답 여부를 판별하는 것과는 다른 문제다. 바로 이 지점에서 경제학자들은 순수수학자보다 상대적으로 유리한 위치에 있다. 경제학에서는 연구 설계가 타당한지 판단할 기계적 검증 시스템이 없어 수학처럼 자동화를 통해 연구 비용을 급격히 낮추기 어렵다. BLS에 따르면 지난해 경제학자 일자리는 약 1만8,600개로 수학자의 8배가 넘었다. 연봉 중위값은 12만4,720달러(약 1억6,500만원)였으며 2035년까지 연평균 약 1,100건의 채용 기회가 발생할 것으로 전망됐다.

경제학계의 고용 불안과 자동화의 기술적 장벽

그러나 경제학자들이 AI의 영향에서 완전히 자유로운 것은 아니다. 학술 채용 플랫폼 이노믹스(INOMICS)에 따르면 올해 경제학계는 채용 공고가 줄어든 반면 지원자가 몰리면서 취업 경쟁이 심화되고 있다. AI로 작성한 지원서가 대량으로 접수되면서 채용위원회가 지원자의 실제 역량을 구분하기도 어려워졌다. 여기에 AI가 실증연구에 필요한 코드까지 작성하면서 단순한 프로그래밍 능력만으로는 경쟁력을 확보하기 어려운 상황이다. 일각에서는 경제학자들의 상대적 우위도 일시적일 수 있다는 주장이 나온다. 수학계의 오랜 난제들이 AI로 해결된 것처럼 경제학의 인과관계 식별 문제 역시 수년 내 자동화될 수 있다는 관측이다.

그러나 두 분야 사이에는 기술적 차이가 존재한다. 오픈AI가 나비에-스토크스 문제를 해결하는 데 사용한 모델은 대규모 강화학습(Reinforcement Learning)을 통해 개발됐다. 강화학습은 AI가 수행한 작업에 보상을 부여하며 성능을 개선하는 방식으로 정답 여부를 확인할 수 있는 보상 신호가 필요하다. 수학에서는 증명 검증 시스템이 이러한 신호를 제공하지만 경제학에서는 인과관계 분석 결과가 실제로 맞는지 즉시 확인할 수 없다. 가설의 타당성을 검증하려면 현실 세계에서 시간과 비용을 들여 새로운 실험을 수행해야 한다. 여기에는 시간과 비용이 들기 때문에 수학에서처럼 88시간 동안 수백만 번의 학습을 반복하기 어렵다. AI가 학습에 필요한 정답을 확인할 수 없다는 점이 경제학 연구의 자동화를 가로막는 기술적 장벽인 셈이다. 이러한 한계는 경제학자의 고용시장에도 영향을 미칠 전망이다. 중앙은행과 연구기관, 컨설팅기업 등에서는 AI 도입에 따른 인력 감축보다 업무 재편의 필요성이 커지고 있다. 코드 작성과 분석에 투입되는 시간은 줄어드는 반면 AI의 분석 방법 적용 여부와 결과의 신뢰성을 검증하는 업무의 중요성은 더 커질 것으로 보인다.

기존 연구 역시 검증의 필요성을 뒷받침한다. 올해 국제학술지 네이처(Nature)에 발표된 연구에 따르면 주요 경제학·정치학 학술지에 게재된 논문 110편 중 약 4분의 1에서 프로그래밍 오류가 발견됐다. 공개된 코드로 논문에 제시된 수치를 정확하게 재현할 수 있는 경우에도 오류가 존재했다. 따라서 연구보조원(RA)을 AI로 대체하면서 검증을 강화하지 않으면 전체 오류는 줄더라도 발견되지 않은 오류의 비중은 오히려 높아질 수 있다.

연구 노동시장 재편과 인재 평가 기준 변화

경제학계에서 연구자의 검증 능력이 중요해지는 가운데 수학계도 채용과 평가 방식의 개편에 나섰다. 콴타매거진에 따르면 오픈AI와 앤트로픽(Anthropic) 등 AI 기업들은 수학자들과 정리 증명 분야에서 경쟁하는 동시에 수학 전문인력도 다수 채용하고 있다. 연구 문제를 설정하고 린에 맞는 형식을 확인하며 연구 성과의 가치를 판단할 인력이 필요하다. 이에 따라 수학 인력에 대한 수요가 소수의 AI 기업에 집중되는 양상이다. 대학 수학과들도 기존 평가 방식의 변화를 시도하고 있다. 일부 학과에서는 논문마다 구두 발표를 요구하는 방안을 실험 중이다. 증명 결과뿐 아니라 연구자가 이를 얼마나 깊이 이해하고 있는지 평가하려는 취지다. 앞으로는 증명을 빠르게 완성하는 능력보다 연구 결과의 의미를 해석하고 중요한 연구 질문을 찾아내는 역량이 더욱 중요해질 것으로 보인다.

올해 가을 AI가 수학적 증명을 생성하고 검증하는 수준에 도달하면서 증명 중심의 연구자들은 컴퓨팅 기술과 직접 경쟁하게 됐다. 반면 경제학처럼 연구 결과의 타당성을 기계적으로 검증하기 어려운 분야에서는 인간의 판단이 여전히 중요한 역할을 맡고 있다. 다만 이러한 차이가 5년 뒤에도 유지될지는 불확실하다. 이 같은 변화 속에 MIT 캠퍼스에는 대안 진로를 마련하지 못한 대학원생들을 대상으로 오픈AI의 6개월 집중 프로그램 참여를 권유하는 안내문이 등장했다. 수학적 증명의 비용을 낮춘 AI 기업이 수학자들의 새로운 진로로 제시되고 있는 셈이다.

본 연구 기사의 원문은 AI and the Market for Research Work: Why Economists Gain을 참고해 주시기 바랍니다. 본 기사의 저작권은 The Economy에 있습니다.