[AI MEMO] 美·中 군사용 AI 통제, 검증 장치 부재가 걸림돌

군사용 AI 통제 원칙에 검증 수단 부재 
AI 군사 활용 확산에 인간 판단 역할 축소 
중견국 공조 통한 군사용 AI 통제 필요성 부상

본 연구 기사는 유럽 경제 연구소 The Economy의 연구위원(Fellow)들이 작성한 The Economy Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술-경제-정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적인 의견이며, The Economy 또는 집필자의 소속 기관의 견해와 일치하지 않을 수 있습니다.

오는 9월 24일 시진핑 중국 국가주석이 백악관을 방문한다. 이번 정상회담에서는 무역과 대만 문제, 이란 사태와 더불어 ‘군사용 인공지능(AI)’이 핵심 의제로 다뤄질 전망이다. 양국은 이미 2024년 11월 “핵무기 사용 결정은 인간의 통제 아래 둔다”라는 원칙에 합의한 바 있다. 이번 회담에서는 해당 원칙을 표적 식별 시스템부터 자율 사이버 작전에 이르는 군사용 AI 전반으로 확대할 수 있을지가 주요 쟁점으로 떠오른다. 그러나 원칙을 실제 통제 체계로 발전시키기까지 넘어야 할 과제는 적지 않다. 미국 외교·안보 싱크탱크인 브루킹스연구소(Brookings Institution)가 미·중 양측의 시각을 토대로 내놓은 최근 분석에 따르면, 군사용 AI 통제는 아직 이를 강제할 수단이 없는 정치적 약속에 머물러 있다. 이번 정상회담만으로 이러한 간극을 좁히기도 쉽지 않을 것으로 보인다.

정치적 약속에 머문 군사용 AI 통제

브루킹스연구소는 양국이 공유할 수 있는 최소한의 원칙으로 자율 시스템이 상대국의 핵 지휘체계와 핵심 인프라를 공격하지 못하도록 제한하는 방안을 제시했다. 구체적인 금지 기준을 마련하고, AI 관련 사고에 대응할 전용 핫라인을 구축하는 한편 ‘유의미한 인간 통제(meaningful human control)’에 대한 공통된 정의를 정립해야 한다는 내용도 담겼다. 그러나 원칙을 세우는 것과 실제 이행 여부를 확인하는 것은 별개의 문제다. 누가 어느 단계에서 작전을 승인할지, 판단에 어느 정도의 시간을 둘지, 외부에서 접근하기 어려운 기밀 군사 네트워크에서 합의 준수 여부를 어떻게 확인할지도 명확하지 않다. 미국의 국가안보대통령각서(NSPM-11)에서도 비슷한 문제가 제기된다. 지휘체계에서 인간의 책임을 강조하면서도 AI를 활용해 신속하게 군사적 우위를 확보하도록 요구하면서 두 목표가 충돌할 여지를 안고 있기 때문이다.

여기에 AI 자체의 특성도 통제를 어렵게 만드는 요인이다. AI는 기존 군비통제의 기준이 된 핵무기와 근본적으로 다르다. 소프트웨어인 만큼 복제가 쉽고 이미 운용 중인 시스템에도 적용할 수 있는 데다 미사일 시험이나 우라늄 농축시설처럼 외부에서 포착할 수 있는 물리적 흔적도 남기지 않는다. 또한 상대국 AI 모델의 학습 데이터나 내부 구조를 들여다보기 어렵고 연산 능력마저 전력 소비량이나 공급망 등을 통해 간접적으로 추정할 수 있을 뿐이다. 결국 핵탄두나 농축시설처럼 직접 확인하고 감시할 대상이 없는 만큼 지난 70년간 핵 군비통제를 지탱해 온 검증 방식을 군사용 AI에 그대로 적용하기는 어렵다.

군사 의사결정에 깊숙이 들어온 AI

검증 체계가 마련되지 않은 사이 군사용 AI의 실제 활용은 빠르게 확대되고 있다. 미국 군사전문지 ‘밀리터리리뷰(Military Review)’는 이러한 변화를 ‘통제 없는 지휘(command without control)’로 설명한다. 최종 결정권은 형식적으로 인간에게 남아 있지만, 속도를 앞세운 AI 시스템이 의사결정에 깊숙이 관여하면서 인간의 실질적인 판단 영역이 줄어들 수 있다는 의미다.

팔란티어의 ‘메이븐스마트시스템(Maven Smart System)’과 미 육군의 차세대 전술정보체계 ‘타이탄(TITAN)’은 사람이 처리하기 어려운 방대한 데이터를 빠르게 분석한다. 미 육군전쟁대학의 모의 군사훈련에서는 장교들이 AI의 판단이 잘못됐다는 사실을 확인한 뒤에도 기존 제안을 고수하는 ‘인지적 앵커링(cognitive anchoring)’ 현상이 나타났다. 실제 작전에서도 인간의 판단 과정이 축소되는 사례가 나왔다. 미국과 이스라엘의 대이란 군사작전에서는 AI 시스템이 24시간 안에 1,000개가 넘는 표적을 생성하면서, 인간의 검토 절차도 개별 심사에서 일부 표적을 확인하는 방식으로 간소화됐다. AI 기업 앤트로픽의 ‘클로드(Claude)’ 모델을 메이븐 시스템에 통합하는 과정에서도 기술적 성능 못지않게 인간이 직접 판단할 여지가 충분히 보장되는지를 둘러싼 논란이 불거졌다.

활용 범위 넓어지며 통제도 복잡

군사용 AI가 실제 작전에 빠르게 도입되면서 통제해야 할 위험도 한층 복잡해졌다. 국제적십자위원회(ICRC)는 군사용 AI의 활용 분야를 ▲정보·감시 ▲사이버 작전 ▲자율무기 ▲지휘 결정 등 네 영역으로 구분한다. 정보·감시에서는 AI의 정확도를 과신할 위험이 제기되며, 사이버 작전에서는 인간이 대응하기 어려울 정도로 작전 속도가 빨라질 수 있다. 자율무기는 표적과 비표적을 정확하게 구분하는 문제가 핵심이며, 지휘 결정에서는 책임이 인간에서 시스템으로 점차 옮겨갈 가능성이 쟁점으로 꼽힌다.

운용 역량이 일부 국가에 집중돼 있다는 점도 다자간 통제를 어렵게 만든다. 미 국방부 고위 관계자는 가까운 동맹국조차 미국의 개발 속도를 따라갈 연산 인프라와 전문 인력이 부족하다고 평가했다. 한국이 일부 예외로 꼽히지만, 미국과의 규모 격차까지 좁힌 것은 아니다. 활용 분야별 위험이 제각각인 데다 실제 운용 능력까지 소수 국가에 집중되면서 군사용 AI 전반을 아우르는 다자간 통제체계를 마련하기는 더욱 까다로워졌다.

핵 억지와 다른 군사용 AI 경쟁

이러한 특성은 군사용 AI에 기존 핵 억지 방식을 적용하기 어려운 이유와도 맞닿아 있다. 존스홉킨스대 국제관계대학원(SAIS) 분석에 따르면, 과거 핵 억지가 작동할 수 있었던 배경에는 ▲무기의 물리적 실체 ▲상대적으로 느린 기술 변화 ▲상호확증파괴(MAD)에 따른 확실한 비용 등 세 가지 조건이 있었다. 반면 빠르게 발전하는 소프트웨어를 기반으로 한 군사용 AI는 상대국의 기술 수준을 정확히 파악하기 어려워 기존 핵 억지와 같은 방식으로 통제하기 힘들다. 이와 같은 불확실성은 경쟁을 부추기는 요인으로도 작용한다. 현재 상황은 1950년대 미국에서 불거진 ‘미사일 격차(missile gap)’ 논쟁과 비슷하다. 당시 미국이 소련보다 뒤처졌다는 인식은 이후 사실과 다른 것으로 드러났지만, 이미 군비 확대를 촉발한 뒤였다. AI 역시 상대국이 공개하지 않은 기술적 도약을 이뤘는지 확인하기 어려운 만큼 양국 모두 개발 속도를 늦추기 쉽지 않다.

‘인간 통제’를 바라보는 미국과 중국의 접근 방식에도 차이가 있다. 브루킹스연구소에 따르면 미국은 군사 작전에서 신속한 관찰과 판단, 결정, 행동을 중시하는 반면 중국은 의사결정의 확실성에 무게를 둔다. 같은 인간 통제 원칙을 두고도 구체적인 기준과 적용 방식이 달라질 수 있다는 의미다. 브루킹스연구소 역시 양측의 제도와 전략문화가 다른 만큼 지속적인 대화와 공통된 용어 정립이 필요하다고 지적했다. 기술 경쟁에서도 어느 한쪽이 모든 분야에서 우위를 점한 구도는 아니다. BBC는 중국이 AI 활용 규모에서, 미국은 최첨단 기술에서 각각 앞서는 양상으로 분석했다. 미들베리연구소(Middlebury Institute)에 따르면 AI는 군사 기술을 은밀하게 개발하고 확산하는 능력을 빠르게 높이는 반면 이를 탐지하고 검증하는 기술의 발전은 상대적으로 더딘 수준이다. 이로 인해 기술 발전 속도가 검증 능력을 앞지를수록 상대국의 실제 역량을 파악하기는 더욱 어려워진다.

중견국 연대로 군사용 AI 통제 보완

미·중 양국만으로 실효성 있는 통제 장치를 마련하기 어렵다면 중견국의 역할이 중요해진다. 이미 ‘AI법(AI Act)’을 시행하고 있는 유럽연합(EU)을 비롯해 한국, 일본, 호주, 영국, 캐나다 등이 바세나르체제(Wassenaar Arrangement)를 군사용 AI에 맞게 적용해 소프트웨어와 연산 인프라를 관리하는 공조 체계를 구축하는 방안이 거론된다. 목적은 이러한 체제를 통해 중국을 직접 구속하는 데 있지 않다. 시장과 공급망에서 영향력을 가진 국가들이 연대해 합의를 지키지 않는 국가가 시장과 반도체, 연구 협력에 접근할 때 실질적인 비용을 부담하도록 만드는 방식이다. 미·중 양자 협상을 대신하기보다 양국 간 합의만으로 확보하기 어려운 외부의 규율을 더해 기존 협상을 보완하는 데 의미가 있다. 국가 간 공조가 이뤄지지 않는다면 선택지는 한층 좁아진다. 양국 간 직접 연락망 구축과 사고 통보 절차 마련, 핵 인프라를 겨냥한 자율 사이버 공격 금지 등 최소한의 안전장치가 현실적인 대안으로 남는다. 이는 군비통제라기보다 우발적인 충돌과 확전을 막기 위한 위기관리에 가깝다.

오는 9월 24일 정상회담에서도 미국과 중국은 군사용 AI를 인간의 통제 아래 두겠다는 원칙을 재확인할 가능성이 있다. 그러나 합의 이행 여부를 검증하고 이를 어겼을 때 실질적인 비용을 부과할 장치가 마련되지 않는다면, 2024년 합의와 마찬가지로 정치적 약속에 그칠 수밖에 없다. 결국 군사용 AI 통제의 실효성을 좌우하는 것은 새로운 선언을 내놓느냐가 아니다. 합의 준수 여부를 확인하고 위반에 따른 비용을 부과할 수 있는 체계를 구축하느냐가 관건이다.

본 연구 기사의 원문은 Military AI Control and the Verification Gap을 참고해 주시기 바랍니다. 본 기사의 저작권은 The Economy에 있습니다.