앤스로픽과의 2억 달러 AI 계약 협상 교착 
클로드 세이프가드 적용 두고 이견 장기화 
中 '무인 전력 고도화'도 안보 변수로 부상

'AI 우선주의(AI First)'를 선언하며 군사력의 무인화·자동화를 추진해 온 미 국방부와 이에 대한 윤리적 통제권을 주장하는 AI 기업 간 갈등이 수면 위로 드러났다. 양측은 협상 과정에서 AI 모델의 사용 범위와 방식에 대한 이견을 좁히지 못하면서, 최악의 경우 계약이 철회될 가능성까지 제기된다. 전문가들은 이번 충돌이 AI 기반 군사력의 활용 기준과 책임 소재를 가늠하는 시험대가 될 것으로 보고 있다. 나아가 러시아와 중국 등 경쟁국의 자율 무인 전력 고도화 움직임과 맞물려, 향후 글로벌 안보 환경에도 중대한 영향을 미칠 것으로 전망된다.

앤스로픽, 클로드 살상 무기 사용에 반대

2일(이하 현지시각) 로이터통신, 월스트리트저널(WSJ) 등 현지 언론에 따르면 미 국방부와 AI 개발사 앤스로픽이 추진해 온 2억 달러(약 2,800억원) 규모의 계약이 사실상 교착상태에 빠졌다. WSJ는 "앤스로픽은 자사 AI 모델 클로드에 적용한 세이프가드 준수를 고수하는 반면, 국방당국은 전시·안보 환경에서 운용 유연성이 필요하다는 입장"이라며 "클로드의 사용 범위와 조건을 둘러싼 양 측의 갈등이 장기화하면서 정부의 AI 도입 확대 기조 속에서 체결된 대형 계약이 위태로워졌다"고 보도했다. 사안에 정통한 관계자에 의하면 계약이 취소될 가능성도 배제할 수 없는 상황이다.

해당 계약은 미 정부의 AI 우선주의 전략 일환으로, 국방 작전에 클로드 모델을 통합하기 위해 지난해 7월 체결됐다. 그러나 계약 직후 앤스로픽의 이용약관이 핵심 쟁점으로 부상했다. 특히 협상 과정에서 ‘국내 감시’ 목적의 사용을 금지한 조항이 이민세관단속국(ICE)과 연방수사국(FBI) 등 법 집행 기관의 활용 범위를 제한할 수 있다는 지적이 나왔다. 여기에 앤스로픽이 자사 기술의 자율적 살상 작전 활용에 반대해 온 점 역시 마찰 요인으로 작용했다. 일부 행정부 관계자 사이에서는 앤스로픽이 합법적 목적의 활용까지 과도하게 제약하려 한다는 불만도 제기된 것으로 전해진다.

장외 설전도 이어지고 있다. 설립 초기부터 ‘책임 있는 AI’ 사용을 강조해 온 다리오 아모데이 앤스로픽 최고경영자(CEO)는 최근 에세이를 통해 AI를 활용한 대규모 감시와 완전 자율 무기화 가능성에 대한 우려를 공개적으로 제기했다. 그는 AI가 인간의 통제 범위를 벗어나 군사·안보 영역에 적용될 경우 민주적 통제와 책임성이 훼손될 수 있다고 경고하며, 윤리를 배제한 기술 우선주의적 접근에 분명한 선을 그었다. 반면 피트 헤그세스 미 국방장관은 일론 머스크의 AI 스타트업인 xAI와의 협력을 발표하는 자리에서 “전쟁 수행을 허용하지 않는 AI 모델은 사용하지 않겠다”고 발언하며, 앤스로픽을 겨냥해 강경한 입장을 드러냈다.

美 국방부, AI 고도화 기반 전시 체제 재편

이번 갈등은 도널드 트럼프 행정부가 추진하는 급진적인 국방 혁신 전략과도 맞닿아 있다. 미 국방부는 지난달 AI를 군사력의 최우선 동력으로 국방 혁신안을 발표했다. 이는 트럼프 대통령의 행정명령 제14179호에 따른 것으로, 관료주의에 묶인 기존 국방 시스템을 AI 시대에 맞춰 사실상 전시 체제로 재편하겠다는 의지를 담고 있다. 전략의 핵심 철학은 속도와 효율성이다. 앤스로픽을 비롯해 오픈AI, 구글 등 민간 기업이 최신 AI 모델을 공개하면 국방부가 이를 검토해 30일 이내에 내부 네트워크에 배포하도록 하는 방식으로, 수개월에서 수년에 걸리던 무기 체계 도입 관행을 근본적으로 뒤흔들겠다는 구상이다. 구형 모델에 대한 의존을 원천적으로 차단하겠다는 점도 명시했다.

이를 위해 미 국방부는 7개의 선도 프로젝트를 가동하기로 했다. 전투 부문에서는 AI를 활용해 새로운 전술을 설계하고 시뮬레이션하는 프로젝트가 포함됐고, 정보 분야에서는 첩보 수집부터 무기화까지 걸리는 시간을 기존의 월 단위에서 시간 단위로 단축하는 계획이 추진된다. 아울러 300만 명의 군 인력에 AI 모델 접근권을 부여함으로써 조직 전반의 AI 활용 역량을 끌어올릴 방침이다. 이 과정에서 윤리적 기준의 위상도 달라졌다. 국방부는 기존의 책임 있는 AI 개념을 ‘냉철한 현실주의’로 재해석하며, 합법적 목적이라면 활용 범위를 폭넓게 허용하도록 했다. 이를 두고 군사 전문가들은 인간 개입을 최소화한 'AI 자율 살상 무기' 도입 가능성까지 열어둔 것이라고 분석했다.

이 같은 방향성은 근래 들어 갑자기 형성된 것이 아니다. 트럼프 행정부는 2기 출범 이후 각종 전략 문건과 공개 발언을 통해, AI 활용에 있어 윤리적 기준보다 국가 안보와 전략적 우위를 우선하겠다는 방향성을 반복적으로 드러내 왔다. 미 국방부 역시 트럼프 대통령의 정책 기조에 따라 AI를 안보 패권을 유지하고 러시아, 중국 등 경쟁국과의 군사적 격차를 벌리기 위한 핵심 수단으로 보고 있다. 이러한 태도는 국제사회의 윤리적 AI 규범 논의와 거리를 두는 행보에서도 확인된다. 실제로 미국은 지난해 프랑스 파리에서 열린 AI 정상회의에서 유럽 주요국들이 주도한 ‘사람과 지구를 위한 지속 가능하고 포용적인 AI에 관한 선언(The Statement on Inclusive and Sustainable Artificial Intelligence for People and the Planet)’에 참여하지 않았다.

러·우크라 전쟁서 전장 장악한 AI

전문가들은 앤스로픽과 미 국방부 간 갈등이 단순한 정부·민간 기업 간 계약 분쟁을 넘어, 군사 AI의 활용 범위와 방향을 가늠하는 중대한 분기점이 될 것으로 보고 있다. AI는 이미 전장에서 보조적 역할을 수행하던 단계를 지나 전투의 속도와 방향을 직접 결정하는 단계로 진입했다. 그 효과와 위험성이 동시에 증폭되면서 인간의 개입 없는 오작동이 곧바로 대규모 인명 피해로 이어질 수 있다는 우려도 적지 않다. 이 때문에 관련 업계에서는 군사 AI의 효율성 못지않게 '누가 어디까지 통제할 것인지'에 대한 기준 설정이 핵심 쟁점으로 떠오르고 있다.

이 같은 논쟁은 러시아-우크라이나 전장에서 현실로 드러났다. 우크라이나군은 미군의 AI 감시·분석 시스템을 활용해 러시아군의 병력 이동과 포대 위치를 실시간으로 파악하고, 표적 우선순위와 공격 수단을 신속히 결정했다. 러시아군이 점령한 진지에서 발견된 원격조종 기관총 포탑 '샤블라' 역시 주요한 사례다. 표적을 자동으로 추적·조준해 사격까지 수행하는 이 시스템은 열화상 센서와 광각 카메라를 통해 주·야간을 가리지 않고 작동한다. 사실상 인간 병력은 부수적인 요인으로 물러난 상태에서 AI가 결합된 무기 체계가 전장을 장악한 셈이다.

이런 상황에서 중국의 AI 군사력 고도화는 미국이 경계하는 핵심 위협으로 꼽힌다. WSJ에 따르면 중국은 드론 군집, 로봇 전력, 자율 무인체계를 결합해 최소한의 인간 개입으로 전장을 통제하는 방향으로 군사력을 증강하고 있다. 전투 판단과 타격, 기동까지 기계가 수행하는 구조로 재편되면 인간 중심의 지휘 체계에도 변화가 불가피하다. 다만 중국 내에서도 AI 무기 체계 확산이 치명적인 위험을 동반할 수 있다는 지적이 많다. 전장에 투입된 자율 무기가 인간 통제를 벗어나 오판할 가능성과 AI 의사결정 과정이 불투명한 블랙박스가 될 경우 책임 소재가 흐려질 수 있다는 것이다.