앤스로픽 ‘클로드’, 군 시스템에서 퇴출
AI 모델 교체에 따른 군 정보 분석 체계 리스크 확산
속도 중심 AI 도입 속, 윤리 기준·조달 정책 충돌

본 연구 기사는 유럽 경제 연구소 The Economy의 연구위원(Fellow)들이 작성한 The Economy Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술-경제-정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적인 의견이며, The Economy 또는 집필자의 소속 기관의 견해와 일치하지 않을 수 있습니다.

미 국방부가 인공지능(AI) 사용 범위를 둘러싸고 갈등을 빚어온 앤스로픽(Anthropic)을 ‘공급망 위험’ 기업으로 전격 지정했다. 통상 중국이나 러시아 등 적대국 기업에 적용하던 거래 통제 조치를 자국 기업에 적용한 것은 이번이 처음이다.

이번 조치로 국방 관련 정보 분석과 군사 데이터 처리에 활용되던 앤스로픽의 AI 모델인 클로드(Claude)는 군 시스템에서 제외 수순에 들어갔다. 이는 공공기관이 핵심 임무에 쓰이는 AI를 도입하는 과정에서 ‘속도와 성능’이라는 요구와 ‘윤리와 통제’라는 기준 사이의 선택 압박이 어떻게 나타나는지를 보여주는 사례다.

소프트웨어보다 어려운 ‘인간의 재학습’

미 국방부는 6개월 안에 기밀 네트워크에서 클로드를 단계적으로 제거할 방침이다. 겉으로 보면 AI 모델 하나를 교체하는 작업처럼 보이지만 실제로는 그동안 구축된 운영 체계를 다시 정비해야 한다. 미 국방부 조직은 이미 클로드의 특성에 맞춰 업무 흐름과 프롬프트, 검증 절차를 설계해 왔다. 외부 계약업체들도 정보 분석 파이프라인과 표적 분석 시스템을 이 모델에 연결해 운용해 왔다.

이처럼 여러 시스템이 특정 모델을 중심으로 구축된 만큼, 해당 AI 모델을 제거하는 일은 단순한 프로그램 삭제로 끝나지 않는다. 인간과 기계가 함께 형성해 온 작업 방식을 다시 바꾸는 일이다. 과학 월간지 ‘사이언티픽 아메리칸(Scientific American)’에 따르면 기술적 교체는 몇 시간 안에 가능하지만, 인력과 절차를 다시 정비하는 데는 수개월이 걸린다.

이 같은 운영 리스크는 계약 구조에서도 드러난다. 최근 이란 공격 과정에서 핵심 지휘 체계로 사용된 팔란티어(Palantir)의 ‘메이븐 스마트 시스템’이 앤스로픽의 클로드 코드를 기반으로 설계된 것으로 알려졌다. 특정 AI 모델의 구조에 맞춰 분석 체계가 구축된 만큼, 정부가 즉각적인 모델 교체를 요구할 경우 계약업체들은 군 정보 시스템과 연결된 소프트웨어 구조를 다시 설계해야 한다. 정치적 판단에서 시작된 공급망 변경이 현장의 기술적 병목으로 이어지고, 국가 안보 임무의 공백 위험을 키울 수 있다는 우려가 나온다.

AI 조달 시스템의 구조적 한계

앤스로픽은 자본력을 갖추면서도 안전성 원칙을 강조해 온 AI 기업이다. 회사 측은 대규모 감시나 자율살상무기 시스템에 자사 모델을 활용하는 데 선을 긋겠다는 입장을 지속적으로 밝혀왔다. 그러나 이러한 윤리 기준은 국방 조달 과정에서 오히려 공급망 위험 요인으로 받아들여졌다. 미 국방부가 국가 안보를 이유로 더 넓은 운용 재량을 요구하자 이를 받아들이지 않은 앤스로픽은 계약에서 배제됐고, 국방부 조건을 폭넓게 수용하는 업체 중심으로 조달 구조가 재편됐다.

이 과정은 정부 요구에 순응하는 업체가 유리해지는 조달 구조를 보여준다. 미 국방부가 전시 대응 속도를 이유로 조직적 마찰이 가장 적은 선택지를 택했다는 해석도 제기된다. 물론 위기 상황에서 불가피한 결정일 수도 있지만, 조달 제도가 윤리적 기준을 평가 요소로 반영하지 못한다면 이는 제도 자체의 문제다. 정치적 압박과 AI의 군사 활용 확대가 맞물리면 윤리적 검토보다 즉각적인 도입이 우선되는 결정으로 흐르기 쉽다. 앤스로픽이 막대한 자본력을 갖추고도 정치적 갈등의 중심에 서게 된 배경이다.

실질적 위험을 줄일 방안

이러한 운영 혼란과 안보 공백을 막기 위해선 조달 체계를 근본적으로 손질할 필요가 있다. 우선 입찰 구조부터 재정비해야 한다. 성능이나 가격뿐 아니라 모델의 안전장치와 사용 제한 규정도 기술 경쟁력으로 평가하는 기준이 필요하다. 윤리 기준을 이유로 특정 환경에서의 활용을 거부한 기업이 곧바로 탈락하는 구조라면 기업이 안전 원칙을 유지하기 어렵기 때문이다. 기술 구조의 호환성 확보도 중요하다. 특정 기업의 모델에 맞춰 시스템을 설계하면 공급업체가 바뀔 때 전체 소프트웨어를 다시 설계해야 하는 상황이 발생한다. 처음부터 모듈형 구조와 표준 인터페이스를 적용하면 다양한 모델을 유연하게 교체할 수 있다.

조달 결정의 투명성 역시 강화해야 한다. 국가 안보를 이유로 특정 기업을 배제할 경우 그 기준과 절차의 명확성이 요구된다. 정치적 판단이나 특정 기업에 대한 편의 제공이 개입하지 않도록 입법기관이나 독립 기관의 감독 체계 마련이 필수다. 민감한 임무에 활용할 AI 역량을 공공 인프라로 확보하는 방안도 대안으로 거론된다. 정부가 자체적으로 모델을 운영하거나 인증 체계를 구축할 경우 특정 기업의 경영 판단이나 시장 환경 변화에 따라 국방 체계가 흔들리는 위험을 낮출 수 있다.

정치 아닌 정책으로 풀어야 할 과제

군 지휘부와 현장에서는 전쟁 상황에선 무엇보다 속도를 우선해야 한다는 인식이 존재한다. 급변하는 전황 속에서 기술 도입이 늦어지면 전력 열세로 이어질 수 있다는 이유에서다. 그러나 준비되지 않은 상태에서 성급하게 모델을 교체하면 시스템 오류나 자동화 편향이 발생해 오히려 전체 업무 흐름을 흔들 수 있다. 특히 숙련된 운영자가 새로운 모델의 오작동 패턴을 다시 익히는 과정에서 발생하는 전략적 손실은 예상보다 크게 나타난다.

이번 앤스로픽 퇴출 사태는 미 국방부의 AI 조달 정책을 점검하는 계기가 돼야 한다. 기업의 윤리 기준을 현실과 동떨어진 이상주의로 치부하기보다 계약 조항과 긴급 승인 절차에 제도적으로 반영할 필요가 있다. 임무 수행 능력과 민주적 규범은 양자택일의 문제가 아니다. 상업적 이해관계와 공공의 가치가 충돌하지 않도록 조달 제도를 설계할 때 기술 주권도 민주적 책임의 틀 안에서 관리가 가능해진다.

본 연구 기사의 원문은 Pentagon AI Procurement: Why Replacing Anthropic With OpenAI Reveals a Deeper AI Governance Crisis을 참고해 주시기 바랍니다. 본 기사의 저작권은 The Economy에 있습니다.