계약 조건이 개발 우선순위 형성
평가 기준, 안전 설계 수준 결정
인센티브 구조가 교육산업 방향 규정

본 연구 기사는 유럽 경제 연구소 The Economy의 연구위원(Fellow)들이 작성한 The Economy Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술-경제-정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적인 의견이며, The Economy 또는 집필자의 소속 기관의 견해와 일치하지 않을 수 있습니다.

미국 국방부가 추진 중인 2억 달러(약 2,800억원) 규모의 인공지능(AI) 계약을 둘러싼 논란이 격화하고 있다. 이는 단순한 예산 갈등 이상의 의미를 지닌다. 정부가 어떤 기능을 요구하고, 어떤 조건을 계약서에 명시하느냐에 따라 기술 기업의 개발 순서와 인력 배치가 달라질 수 있기 때문이다. 군사 영역에 AI를 도입하면 정보 분석에 소요되는 시간을 줄이고, 기존 인력을 다른 임무로 전환할 수 있다는 기대도 뒤따른다.

예컨대 한 정보 부서가 매년 약 2,000시간을 들여 처리하던 업무를 AI로 절반 수준으로 줄일 경우, 100만 달러(약 13억5,000만원)의 비용을 절감할 수 있다는 추산이 제시된다. 이처럼 효율성과 비용 절감 효과가 반복해서 강조되면, 처리 속도와 적용 범위 확대는 자연스럽게 우선 과제로 자리 잡는다. 그 기준이 입찰 문서와 평가 항목에 반영되는 순간, 기업은 요구 조건에 맞춰 개발 일정을 조정하고 인력 배치를 재편한다.

계약서에 적힌 문장은 행정 절차에 머물지 않는다. 문서의 요구 사항은 곧 내부 회의의 안건이 되고, 예산 배분과 채용 기준으로 이어진다. 무엇을 먼저 개발할지, 어떤 기능을 기본값으로 설정할지는 기술적 판단 이전에 이러한 문서의 구조 속에서 방향이 정해진다.

논쟁의 초점 이동

AI 안전을 둘러싼 논의는 흔히 국가안보와 시민 자유라는 두 축의 대비로 설명된다. 그러나 실제 계약서와 사업 계획서를 들여다보면, 논쟁은 훨씬 더 구체적인 선택의 문제로 나뉜다. 조달 문서에 실시간 처리 능력, 대규모 데이터 통합, 기존 시스템과의 즉각적인 연동 같은 요구가 포함되는 순간, 개발팀의 우선순위는 자연스럽게 속도와 연결성 확보에 맞춰진다. 기술적 방향은 문서에 명시된 조건을 충족하는 과정에서 구체화된다.

반대로 접근 기록을 남기고 인간의 승인 단계를 거치도록 하거나, 외부 감사 가능성을 계약 조건에 포함할 경우 설계의 출발점부터 달라진다. 승인 절차를 위한 인터페이스와 로그 보관 기능이 기본 구조에 포함되고, 데이터 저장 방식과 권한 관리 체계도 그에 맞춰 설계된다. 문서에 적힌 요구 사항은 곧 개발 일정과 예산 배분표로 옮겨지고, 그 배분표는 기업 내부 의사결정의 기준으로 자리 잡는다. 무엇을 먼저 만들고, 무엇을 나중으로 미룰지에 대한 판단이 이 단계에서 이뤄진다.

이러한 변화는 채용과 교육의 방향에도 영향을 미친다. 기업은 채용 공고에 ‘대규모 모델 최적화 경험’이나 ‘보안 로그 설계 경험’을 우대 조건으로 명시하고, 대학은 산업의 수요에 맞춰 프로젝트 과제와 실습 구성을 조정한다. 학생들은 어떤 역량이 실제 현장에서 요구되는지 빠르게 감지하고, 그 기준에 맞춰 준비한다. 강의실에서 다루는 사례와 실습 주제가 달라지는 이유다.

이처럼 계약 조건, 채용 기준, 교육과정은 서로 맞물리며 반복적으로 영향을 주고받는다. 그 축적된 선택 속에서 AI는 단순한 기술이 아닌 특정한 방식으로 설계되고 운영되는 시스템으로 자리 잡는다. 논쟁의 초점이 점차 어떤 요구를 기준으로 기술을 형성할 것인가라는, 보다 구체적인 질문으로 이동하고 있는 셈이다.

선언을 넘어 업무 기준으로

그간 기술 기업들은 윤리 가이드라인과 자율 규제 원칙을 발표하며 책임 있는 개발 의지를 강조해 왔다. 이러한 문서는 조직의 입장과 방향을 분명히 하는 역할을 한다. 하지만 실제 개발 일정과 자원 배분을 좌우하는 것은 평가표와 예산 승인서다. 분기별 성과 평가에서 처리 속도와 오류율이 핵심 지표로 설정되면, 팀은 그 수치를 개선하는 데 역량을 집중하게 된다. 투자 심사에서 사용자 수와 적용 범위가 주요 기준으로 제시될 경우, 기능 확장과 적용 속도가 우선 과제로 떠오른다.

반대로 감사 가능성이나 오남용 방지 체계가 점검 항목에 포함되면 개발의 초점도 달라진다. 로그 보관 방식과 접근 권한 통제, 승인 절차 설계에 더 많은 시간이 배정된다. 승진 심사에서 안전 점검 보고서 작성 경험이 평가 요소로 반영될 경우, 구성원들은 관련 업무에 적극적으로 참여하려 한다. 무엇이 점수로 환산되고 무엇이 성과로 인정되는지가, 현장의 선택을 구체적으로 이끄는 기준이 된다.

표어는 방향을 제시하지만, 실제 움직임을 만드는 것은 측정과 보상의 구조다. 계약 조건과 평가 항목에 무엇이 포함되는지가 개발의 우선순위를 정하고, 그 우선순위가 기술의 형태를 결정한다. 결국 기술의 방향은 점수표와 승인 기준 속에서 구체화된다.

기준 변화와 개발 관행

AI 시스템에 로그 보관과 인간 승인 절차를 기본 기능으로 포함시키는 순간, 화면 구성과 업무 흐름은 이전과 다른 형태를 갖게 된다. 사용자가 결과를 확인한 뒤 승인 버튼을 눌러야 다음 단계로 넘어가도록 설계하면, 자동 실행의 범위는 자연스럽게 줄어든다. 외부 감사인이 접속해 기록을 검토할 수 있도록 저장 형식을 표준화할 경우, 개발 초기부터 데이터 구조를 그 기준에 맞춰 설계해야 한다. 이러한 선택은 일정과 비용, 개발 순서 전반에 영향을 미친다.

기본값의 설정 또한 중요한 기준으로 작용한다. 도구 접근 권한을 폭넓게 열어두면 기능 추가와 확장은 빠르게 진행된다. 반면 접근 범위를 단계별로 나누면 권한 관리 화면과 검증 절차를 별도로 마련해야 한다. 어느 쪽을 기본값으로 삼느냐에 따라 사용자 경험의 편의성과 위험 관리의 수준이 함께 달라진다.

이 같은 설정이 반복되면 기업마다 고유한 개발 관행이 형성된다. 어떤 조직은 속도와 확장성을 중심으로 시스템을 구축하고, 다른 조직은 통제와 검증을 우선하는 구조를 선택한다. 이 차이는 시간이 지날수록 신뢰와 평판의 차이로 이어진다. 결국 개발 관행은 무엇을 기본으로 삼을 것인가에 대한 누적된 선택의 결과로 자리 잡는다.

속도·안정성의 실제 배치

현장에서는 속도와 안전을 동시에 고려해야 하는 순간이 반복된다. 새로운 기능을 신속히 배포하면 계약 일정은 맞출 수 있지만, 승인 절차와 점검 단계를 포함시키는 순간 일정은 길어지는 대신 검증 가능한 기록이 남는다. 조달기관이 납품 기한을 최우선 조건으로 제시할 경우, 개발팀의 초점은 자연스럽게 배포 일정 준수에 맞춰진다. 반대로 감사 통과 여부가 중간 지급 조건으로 설정되면, 점검 준비와 기록 관리가 핵심 과제로 부상한다. 어떤 조건이 선행 기준으로 제시되느냐에 따라 업무의 방향이 달라진다.

예산 집행 방식 역시 같은 흐름에 영향을 준다. 초기 구축 비용뿐만 아니라 유지와 감사에 필요한 비용이 충분히 반영될 경우, 기업은 장기적인 관리 체계를 구축할 유인을 갖게 된다. 반면 단기 성과에 보상이 집중되면, 빠른 적용과 가시적인 결과가 우선 목표로 자리 잡는다. 이러한 조건의 차이는 회의에서 다루는 의제와 의사결정의 기준까지 바꾼다.

결국 핵심은 설계에 있다. 계약서와 평가표에 어떤 항목이 포함되는지가 실제 선택의 기준이 된다. 속도와 안정성의 균형은 구호로 정해지지 않는다. 일정표에 어떤 절차가 필수 단계로 포함되는지, 어떤 기능이 기본값으로 설정되는지에 따라 구현의 방향은 달라진다. 이러한 선택이 반복되면서 조직의 업무 방식이 형성되고, 그 방식이 산업 전반의 관행으로 확산된다.

본 연구 기사의 원문은 When Safety Meets the War Machine: Rethinking AI safety and national security을 참고해 주시기 바랍니다. 본 기사의 저작권은 The Economy에 있습니다.