“내부 자율·외부 통제” 최첨단 AI 접근권 관리 나선 美 정부, 난립한 주별 규제 통합될까

美 정부, 최첨단 AI 모델 접근권 개입 기조 본격화
"과한 규제는 성장 족쇄" 전방위 압박보단 외부 통제에 초점
주별로 상이한 AI 규제 기준, 연방 정부 차원 단일화 필요

미국 도널드 트럼프 행정부가 최첨단 인공지능(AI) 모델의 접근 권한에 대한 개입 수위를 높이고 있다. 자국 기업의 AI 모델 개발과 출시 결정권은 최대한 보장하되, 국가 안보와 직결될 수 있는 해외 이전·외국인 접근 단계에서는 정부가 영향력을 행사하겠다는 구상이다. 이러한 연방 차원의 규제 확립 움직임은 주마다 제각각 확산한 AI 규제를 통합·정리하고, 기업의 행정적 부담을 일부분 경감하는 효과를 낼 것으로 전망된다.

트럼프 행정부의 AI 시장 개입

지난 17일(이하 현지시각) CNBC는 복수의 소식통을 인용, 백악관이 최첨단 AI 모델 출시에 개입해 특정한 기업과 기관에만 접근을 허용하는 방안을 추진 중이라고 보도했다. 앞서 지난 14일 션 케언크로스 백악관 국가사이버국장은 미디어 브리핑을 통해 “미 재무부와 국토안보부(DHS), 국방부가 AI 기업들과 합의해 이달 초 새로운 정보공유센터 ‘골드 이글(Gold Eagle)’을 출범했다"고 밝힌 바 있다. 골드 이글은 AI가 발견한 사이버 보안 취약점을 실시간으로 공유하고, 중복 분석과 점검을 줄이면서 우선순위에 따라 신속하게 대응하는 일종의 정부 주도 컨트롤타워다.

시장에서는 연방 정부의 해당 조치가 민간 기업의 AI 모델 출시에 개입하기 위한 일종의 '밑 작업'일 수 있다는 분석이 나온다. 지금까지 AI 기업들은 첨단 모델에 접근 가능한 기업 및 기관을 자체적으로 선정해 왔다. 앤트로픽은 사이버 보안 특화 모델을 소수 파트너에게만 공개하는 ‘프로젝트 글래스윙(Project Glasswing)’을 운영하고 있으며, 오픈AI 역시 사이버 방어 플랫폼 ‘데이브레이크(Daybreak)’를 신뢰 가능한 대상에만 제공 중이다. 하지만 최근 들어 이 같은 시장의 기존 문법에 균열이 가기 시작했다. 미국 정부가 AI 모델 자체를 국가 안보와 연관된 전략 기술로 취급하면서다. 이러한 흐름을 보여주는 대표적 사례가 최근 앤트로픽의 ‘클로드 페이블 5’와 ‘클로드 미토스 5’를 둘러싸고 불거진 논란이다.

앤트로픽이 페이블 5와 미토스 5를 공개한 것은 지난달 9일이었다. 이후 같은 달 12일 미국 상무부는 앤트로픽에 국가 안보 권한과 수출 통제 규정을 근거로 미국 안팎에 있는 모든 외국인의 페이블 5·미토스 5 접근을 중단하라고 명령했다. 아마존 연구진을 통해 발견된 페이블 5의 ‘탈옥(개발자가 설정한 AI의 윤리적 안전장치를 프롬프트 기술로 우회해 위험한 질문에 강제로 답하게 만드는 행위)’ 가능성이 문제가 된 것이다. 다만 앤트로픽은 정부가 문제의 심각성을 과장했다고 반박했고, 양측의 대립은 협상을 거치며 단계적으로 완화됐다. 이후 규제는 앤트로픽이 탈옥 위험을 선제적으로 탐지·완화하고, 신규 모델 출시 전 정부 평가와 정보 공유를 강화하겠다고 밝히며 최종 해제됐다. 하워드 러트닉 미 상무부 장관은 지난달 30일 앤트로픽에 보낸 서한을 통해 페이블 5와 미토스 5의 수출·재수출·외국인 대상 이전에 별도의 허가가 필요하지 않다고 통보했으며, 앤트로픽은 이달 1일부터 페이블 5를 전 세계 이용자에게 다시 제공하기 시작했다.

민간 기업 자율성 용인돼

다만 백악관은 앤트로픽 사태와 별개로, 미국 AI 기업의 모델 출시 여부를 정부가 직접 결정하는 사전 인허가 체계를 도입할 의도는 없다는 입장을 고수하고 있다. 미국 내에서는 민간 기업의 개발·출시 자율성을 최대한 보장하되, 국가 안보에 영향을 미칠 수 있는 모델이 해외로 이전되거나 외국인에게 제공되는 상황에서만 정부가 개입한다는 방향성이다. 이 같은 기조는 트럼프 대통령이 지난달 서명한 ‘첨단 AI 혁신 및 안보 촉진’ 행정명령에서도 이미 한 차례 구체화한 바 있다.

골든 이글의 출범 근거가 된 해당 행정명령의 골자는 민간 기업의 동의하에 첨단 AI 모델 공개 전 최대 30일간 국가안보국(NSA), DHS 산하 사이버안보·인프라보안국(CISA) 등 연방 기관이 사이버 보안 위험 및 국가 안보 영향을 검토할 수 있도록 하는 협력 체계를 구축하는 것이다. 최종적인 모델 출시 권한은 기업이 가지며, 적용 대상은 별도의 국가 안보 기준을 충족하는 일부 최첨단 모델로 한정된다. 당초 트럼프 행정부 내부에서는 이보다 수위가 높은 규제안이 검토됐었다. 미 정보기관과 일부 국가 안보 당국자들은 최첨단 AI 모델을 정부가 의무적으로 평가하고, 공개 여부에 직접 영향력을 행사해야 한다고 주장한 것으로 전해진다.

다만 상무부와 관련 업계는 과도한 정부 개입이 중국과의 기술 패권 경쟁 국면에서 '악수'로 작용할 수 있다고 맞섰다. 이는 빠른 모델 교체와 출시 경쟁이 보편적인 AI 산업의 특성을 고려한 주장이었다. 수개월간의 논쟁 끝에 지난 5월 트럼프 대통령은 과한 규제가 미국의 기술적 우위를 훼손해서는 안 된다는 뜻을 밝혔고, 결국 행정명령 최종안은 기업의 자율을 존중하는 방향을 띠게 됐다. 해당 사안과 관련해 한 시장 전문가는 "현재 미국의 AI 정책은 국내 산업을 광범위하게 통제하는 규제 모델이라기보다 ‘내부 자율·외부 통제’에 가까운 이중 구조"라며 "자국 기업에는 자발적인 사전 검증과 민관 협력을 요구하면서도 출시 결정권을 보장해 성장 속도를 유지하고, 외국인 접근이나 해외 이전 과정에서는 국가 안보와 수출 통제 권한을 앞세워 기술 유출을 차단하는 방식"이라고 평가했다.

美 AI 규제 체계 '중구난방'

이러한 트럼프 행정부의 행보는 난립하는 주 정부의 AI 규제 체계를 통합하기 위한 전략으로도 읽힌다. 미 의회의 포괄적인 AI 입법이 지연되는 사이, 각 주 정부는 독자적인 규제안을 잇달아 발표했다. 미국 주의회협의회(NCSL)에 따르면 지난해 50개 주 및 워싱턴DC를 비롯한 모든 관할권에서 AI 관련 법안이 발의됐으며, 이 가운데 38개 주가 약 100건의 관련 조치를 제정하거나 채택했다. 가장 광범위한 규제 체계를 구축한 지역으로는 콜로라도주가 꼽힌다. 콜로라도주가 제정한 AI 법은 채용, 대출, 주택, 교육, 의료, 보험 등 개인의 권리와 기회에 중대한 영향을 미치는 결정을 내리는 AI를 ‘고위험 시스템’으로 분류한다. 고위험 시스템 개발사에는 알고리즘 차별 위험에 관한 자료 및 관리 방식 공개 의무가 부과되며, 고위험 시스템을 사용하는 기업에는 위험 관리 체계 구축, 영향 평가, 정기적인 재검토가 요구된다.

반면 캘리포니아주는 AI의 실제 사용 결과보다 대형 개발사의 첨단 모델 개발 과정 자체에 무게를 뒀다. 올해 시행된 캘리포니아주 ‘프런티어 AI 투명성법’은 일정 규모 이상의 연산 자원을 사용하는 대형 AI 개발사가 안전 관리 체계와 위험 평가 결과를 공개해야 한다고 규정한다. 아울러 개발사는 자사 모델이 다수의 사망이나 10억 달러(약 1조4,800억원) 이상의 손실을 초래할 수 있는 중대한 위험에 연관될 시 이를 주 정부에 보고해야 하며, 내부 직원이 위험이나 규제 위반을 제보했을 때 불이익을 주는 행위도 제한된다. 뉴욕주 역시 캘리포니아와 유사한 방향의 정책을 내놨다. 지난해 12월 서명된 뉴욕주의 ‘책임 있는 AI 안전·교육법’은 일정 수준 이상의 연산량과 개발비가 투입된 프런티어 모델을 보유한 개발사에 모델이 생물·화학 무기 개발이나 대규모 사이버 공격 등에 악용될 가능성을 평가하고, 외부 침입과 무단 사용을 막기 위한 관리 절차를 문서화할 것을 요구한다.

텍사스주는 ‘책임 있는 AI 거버넌스법’을 통해 혁신을 촉진함과 동시에 위험한 활용만 차단하는 접근 방식을 채택했다. 해당 법안은 AI를 이용해 자해, 범죄, 폭력 행위를 고의로 유도하는 행위를 금지하되, 기업이 새로운 AI 서비스를 제한된 환경에서 시험할 수 있도록 규제 샌드박스와 AI 자문 기구를 설치하는 것이 핵심이다. 이처럼 각 주에서 규제 체계가 분화하면 AI 기업들은 주별 법률 분석, 시스템 개조, 영향 평가, 보고 등 막대한 행정적 부담을 짊어지게 된다. 이에 트럼프 대통령은 지난해 12월 행정명령을 통해 법무부에 연방 정책과 충돌하거나 주 간 상거래를 과도하게 제약하는 AI법을 식별하고, 법적 대응을 검토하도록 지시했다. 백악관은 이후 의회에 제출한 정책 권고안에서 기업에 과도한 부담을 주는 주법을 연방법으로 우선 배제하고, 서로 다른 50개 기준이 아닌 최소 부담의 국가 단일 기준을 마련해야 한다고 명시했다.