“AI發 위협이 기회 만들어” 빅테크 AI 보안 시장 선점 경쟁 격화, 美 정치권도 개입 기반 마련

엔비디아, 관련 분야 기업들과 AI 보안 동맹 출범
고개 드는 AI發 보안 위협, 주요 AI 기업 대응 가속화
美 정부·의회도 AI 시장 개입·규제 명분 확보

글로벌 기술 기업들이 개방형 인공지능(AI)을 활용한 사이버보안 협력체를 출범했다. AI 기술의 발전으로 인한 보안 위협이 가시화한 가운데, △보안 특화 모델 출시 △개방형 보안 도구 개발 △자율형 방어 시스템 개발 등 민간 기업 차원의 대응에도 속도가 붙는 양상이다. 미국 정부와 의회 역시 첨단 AI 모델 사전 점검, '킬스위치' 확보 등 시장 개입을 위한 제도적 기반을 마련하며 민간 주도 기술 경쟁을 국가안보 관리 체계 안으로 끌어들이고 있다.

글로벌 기업 주도 'AI 보안 연합'

27일(이하 현지시각) 엔비디아는 마이크로소프트(MS), 어도비, 시스코, 팔란티어, 스페이스X, 씽킹머신랩 등 클라우드·사이버 보안·기업용 소프트웨어·AI 연구 분야 기업 약 40곳과 함께 '오픈 시큐어 AI 얼라이언스'를 출범했다고 밝혔다. 오픈 시큐어 AI 얼라이언스는 오픈소스 기반 보안 도구를 공동 개발하고, 기업들이 AI발(發) 사이버 공격에 대응해 시스템 취약점을 신속하게 진단·보완할 수 있도록 지원하는 연합체다. 엔비디아는 출범 발표문에서 "허깅페이스 사건은 사이버 방어를 위해 개방형 최첨단 AI가 필요하다는 사실을 분명히 보여줬다"며 오픈소스 기반 도구 개발을 추진하게 된 배경을 밝혔다.

엔비디아가 언급한 '허깅페이스 사건'은 최근 발생한 오픈AI의 보안 사고다. 오픈AI는 앞서 지난 21일 자사의 자율형 AI 에이전트가 테스트 도중 통제 구역을 벗어나 AI 플랫폼 허깅페이스 시스템에 침투했다고 밝힌 바 있다. 허깅페이스는 처음엔 앤트로픽 AI 모델로 공격 기록을 분석하려 했지만, 모델의 안전장치(가드레일)가 사이버 공격 관련 분석을 거부하면서 대응에 어려움을 겪은 것으로 알려졌다. 이후 자체 서버에서 실행할 수 있는 중국의 오픈웨이트 AI 모델을 활용해 공격을 분석하고 침입한 AI를 차단한 뒤 시스템 복구를 마쳤다는 전언이다.

AI 발전이 야기한 보안 리스크

이러한 AI발 보안 위협은 이미 업계 전반을 관통하는 핵심 이슈로 부상한 상태다. AI 활용이 보편화하며 보안망 취약점의 탐색·공격 난도가 대폭 낮아진 탓이다. 실제 블룸버그통신에 따르면, 디지털 보안 결함을 집계하는 미국 국가취약점데이터베이스(NVD)에 올해 1월부터 이달 27일까지 등록된 보안 취약점(해커가 컴퓨터 시스템에 침입해 범죄나 첩보 활동을 벌이는 데 악용할 수 있는 소프트웨어 결함)은 4만5,207건에 육박한다. 이는 지난해 연간 전체 등록 건수에 근접한 수치다.

주요 기술 기업의 보안 취약점도 속속 발견되고 있다. 오라클은 이달 정기 소프트웨어 업데이트에서 취약점 1,449건을 수정했다고 밝혔다. 이는 전년 동기 업데이트(309건 수정) 대비 약 4.7배 많은 수준이다. 같은 기간 MS와 구글(크롬 브라우저)의 취약점 수정 건수는 각각 5배, 39배 증가했다. 더그 터너 구글 크롬 엔지니어링 책임자는 이러한 시장 상황에 대해 "보안 취약점이 전례 없는 규모와 속도로 발견되는 것은 AI 모델의 발전과 이에 따른 투자 확대의 결과"라고 진단했다.

MS, 신규 보안 시스템 공개

주요 기술 기업들은 AI를 활용한 사이버 공격의 확산을 일종의 시장 선점 기회로 삼고 있다. 일례로 MS는 지난 27일 에이전트형 보안 시스템인 ‘프로젝트 퍼셉션’을 공개했다. 퍼셉션은 레드·블루·그린 등 세 종류의 전문 AI 에이전트를 연계하는 방식으로 작동한다. 레드 에이전트는 실제 공격자의 관점에서 시스템을 분석해 침투 가능한 경로와 잠재적 취약점을 찾아내고, 블루 에이전트는 각 취약점이 실제 공격으로 이어질 가능성과 피해 규모를 분석해 대응 우선순위를 정한다. 그린 에이전트는 문제가 있는 코드를 수정하거나 보안 설정을 강화하는 등 구체적인 보완 조치를 수행한다.

MS는 이러한 시스템을 보조하기 위해 단말기, 애플리케이션, 클라우드 등에 흩어진 데이터를 서로 연결해 자산 간 관계와 위험 요소를 보여주는 ‘보안 맥락’을 구축할 예정이다. AI 에이전트가 원시 데이터를 매번 새롭게 수집·분석하지 않고도 필요한 정보에 곧바로 접근해 위험도를 판단할 수 있도록 조치한 것이다. 작업의 난도와 비용에 따라 여러 AI 모델을 적절히 활용하는 ‘멀티모델’ 구조도 적용했다. 반복적이고 비교적 단순한 보안 업무에는 작고 저렴한 특화 모델을 투입하고, 복잡한 추론이 필요한 작업에만 대형 첨단 모델을 사용하는 식이다. 이는 24시간 내내 가동되며 연산 비용을 소모하는 AI 기반 보안 시스템의 특성을 고려한 조치다.

앤트로픽·오픈AI도 보안 특화 모델 보유

주요 AI 기업들도 사이버 보안에 특화된 모델을 잇달아 선보였다. 앤트로픽은 지난 4월 범용 프론티어 모델 ‘클로드 미토스 프리뷰’를 공개하고, 이를 활용해 주요 운영체제(OS), 웹 브라우저, 오픈소스 소프트웨어 등의 취약점을 찾아내는 ‘프로젝트 글래스윙’을 가동했다. 미토스 프리뷰는 보안 전용으로 별도 개발된 모델은 아니지만, 알려지지 않은 제로데이 취약점을 찾아 실제 공격 코드로 구현하는 수준의 코딩·추론 역량을 갖춘 것으로 평가된다. 프로젝트 글래스윙은 핵심 인프라 기업, 오픈소스 개발자 등 검증된 파트너를 중심으로 제한적으로 제공되며, 글래스윙에 참여한 약 50개 기관은 한 달 동안 미토스 프리뷰를 통해 고위험·치명적 취약점 1만 건 이상을 확인한 것으로 전해진다.

오픈AI는 범용 GPT-5.5와 사이버 보안 특화 모델 ‘GPT-5.5-사이버’를 병행 제공하고 있다. GPT-5.5의 경우 일반 사용자 대상으로는 엄격한 보안 가드레일을 적용하지만, 신원과 사용 목적을 검증받은 보안 담당자에게는 취약점 분석, 악성코드 조사, 탐지 규칙 작성, 패치 검증 등 보다 폭넓은 작업을 허용한다. GPT-5.5-사이버는 이보다 한 단계 더 높은 접근 권한이 필요한 레드팀 훈련, 침투 테스트, 통제된 환경에서의 공격 가능성 검증 등에 초점을 맞췄다. 해당 모델의 프리뷰는 중요 인프라 방어 담당자와 일부 검증된 파트너에게만 제공되고 있다.

美 정치권의 대응 움직임

미국 정치권 역시 적극적인 대응에 나섰다. 27일 디 인포메이션 보도에 따르면, 백악관 국가사이버국(ONCD)은 약 2주 전 오픈AI, 앤트로픽, 구글에 새로운 자율 심사 프레임워크 초안을 전달했다. 해당 프레임워크는 도널드 트럼프 미국 대통령이 지난달 초 서명한 AI 행정명령에 따라 마련된 것이다. AI 행정명령은 민간 기업의 동의하에 첨단 AI 모델 공개 전 최대 30일간 국가안보국(NSA), DHS 산하 사이버안보·인프라보안국(CISA) 등 연방 기관이 사이버 보안 위험 및 국가 안보 영향을 검토하는 협력 체계를 구축하는 것을 골자로 한다. 최종적인 모델 출시 권한은 기업이 가지며, 적용 대상은 별도의 국가 안보 기준을 충족하는 일부 최첨단 모델로 한정된다.

미국 의회에서도 소위 ‘AI 킬스위치법’이 발의됐다. 민주당 테드 리우 하원의원과 공화당 너새니얼 모런 하원의원이 지난 23일 공동 발의한 이 법안은 직전 연도에 AI 분야에서 5억 달러(약 7,240억원) 이상의 매출을 올린 사업자 중, 개발에 투입된 컴퓨팅 비용이 1억 달러(약 1,450억원, 미국 클라우드 시장 가격 기준) 이상인 고성능 AI 시스템을 운영·제공하는 기업을 규제 대상으로 규정한다. 규제 대상 시스템이 통제 불능 상태에 빠져 대규모 인명·경제 피해를 야기할 위험이 있다고 판단될 경우, 미 국토안보부 장관은 상무부 장관 및 국가정보국장과 협의를 거쳐 기업에 위험의 성격·긴급성에 비례한 조치를 명령할 수 있다. 법안에 명시된 조치는 특정 이용자 차단, 연산 속도 제한, 모델 전면 종료 등이다.