AI發 사이버 공격 고도화에 보안 경쟁도 불붙어, 오픈AI·앤트로픽·구글 시장 공략 가속

AI 활용한 사이버 공격 급증, 자율형 AI 에이전트까지 해킹에 동원
PHP2Shell 공격·바이낸스 해킹에도 AI 악용, 기업 보안 위협 확대
오픈AI·앤트로픽·구글, 잇달아 AI 기반 취약점 탐지·수정 체계 마련

인공지능(AI)을 활용한 사이버 공격이 빠르게 고도화하고 있다. AI가 △취약점 탐색 △공격 코드 작성 △내부 네트워크 정찰 등을 지원하면서 과거보다 적은 비용으로 복잡한 침투를 수행할 수 있게 된 가운데, 최근에는 AI 에이전트가 공격 상황을 분석해 적절한 도구와 명령어를 선택하는 사례까지 확인되는 모습이다. 이에 오픈AI·앤트로픽·구글 등 주요 AI 기업들은 취약점 탐지·수정에 특화된 보안 모델과 솔루션을 잇달아 내놓으며 '방어 경쟁'에 속도를 내고 있다.

해킹 도구로 변질된 AI 에이전트

3일(이하 현지시각) 미국 사이버보안 전문 매체 헬프넷시큐리티(Help Net Security) 보도에 따르면, 글로벌 보안업체 카스퍼스키는 최근 아프리카와 중남미 여러 국가의 교육기관을 대상으로 오픈소스 AI 기반 침투시험 도구 '사이버스트라이크AI(CyberStrikeAI)'를 활용한 사이버 공격이 발생했다고 밝혔다. 카스퍼스키에 따르면 공격자는 피해 기관의 내부 네트워크에 침투한 뒤, 하루 동안 시스템 정보를 수집하고 약 2주간 활동을 중단했다. 이후 공격이 본격화한 것은 사이버스트라이크AI의 명령제어(C2) 에이전트가 개입하면서다. AI 에이전트는 배포 후 2분 만에 피해 시스템에 대한 지속적인 접근 수단을 확보하고 초기 정찰을 마쳤으며, 3~4일 만에 도메인 관리자 계정을 탈취했다.

에이전트는 공격자의 명령제어 서버에서 대형언어모델(LLM)을 기반으로 침투 경로를 결정하고 명령어를 생성한 것으로 분석됐다. 인간 공격자가 공격 대상과 목표를 설정하면 AI가 상황에 맞는 도구와 명령어를 선택하고, 피해 시스템에 설치된 프로그램이 이를 실행하는 구조다. 그 뒤 공격자는 확보한 접근 권한을 활용해 여러 컴퓨터에 저장된 인증 정보를 대량으로 탈취하고 데이터베이스를 외부로 반출했다. 이 같은 최종 공격 단계에는 1시간도 걸리지 않았다. 카스퍼스키는 이번 사건을 특정 해킹 조직의 소행으로 확정하지 않았으나, 사용된 스크립트의 중국어 주석과 중국 온라인 서비스 이용 흔적 등을 근거로 중국어 사용자가 관여했을 가능성을 제기했다.

PHP2Shell 사태에도 AI 쓰여

이러한 AI 기반 해킹 사례는 세계 곳곳에서 잇따르고 있다. 지난달 중국 연계 해킹 조직으로 추정되는 공격자들이 'PHP2Shell'을 악용해 벌인 사이버 공격이 대표적인 예다. PHP2Shell은 지난달 21일 PHP 공식 개발팀이 공개한 두 가지 취약점(CVE-2026-109618·CVE-2026-109619)을 통칭하는 것으로, 공격자가 별도의 인증 절차 없이 취약한 서버에서 악성 코드를 원격 실행할 수 있다는 점이 특징이다. 공격자들은 해당 취약점과 리눅스 운영체제의 권한 상승 취약점인 '프라그네시아(Fragnesia)'를 결합해 글로벌 사이버보안 기업 팔로알토네트웍스의 방화벽을 공격했다. 이스라엘 사이버보안 업체 드림(Dream)의 조사 결과 공격자들은 인터넷에 노출된 방화벽 약 1만9,000대를 탐색한 뒤 침투 대상을 약 240대로 압축했으며, 이 가운데 24대의 방화벽과 1대의 내부 관리 서버를 장악한 것으로 파악됐다.

AI는 이 과정에서 침투 도구 개발과 공격 대상 탐색에 활용됐다. 드림 연구진은 공격자들의 시스템에서 앤트로픽의 AI 코딩 도구 '클로드 코드'와 중국 AI 모델 딥시크·키미를 연동한 공격 플랫폼 'AI스캔'을 발견했다. 공격자들은 해당 도구를 통해 표적 방화벽의 종류와 소프트웨어 버전을 식별하고, 특정 장비에 맞춘 공격 코드를 작성한 것으로 추정된다. 다만 연구진은 침투 과정 전체가 AI에 의해 자동으로 수행된 것은 아니라고 짚었다. AI가 공격자의 공격 준비와 도구 개발을 지원한 정황은 포착됐지만, 구체적인 의사 결정과 실행 단계에서 인간과 AI가 각각 어느 정도 관여했는지는 명확히 규명되지 않았다는 설명이다.

바이낸스 내부 AI가 공격 통로로

최근 세계 최대 가상자산 거래소 바이낸스에서 발생한 해킹 사건에도 AI 관련 도구가 쓰인 것으로 확인됐다. 바이낸스의 자체 조사 결과, 공격자들은 지난 6월부터 수개월에 걸쳐 직원들을 대상으로 침투 작업을 벌였다. 먼저 가상자산 지갑 개발·운영 담당 엔지니어가 AI 코딩 도구를 설치하는 과정에서 악성코드가 포함된 소프트웨어 설치 파일을 내려받도록 유도했다. 당시 바이낸스 보안팀은 이상 징후를 탐지해 해당 직원의 컴퓨터를 교체하고 인증 정보를 변경했지만, 이미 업무 및 동료들에 관한 정보는 유출된 뒤였다. 이후 공격자들은 지난 9월 다른 소프트웨어 엔지니어에게 가짜 채용 제안을 보내고, 면접 과제를 수행한다는 명목으로 악성코드가 포함된 프로그램을 업무용 컴퓨터에 설치하도록 했다. 이 악성코드는 정상적인 개발 도구의 일부를 변조해 외부 서버와 통신하는 방식으로 작동했으며, 당시 바이낸스의 보안 시스템에도 탐지되지 않았다.

공격자들이 바이낸스 내부 AI 도구를 본격적으로 악용하기 시작한 시점은 지난달 20일이다. 이들은 앞서 악성코드로 감염시킨 엔지니어의 컴퓨터를 발판 삼아 거래소의 자체 AI 도구에 접근했고, 가상자산 지갑 개발·운영 담당 직원 2명의 컴퓨터에 대한 통제권까지 확보했다. 이 과정에서 한 직원의 컴퓨터에 저장돼 있던 컨테이너 배포 권한 토큰을 발견했으며, 이를 활용해 지갑 관련 시스템에 악성 프로그램을 배포할 수 있는 기반을 마련했다. 실제 공격이 이뤄진 지난달 29일에는 앞서 탈취한 인증 정보를 이용해 컨테이너를 배포하고 악성 스크립트를 실행한 뒤, 바이낸스의 내부 지갑 거래 서명 시스템을 무단 이용해 정상적인 출금 절차를 거치지 않고 가상자산을 외부 지갑으로 전송했다.

오픈AI, 사이버보안 사업 주목

AI 기술의 발전으로 사이버 공격 수법이 나날이 고도화하는 가운데, 시장에서는 AI가 이러한 위험에 대응하는 핵심 수단 역할 역시 수행할 것이라는 전망에 힘이 실린다. 실제 주요 AI 개발사들은 사이버보안 시장을 차세대 성장 동력으로 낙점하고 기업용 솔루션 확보에 속도를 내고 있다. 일례로 오픈AI는 최근 구글이 인수한 이스라엘 보안업체 위즈(Wiz) 출신 임원을 영입해 기업 고객 대상 영업을 강화한 상태다. 새라 프라이어 오픈AI 최고재무책임자(CFO)는 지난달 14일 아일랜드 더블린에서 열린 국제 AI 서밋에서 블룸버그TV와의 인터뷰를 통해 "사이버보안은 향후 자사 사업의 주요 성장 동력이 될 것"이라고 직접 언급하기도 했다.

오픈AI가 사이버보안 시장 공략을 위해 앞세우는 핵심 기술은 AI를 활용한 보안 취약점 탐지·수정 체계 '데이브레이크(Daybreak)'다. 지난 6월 공개된 데이브레이크는 기업의 소프트웨어 코드와 시스템을 분석해 잠재적 취약점을 찾아내고, 실제 악용 가능성을 검증한 뒤 수정 코드 생성 및 테스트까지 지원한다. 여기에 오픈AI는 지난 8월 최신 보안 특화 모델인 'GPT-5.6-사이버(GPT-5.6-Cyber)'를 도입해 이용자의 자격과 업무 목적에 따라 접근 권한을 구분하는 체계도 정비했다.

표1. 주요 AI 기업의 사이버보안 사업 확대

앤트로픽·구글도 시장 뛰어들어

앤트로픽은 지난 2월 소프트웨어 개발 도구인 클로드 코드에 보안 기능을 결합한 '클로드 코드 시큐리티'를 공개했다. 해당 솔루션은 기업의 소스코드 전체를 분석해 기존 정적 분석 도구가 놓치기 쉬운 취약점을 찾아내고, 문제의 심각성과 악용 가능성을 검토한 뒤 구체적인 수정안을 제시하는 방식으로 작동한다. 이후 앤트로픽은 지난 4월 고성능 AI 모델 '클로드 미소스 프리뷰'를 공개하면서 관련 사업을 한층 확대했으며, 아마존웹서비스(AWS)·애플·마이크로소프트·구글·JP모건체이스·크라우드스트라이크 등과 '프로젝트 글래스윙(Project Glasswing)'도 출범했다. 프로젝트 글래스윙은 주요 기술·금융기업들이 미소스를 활용해 자사 소프트웨어와 핵심 시스템의 보안 취약점을 선제적으로 찾고 수정하도록 지원하는 공동 보안 프로그램이다. 참여 기관들은 프로젝트 출범 이후 한 달여 동안 심각도가 높거나 치명적인 보안 취약점 1만 건 이상을 발견한 것으로 전해진다.

구글 역시 지난 9월 정부 기관, 주요 기업, 사이버보안 협력사를 대상으로 '페어윈드(Fairwind)' 프로그램을 출범했다. 페어윈드 프로그램은 구글의 첨단 제미나이 계열 모델 및 관련 기술을 승인된 기관에 제한적으로 제공하는 사업으로, 프로젝트 글래스윙과 유사한 성격을 띤다. 참여 기관들은 AI를 활용해 소프트웨어의 잠재적인 취약점을 자동으로 탐색하고 수정안을 개발할 수 있다. 최근 위즈의 PHP 중대 취약점 발견 및 악용 징후 탐지, 수정안 검증 과정에도 구글의 '제미나이 4 아르곤'을 비롯한 여러 AI 모델이 쓰인 것으로 알려졌다.