무분별 양산되는 딥페이크, AI 기술의 반작용
경제 및 국가 안보 위험성 제기 '경고등'
적국 '뇌파' 공격, 중대 결정 좌우할 수도

인공지능(AI) 기술 고도화로 딥페이크 활용이 활발해지는 가운데 당국 주도의 통제가 필요하다는 목소리가 커지고 있다. 사이버 보안을 비롯해 경제‧국가 안보까지 위협할 수 있다는 우려가 나오면서다. 실제로 러시아가 적국의 사기를 꺾기 위해 만든 볼로디미르 젤렌스키 우크라이나 대통령의 담화 영상은 지금도 꾸준히 유포되고 있다. 해당 영상에는 "고심 끝에 돈바스 지역을 러시아에 반환하기로 결정했다"는 내용이 담겨 있어 충격을 줬다.

러시아의 '딥페이크' 정보전, "우크라군 유족, 보상 못받아" 거짓 정보 유포

20일 관련 업계에 따르면 우크라이나·러시아 전쟁에선 상상할 수 있는 거의 모든 형태의 정보전·사이버전과 함께 ‘인지전’이 확산하고 있다. 인지전은 적국 지도부와 국민에게 잘못된 정보를 인식시켜 비합리적 결정을 내리도록 하거나 무기·장비 운용에서 실수를 유도하는 방식으로 전쟁을 승리로 이끄는 개념이다. 이는 국론 분열로도 직결되는데 최근에는 단기적으로 가짜뉴스를 유포할 뿐만 아니라 다른 나라 소셜미디어 플랫폼에 허위 조작 정보를 확산시켜 AI 머신러닝 데이터를 오염하는 방법도 쓰인다.

지난해 러시아 크렘린궁에서 진행된 한 프레젠테이션에서는 발표자가 '전장에서 사망한 우크라이나 군인의 유족들이 국가로부터 아무런 보상을 받지 못했다'는 내용의 페이스북 게시글을 화면에 띄우고 미소를 짓는 장면이 공개됐다. 그가 "200만 회 이상의 조회 수를 달성했다"고 말하자 박수가 터져 나왔다. 이는 크렘린궁의 '우크라이나 프로파간다팀'이 지난해 크렘린궁에서 매주 진행했다는 '정보 심리 작전' 브리핑 장면이다. 지난 2월 16일(현지시간) 미국 워싱턴포스트(WP)는 유럽 정보기관에서 입수한 100개 이상의 관련 문건을 분석하고, 러시아가 우크라이나 지도부부터 시민사회까지 전방위에서 분열을 일으키기 위해 국가 차원에서 SNS에 허위 정보를 퍼뜨렸다고 폭로했다.

지금까지 우크라이나는 러시아가 유포하는 허위 정보에 크게 흔들리지 않았지만, 최근 들어 분열 위험이 관측되고 있는 것으로 알려졌다. 전쟁이 장기화하면서 우크라이나 국민의 피로감이 누적됐고, 미국의 추가 지원이 불투명한 상황에서 러시아가 공세를 강화하고 있어 '패배할 수 있다'는 불안감이 퍼졌기 때문으로 해석된다.

이어 WP는 지난 지난 2월 8일 젤렌스키 대통령이 발레리 잘루지니 우크라이나 총사령관의 전격 해임을 발표할 때 러시아 관리들이 기뻐했다고 전했다. 프로파간다팀이 1년을 들인 공작에 성공한 순간이어서다. 젤렌스키 대통령과 잘루지니 총사령관 간 불화설은 지난해 내내 계속됐다. 앞서 프로파간다팀은 지난해 1월부터 5월 첫째 주까지 SNS에 '잘루지니 총사령관이 차기 우크라이나 대통령이 될 가능성이 높다'는 내용의 게시글을 꾸준히 올렸다.

해당 게시글에는 서방 지도자들이 젤렌스키 대통령을 대체할 리더를 찾고 있으며, 잘루지니 총사령관이 러시아에 대한 반격을 중단할 수 있다는 등 허위 정보가 담겼는데, 조회 수가 도합 430만 회에 달한다. 지난해 말에는 잘루지니 총사령관이 젤렌스키 대통령을 '국민의 적'이라고 지칭하면서 "쿠데타"를 외치는 모습이 담긴 딥페이크 영상까지 퍼졌다. 러시아의 딥페이크 작전이 제대로 먹힌 것이다.

전 세계 딥페이크 기승, SNS 통해 가짜뉴스 지속 유포

딥페이크 기술이 갈수록 정교해지면서 지난해엔 도널드 트럼프 전 미국 대통령이 경찰에게 체포되는 그럴듯한 가짜 이미지가 미국 국민을 현혹하기도 했다. 미국뿐이 아니다. 글로벌 디지털 신원 확인 보안 업체 섬서브에 따르면 딥페이크로 일어나는 각종 사건·사고 피해는 전 세계 곳곳에서 동시다발적으로 급증세다. 지난해엔 전년 대비 북미에서 17.4배, 아시아·태평양 15.3배, 유럽에서 7.8배 증가했다.

딥페이크는 특히 음란물 제작이나 투자 권유 사기 등 음지에서 기승을 부리고 있다. 사이버 보안 업체 홈시큐리티히로스에 따르면 지난해 온라인에 유통된 딥페이크 영상은 총 9만5,820건으로 2019년 대비 5.5배 급증했다. 이 중 음란물 영상은 지난해에만 2만1,019건으로 전년의 무려 5.6배다. 더구나 K팝의 세계적 인기 등으로 가짜 음란물 영상의 피해자 53%가 한국인으로 나타났다.

센시티가 최근 공개한 ‘딥페이크의 현주소 2024′ 보고서에 의하면, 딥페이크는 주로 세 유형에서 일어난다. 여론 선동과 신용 사기, 금융기관 대상 고객 신원 확인 사기다. 가장 많이 알려진 여론 선동은 주로 유명 인사의 딥페이크 콘텐츠를 만들어 대중을 속이는 방식이다. 딥페이크에 악용된 직업은 정치인이 39.2%로 가장 많고, 연예인(29.4%), 기업인(19.6%), 테러범(6.9%) 등이 뒤를 이었다. 신용 사기는 신원 증명서 위조가 대표적이다. 딥페이크 사기에 활용된 신원 증명서 유형은 신분증 72.8%, 여권 14.5%, 운전면허증 11.1% 등으로 조사됐다.

딥페이크는 경제적 타격뿐 아니라 정치적 여론전에 동원돼 걷잡을 수 없는 상흔을 남기기도 한다. 특히 올해는 전 세계 76국에서 선거를 치르는 ‘선거의 해’인 만큼 각국에서 딥페이크 영상이 확산하고 있다. 세계 최대 민주주의 선거라는 인도 총선에선 나렌드라 모디 총리가 발리우드 스타일 춤을 추는 가짜 영상까지 나돌았다. 이 외에도 각국 선거전에선 후보자들이 가짜 공약을 말하거나 욕설과 막말을 내뱉는 식의 딥페이크 영상이 나오기도 했다.

"불신의 소용돌이 시작됐다" 음모론 부추길 가능성↑

이에 전문가들은 딥페이크가 다양한 불신을 낳고 음모론을 부추길 가능성이 있다고 우려했다. 아일랜드 유니버시티 칼리지 코크(UCC) 존 투미 교수팀은 지난해 1~8월 트위터(현 엑스·X)에서 러시아-우크라이나 전쟁 관련 딥페이크 동영상에 관한 트윗 4,869건을 추출하고 이 가운데 사용자의 반응과 의견 등이 담긴 1,231건을 분석한 결과, 딥페이크 관련 뉴스에 대한 부정적인 반응을 보이는 트윗이 많았지만 동시에 실제 동영상이 딥페이크로 오인되고 딥페이크가 미디어 전반에 대한 불신과 음모론을 부추길 가능성이 큰 것으로 나타났다고 진단했다.

실제로 젤렌스키 대통령이 러시아에 항복하는 모습을 담은 딥페이크 영상 관련 뉴스에 대해서는 우려와 충격, 혼란을 표하는 트윗이 많았다. 하지만 정치적 라이벌을 겨냥한 딥페이크, 특히 풍자나 오락용으로 제작된 딥페이크에 대해서는 잠재적 피해를 간과하거나 긍정적인 반응을 보인 경우도 많은 것으로 조사됐다.

일부 사용자는 딥페이크 영상의 영향으로 러시아의 우크라이나 침공에 대한 모든 보도를 믿지 못한다며 언론에 대한 극심한 불신감을 드러냈으며, 일부 트윗은 딥페이크 영상을 자신들이 믿는 음모론과 연결해 러시아의 우크라이나 침공에 대한 모든 뉴스는 가짜 반러시아 선전행위라는 견해를 보이기도 했다.

연구팀은 "이 연구는 러시아의 우크라이나 침공 관련 딥페이크 영상이 SNS에 미치는 영향에 초점을 맞췄다"며 "이 결과는 딥페이크가 실제 미디어에 대한 신뢰를 어떻게 약화시키고 음모론 확산에 어떻게 이용되는지 보여준다"고 말했다. 연구팀은 또 딥페이크에 대해 대중을 교육하려는 노력 자체가 의도치 않게 사실을 전하는 실제 동영상의 신뢰까지 훼손할 수 있는 것으로 나타났다며 교육 및 엔터테인먼트에서의 딥페이크 사용도 재고돼야 한다고 지적했다. 이어 언론매체와 정부 기관들은 교육용 딥페이크와 사전 교육이 진실을 훼손할 위험성을 신중히 검토해야 하며, 언론 매체들도 실제 미디어에 대한 불신을 초래하지 않도록 의심되는 영상에 딥페이크 라벨을 붙이는 데 신중해야 한다고 덧붙였다.

또 다른 전문가들은 미래 인지전에서 딥페이크를 이용한 허위 정보 유출은 ‘애교’ 수준이 될 것이라고 말한다. 송태은 국립외교원 교수는 “현대 뇌과학은 인간의 뇌를 스캔해 어떤 감정과 생각을 하는지 판단하는 정도에 이르렀다”며 “미래전에선 적군의 뇌를 직접 공격하는 형태가 나올 수 있다”고 했다. 송 교수는 또 핵심 군 간부의 뇌파를 공격해 ‘정신착란’ 등을 일으키는 방법을 수행할 수 있을 것이라 우려했다. 그는 “군사 지휘에 필요한 단기 기억을 상실시키거나 적군 사이에 우울증과 공황장애를 일으키는 방법도 가능해질 것”이라고 내다봤다.