尹 제3차 민주주의 정상회의 2세션 주재
가짜뉴스 엄중히 다룰 법과 제도 마련 촉구
"기술은 죄가 없다" SNS 플랫폼 차원 조치해야

윤석열 대통령이 전 세계 많은 나라에서 선거가 치러지는 올해 국제적 연대를 통해 가짜뉴스에 대응하자고 민주주의 국가들에 제안했다. 이는 최근 증가하는 가짜뉴스 및 딥페이크 피해에 대한 우려에 따른 것으로 풀이된다. 이런 가운데 일각에서는 소셜미디어 플랫폼 차원의 대응 방안을 촉구하는 목소리도 나온다.

가짜뉴스, 사회적 갈등과 분열 야기

20일 윤 대통령은 3일간 열린 민주주의 정상회의 마지막 날 영상으로 열린 정상회의에서 이같이 밝혔다. 윤 대통령은 "인공지능(AI)과 인터넷 봇(bot) 기술을 활용한 가짜뉴스와 허위 조작정보의 무분별한 확산이 전 세계적인 문제로 대두되고 있다"고 화두를 던졌다. 이어 "특정 세력들이 조직적으로 제작·배포하는 가짜뉴스는 단순히 잘못된 정보를 전파하는 것을 넘어 사회적 갈등과 분열을 야기한다"면서 "가짜뉴스는 국민이 사실과 다른 정보를 바탕으로 잘못된 판단을 내리도록 선동함으로써 민주주의 근간인 선거를 위협하고 있다"고 지적했다.

특히 우리나라를 비롯해 전 세계 인구 3분의 1이 선거를 치르는 올해, 민주 진영 국가들의 연대의 필요성은 더욱 크다고 강조했다. 윤 대통령은 각국 정상들을 향해 “가짜뉴스를 엄중히 다루는 법과 제도를 함께 준비해 나가야 한다”며 가짜뉴스를 퇴치하는 AI·디지털 시스템을 만들고, 체계적인 대응 홍보전도 펼쳐야 한다고 했다. 북한을 겨냥한 듯 “다른 나라 선거에 영향을 미치려는 세력들에 대해서도 엄격히 법을 집행할 수 있도록 국제사회가 함께 공조해 나가야 한다”고도 전했다.

연예인부터 정치인까지, 딥페이크 피해 급증

최근 AI 이미지·영상 생성 도구가 보편화되면서 이를 활용한 가짜뉴스나 딥페이크 이미지가 활개를 치고 있다. 19일(현지시간) 이탈리아 안사통신에 따르면 이탈리아 최초의 여성 총리 조르자 멜로니는 자신의 얼굴로 딥페이크 포르노를 제작한 73세와 40세 부자를 상대로 손해배상을 청구했다.

이들은 포르노 동영상을 편집하고, 특정 소프트웨어를 사용해 여배우의 몸에 멜로니 총리의 얼굴을 합성해 미국 포르노 사이트에 게재한 것으로 알려졌다. 이탈리아 경찰에 따르면 멜로니 총리의 얼굴이 입혀진 포르노 영상은 해당 사이트에서 지난 몇 달 동안 수백만 건의 조회 수를 기록했다.

미국의 세계적인 팝스타 테일러 스위프트(Taylor Swift)도 지난 1월 딥페이크 음란 이미지가 유포돼 피해를 입었다. 지난 1월 X(옛 트위터) 등 SNS에서 테일러 스위프트의 사진을 악용한 불법 딥페이크 포르노 영상이 무차별 확산되는 사건이 일어났다. 일부 게시물은 삭제되기 전까지 2만4,000회가량 공유되며 4,500만 회 이상의 조회수를 기록한 것으로 파악됐다.

기술 자체 아닌 유통 제어해야

이처럼 불과 얼마 전까지만 해도 무한한 가능성의 보고로 기대를 모으던 딥페이크(Deep fake) 기술이 공공의 적으로 몰리는 형국이다. 상술한 사례들을 비롯해 기시다 후미오 일본 총리가 성적 발언을 하는 가짜 영상 사건이 잇따르면서 딥페이크 기술을 규제해야 한다는 목소리도 커지고 있다. 그러나 딥페이크 영상물의 피해를 줄이는 키는 기술 자체가 아닌, 콘텐츠 유통 과정에서 조치를 취하는 데 있다. 딥페이크가 사회적 문제로 대두된 것은 딥페이크 기술보다는 딥페이크 이미지가 SNS를 통해 빠르고 광범위하게 전파되기 때문이다.

실제로 테일러 스위프트의 합성 사진은 X에 게시되자마자 순식간에 온라인에 퍼졌다. X 측이 원본 삭제 조치를 취한 시점엔 이미 수천만 회이상 조회된 상태였다. 기시다 총리 동영상도 일본 동영상 사이트인 ‘니코니코’에 올라왔다가 몇 시간 뒤 X에도 게재되며 하루 만에 조회수 232만 회를 찍었다. 사실상 피드 영향력이 약한 플랫폼에서 머물렀다면 이정도로 파급력이 크지 않았을 것이다.

이런 가운데 에릭 슈밋 전 구글 CEO는 과학기술 전문 매거진 ‘MIT 테크놀로지 리뷰’ 최신호에 소셜미디어 플랫폼이 잘못된 선거 정보에 맞설 수 있는 방법 6가지를 제시한 바 있다(원제: ‘Eric Schmidt has a 6-point plan for fighting election misinformation’). 가장 먼저 제안한 일은 악성 계정을 파악하는 것이다. 슈밋 전 CEO에 따르면 콘텐츠가 네트워크에 유입된 시간과 IP주소를 알면 악성 계정 정보는 적잖이 확보할 수 있다. 이런 계정들은 알고리즘 우선순위를 낮춰 해당 계정이 올린 콘텐츠가 확산될 여지를 주지 않는 편이 안전하다. AI로 만든 이미지를 판별하는 기능을 갖추는 것도 반드시 필요하다. ‘스팸 위험’ 표시가 뜨는 전화번호에 대해 미리 조심하게 되는 것처럼 어떤 이미지가 딥페이크의 결과물일 가능성이 높은 경우 이를 미리 알려 피해를 줄이는 방식이다.