"후보 얼굴·목소리까지 복제" 美 정치권 파고든 AI 딥페이크, 규제 한계에 '신뢰 자본' 중요성 부각

중간선거 앞둔 美 정치권, AI 합성 허위 광고 확산
2024년 대선 당시에도 AI 기반 콘텐츠 활개
"규제만으론 못 막는다" 신뢰 자본·미디어 리터러시 영향력 커져

인공지능(AI) 기술이 미국 정치권의 새로운 변수로 부상하고 있다. 후보자의 얼굴과 목소리를 실제처럼 재현한 합성 광고가 선거 현장에 잇달아 등장하면서, 유권자의 판단이 왜곡될 위험이 대폭 가중된 것이다. 미국 주정부 및 의회는 혼란을 최소화하기 위한 제도적 대응에 나서는 추세지만, 전문가들 사이에서는 AI 생성·편집 기술의 발전 속도와 표현의 자유 문제를 고려하면 규제만으로 허위 콘텐츠를 차단하는 데는 한계가 있다는 지적이 나온다.

美 정치권의 AI 광고 공방전

9일(현지시간) 악시오스는 "최근 미국 정치권에서 AI를 활용해 상대 후보의 외모와 목소리를 똑같이 재현한 합성 광고가 잇따라 등장해 논란을 낳고 있다"고 보도했다. 일례로 텍사스주 공화당 상원의원 후보 켄 팩스턴은 경쟁자인 제임스 탈라리코 민주당 후보를 겨냥한 캠페인 광고에서 AI로 만든 탈라리코를 등장시켰다. AI 탈라리코는 실제 그가 언급했던 생물학적 성별이나 종교 관련 발언을 맥락 없이 짜깁기하고, 일부 문구를 변형해 전달했다. 지난 6월에는 탈라리코가 영화 ‘사운드 오브 뮤직’ 의상과 비슷한 옷을 입고 트랜스젠더 아동을 찬양하는 노래를 부르는 영상이 AI를 통해 제작돼 확산하기도 했다.

비슷한 사례는 다른 선거구에서도 확인됐다. 지난 5월 치러진 켄터키주 연방 하원의원 4선거구 공화당 경선에서는 현역 토머스 매시 의원이 민주당 소속 일한 오마르·알렉산드리아 오카시오코르테스(AOC) 의원과 함께 식사하거나, 호텔에 체크인하고 손을 잡는 모습을 AI로 연출한 공격 광고가 등장했다. 이에 매시 측은 경쟁 후보 에드 갤레인이 도널드 트럼프 대통령을 전장에서 버리고 떠나는 모습을 AI로 합성한 광고를 내놓으며 맞대응했다. 메인주에서는 공화당 주지사 후보 조너선 부시를 지지하는 정치행동위원회(PAC)가 돈가방을 들고 버락 오바마 전 대통령과 함께 있는 경쟁 후보(로버트 찰스)의 모습을 AI로 합성한 광고를 내보내기도 했다.

직전 대선 때도 유사 사례 속출

이 같은 AI 기반 정치 콘텐츠 논란은 2024년 미국 대선 때도 불거진 바 있다. 대표적인 예는 2024년 1월 뉴햄프셔주 민주당 경선을 앞두고 발생한 ‘바이든 딥페이크 로보콜’ 사건이다. 이는 조 바이든 대통령의 음성을 AI로 모방한 자동 녹음 전화가 “이번 예비 선거에 투표하지 말라”는 취지의 메시지를 약 2만 명의 유권자에게 발송한 사례다. 같은 해 8월 도널드 트럼프 대통령은 AI를 활용해 팝스타 테일러 스위프트가 자신을 지지하는 것처럼 조작한 이미지를 소셜미디어(SNS)에 공유하기도 했다. 캐나다 국적 배우 라이언 레이놀즈가 민주당 대선 후보였던 카멀라 해리스 전 부통령의 이름이 적힌 티셔츠를 입은 모습 역시 온라인에서 확산했지만, 이 사진도 AI로 생성된 가짜 이미지였다.

이러한 문제는 수치를 통해서도 확인됐다. 2024년 미국의 초당파 시민사회단체 뉴스 리터러시 프로젝트(NLP)는 "11월 대선을 앞두고 허위 주장과 가짜 지지를 담은 소셜미디어 게시물이 급증했다"며 총 576건의 조작 사례를 공개했다. 이 가운데 후보자의 외모나 평판을 왜곡한 이미지가 240건으로 전체의 42%를 차지해 가장 많았고, 후보 지지를 허위로 꾸민 이미지가 100건(17%), 근거 없는 음모론을 확산한 이미지가 91건(16%), 선거 제도 관련 허위 정보가 74건(13%), 후보 정책·공약을 오도한 이미지가 71건(12%)으로 뒤를 이었다.

규제 장벽 구축 노력

AI가 선거 과정의 새로운 변수로 부상하자, 미국 정치권은 제도적 대응에 속도를 내고 있다. 전미주의회회의(NCSL)에 따르면 지난 6월 기준 31개 주가 선거·정치 메시지에 사용되는 딥페이크를 규제하는 법률을 제정했다. 이 가운데 미네소타와 텍사스는 선거 직전 일정 기간 후보자를 허위로 묘사한 정치 딥페이크의 배포 자체를 제한하고 있으며, 메릴랜드는 선거 관련 기만적 딥페이크를 연중 금지한다. 나머지 주들은 대체로 AI로 이미지·음성·영상을 생성하거나 조작했음을 광고에 표시하도록 의무화하는 방식으로 규제를 설계했다.

연방 의회에서도 AI 정치 광고를 직접 겨냥한 입법 움직임이 이어지고 있다. 조 모렐 민주당 하원의원이 지난 7월 23일 발의한 ‘AI Transparency in Elections Act of 2026’은 정치 광고에 포함된 이미지·음성·영상이 생성형 AI로 상당 부분 제작됐을 경우, 광고 자체에 AI 활용 사실을 명확히 표시하도록 하는 내용을 담고 있다. AI를 이용한 후보 사칭이나 허위 모금 행위를 규제하기 위한 별도 법안도 추진되는 중이다. 애덤 시프 민주당 상원의원은 지난 7월 27일, 로 칸나 민주당 하원의원은 같은 달 30일 각각 상·하원에 ‘AI Ads Act’를 발의했다. 해당 법안의 골자는 현행 연방선거운동법에 생성형 AI 관련 규정을 추가하는 것이다. AI로 특정 후보의 얼굴이나 목소리를 재현해 해당 후보가 광고를 승인하거나 모금을 요청한 것처럼 꾸미는 행위를 기존 법률의 ‘사기성 사칭’ 규제 대상으로 명확히 편입하는 식이다.

표1. AI 허위 콘텐츠 규제의 한계

제도적 울타리 한계 명확

다만 시장에서는 제도적 규제만으로 AI발(發) 허위 콘텐츠의 확산을 근본적으로 차단하기는 어렵다는 지적이 제기된다. 디지털 이미지와 음성·영상은 결국 픽셀·음성 샘플 등 데이터의 집합인 만큼, 생성형 AI를 통해 일부 요소를 손쉽게 교체하거나 재구성할 수 있기 때문이다. 특히 최근에는 후보자의 사진과 음성 자료만 확보하면 전문적인 기술 없이도 실제와 유사한 합성물 제작이 가능하며, 오픈소스 모델은 개발사가 설정한 생성 제한조차 우회할 수 있다. 일각에서는 구글의 ‘SynthID’나 콘텐츠 출처를 기록하는 C2PA 기반 ‘콘텐츠 자격증명(Content Credentials)’ 등이 대응책으로 거론되기도 하지만, 이마저도 모든 생성형 AI 업체와 플랫폼이 채택한 것은 아니다. 이에 더해 메타데이터 형태로 저장되는 정보는 소셜미디어 업로드 시 사라질 수 있고, 원본을 캡처하거나 재가공하는 과정에서 훼손될 위험도 있다.

AI 탐지 기술 역시 완벽한 해법이 될 수 없다. 현재 활용되는 딥페이크 탐지 도구는 특정 데이터로 학습한 모델을 기반으로 합성 가능성을 확률적으로 판단한다. 새로운 생성 모델이나 편집 방식이 등장할 때마다 정확도가 떨어질 수밖에 없는 구조다. 실제 로이터저널리즘연구소가 공개 AI 탐지 도구들을 시험한 결과, 딥페이크 영상이 저화질 변환·일부 구간 잘라내기 등 간단한 편집만으로 탐지를 비껴가는 사례가 확인됐다. 여기에 법적으로도 규제의 범위를 무조건 확대하기는 어렵다. 미국에서는 정치적 표현이 수정헌법 제1조의 강력한 보호를 받는다. AI로 만들어졌다는 이유만으로 정치 콘텐츠 자체를 광범위하게 금지하면 위헌 논란이 발생할 수 있는 셈이다.

'신뢰'가 정보의 질 가른다

전문가들은 혼란을 해소할 열쇠로 미디어에 대한 신뢰를 꼽는다. 기술이 발전하며 콘텐츠의 진위를 가려내기가 어려워지면, 이용자는 개별 콘텐츠 자체보다 이를 생산하고 검증한 주체의 신뢰도를 판단 기준으로 삼게 된다. 이 과정에서 일관된 검증 절차를 거쳐 정확한 보도를 지속해 온 언론사는 정보의 진위를 판가름하는 잣대 역할을 할 수 있다. 이처럼 장기간 축적된 신뢰는 일종의 ‘신뢰 자본’으로 기능한다. 언론사가 취재원과 근거를 명확히 제시하고, 사실 확인 과정을 투명하게 공개할수록 이용자가 해당 매체가 제공하는 정보에 더 높은 가치를 부여하는 식이다.

이 같은 신뢰 자본은 단순한 평판을 넘어 정보의 유통 구조 전반에 영향을 준다. 이용자들이 신뢰도가 높은 출처를 우선적으로 선택하고, 플랫폼 역시 검증된 정보원의 콘텐츠에 더 높은 가시성을 부여할 경우 신뢰도가 낮은 정보는 상대적으로 확산력을 잃게 된다. 단순한 차단이나 삭제보다 이용자와 플랫폼의 반복적인 선택을 통해 허위 정보의 퇴출이 이뤄지는 형태다. 이 과정에서 미디어 리터러시의 중요성도 상대적으로 커진다. 이용자가 콘텐츠의 출처, 작성 주체, 근거, 여타 신뢰 가능한 매체의 보도 여부 등을 스스로 확인할 수 있어야 정보시장의 선별 기능이 제대로 작동하기 때문이다.