국회입법조사처가 오늘(11일) '인공지능(AI) 기술 기반 딥페이크 선거운동의 해외 입법 동향과 시사점'이라는 제목의 보고서를 발간했다.

국내 선거운동에 딥페이크가 유행처럼 사용되는 분위기지만, 공직선거법에는 그와 관련된 명확한 규정이 마련되어 있지 않다. 현재 중앙선거관리위원회는 '딥페이크 영상 관련 법규 운용기준'에 근거하여 딥페이크 선거운동의 '공직선거법'상 위법 여부를 판단하고 있다.

딥페이크, 실제가 아닌 가상의 정보임을 명시적으로 표시해야

해외에서는 딥페이크 선거운동 규제에 대한 입법이 진행되고 있거나, 이와 관련한 입법 논의가 진행되고 있다. 미국과 유럽연합은 딥페이크 정보를 합법적으로 이용하기 위해서는 동 정보가 실제가 아닌 가상의 정보임을 명시적으로 표시하고, 이용자가 이를 식별 가능하도록 해야 한다고 보고 있다. 다만 미국의 경우 딥페이크 선거운동을 특정하여 연방법 및 주법 입법 논의를 진행 중이나 유럽연합은 일반적인 딥페이크 기술의 오용을 막기 위한 목적으로 입법적 논의를 진행하고 있다.

이와 관련하여 국회입법조사처는 국내에서 딥페이크 선거운동의 별도 입법을 논의할 경우 해외 사례를 검토해 딥페이크 선거운동의 개념 및 규제 방향, 딥페이크 선거운동의 합법적 활용 기준 등을 참고할 필요가 있다고 말했다.

'딥페이크 정보'란 인공지능기술을 활용해 실제 정보의 화상, 음성 및 영상 등을 정밀하게 변조한 가상 정보이다. 정밀하게 제작된 딥페이크 정보는 일반인이 그 진위를 판별하기 힘든 수준으로 발전하고 있다. 딥페이크 정보가 실제가 아닌 가상의 정보라는 개념이지만, 용어가 뜻하는 것처럼 불법적 정보는 아니며 현재 가상인간(Virtual human), 버추얼 인플루언서(Virtual influencer) 같은 영화 및 광고 등 상업적 영역에서 합법적으로 활용되고 있다.

윤석열 대통령, 대선 당시 'AI 윤석열' 활용해 대중 친화적인 모습 적극 홍보

더불어 주로 상업적인 영역에서 활용되었던 딥페이크 정보가 최근 선거운동과 같은 정치적 영역으로 확대되고 있는데, 해외에서는 이러한 딥페이크 정보의 부정적 정치 활용이 비판받고 있다. 2020년 미국의 대선 사례를 보면, 당시 민주당 대선 후보 조 바이든이 선거유세 하던 주(州)를 오인하여 발언하는 허위동영상이 온라인에 유포되었는데, 바이든의 기억력을 단점으로 지적해온 트럼프 대선 캠프와 지지자들이 이 동영상을 소셜미디어에 반복적으로 공유했고 24시간도 안 되는 시간에 110만 뷰를 넘기는 일이 있었다.

우리나라의 경우 제21대 대선 당시 국민의힘 윤석열 후보가 'AI 윤석열'을 활용하여 대중 친화적인 모습을 적극적으로 홍보하고 대중과 소통했지만, 이에 대해 더불어민주당이 딥페이크를 통해 공직 후보자의 단점을 숨기는 것은 유권자를 기만하고 민주주의를 위협하는 것이라고 비판한 바 있다. 당시 이재명 민주당 대선후보는 페이스북을 통해 “딥페이크의 긍정적인 영향도 있지만 연예인 합성 음란물 제작‧유포, 보이스피싱 사기 등 심각한 인권침해와 범죄 행위에 강력히 대처해야 한다”라며 “미국 대선 투표를 독려하는 김정은 위원장 합성 영상, 트럼프 대통령을 비난하는 가짜 오바마 대통령 영상 사례처럼 딥페이크 가짜뉴스는 당장 이번 우리 대선에서도 유권자의 선택을 왜곡할 수 있는 심각한 위협”이라고 판단했다.

독일은 지난 2017년 10월 발효된 '네트워크 집행법(NetzDG)', 프랑스는 지난 2018년 12월 발효된 '정보조작 투쟁법'으로 사업자들이 허위 정보가 담긴 딥페이크 영상 등을 삭제하도록 규정했다. 미국은 캘리포니아와 텍사스 등 일부 주에서 선거운동에 딥페이크 영상을 활용하지 못하도록 법적으로 금지하고 있다.

지난 2019년 10월 개빈 뉴섬 미국 캘리포니아 주지사는 선거기간 60일 이내에 후보자 관련 악의적으로 조작된 딥페이크 영상 및 오디오 등을 배포하는 행위를 금지하는 법안을 승인했다. 다만 이 법안은 금지 대상을 "조작된 미디어라는 것을 밝히지 않은 채, 후보자의 평판을 훼손하거나 유권자를 속여 후보자에게 찬성이나 반대투표를 하게 할 의도"라고 규정하고, 풍자, 패러디, 언론 보도 등은 예외로 인정했다.

딥페이크 기술 정치적으로 활용하려면 사회적 논의와 규범 필요해

고삼석 동국대 석좌교수는 "미국과 유럽에선 정치 문화적으로 딥페이크 영상물을 활용한 선거운동이 유권자 판단을 흐리게 하고 선거를 혼탁하게 만든다고 보고 있다"면서 "AI(인공지능) 같은 첨단 기술을 정치적으로 활용하려면 사회적 논의를 통해 규범부터 만들어야 하는데, 이런 논의를 건너뛰고 이미지가 조작된 AI 후보를 내세워 일상적으로 유권자와 접촉하고 지지를 호소하는 건 불법성을 떠나 윤리적으로 문제가 있다"라고 밝혔다.

생성 모델(Generative Model)의 발전으로 인해 딥페이크는 사람의 얼굴을 다른 사람으로 바꾸거나 표정을 변경할 수 있을 정도로 발전했고, 실제와 구별하기가 더 어려워지고 있다. 일각에서는 딥페이크 기술이 비디오를 조작해 악의적으로 사용되는 것에 대한 우려도 표하고 있다.

한편 딥페이크 탐지 기술도 등장하고 있다. 올해 UC 리버사이드 연구팀은 딥페이크 비디오에서 조작된 얼굴 표정을 감지해내는 심층 신경망 모델((EMD, Expression Manipulation Detection)을 개발했다고 발표했다. EMD는 표정 조작 감지뿐 아니라 얼굴 변경 감지에 있어 기존 감지 기술보다 더 나은 성능을 갖췄고, 조작된 동영상을 최대 99% 정확도로 감지할 수 있다고 알려져 기대를 받고 있다. 사회의 윤리적 성숙도가 기술 발전 속도를 따라잡지 못하고 있는 상황에, 이러한 딥페이크 탐지 기술의 등장이 향후 기술 악용을 감지하고 처벌하는 데 큰 도움이 될 것으로 보인다.