생성형 AI 악용으로부터 개인을 보호하기 위한 법적 미비가 낳은 비극
명확한 연방 규제 부재와 법 집행의 어려움에 직면한 피해자들, "취약한 상태에 놓여"
딥페이크와 관련된 법적 환경이 불확실하므로 피해자의 가시성에 따라 불평등한 대우 발생

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (GIAI R&D Korea)에서 콘텐츠 제휴가 진행 중입니다.

테일러 스위프트에게 2023년은 눈부신 한 해였다. 그녀의 'Eras' 투어는 역대 최고 흥행 기록을 세웠고, 그녀의 콘서트 영화는 음악 시장에 새로운 활력을 불어넣었다. 마지막으로 그녀는 타임지의 '올해의 인물'로 선정되며 유종의 미를 거뒀다.

그러나 지난 1월 말, 테일러 스위프트는 성적으로 노골적이고 합의되지 않은 딥페이크 이미지의 공격 대상이 되어 언론 헤드라인을 다시 장식했다. 스위프트의 팬들은 해당 콘텐츠가 소셜 미디어 플랫폼에 유포되자 신속하게 신고했고, X(이전의 트위터)는 스위프트의 이름에 대한 검색을 일시적으로 차단했다. 이러한 사례는 이번이 처음이 아니며, 전 세계 여성들은 이미 비슷한 위험에 노출돼 있다. 하지만 스위프트의 유명세가 이 문제를 대중에게 알리는 계기가 됐고, 이번 사건으로 국회의 개입을 요구하는 목소리도 증폭됐다.

딥페이크 생성·유포의 법적 책임, 긴급한 정책적 대응과 도전 과제

미국 조지워싱턴대학교 로스쿨 교수이자 '사이버 시민권 이니셔티브'의 대표인 메리 앤 프랭크스(Mary Anne Franks)는 이런 종류의 콘텐츠를 구체적으로 금지하는 규제 마련이 시급하다고 강조했다. "수년 전에 이런 일이 일어날 수밖에 없다고 목소리를 높였을 때 법안이 통과되었다면 우리는 이런 상황에 부닥치지 않았을 수도 있다"며, 그녀는 스위프트와 같은 처지에 놓인 피해자들을 도울 수 있는 법안 중 하나로 뉴욕주의 조 모렐(Joe Morelle) 의원이 작년 5월 발의한 '딥페이크 방지법'을 꼽았다. 이 법안이 통과되면 합의되지 않은 딥페이크 포르노의 공유를 금지할 수 있게 된다. 최근 상원에서 발의된 또 다른 법안은 딥페이크 피해자가 콘텐츠 제작자와 배포자를 상대로 손해배상 소송을 제기할 수 있도록 하는 내용을 담고 있다.

딥페이크 방지 법안 옹호자들은 수년 동안 비동의 딥페이크에 대한 정책적 해결책을 요구해 왔다. 여러 주에서 관련 법률이 존재하지만, 전문가들은 연방 정부의 감독이 부족하다고 지적했다. 글로벌 로펌 'Fried Frank'의 AI 수석 변호사인 아미르 가비(Amir Ghavi)도 딥페이크 포르노와 관련해 "적용할 수 있는 연방 규제가 부족하다"며, "일부 관련 법이 있지만 일반적으로 딥페이크에 대한 직접적인 연방 법규는 없다"고 밝혔다.

그러나 음란 딥페이크 범죄를 처벌하는 법은 '누구를 범죄자로 기소할 것인가'라는 큰 문제를 해결하지 못하기 때문에 연방 차원의 단속이 이 문제를 해결하지 못할 수도 있다고 가비 변호사는 설명했다. 그는 포렌식 연구로는 콘텐츠의 출처를 항상 증명할 수 있는 것이 아님을 지적하며, "현실적으로 그런 사람들이 스스로 신원을 밝힐 가능성은 거의 없다"고 덧붙였다. 또한 법 집행 기관이 이미지의 출처를 확인할 수 있다고 해도, 웹사이트는 사용자가 게시한 내용에 대해 책임지지 않는다는 작지만 막대한 면책 특권을 가진 '통신품위법 230조'라는 벽에 부딪힐 가능성이 있다. 230조가 생성형 AI에 적용되는지는 아직 명확하지 않다. 한편 미국시민자유연맹과 같은 인권 단체들은 지나치게 광범위한 규제가 딥페이크에 대해 보도하는 언론인이나 이를 활용하는 정치 풍자 작가들의 '표현의 자유'(미국 수정헌법 제1조)를 침해할 수 있다고 우려했다.

생성형 AI 모델 공급자의 사회적 책임과 딥페이크 피해자의 현실적 고민

미국 캘리포니아대학교 로스앤젤레스(UCLA) 기술·법률·정책 연구소의 마이클 카라니콜라스(Michael Karanicolas) 이사는 가장 깔끔한 해결책은 생성형 AI 제품을 소유한 기업의 '사회적 책임'을 촉진하는 정책을 채택하는 것이라고 주장했다. 그러나 그는 "기업이 강압적인 규제 없이 자발적 대응을 하는 경우는 비교적 드물다"고 덧붙였다. 일부 플랫폼에서 선거 캠페인에 대한 가짜 뉴스 확산을 막는 조처를 하는 등 플랫폼이 적극적으로 개입하는 전례가 없지 않지만, 그러한 기술적 안전장치조차도 정교한 공격으로 무용지물이 될 수 있다는 점도 강조했다.

AI가 생성한 콘텐츠를 합성 콘텐츠로 표시하는 '디지털 워터마크'는 바이든 행정부와 일부 의회가 지지하는 해결책 중 하나다. 메타는 앞으로 몇 달 안에 페이스북, 인스타그램, 스레드에 게시되는 AI 제작 이미지에 라벨을 붙이기 시작할 것이라고 최근 발표했다. 표준화된 워터마킹 제도가 개인의 딥페이크 제작을 막지는 못하더라도 소셜 미디어 플랫폼이 딥페이크 제작을 중단하거나 확산을 늦추는 데 도움이 될 것으로 기대된다. 백악관과 의회에 정기적으로 AI 규제에 대한 자문을 제공하는 한 전직 정책 입안자는 소셜 미디어 회사가 저작권이 있는 미디어의 확산을 제한하는 데 성공했다고 강조하며, 이 정도 규모의 웹 콘텐츠를 조정하는 것은 가능하다고 전했다. 익명을 요구한 이 정책 전문가는 "이러한 콘텐츠의 확산을 늦추기 위한 법적 선례와 기술적 선례 모두 존재한다"며, 대통령에게 필적하는 영향력을 가진 스위프트 같은 공인을 통해 일반인들이 이 문제에 관심을 두도록 할 수 있다고 역설했다.

그러나 현재로서는 뚜렷한 법적 근거가 없어 일부 피해자들은 소외감을 느끼고 있다. 소셜미디어 인플루언서이자 지난해 자신의 AI 챗봇을 만든 자칭 '스위프티'(스위프트의 팬덤)인 카린 마조리(Karin Marjorie)는 스위프트와 비슷한 경험을 겪었다고 말한다. 약 한 달 전, 마조리의 팬이 AI로 생성한 그녀의 음란 딥페이크가 온라인에 떠돌고 있다는 사실을 그녀에게 제보했다. 마조리는 딥페이크 때문에 잠을 이루지 못할 정도로 고통스러웠다고 토로했다. 그녀가 해당 이미지를 게시한 계정을 여러 차례 신고했지만 해당 계정은 여전히 온라인에 남아 있었기 때문이다. 딥페이크와 관련된 법적 보호가 미비하여 피해자의 가시성에 따라 불평등이 발생하고 있는 것이다. 마조리는 "나는 테일러 스위프트와 같은 대우를 받지 못했다"며, "여성도 테일러 스위프트만큼 유명해야만 이런 노골적인 인공지능 이미지가 삭제될 수 있을까?"라고 한탄했다.

영어 원문 기사는 사이언티픽 아메리칸에 게재되었습니다.