[AI MEMO] 급증하는 딥페이크 조작물, 초상권만으로는 막지 못하는 현실

생성형 AI 악용 사례 급증, 기존 초상권 중심 대응의 한계 부각
국가별 규제 차이로 피해 차단 체계에 공백 지속
교육 환경 전반을 아우르는 통합 보호 구조 마련 필요

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

생성형 AI 확산과 함께 디지털 조작물 피해가 빠르게 증가하고 있다. 2024년 분석에서는 딥페이크 영상 14,678건 중 96%가 비동의 성적 콘텐츠였고, 피해는 대부분 여성에게 집중됐다. 2023년 한 해 온라인에서 유통된 딥페이크 영상도 약 95,820건에 달했으며, 이 가운데 98%가 음란물이었고 대상 다수가 여성과 미성년자였다. 문제는 한 번 공개된 영상이 거의 비용 부담 없이 복제·이동되며 짧은 시간 안에 여러 플랫폼으로 확산된다는 점이다. 각국이 딥페이크 범죄 신설과 얼굴·음성의 지식재산권화 등을 추진하고 있지만, 이러한 조치가 교육 현장에서 발생하는 급속 확산형 피해를 실질적으로 막을 수 있을지는 여전히 불투명하다

딥페이크 초상권 보호의 구조적 한계

딥페이크 초상권 보호는 개인의 얼굴·음성·신체와 같은 식별 요소가 임의로 사용되는 것을 막기 위한 제도적 장치다. 삭제 요청이나 손해배상 청구 등 법적 절차를 가능하게 한다는 점에서 의미가 있으며, 덴마크가 초상권 범위를 넓히고 플랫폼 미삭제 시 벌금 부과를 추진하는 이유도 여기에 있다.

그러나 조작물의 확산 속도는 이러한 제도적 대응을 압도하고 있다. 온라인에서는 이미 비동의 딥페이크 음란물이 대량으로 유통되고 있으며, 영상은 업로드 직후 다양한 플랫폼과 언어권으로 빠르게 재분배된다. 제목만 바꾼 짧은 편집본 형태로 반복 게시되는 경우도 많다. 이 과정에서 피해자는 삭제 요청, 증거 정리, 해외 플랫폼 대응 등 상당한 부담을 혼자 떠안아야 한다.

청소년층 피해는 더 취약하다. 유럽의회 조사에서는 영국 8~15세 아동의 절반이 최근 6개월 내 딥페이크 콘텐츠를 접했다고 답했으며, 그중 상당수가 미성년 대상 성적 이미지였다. 2025년 경찰 조사에서도 성적 딥페이크 제작·유포를 가볍게 여기는 비율이 25%에 달했고, 피해 경험이 있다는 응답은 7%였다. 그중 절반만 신고했다. 학교 안팎에서 조작 영상이 단시간에 퍼지는 상황에서는 사후적 절차만으로 피해 심리를 완화하거나 공동체 내 고립을 줄이는 데 한계가 있다.

현장에서 드러나는 제도의 실효성 문제

딥페이크 초상권 보호는 취지와 달리 현실에서는 피해자에게 책임을 과도하게 전가하는 구조를 보이기도 한다. 성적 딥페이크를 발견한 피해자는 사실관계 확인, 증거 확보, 삭제 요청, 법률 상담을 직접 수행해야 한다. 이 과정에서 영상은 익명 게시판과 해외 서버로 빠르게 확산돼 회복 가능한 범위를 벗어난다. FBI는 2023년 이후 SNS 사진과 영상통화 이미지를 활용한 ‘AI 생성 누드’ 협박 범죄가 급증했다고 경고했다. 확산 속도가 빠르기 때문에 개별적 대응만으로 피해를 억제하기는 어렵다.

국가별 제도에서도 격차가 뚜렷하다. 덴마크는 초상·음성 통제권 강화와 플랫폼 미삭제 시 처벌을 추진 중이며, 스페인은 AI 생성물 표시 의무 강화와 과태료 부과 제도를 검토하고 있다. 미국은 2025년 ‘테이크 잇 다운 법(Take It Down Act)’을 통해 비동의 성적 딥페이크를 범죄화하고, 주요 플랫폼에 48시간 이내 삭제와 재게시 차단을 의무화했다. 영국 온라인안전법도 비동의 딥페이크 포르노 공유를 금지하고 제작 단계까지 처벌 범위를 확대하고 있다.

그러나 이러한 제도적 장치가 모든 국가에 균등하게 적용되지는 않는다. 많은 국가에서는 관련 규정이 없거나 집행력이 부족하며, 성별 기반 디지털 폭력에 대한 이해도 충분하지 않다. 2024년 영국 조사에서는 딥페이크에 대한 우려가 컸지만 제작 경험을 밝힌 비율도 8%였으며, 국제 조사에서는 2.2%가 피해를 경험했고 1.8%는 제작·유포에 관여했다고 답했다. 이는 법적 장치만으로는 사회적 규범 형성이나 확산 억제를 말하기 어렵다는 점을 보여준다.

포르노 산업 규모가 큰 국가에서도 사각지대는 존재한다. 일본은 성인물이 매달 수천 건 제작되는 시장을 갖고 있지만, 딥페이크 음란물 제작자 처벌은 최근에서야 본격화됐다. 비동의 합성물이 명확한 상업 거래 범주에 포함되지 않는 경우가 많아 법적 대응이 지연되기 때문이다. 합법 콘텐츠와 뒤섞일 경우 피해가 축소되는 문제도 발생한다. 결국 딥페이크 초상권 보호가 제도적으로 마련돼 있어도 실제 대응 체계가 작동하지 않으면 보호 효과는 제한적이다.

교육 분야의 다층 보호 체계 구축

딥페이크 문제를 교육 현장에서 실질적으로 막기 위해서는 개인 단위의 권리구제를 넘어서는 인프라적 접근이 필요하다. 조작물이 짧은 시간 안에 확산되는 특성상 기술·제도·교육을 결합한 다층 구조가 필수적이다.

기술 기준 마련이 첫 단계다. 촬영 시점부터 진위를 확인할 수 있는 인증 메타데이터를 적용하면 조작 가능성을 초기 단계에서 차단할 수 있다. AI 생성물 표시 의무도 강화해 플랫폼이 자동으로 라벨을 적용하도록 해야 한다. 국가별 삭제 의무와 위해요인 평가 기준을 조정해 플랫폼에 일관된 책임을 부여하는 것도 필요하다.

교육기관 내부 대응체계도 보완돼야 한다. 수업에서는 합성 미디어의 원리, 진위 판별 기준, 조작물 발생 시 대응 방안 등 실제 사례 중심 교육이 요구된다. 특히 여성과 미성년 피해 비율이 높은 만큼, 조롱이나 불이익 우려로 신고가 이뤄지지 않는 문제를 고려해 교사·상담 인력이 신속하게 상황을 파악하고 증거를 확보하며 플랫폼·수사기관과 즉시 연결할 수 있어야 한다. 주요 플랫폼과 협력해 교육기관 관련 사례를 우선 검토하도록 하는 체계도 갖춰야 한다.

정책 설계는 피해자 부담을 줄이는 방향으로 정비돼야 한다. 통합 삭제 요청 양식, 중앙 신고 창구, 의무 지원 서비스는 초기 대응을 지원하며, 플랫폼이 신고된 콘텐츠뿐 아니라 유사본까지 자동 탐지해 제거하도록 요구하는 규정은 확산 억제의 핵심이다. 테이크 잇 다운 법의 ‘48시간 이내 삭제·재게시 차단’ 규정도 이러한 취지를 반영한다. 반복적 미이행 기업에 대한 제재와 외부 점검 체계도 필요하다. 국제적으로는 낮은 소득 국가의 피해자 지원 단체를 지원하는 구조도 검토할 수 있다.

교육기관은 이 여러 층위를 실질적으로 연결하는 역할을 맡는다. 비동의 합성물 제작·유포는 형사 절차와 무관하게 중대한 징계 사안으로 다뤄져야 하며, 교사·상담 인력 교육에서는 생성형 AI의 기술 구조뿐 아니라 피해자가 겪는 심리·사회적 부담까지 함께 다룰 필요가 있다. 대중 캠페인은 탐지 기술보다 유통을 중단하고 문제를 확인하면 신속히 신고하는 기본 규범을 사회적으로 정착시키는 데 목표를 둬야 한다.

딥페이크 초상권 보호의 과제

딥페이크 초상권 보호는 개인의 얼굴·음성·신체가 임의 사용되는 일을 막는 최소한의 장치다. 그러나 이러한 보호 장치만으로는 낮은 비용으로 대량 복제되는 조작물의 확산을 제어하기 어렵다. 지속 가능한 보호 체계를 구축하려면 개별 소송 중심의 대응에서 벗어나 기술 기반 진위 검증, 플랫폼 책임, 신속 삭제 체계, 조직 내부 대응 기준 등 다양한 층위를 결합해야 한다. 이러한 기반을 마련하지 못한다면 다음 세대는 형식적 권리는 존재하지만 실제 피해를 막지 못하는 미완의 보호 체계에 의존할 수밖에 없다.

본 연구 기사의 원문은 Beyond Deepfake Image Rights: Building Real Protection in a Zero-Cost Copy World을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.