48시간 삭제 기준으로 정렬되는 딥페이크 대응 기준선
보이는 피해와 보이지 않는 AI 피해 사이의 규제 공백
명확한 규칙이 만든 신뢰, 흔들리지 않는 미국 AI 경쟁력

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

딥페이크(Deepfake·인공지능 기술로 사진이나 영상을 조작하는 행위) 피해는 더 이상 예외적 사건으로 보기 어렵다. 2025년 상반기 미국 사이버팁라인(U.S. CyberTipline)에 접수된 생성형 인공지능(AI) 기반 아동 착취 의심 신고는 44만419건으로 집계됐다. 2024년과 비교하면 64배 증가한 수치로, 위험이 짧은 기간에 얼마나 빠르게 확산됐는지를 보여준다. 딥페이크는 한 번 유포되면 즉시 복제돼 여러 경로로 퍼지며, 초기 대응이 늦어질수록 삭제와 회복은 급격히 어려워진다.

문제의 성격도 달라지고 있다. 기술 활용의 부작용을 넘어, 피해자를 어떻게 보호하고 사회적 신뢰를 어떻게 유지할 것인가라는 질문으로 옮겨갔다. 이런 인식 속에서 미 의회가 선택한 대응이 ‘테이크 잇 다운 법(Take It Down Act·비동의 사적 이미지와 딥페이크를 신고 후 48시간 이내 삭제하도록 한 연방법)’이다. 핵심은 AI의 속도를 억제하는 데 있지 않다. 최소한의 대응 기준을 명확히 설정해, 기술 발전이 신뢰를 잃지 않도록 관리하겠다는 데 초점이 맞춰졌다.

48시간 삭제 의무, 피해를 멈추는 현실적 장치

‘Take It Down Act’의 출발점은 분명하다. 비동의 사적 이미지는 지체 없이 제거돼야 한다는 원칙이다. 이 법은 실제 사진은 물론 AI로 생성된 이미지까지 포함해, 동의 없이 유포된 사적 이미지를 불법으로 규정했다. 공개적으로 접근 가능한 웹사이트와 앱 가운데 사용자 생성 콘텐츠를 주로 다루는 플랫폼은 예외 없이 신고 시스템을 갖춰야 한다.

피해자가 정당한 요청을 제출하면 플랫폼은 48시간 이내에 해당 콘텐츠를 삭제해야 하며, 이미 파악하고 있는 모든 복사본을 제거하기 위해 합리적인 조치를 취해야 한다. 단순한 링크 차단을 넘어, 추가 확산을 막기 위한 책임까지 명확히 한 구조다. 감독과 집행 권한은 연방거래위원회(Federal Trade Commission, FTC)에 부여됐다.

특히 미성년자가 연루된 사건은 처벌 수위가 더 높아졌고, 이미지 공개를 암시하거나 이를 빌미로 위협하는 행위 자체도 범죄로 규정됐다. 플랫폼은 2026년 5월 19일까지 관련 시스템을 구축해야 하지만, 형사 처벌 조항은 이미 시행 단계에 들어갔다. 피해자가 문제를 제기하는 순간부터 즉각 작동하는 구조를 만드는 것, 그것이 ‘Take It Down Act’가 설정한 기준선이다.

삭제로는 보이지 않는 AI 피해의 사각

이처럼 신속한 삭제 체계는 분명 중요한 진전이지만, 이것만으로 AI로 인한 피해 전반을 포괄하기는 어렵다. 성적(性的) 딥페이크는 이미지라는 형태로 드러나기 때문에 즉각적인 사회적 반응을 끌어낸다. 반면 자동화된 알고리즘이 초래하는 차별은 외형상 쉽게 드러나지 않는다. 신용 평가, 주거 심사, 채용 과정에서 불이익을 받아도 그 결정이 AI에 의해 내려졌는지, 어떤 기준이 적용됐는지조차 알기 어려운 경우가 많다. 피해는 누적되지만 원인은 가려진 채 남는다.

최근 연구들은 이런 비가시적 피해 역시 딥페이크와 같은 수준의 정책적 대응이 필요하다고 지적한다. 단순한 사후 구제가 아니라, 영향 평가와 결정 과정에 대한 문서화, 설명 가능성을 확보하는 제도적 장치가 필요하다는 주장이다. 딥페이크 피해자에게 삭제를 요구할 권한이 주어졌듯, 알고리즘 판단에 대해서도 이의를 제기하고 수정할 수 있는 통로가 마련돼야 한다는 의미다.

그렇지 않으면 규제는 주목도가 높은 사례에만 반응하고, 기회를 구조적으로 제한하는 문제는 조용히 누적된다. 보호의 범위를 어디까지 확장할 것인지가 다음 단계의 과제로 남는다.

삭제 이후에도 남는 확산의 경로

이 지점에서 또 하나의 한계가 드러난다. 삭제 조치 자체가 유통 구조를 완전히 통제하기는 어렵다는 점이다. 열린 인터넷 환경에서는 콘텐츠 제거가 항상 완결적으로 작동하지 않는다. 실제로 주요 비동의 딥페이크 사이트들이 폐쇄되거나 강한 압박을 받자, 관련 콘텐츠는 덜 알려진 웹사이트와 암호화된 사적 채널로 이동했다.

하나의 파일이 여러 차례 복제돼 다른 경로로 퍼지는 흐름도 반복됐다. 이런 현실을 반영해 ‘Take It Down Act’는 원본 링크 삭제에 그치지 않고, 플랫폼이 인지하고 있는 복사본까지 제거하도록 요구했다. 확산의 속도와 범위를 동시에 낮추겠다는 취지다.

다만 법적 의무만으로 현장의 대응이 자동으로 완성되지는 않는다. 학교와 기업, 각종 기관 내부에는 첫 신고 접수부터 플랫폼 삭제 요청, 미성년자 사건의 경우 법 집행기관 연계까지 이어지는 실무 체계가 필요하다. 연방 차원의 권리가 마련됐다고 해서 대응 역량이 자연스럽게 확보되는 것은 아니다. 삭제 제도가 실제로 작동하려면 이를 뒷받침할 운영 프로세스와 책임 분담 구조가 함께 구축돼야 한다.

명확한 규칙이 보여주는 경쟁력의 조건

이런 규제가 미국의 AI 혁신을 둔화시킬 수 있다는 우려도 이어진다. 그러나 투자와 연구 지표는 다른 방향을 가리킨다. 2024년 미국의 민간 AI 투자 규모는 1,091억 달러(약 144조원)에 달했고, 중국의 93억 달러(약 12조원)를 크게 앞질렀다. 핵심 AI 모델 개발과 연구 자금 조달에서도 미국은 여전히 선두 자리를 유지하고 있다.

비동의 사적 이미지에 대한 명확한 규칙 하나가 이 구조를 흔들 가능성은 제한적이다. 오히려 기준이 분명해질수록 학교와 병원, 기업은 법적·윤리적 불확실성을 줄인 상태에서 AI 활용을 확대할 수 있다. 규칙의 부재보다 예측 가능한 규칙이 운영 부담을 낮춘다는 점도 현장에서 확인되고 있다.

2025년 들어 미국 각 주에서는 다수의 AI 관련 법안이 논의됐고, 일부는 이미 시행 단계로 넘어갔다. 다만 주별 규제가 엇갈릴 경우 현장 혼선이 커질 수 있다는 우려도 함께 제기된다. 해법은 전면적인 선점 규제가 아니다. ‘Take It Down Act’를 공통의 기준선으로 삼고, 실제 충돌이 발생하는 영역만 조정하는 방식이 현실적이다. 명확한 규칙은 혁신을 막지 않는다. 신뢰를 기반으로 AI 활용의 폭을 넓히는 역할을 한다.

본 연구 기사의 원문은 Take It Down, Keep Moving: How to Take Down Deepfake Images Without Stalling U.S. AI Leadership을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.