추천 알고리즘에 SNS 중독 심화
부적절한 온라인 콘텐츠 난무에 우려↑
빅테크들 보호정책 내놨지만 자율규제론 역부족

2007년 10만 건이던 10대 유해·불법콘텐츠 숫자가 2023년 3,620만 건으로 폭증한 것으로 나타났다. 글로벌 플랫폼 기업이 폭발적으로 성장했지만, 커진 영향력만큼 미성년자에 대한 보호조치는 충분히 하지 않았음을 보여주는 대목이다.

10대 대상 범죄터된 SNS, 규제 속도

18일(현지시간) 뉴욕타임스(NYT)에 따르면 미국 뉴멕시코 주가 스냅챗에 소송을 제기하기 전 주 경찰은 잠입수사를 위해 인공지능(AI)으로 만들어진 14세 소녀 이미지로 소셜미디어(SNS) 계정을 생성했다. 그러자 수많은 남성들의 부적절한 메시지와 사진들이 쏟아져 들어왔다. SNS가 10대 소녀를 대상으로 하는 성범죄자들 사냥터가 됐다는 비난이 거센 이유다.

남성 미성년자들은 SNS를 통해 이른바 '몸캠 피싱'의 타깃이 되고 있다. 성적으로 호기심이 많은 청소년을 대상으로 아름다운 여성으로 신분을 위장해 누드 사진을 주고받게 한 후 이를 가족과 친구들에게 유포하겠다고 협박해 금전을 갈취하는 범죄다. 수치심에 자살을 하는 10대 소년들이 전 세계에서 늘어나자 미국과 한국 경찰이 경보를 발령하기도 했다.

이처럼 SNS가 미성년자에 대한 범죄의 수단이 되면서 각종 부작용을 불러오자 각국의 규제 움직임도 빨라졌다. 페이스북, 인스타그램, X, 틱톡을 비롯한 SNS 외에 유튜브, 디스코드와 같이 영향력 있는 플랫폼 기업도 모두 규제 대상이다. 먼저 호주 정부는 연내 SNS 연령 제한법 도입을 위해 시범 규제를 실시할 계획이다. 호주 여야 모두 SNS 연령 제한 방침을 지지하는 만큼 관련 법 통과에 어려움이 없을 것으로 전망된다.

프랑스의 경우 15세 미만 청소년은 부모 동의 없이 SNS를 이용할 수 없다. 지난해 6월 통과된 이 법에 따르면 정부는 의무를 준수하지 않은 소셜 플랫폼 운영 기업에 전 세계 매출의 최대 1%까지 벌금을 부과할 수 있다. 이탈리아에선 최근 16세 미만 청소년의 SNS 계정 개설을 금지하는 온라인 청원이 화제다. 청원의 골자는 14세 미만은 휴대전화 보유 자체를 금지하고 16세 미만은 SNS 계정 개설을 차단하자는 내용이다. 현재 언론인 안사통신에 따르면 영화감독 파올라 코르텔레시, 배우 알바 로르와처 등 이탈리아 각계 저명인사들이 해당 청원에 동참하고 있다.

미국의 경우 SNS 사용 제한까지는 아니지만 '청소년 건강에 유해하다'는 내용의 경고문을 SNS에 부착해야 한다는 목소리가 커지고 있다. 뉴욕과 캘리포니아 등 42개주 법무장관은 이달 10일 경고문 부착 의무화를 담은 법을 통과시켜야 한다는 서한을 의회에 보냈다. 우리나라에서도 관련 입법 논의가 진행 중이다. 조정훈 국민의힘 의원은 청소년의 SNS 일별 이용 한도 등을 담은 정보보호법 개정안을 발의했고, 윤건영 더불어민주당 의원은 14세 이상인 청소년부터 SNS에 가입할 수 있는 정보통신망법 개정안을 발의했다.

빅테크의 '자발적 노력 우선' 기조 변화

이 같은 규제 움직임은 불과 2년 전 분위기와는 상반된다. 당시만 해도 입법을 통한 규제보다는 플랫폼을 운영하는 빅테크 기업들의 자발적 노력이 필요하다는 주장이 힘을 받았다. 지난 2022년 11월 방송통신심의위원회가 ‘불법·유해 정보 유통 방지를 위한 협력 방안 모색’을 주제로 개최한 국제컨퍼런스에서 김유향 국회 입법조사처 사회문화조사심의관은 “법 체계가 지나치게 복잡해지면 규제 효과가 오히려 떨어질 수 있다며”며 “사업자들의 자율규제를 폭넓게 인정한다면, 정보 생산 및 유통과 관련한 규제 체계를 단순화해 보다 효율적인 대응이 가능해질 것”이라고 말했다.

빅테크 기업들의 자율적 조치가 전제되지 않은 규제는 불법·유해 정보 대응을 더욱 어렵게 만들 수 있다는 주장도 있었다. 심영섭 경희사이버대 겸임교수는 “온라인을 통한 불법적인 디지털 정보는 ‘티핑 포인트’인 24시간 안에 삭제하고 차단하는 것이 중요한데, 우리나라엔 방심위가 사업자들한테 삭제나 접속 차단 조치를 강제로 요구하기 위한 법적 근거가 아직 없다”고 지적했다.

이어 “현행법에 따르면 방심위가 이용자 신고나 자체 모니터링을 통해 불법·유해 정보를 발견하면 3일 안에 사업자한테 시정을 요구해야 하지만 해당 정보가 이미 1주일, 1년, 심지어는 수년 전에 유통되기 시작한 것이라면, 뒤늦게 조치를 취하더라도 그 효과가 사실상 아무런 조치도 취하지 않을 때와 다르지 않을 수 있다”며 “결국 공적 규제에 앞서 개별 사업자들의 자율적인 노력이 우선적으로 이뤄져야 한다”고 강조했다.

텔레그램, 플랫폼 검열 개선 방안 공개

이런 기조가 바뀐 건 빅테크들의 자율규제만으로는 한계가 있다는 판단에서다. 소위 '추천 알고리즘'이 핵심 경쟁력인 빅테크로선 추천이 곧 클릭이자, 돈으로 연결되는 구조기 때문에 자율규제가 느슨할 수밖에 없다.

텔레그램이 단적인 예다. 플랫폼의 자율규제 아래 텔레그램은 청소년 성착취물 제작·유통과 마약 거래의 온상이 됐다. 결국 텔레그램 창업자 겸 최고경영자(CE)인 파벨 두로프는 각종 범죄에 공모한 혐의로 프랑스 경찰에 체포됐고, 현재 500만 유로(약 74억원)의 보석금을 내고 석방된 상태다. 이런 가운데 지난 6일(현지시간) 두로프는 자신의 텔레그램 채널을 통해 “비판이 아닌 칭찬을 받을 수 있도록 텔레그램의 검열 시스템을 바꾸겠다”며 개선 방안을 내놨다. 해당 방안에는 텔레그램의 ‘주변 사람들(People Nearby)’ 기능 삭제와 익명 블로그 서비스인 ‘텔레그래프’ 비활성화 등이 포함됐다.

주변 사람들 기능은 인근에서 텔레그램을 쓰는 이용자의 위치가 타인에게 노출될 수 있어 범죄에 악용될 위험이 크다는 지적을 받아 왔다. 두로프 CEO는 “해당 기능은 이용자의 0.1% 미만이 사용했지만, 알고리즘 봇(bot)과 사기꾼들에게 악용됐다”며 검증된 합법적 사업장만 소개하는 ‘주변 기업들(Businesses Nearby)’ 기능을 출시했다고 밝혔다. 텔레그래프 서비스도 “익명 사용자들이 오용한 것으로 보인다”며 비활성화시켰다고 전했다. 텔레그램을 통한 각종 불법 행위 우려가 커지면서 방조 혐의로 형사 처벌 위기에 몰리자, 그동안의 입장을 선회해 조치에 나선 것이다.