플랫폼 관리 방식에 따른 공론장 구조 변화
삭제 중심 대응의 공적 토론 범위 축소 우려
범죄 대응의 강화와 사용자 선택 기반 관리 필요

본 연구 기사는 유럽 경제 연구소 The Economy의 연구위원(Fellow)들이 작성한 The Economy Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술-경제-정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적인 의견이며, The Economy 또는 집필자의 소속 기관의 견해와 일치하지 않을 수 있습니다.

플랫폼의 콘텐츠 관리 방식이 온라인 공론장의 구조까지 바꾸고 있다. 미국 정치 게시물 500만 건을 분석한 연구에 따르면, 발언을 정화하는 조치는 단순한 이용자 위축을 넘어 게시물의 주제와 표현 방식까지 바꾸는 결과로 이어졌다. 그동안 플랫폼은 이를 기술적 관리 영역으로 다뤄왔지만, 게시물을 삭제할지, 확산 범위와 전달 방식을 조정할지에 따라 이용자가 접하는 정보의 폭과 토론의 방향이 달라진다는 점이 확인됐다.

이 같은 변화는 교육 현장에서 더욱 뚜렷하게 나타난다. 학생들은 투표권을 갖기 전부터 온라인 공간에서 공적 토론 방식과 의견 형성 과정을 익힌다. 거친 표현을 일괄적으로 위험으로 간주하면 공적 토론은 단순해진다. 반대로 실제 위험을 방치할 경우 이용자는 학대에 노출될 수 있다. 이에 따라 콘텐츠 관리는 불법·착취·명백한 위험 요소를 우선 차단하면서도, 표현이 거칠거나 편향됐다는 이유만으로 합법적 정치 발언까지 배제하지 않는 기준이 요구된다.

콘텐츠 관리 초점은 전달 구조 설계

콘텐츠 관리 논의는 게시물을 광범위하게 제거하는 방식과 사실상 개입하지 않는 방식 사이의 선택으로 단순화되는 경향이 있다. 그러나 실제 운영은 이와 다르게 이뤄진다. 플랫폼은 배열 기준과 추천 방식 등을 통해 이용자가 접하는 게시물의 범위와 순서를 지속적으로 조정하고 있다. 어떤 내용이 얼마나 널리 퍼지고, 누구에게 먼저 전달되는지가 이용자가 인식하는 여론의 틀을 형성한다.

이런 구조는 공적 대화의 양상에도 직접적인 영향을 미친다. 특정 의견이 강한 표현과 함께 제기될 경우, 포괄적인 유해성 기준은 논의의 주제까지 걸러낼 수 있다. 그 결과 피드는 과도한 표현은 줄어들지만, 동시에 다루는 의제도 제한된다. 교육 현장에서는 이 영향이 더 크게 나타난다. 학생들은 정보를 받아들이는 과정에서 어떤 주장이 허용되는지에 대한 기준까지 함께 형성하기 때문이다. 정당한 논쟁까지 배제하는 구조는 불편함과 위험을 동일하게 인식하는 결과를 초래한다. 이에 따라 합법적 콘텐츠는 접근 가능하게 두되, 게시물의 확산 범위와 전달 방식은 명확한 기준 아래 관리하는 접근이 필요하다.

불법 피해와 정치적 불쾌감 구분

콘텐츠 관리의 출발점은 범죄 행위와 단순한 불쾌감을 구분하는 데 있다. 아동 성착취물, 성적 강요, 금융 사기, 특정인을 겨냥한 위협, 불법 거래, 개인 정보 공개 등은 피해가 명확하거나 범죄로 이어지는 사안으로 신속한 조치가 요구된다. 영국 인터넷감시재단(IWF)은 2024년 아동 성착취 의심 콘텐츠 42만여 건을 분석해 이 중 29만여 건을 범죄로 확인했다. 미국 연방거래위원회(FTC)에 따르면 같은 해 소셜미디어를 통한 사기 피해액은 19억 달러(약 2조8,034억원) 수준으로 나타났다. 이처럼 성폭력과 사기 문제는 표현의 자유 논쟁과는 별도로 다뤄야 할 사안이다.

반면 합법적 정치 표현은 불쾌감을 유발할 수는 있어도 곧바로 위법으로 이어지지 않는다. 극단적 주장이나 거친 당파적 발언이 논란을 부를 수는 있지만, 이를 일괄적으로 제거하는 것은 다른 문제다. 경계가 모호해질 경우 과잉 대응으로 이어질 가능성이 커진다. 지난해 한 연구에서는 동일한 댓글을 여러 혐오 발언 분류 모델에 적용했을 때 결과값이 세 배 이상 벌어지는 사례가 절반에 달했다. 기준이 일관되지 않을수록 포괄적 규정은 정치적 논의를 축소하는 방향으로 작용한다. 교육 현장에서 이러한 기준이 적용될 경우 갈등 자체를 배제하는 인식으로 이어질 우려도 있다.

사용자 선택 중심의 관리 체계 전환

불법 행위와 합법적 표현의 구분이 정리되면, 다음 단계는 게시물을 어떤 방식으로 전달할지에 있다. 광범위한 삭제에 의존하기보다 게시물의 확산 범위와 표시 방식을 조정하는 접근이 대안으로 제시된다. 유럽연합(EU)의 디지털서비스법(DSA)은 게시물이 이용자에게 제시되는 이유를 설명하도록 하고, 개인화되지 않은 화면 선택권을 보장하며, 관련 맥락 정보를 함께 제공하도록 요구한다. 정보 전달 구조를 이용자가 이해할 수 있도록 한 조치다.

이 같은 구조에서는 이용자의 선택이 관리 방식에 반영된다. 특정 게시물을 숨기거나 구독을 해제하는 행위는 정보 전달 방식을 스스로 조정하는 과정으로 볼 수 있다. 교육 현장에서도 정보를 선별하고 판단하는 기준을 기르는 데 초점이 맞춰질 필요하다. 다양한 의견에 접근할 수 있도록 하면서도 이용자가 표시 방식에 개입할 수 있는 환경이 마련될 경우 플랫폼에 대한 신뢰도 역시 높아진다. ‘추천 이유 확인’, ‘시간순 배열 전환’과 같은 기능은 이러한 변화를 보여주는 사례다.

범죄 대응은 강화, 정치 표현은 신중

콘텐츠 대응 기준을 재정비하는 목적은 대응 대상을 분명히 하는 데 있다. 인공지능(AI)으로 제작된 아동 성착취 영상은 지난해 기준 전년 대비 2만6,362% 급증했다. 관리 자원이 정치적 논쟁 대응에 과도하게 투입될 경우 이러한 중대 범죄 대응은 뒤로 밀릴 수밖에 없다. 범죄에는 강한 대응이 필요하고, 정치 표현에는 신중한 접근이 요구된다는 지적이 나오는 배경이다.

극단적 표현을 그대로 둘 수 없는 상황에서도 대응 수단은 다양하다. 확산 속도를 늦추거나 게시물 배열을 조정하고, 경고 문구를 부착하거나 댓글 작성에 제약을 두는 방식이 활용될 수 있다. 연령에 따른 접근 제한 역시 함께 검토된다. 합법적 정치 콘텐츠를 유지하면서도 무분별한 확산을 억제하는 구조는 플랫폼이 다양한 의견이 공존하는 공간이라는 점을 보여준다. 관건은 이용자의 판단력이다. 콘텐츠 관리는 일률적 통제보다 숙고를 전제로 설계하는 것이 바람직하다. 교육 현장에서도 안전과 토론이 함께 유지되려면 학생들이 접하는 정보 환경 역시 스스로 판단할 수 있는 여지를 남기는 방향으로 구성돼야 한다.

본 연구 기사의 원문은 Stop Deleting Politics: A Better Content Moderation Policy for Education을 참고해 주시기 바랍니다. 본 기사의 저작권은 The Economy에 있습니다.