[AI MEMO] AI가 정보의 편집권을 갖는 사회, 공공의 판단은 누가 만드는가
입력
수정
포털 중심 정보 환경에서 강화되는 플랫폼 편집 권력 챗봇 전환으로 축소되는 이용자 선택권과 커지는 환각 위험 출처 공개와 관점 다양성, 독립 검증을 위한 제도적 기준 필요
본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.
한국에서 뉴스를 직접 웹사이트나 앱으로 이용하는 사람은 6%에 불과하다. 대부분은 네이버·다음·유튜브 등 플랫폼을 통해 정보를 접한다. 국민 다수가 소수 플랫폼에 의존하는 구조에서, 정보가 어떤 방식으로 걸러지고 제시되는지는 단순한 기술 기능이 아니라 공공의 문제다.
이 과정의 핵심에는 알고리즘 게이트키핑(algorithmic gatekeeping)이 있다. 플랫폼의 알고리즘이 정보의 흐름을 조정하며, 어떤 내용을 노출하고 어떤 정보를 배제할지를 결정하는 구조다. 인공지능이 사실상 정보 노출의 결정자로 작동하는 셈이다. 기존의 추천 시스템은 여러 결과를 나열해 이용자가 직접 선택할 수 있도록 했지만, 챗봇은 정보를 압축해 하나의 응답으로 제시한다. 겉으로는 중립적으로 보이지만, 실제로는 오류나 편향이 개입될 수 있다.
선택에서 답변으로
개인화 기술은 한때 이용자의 선택 폭을 넓히기 위한 수단이었다. 검색 결과가 여러 링크로 제시되면, 이용자는 다른 경로를 선택하거나 다시 검색할 수 있었다. 그러나 챗봇 환경에서는 기본이 목록이 아니라 단일 답변이다. 이용자는 그 답변을 출발점으로 삼으며, 대화의 방향과 탐색의 범위가 점점 좁아진다.
한국처럼 뉴스 소비가 포털에 집중된 환경에서는, 플랫폼이 어떤 답변을 먼저 제시하느냐가 여론 형성에 직접적인 영향을 미친다. 특정 관점이 기본값으로 설정되면, 정보의 선택과 해석이 동시에 이루어진다. 기술은 단순한 중개 도구가 아니라 사실상 편집 행위를 수행하게 된다.
국내 연구에 따르면, 네이버의 개인화 뉴스 피드는 비개인화 피드보다 주제의 폭이 좁지만 기사 출처는 다양했다. 표현의 편향은 크지 않았지만, 이용자의 정치 성향이 결과에 미치는 영향도 거의 없었다. 표면적으로는 중립적이지만, 다루는 주제가 제한되면 이용자가 접하는 정보의 폭은 오히려 줄어든다. 특히 뉴스 이용 경험이 적거나 추가 탐색을 하지 않는 사용자에게 이런 현상은 더 두드러질 수 있다.
주: 유튜브를 뉴스 플랫폼으로 이용하는 비율(X축), 연령대(Y축)
생성형 AI의 오류 위험
검색과 챗봇의 가장 큰 차이는 오류 발생 가능성이다. 추천 시스템은 편향된 정보를 보여줄 수는 있어도, 존재하지 않는 사실을 만들어내지는 않는다. 그러나 챗봇은 그럴 수 있다. 최근 연구에 따르면 주요 생성형 AI 모델의 환각률(AI가 사실이 아닌 정보를 진짜처럼 만들어내는 현상)은 1~3% 수준이다. 하루 수백만 건의 응답이 생성된다는 점을 고려하면 결코 작은 비율이 아니다.
보다 개방된 환경에서는 오류 비율이 급격히 높아진다. 2024년 다수의 학술 검토에 따르면, 모델과 질문 유형에 따라 환각률은 28~91%까지 다양했다. 일부 모델은 특정 조건에서 14%를 넘는 오류를 보였다. 즉, 오류는 예외적 결함이 아니라 시스템의 구조적 특성이다. 챗봇이 공공 정보의 관문으로 작동하는 만큼, 이 문제는 사회 전반의 신뢰 문제로 직결된다.
국내 규제 당국도 이를 인식하고 대응에 나섰다. 방송통신위원회는 2025년 초 생성형 AI 이용자 보호 가이드라인을 발표해 고위험 시스템의 관리 의무를 명시했다. AI 기본법은 위험 기반 접근을 원칙으로 삼고, 생성형 AI 등 고영향 분야의 책임 범위를 확대했다. 공정거래위원회 역시 플랫폼의 시장 지배력과 자사 우대 관행을 점검하며, 규제의 초점을 운영자 자율에서 실제 영향 평가로 전환하고 있다.
이제 포털은 단순히 정보를 전달하는 창구가 아니라, 응답의 구조와 인용 방식을 설계하는 책임 주체로 봐야 한다. 특히 논쟁적 사안일수록 서로 다른 견해를 함께 제시하고, 이용자가 비교할 수 있는 구조를 마련하는 것이 필수적이다.
대화형 전환이 바꾸는 뉴스 소비 구조
한국은 포털이 뉴스 소비 습관을 지배하는 대표적 시장이다. 로이터저널리즘연구소(The Reuters Institute for the Study of Journalism)의 2025년 보고서에 따르면, 포털을 통한 뉴스 접근 비중이 가장 높으며 직접 방문 이용자는 6%에 불과하다. 한국언론진흥재단 조사에서는 응답자의 70% 이상이 뉴스를 의도적으로 피한다고 답했고, 주요 이유로 정치적 편향을 꼽았다. 이런 환경에서는 이용자가 처음 마주하는 인터페이스의 설계가 여론 형성의 방향을 결정한다.
포털이 목록형 검색에서 대화형 응답 구조로 바뀌면, 이용자가 원문 기사에 접근할 가능성은 줄어든다. 기자 이름, 정정 공지, 기사와 사설의 구분을 확인하기 어려워지고, 정보의 맥락은 점점 희미해진다. 결국 포털은 단순한 유통 채널을 넘어 여론 형성의 관문으로 작동한다.
네이버의 개인화 연구 결과에서 드러난 것처럼, 개인화된 피드는 주제의 폭이 좁고 표현은 중립적으로 인식된다. 챗봇이 이러한 구조를 고정시키면 사회적 갈등은 완화된 듯 보이더라도, 정보의 다양성은 줄어들 수 있다. 결과적으로 여론은 균형보다는 수렴에 가까운 형태로 재편될 위험이 있다.
정책과 규제의 방향
포털이 대화형 응답을 기본으로 채택할 경우, 정보의 정확성과 투명성을 확보하기 위한 제도적 대응이 필요하다. 이는 기술의 효율성 문제가 아니라, 공공 정보의 신뢰와 다양성을 유지하기 위한 정책 과제다.
대화형 응답에는 근거와 출처를 명확히 표시하는 기준이 마련돼야 한다. 이용자가 답변의 근거를 즉시 확인할 수 있어야 하며, 불확실하거나 출처가 불분명한 정보는 구분해 제시해야 한다. 동시에 하나의 관점이 아닌 복수의 시각이 함께 노출될 수 있는 구조가 필요하다. 포털이 특정 사안에 답변을 제공할 때는, 신뢰할 수 있는 다른 견해도 자동으로 함께 제시되도록 설계해야 한다.
신뢰성을 확보하려면 외부 검증 체계도 강화돼야 한다. 정부와 규제기관은 포털 챗봇의 응답을 주제별로 평가할 수 있는 독립 연구 체계를 마련하고, 결과를 투명하게 공개해야 한다. 시민단체나 연구 기관이 별도의 승인 없이 시스템을 검증할 수 있는 개방형 환경을 마련하는 것도 필요하다.
결국 포털은 정보 유통의 중개자가 아니라 사실상 편집자이자 발행자에 가깝다. 규제의 초점은 운영자의 자율이 아니라 사회적 영향에 맞춰야 한다. 생성형 AI 시대의 핵심은 기술 경쟁이 아니라 신뢰 회복이며, 정보의 근거·맥락·다양성을 제도적으로 보장하는 데 있다.
알고리즘 시대의 선택
정보 접근이 알고리즘에 의해 통제되는 사회에서는 그 기본 설정이 곧 공공의 문제로 이어진다. 검색 목록에서 대화로의 전환은 순위 중심 구조에서 편집 중심 구조로의 이동이며, 여기에 환각이라는 새로운 위험이 더해졌다.
이 변화를 단순한 기술 발전으로 볼 수는 없다. 이는 새로운 형태의 알고리즘 게이트키핑이다. 대응의 핵심은 거부가 아니라 조건부 수용이다. 생성형 AI를 다양성, 출처의 정확성, 이용자 선택권과 결합시켜 제도 설계의 기준으로 삼아야 한다. 이런 원칙이 지켜질 때, 알고리즘 기반 뉴스 환경은 정보의 폭을 넓히는 방향으로 발전할 수 있다. 그렇지 않다면 사회는 점점 더 단순하고 편향된 답변에 갇히게 될 것이다. 지금이 그 방향을 정할 시점이다.
본 연구 기사의 원문은 Chatbots Are Not Search: Algorithmic Gatekeeping and Generative AI in Education Policy을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.
