[딥폴리시] AI가 바꾸는 숙의민주주의, 시민 신뢰 없인 성공 어렵다

AI 숙의민주주의 부상 속 신뢰 위기 직면 
공론장 효율성 확대와 민주적 정당성 확보 과제 
투명한 검증 체계와 공공 거버넌스 구축 시급

본 연구 기사는 유럽 경제 연구소 The Economy의 연구위원(Fellow)들이 작성한 The Economy Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술-경제-정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적인 의견이며, The Economy 또는 집필자의 소속 기관의 견해와 일치하지 않을 수 있습니다.

인공지능(AI)을 활용한 숙의민주주의가 새로운 시민 참여 방식으로 부상하고 있다. 경제협력개발기구(OECD) 조사에 따르면 정부를 신뢰한다고 답한 시민은 39%에 그쳤고, 응답자의 53%는 자신의 의견이 정책 결정에 영향을 미치지 못한다고 인식했다. 이 같은 신뢰 위기 속에서 AI는 방대한 시민 의견을 분석해 핵심 쟁점과 사회적 공감대를 도출할 수 있는 대안으로 거론된다. 그러나 기술적 역량만으로 민주적 정당성이 확보되는 것은 아니다. 숙의 과정의 근거와 판단 기준이 투명하게 공개되고, 시민들이 자신의 의견이 정책 형성 과정에 어떤 영향을 미쳤는지 확인할 수 있을 때 비로소 AI는 민주주의를 보완하는 수단으로 기능한다.

AI가 풀어낸 공론장의 대표성 딜레마

AI 기반 숙의민주주의가 주목받는 이유는 기존 공론장이 안고 있던 대표성과 효율성의 한계를 완화할 수 있다는 기대감에서 비롯된다. 소규모 토론은 깊이 있는 논의를 이끌어낼 수 있지만 다양한 계층과 집단의 목소리를 충분히 담아내기 어렵다. 반면 대규모 공론장은 폭넓은 참여를 확보할 수 있으나 논의가 분산되고 핵심 의제를 정리하는 과정이 복잡해진다. 또한 참여 규모가 커질수록 의견을 수렴하고 분석하는 데 드는 시간과 비용도 증가한다.

AI는 이러한 문제를 보완할 수 있는 도구로 평가된다. 방대한 시민 의견을 체계적으로 분류하고 주요 쟁점을 추출하는 것은 물론 복잡한 정책 논의를 이해하기 쉬운 형태로 정리할 수 있기 때문이다.

이 같은 가능성은 구글 딥마인드가 개발한 집단 중재 AI 도구 하버마스 머신(Habermas Machine) 실험에서도 확인됐다. 연구에서는 AI가 작성한 합의문이 인간이 작성한 합의문보다 일관성과 공정성, 진정성 측면에서 더 높은 평가를 얻었다. 이는 AI가 단순한 의견 취합을 넘어 서로 다른 견해를 조율하고 공통분모를 도출하는 역할까지 수행할 수 있음을 보여준다.

공공 숙의 AI에 요구되는 조건

그러나 AI가 민주주의를 보완하는 역할을 수행하기 위해서는 명확한 전제가 필요하다. 논의 대상이 분명해야 하고 충분한 근거 자료가 확보돼야 하며, 도출된 결과 역시 검증 가능해야 한다. 이러한 조건은 범용 상업용 챗봇이 활용되는 환경과는 성격이 다르다. 상업용 챗봇은 이용자의 질문에 신속하고 친절하게 응답하는 데 초점을 둔다. 이 과정에서 복잡한 논쟁이나 상반된 견해를 하나의 답변으로 압축하는 경우가 적지 않다.

반면 공공 숙의를 지원하는 AI는 다양한 의견을 드러내고, 논거를 비교·검증하는 역할을 맡아야 한다. 소수 의견을 보존하고 판단 근거를 제시하는 것은 물론 이용자가 결과에 이의를 제기할 수 있는 절차도 필요하다. 공론장의 정당성은 다양한 주장과 반론이 공개적으로 검증되는 과정에서 형성되기 때문이다.

여기에 AI의 '아첨 성향(sycophancy)'도 새로운 위험 요인으로 떠오르고 있다. 일부 AI 모델이 사용자의 주장에 과도하게 동조하면서 사실 검증 기능이 약화될 수 있다는 우려다. 연구에 따르면 공감 능력을 강화한 모델일수록 복잡한 과업에서 오류가 증가하는 사례도 나타났다. 따라서 공공 숙의를 지원하는 AI는 이용자의 만족보다 주장과 근거를 검증하는 역할에 무게를 둬야 한다. 그렇지 않을 경우 공론장은 합리적 토론의 장이 아닌 기존 신념과 편견을 강화하는 공간으로 변질될 가능성이 농후하다.

디지털 시대의 교훈과 공공 책임

AI 역시 과거 디지털 기술이 겪었던 한계에서 자유롭지 않다. 인터넷과 디지털 미디어는 공공 정보 접근성을 높이고 시민 참여를 확대하는 데 기여했다. 그러나 동시에 허위 정보 확산과 정치적 양극화, 사회적 불신 심화라는 부작용을 심화시키는 결과를 가져왔다. 이는 기술 발전이 곧바로 더 나은 정책 결정이나 사회적 합의로 이어지지 않는다는 사실을 뒷받침한다.

AI 숙의민주주의의 핵심 기준은 신뢰다. AI는 단순히 결과를 요약하는 데 머물러서는 안 된다. 어떤 근거와 과정을 거쳐 결론에 도달했는지 설명할 수 있어야 하며, 소수 의견이 어떻게 반영됐는지와 채택되지 않은 주장에 어떤 판단이 이뤄졌는지도 공개해야 한다. 시민들이 자신의 의견이 정책 논의 과정에 어떻게 반영됐는지 확인할 수 있을 때 제도에 대한 신뢰 역시 형성될 수 있다.

이 과정에서 공직자의 책임도 더욱 중요해진다. AI가 자료 분석과 의견 정리 등 일부 행정 업무를 지원할 수는 있지만 공적 책임까지 대신할 수는 없다. 숙의 결과의 공정성을 검증하고 정책 선택에 따른 이해득실과 절충점을 시민들에게 설명하는 역할은 여전히 공직자의 몫이다. AI가 수만 건의 의견을 분석해 정교한 결과를 제시하더라도 실제 정책 결정 과정과 연결되지 않는다면 시민 참여는 형식적 절차에 그칠 가능성이 크다.

공공 통제 체계 구축과 단계적 도입

AI 숙의민주주의가 공공 의사결정 과정에 활용되기 위해서는 제도적 기반을 마련하는 일이 무엇보다 시급하다. 이에 따라 공공기관은 개발·운영 과정에 대한 감사 체계를 구축하고 모델 변경 이력과 의사결정 과정을 기록·관리할 수 있어야 한다. 또한 AI가 정리한 결과가 정책에 반영되기 전 시민 대표와 전문가가 내용을 검토하고 이의를 제기할 수 있는 절차도 제도화해야 할 필수 과제다. 정치적 설득이나 여론 조작에 대한 통제 장치 역시 함께 구축될 필요가 있다.

도입 과정도 단계적으로 추진하는 것이 바람직하다. 정부와 공공기관은 근거가 충분한 사안을 중심으로 제한된 범위의 시범 사업을 운영하고 그 결과를 공개해야 한다. 사업별 운영 원칙과 분석 방법을 시민이 이해할 수 있는 수준으로 설명하고, 시민 의견이 정책 결정에 어떤 영향을 미쳤는지 후속 보고를 통해 공개하는 방식이 요구된다.

민주주의에 필요한 것은 시민의 목소리가 실제 정책 결정에 반영된다는 신뢰다. AI 기반 숙의민주주의의 목적 역시 의사결정을 기계에 맡기는 데 있지 않다. 시민들이 충분한 정보와 근거를 바탕으로 숙의하고 판단할 수 있는 환경을 조성하는 데 초점을 맞춘다. 이를 위해서는 의견 수렴 과정과 판단 기준을 투명하게 공개하고 기술의 효율성보다 공정성과 책임성을 우선하는 원칙이 뒷받침돼야 한다. AI 숙의민주주의의 성패는 시민 참여가 실질적인 정책 변화로 이어지는 구조를 구축할 수 있느냐에 달려 있다.

본 연구 기사의 원문은 AI Deliberative Democracy Needs Trust Before Scale을 참고해 주시기 바랍니다. 본 기사의 저작권은 The Economy에 있습니다.