프랑스, 2024 파리 올림픽 앞두고 ‘AI 감시 시스템’ 도입
시민단체로부터 개인 정보 및 인권 침해 우려 제기돼
올림픽 이후 감시 시스템 유지 또는 수출 가능성도 논란

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

2024 파리 올림픽을 앞두고 프랑스 정부는 보안 감시 시스템에 AI 소프트웨어를 광범위하게 사용할 수 있도록 허용했다. 새롭게 확장된 감시 법률에 따라 프랑스 당국은 비데틱스(Videtics), 오렌지 비즈니스(Orange Business), 캡스비전(ChapsVision), 윈틱스(Wintics)와 같은 AI 기업들과 협력해 기존 CCTV 영상을 분석한 결과로 잠재적 위협을 식별하는 AI 비디오 감시 시스템을 개발했다.

이들 기업이 개발한 AI 소프트웨어는 일반적으로 △군중 규모 및 이동 변화 △버려진 물건 △무기의 존재·사용 △쓰러진 사람 △연기 또는 화염 △교통 법규 위반과 같은 특정 이벤트를 감지하도록 설계됐으며, 목표는 실시간으로 이러한 이벤트를 감지하고 보안 요원에게 경고해 즉각적인 대응을 가능하게 하는 것이다. 이미 주요 콘서트, 스포츠 경기, 지하철 및 기차역 등에서 실험적으로 운영되고 있으며, 프랑스 당국은 이러한 실험이 성공적이었다고 평가해 앞으로의 활용에 "청신호"를 보냈다고 밝혔다.

AI 감시 시스템 합법화 논란, EU 개인정보보호법 위반 우려

올림픽은 막대한 인파가 운집하는 만큼 극도의 보안이 요구되는 행사다. 이러한 상황에서 정부의 감시는 불가피한 측면이 있지만, 프랑스의 경우는 조금 다르다. 엄격한 개인정보보호규정(General Data Protection Regulation, 이하 GDPR)을 가진 유럽 연합(EU) 회원국임에도 불구하고, 대규모 AI 감시 시스템 사용을 허용하는 법을 제정했기 때문이다. 특히 논란이 되는 것은 법률 2023-380의 7조와 10조다. 7조는 올림픽 전후로 지능형 비디오 감시 실험을 허용하고, 10조는 AI를 활용한 영상 감시를 가능하게 한다. 이는 프랑스가 EU 최초로 대규모 AI 감시 시스템을 합법화한 것으로, 개인의 자유와 프라이버시 침해 우려가 커지고 있는 이유다.

프랑스 정부의 AI 감시 시스템 도입에 대해 학계와 시민단체는 강력히 반발했다. 핵심 쟁점은 EU의 GDPR 위반 가능성이다. 정부와 기업은 AI가 생체 정보를 수집하지 않고도 목표를 달성할 수 있다고 주장하지만, 시민단체들은 공공장소에서 특정 행위를 감지하는 AI 카메라의 특성상 생체 정보 수집은 불가피하다고 반박했다. 게다가 정부가 생체 데이터 사용 방지를 위한 안전장치를 마련했다고 해도, 훈련 데이터에 생체 정보가 포함될 수 있고 시스템이 이를 악용할 가능성을 배제할 수 없다는 것이다. 특히 시민단체들은 데이터 수집 범위, 시스템의 정확성과 편향성, 데이터 처리 방식 등에 대한 투명성 부족을 지적하며, 생체 정보 오용 가능성에 대한 우려를 제기했다.

올림픽 넘어 일상으로 이어지는 감시

유럽 시민단체들이 우려하는 또 다른 문제는 이러한 감시 시스템이 얼마나 오랫동안 유지될 것인가 하는 점이다. 테러 위협이나 대규모 행사를 명분으로 감시를 정당화하고, 구축된 시스템을 일상적인 치안 유지에 활용하는 정부의 행태는 빈번하게 발생하기 때문이다. 비록 법률에 만료일이 명시되어 있지만, 올림픽 기간 동안의 필요성과 비례성에 대한 면밀한 검토가 부족했다는 지적이 지배적이다. 이는 법률의 자의적인 해석과 남용 가능성이 높아 시민들의 자유와 프라이버시를 장기적으로 위협할 수 있다는 것을 의미한다.

한편 보안 기술 분야와 올림픽 역사 전문가들은 올림픽이 단순한 스포츠 행사가 아닌, 첨단 감시 기술을 선보이고 거래하는 '보안 무역 박람회'처럼 활용된다고 비판했다. 프랑스가 올림픽 이후 AI 감시 시스템 사용을 중단하더라도, 이 기술이 해외로 수출되어 다른 국가의 인권 침해에 악용될 가능성이 높다는 것이다. 실제로 2008년 베이징 올림픽에서 선보인 감시 기술이 이후 에콰도르 등 인권 탄압 국가에 판매된 사례는 이러한 우려를 뒷받침한다. 올림픽이라는 국제적인 무대가 감시 기술 확산의 기폭제 역할을 하면서, 전 세계적인 인권 침해 문제를 심화시킬 수 있다는 분석이 흘러나오는 이유다.

2024 파리 올림픽에서 시행되는 AI 감시 시스템은 기술 발전과 안전이라는 명분 아래 개인의 자유와 프라이버시를 침해할 수 있다는 심각한 우려를 낳고 있다. 특히 올림픽이라는 특수한 상황을 넘어 일상생활 속 감시로 이어지고, 인권 탄압 국가를 포함한 다른 국가로 확산될 가능성은 AI 기술과의 공존 방식에 대한 깊은 고민을 요구한다. AI 기술의 발전은 감시 시스템의 정확성과 효율성을 높이겠지만, 동시에 개인 정보 보호와 인권 침해 문제를 더욱 심각하게 만들 수 있다는 점을 간과해서는 안 된다. AI 감시 시스템 도입·운영 과정을 투명하게 공개하고 시민들의 의견을 적극적으로 수렴해 사회적 합의를 이끌어내는 프랑스 정부의 노력이 절실한 시점이다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.