사용자 동의 없이 개인 정보 수집해 감시·통제하는 기업과 국가
사용자의 심리적 약점을 파고들어 중독을 유발하고, 심지어 사회적 갈등을 조장하기도
기술의 발전은 윤리적 책임과 개인의 자유를 존중하는 방식으로 진행돼야 

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 글로벌AI협회 연구소(GIAI R&D)에서 콘텐츠 제휴가 진행 중입니다.

올해 4월 구글 크롬의 '시크릿 모드'라 불리는 개인정보 보호 브라우징 기능이 생각했던 것만큼 안전하지 않다는 것이 한 소송을 통해 드러났다. 구글은 사용자 데이터를 수집하고 있었으며, 이번 소송으로 인해 수십억 건의 사용자 데이터를 삭제하기로 합의했다.

그러나 크롬의 시크릿 모드는 웹사이트나 인터넷 서비스 제공자(Internet Service Provider, ISP)가 사용자의 활동을 추적하는 것을 막지 못한다. 정보 수집은 이미 현대 비즈니스 모델의 핵심으로 자리 잡았으며, 사람들의 습관과 행동을 추적해 기계 학습을 위한 데이터로 변환하는 작업은 일상적인 일이 됐다.

인공지능의 양면성, 일상이 된 개인정보 침해

기업, 국가, 민간 조직 등이 사생활을 침해하고 감시하는 일은 공공연한 비밀이다. 예를 들어 보험 회사는 수면 무호흡 보조 기기를 모니터링하여 보험 적용을 거부하기도 한다. 어린이 장난감은 아이들의 데이터를 수집하고, 생리 주기 추적 앱은 사용자의 성관계 시기, 피임 방법, 생리 세부 정보, 심지어 기분까지 메타(구 페이스북) 혹은 낙태가 제한된 주의 정부와 공유하고 있다.

게다가 가정용 보안 카메라는 사용자를 감시하는 데에 사용되며 해커의 공격에도 취약하다. 의료 앱은 개인 정보를 변호사와 공유하고, 데이터 중계 회사들은 사람들을 플랫폼 간에 추적해 사용자 프로필을 묶음으로 판매하고 있다. 하지만 문제는 여기서 그치지 않는다. 수집된 방대한 데이터는 단순히 광고나 개인 맞춤형 상품 추천에만 사용되는 것이 아니라, 사용자의 취약점을 파악하고 행동을 조종하며 심지어 개인의 정체성까지 결정짓는 알고리즘을 훈련하는 데에도 활용될 수 있다.

한편 긍정적인 측면에서 볼 때 인공지능은 인간에 대한 이해를 높이고 단점을 보완하는 데에 도움을 준다. 하지만 인공지능은 인간이 자신을 스스로 이해하는 것보다 훨씬 더 빠르게 파악하고, 중독성 있는 사용 경험을 제공하며, 사용자의 동의 없이 의사 결정에 영향을 미치고 있다. 결과적으로 인공지능은 인간의 발전을 돕는 도구가 아닌, 취약점을 이용해 사적 이익을 추구하는 방향으로 변질될 위험이 더 큰 기술이라는 것이다.

이익 추구를 위해 인간 심리의 약점을 파고들어

몇 년 전 메타의 내부 고발자는 충격적인 정보를 폭로한 바 있다. 메타는 수익 목표를 달성하기 위해 인공지능을 활용하여 사용자들이 플랫폼에서 더 오래 머물도록 유도했다. 이로 인해 괴롭힘, 음모론, 혐오 발언, 허위 정보 등 유해한 콘텐츠가 더욱 확산됐다. 또한 메타는 사용자 동의 없이 중독성을 높이는 기능을 설계했으며, 특히 이러한 기능이 청소년에게 해를 끼칠 수 있다는 사실을 알면서도 방치한 것으로 알려졌다.

더 나아가 유엔 보고서에 따르면 메타는 미얀마 대량 학살 사태에서 증오를 부추기는 '유용한 도구'로 작용했다고 한다. 메타도 폭력 확산을 촉진하는 역할을 했다는 사실을 인정했다. 이러한 일련의 사건들은 기업과 조직들이 인공지능을 활용해 사용자의 심리적 약점을 파악하고 불안정한 감정을 자극하여, 목적을 달성하기 위해 사용자를 조종할 수 있다는 사실을 여실히 드러냈다. 안타깝게도 기술 업계에서는 이를 단순히 '넛지' 효과라고 간단하게 표현하고 있다.

아울러 쿠키 사용에 대한 동의를 요청하거나 승인을 구하는 것도 선의에서 비롯된 것은 아니다. "서비스 개선"이라는 명목하에 실제로는 사용자가 인지하지 못하는 개인 정보를 수집하고, 미처 발견하지 못한 행동 양식을 추적하는 데 사용된다. 이 모든 과정은 개인정보 보호라는 착각을 조성하는 수단에 불과하다는 것이 업계 관계자들의 중론이다.

기술 발전의 방향성 재고해야

현재의 비즈니스 모델에서 AI와 로봇 기술의 발전은 소수의 부를 증진시키는 반면, 다수의 삶을 더 어렵게 만들고 있다. 물론 AI가 가져올 수 있는 여러 효율성에서 이점을 얻을 수 있는 사람들이 있을 수 있으며, 기술 산업이 제시하는 미래 가치는 경제 성장의 핵심 동력으로 작용하고 있다. 하지만 자신의 존엄성을 잃고 타인의 이익을 위해 지속적으로 감시당하고 조종당하는 사람들에게 있어 그런 주장은 무의미하다.

AI 자체를 두려워해야 하는 것은 아니다. 기술을 소유한 주체의 윤리의식이 기술 발전 속도를 따라가지 못하는 현실을 두려워해야 한다는 것이다. 인류의 전반적인 삶의 질을 향상시킬 수 있는 기술이 오히려 소수의 이익을 위한 도구로 전락하고, 불안감과 자기중심주의를 조장하며 자유를 빼앗는 데 사용될 수 있다는 점을 간과해서는 안 된다는 의미다.

기술의 방향성은 인간의 원칙에 의해서 결정되어야지, 그 반대가 되어서는 안 된다. 이를 위해 AI의 소유자가 누구인지, 그리고 인공지능이 최선의 이익을 위해 어떻게 활용될 수 있는지에 대한 질문에서 다시 시작해야 한다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.