규제 환경, 첨단 기술 발전 방향에 ‘심대한 영향’
EU 데이터 보호 규정, ‘데이터 비의존형’ AI 기술 도입 심화
‘AI 혁신 위축’ 및 ‘대기업 시장 지배 강화’ 부작용

더 이코노미(The Economy) 및 산하 전문지들의 [Deep] 섹션은 해외 유수의 금융/기술/정책 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 본사인 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

인공지능(AI) 기술은 다양한 수준의 데이터 의존도를 보여주는데 이에 대한 규제 환경이 AI 기술의 방향성에 지대한 영향을 미치고 있다. 특히 유럽연합(EU)이 시행한 ‘일반 데이터 보호 규정’(General Data Protection Regulation, GDPR, 이하 보호 규정)은 AI 기술 혁신의 초점을 ‘데이터 비의존형’(data-saving) 기술로 바꾸고 있는 것으로 나타났다. 그런데 해당 기술은 규제 당국이 의도하는 긍정적 효과도 주지만 EU 내 AI 특허 출원 감소 및 기존 대기업들의 시장 지배 강화 등 부작용도 낳고 있다.

EU, AI 부정적 영향 막기 위해 ‘데이터 보호 규정’ 도입

AI의 사회적, 정치적, 경제적 영향에 대한 우려가 커지고 있다. 사회심리학자 조너선 하이트(Jonathan Haidt)나 경제학자 다론 아체모글루(Daron Acemoglu)는 현재 대세인 ‘데이터 의존형’(data-intensive) AI가 사생활 보호를 포함한 윤리적 측면보다 기업의 이익을 앞세우고 있다고 비판한다. 특히 소셜 미디어의 개인 정보 기반 ‘유저 참여 극대화 전략’이 10대 인구의 우울증 증가와 불가분의 관계를 갖고 있다고 주장하며 광범위한 사회 복지를 감안한 ‘올바른 AI’(right kind of AI)가 만들어져야 한다고 강조한다.

이 문제를 바로잡기 위해 EU가 시행한 보호 규정은 AI 기술 개발 방향을 ‘데이터에 덜 의존하는’ 쪽으로 이끄는 데 성공했다. 이러한 결과는 정책적 고려에 의해 특정 자원의 비용이 오르면 해당 비용을 줄이는 방향으로 기술 혁신이 유도된 이전 사례들과 맥을 같이 한다. 인건비 상승에 대응해 자동화에 투자한다든지, 탄소세 부과 및 유가 인상에 대응한 친환경 기술 개발이 대표적인 예다.

보호 규정 시행으로 ‘데이터 비의존형’ AI 기술 개발 증가

AI 기술은 데이터 요구량에 따라 구분된다. 딥 러닝(deep-learning)과 같은 데이터 의존형 AI는 수많은 척도들을 조정하기 위해 어마어마한 양의 데이터를 필요로 한다. 반대로 데이터 비의존형 기술은 구조화된 규칙, 전문 지식, 효율적 알고리즘 등을 활용해 데이터 이용을 최소화한다. 전이 학습(transfer learning, 한 설정에서 학습한 내용으로 다른 설정을 개선)이나 베이지안 모델(Bayesian methods, 기존 데이터를 통해 확률을 업데이트), 합성 데이터 생성(synthetic data generation, 기존 데이터를 이용해 새로운 데이터 생성) 등이 대표적이다. 예를 들어 구글 딥마인드(DeepMind)의 알파폴드(AlphaFold)는 외부 데이터 의존을 줄이기 위해 스스로의 예측치를 학습 데이터(training data)에 포함시키는 기능을 갖고 있다.

최근까지 AI 기술은 데이터 의존형이 지배해 왔다. 2000~2021년 기간 데이터 의존형 AI 특허는 연평균 52%씩 증가해 비의존형 특허의 19%를 크게 앞질렀다. 하지만 2018년 보호 규정이 시행되면서 전세는 역전되기 시작했다. 2018~2021년 기간 전이 학습 특허는 185%, 합성 데이터 생성은 86%, 베이지안 모델은 68% 성장했다.

중국은 ‘데이터 의존형’에 중점, 미국·유럽은 ‘비의존형’에 집중

AI 기술 혁신 관련 규제 환경의 영향은 관련 특허의 지역 간 차이에서도 보여진다. 중국의 AI 특허 출원은 ‘중국 제도 2025’(Made in China 2025)하에 치솟았는데, 정부 조달을 통한 지원을 통해 감시 기술 등 데이터 의존형 분야에 초점을 맞추고 있다. 따라서 중국 대학들과 정부 기관들은 데이터 의존형을 중심으로 글로벌 AI 특허권 시장에서 상당한 점유율을 차지하고 있다.

미국은 이와 대조적으로 데이터 비의존형 AI 기술 혁신을 주도하는데 해당 영역의 글로벌 특허권 점유율이 45%에 이른다. AI 특허에서 전반적으로 뒤처진 EU는 그나마 비의존형에서 민간 분야 AI 특허의 13%를 차지하는 등 상대적으로 높은 점유율을 나타내고 있다. 보호 규정이 데이터 축적보다 개인정보 보호를 강조함에 따라 기업들도 혁신을 희생해 가며 데이터 비의존형 기술을 우선시하는 것으로 보인다.

비의존형 기술 전환, 혁신 줄이고 대기업 시장 지배 강화

보호 규정이 개인 정보의 보관과 처리에 드는 비용을 올리면서 AI 혁신의 양상을 바꾼 셈이다. 기업들은 데이터 의존형 기술을 줄이고 비의존형 기술 투자를 늘릴 수밖에 없는데, EU 시장 비중이 높은 기업일수록 비의존형으로 급선회하는 모습을 보이고 있다.

특히 EU에 기반을 둔 오래된 대기업들의 비의존형 기술 전환이 두드러지면서 EU 내 AI 특허 출원 감소와 시장 집중도(market concentration) 증가로도 이어지고 있다. 이미 자리 잡은 대기업이 중소기업들보다 유리한 환경이 조성된 것이다. 개인정보 보호를 위해 시행된 규제가 혁신과 시장 활력에 의도치 않은 부작용을 초래하고 있다는 우려가 나온다.

여기서 전기차의 발전 양상은 현재 상황에 귀중한 시사점을 줄 만하다. 전기차는 이미 20세기 초반부터 가솔린 차량과 당당히 경쟁했는데, 부족한 인프라와 원유 생산량의 증가로 내연기관 차량이 자동차 시장의 주축으로 자리 잡은 바 있다. 이러한 ‘기술 종속 현상’(technological lock-in)은 혁신의 방향을 정하는데 정책이 얼마나 중요한지 보여준다. AI 기술에 있어서도 데이터에 대한 과세와 개인정보 보호만을 우선시하는 정책이 산업 발전에 어떤 영향을 줄지 숙고해 봐야 한다.

곧 시행을 앞둔 EU 인공지능법(AI Act)은 소규모 기업들에 더욱 엄격한 준수 조항을 부과하고 시스템에 대한 투명성(explainability)을 강조함으로써 AI 기술 발전에 더 큰 영향을 미칠 것으로 예상된다. 결국 데이터 비의존형 기술로의 전환을 가속화하는 동시에, 자금 여력이 부족한 기업들의 어려움을 가중시키는 결과로 이어질 것이다. 이것이 궁극적으로 원하는 목표인지 돌아볼 필요는 충분해 보인다.

원문의 저자는 칼 베네딕트 프레이(Carl Benedikt Frey) 옥스퍼드 대학교(University Of Oxford) 부교수 외 2명입니다. 영어 원문 기사는 Redirecting AI: Privacy regulation and the future of artificial intelligence | CEPR에 게재돼 있습니다.