생체정보 등 수집 금지, 위반시 최대 500억원 벌금
오픈AI·MS·구글 등 미국 빅테크 견제 움직임
중국 당국도 ‘AI 잠정법’ 발표, 8월부터 시행 중

유럽연합(EU)이 인공지능(AI) 규제 주도권을 확보하기 위해 ‘AI 규제법(AI ACT)’ 도입에 합의했다. 챗GPT 열풍을 불러일으킨 오픈AI를 비롯해 구글, 메타, 마이크로소프트(MS) 등 AI 기술 개발을 가속화하는 미국 빅테크 기업을 견제하고, 유럽 AI 기업들이 추격할 시간을 벌기 위해 서둘러 규제의 칼을 뽑았다는 분석이 나온다. 실제로 오픈AI의 GPT-4.0 터보, 구글의 제미니(Gemini) 등 인간 두뇌의 시냅스에 해당하는 파라미터 수가 수천억 개에 달하는 ‘초거대 AI’를 보유한 미국과 달리, 유럽은 아직 제대로 된 초거대 AI가 없다. 미국 빅테크가 주도하는 AI를 규제해 유럽 산업을 보호하겠다는 메시지다.

유럽연합, AI 규제법 합의 '안면인식 생체정보 수집 금지' 등

EU 집행위원회와 유럽의회, EU 27개 회원국 대표는 지난 8일(현지시간) 벨기에 브뤼셀에서 37시간이 넘는 마라톤 회의 끝에 AI 규제법 도입에 합의했다. AI 위험성을 카테고리로 분류해 투명성을 극대화시키는 한편, 법을 어길 시 천문학적인 벌금을 부과하는 내용이 주요 골자다.

AI 규제법은 AI 기술의 위험성을 시민의 권리, 민주주의 위협 등을 기준으로 4개 등급으로 분류한다. 위험도가 가장 높은 '수용불가(unacceptable risk)'에 속하는 안면인식기술의 경우 얼굴 이미지 대량 수집과 데이터베이스 구축 등을 금지했다. 정치, 종교, 성적 지향, 인종 등을 기준으로 한 생체정보 수집도 막았다. 다만 테러 등 심각한 범죄가 발생한 경우에는 혐의자 수색을 위해 AI 이용을 허용하는 등 예외 조항을 뒀다.

AI로 정직성 등 사회적 점수를 매기거나, 직원이나 교육대상의 감정을 인식하는 ‘소셜 스코어링(social scoring)’ 행위도 규제된다. 인터넷에서 사회적 인지도를 높이는 데 AI를 악용하지 못하도록 차단한 것이다. 또한 생성형 AI가 만든 이미지, 영상, 글에는 'AI가 만든 콘텐츠(made with AI)'라는 워터마크(식별표시)를 부착해야 한다.

인간의 지능을 넘어서는 범용 AI(GPAI)에 대한 가드레일도 도입했다. AI 규제법에 따라 GPAI를 운영하는 기업은 모델 훈련 방법과 데이터를 요약해 보고해야 한다. 또 EU 저작권법을 준수하는 정책도 마련해야 한다. 챗GPT 개발사인 오픈AI의 거대언어모델(LLM)인 GPT-4와 같이 영향력이 크고 시스템적 위험이 있는 AI 모델이 대상으로, 이들 기업엔 더욱 엄격한 규제를 적용하기로 했다.

EU는 법을 위반하는 AI 기업에는 최대 3,500만 유로(약 497억원) 또는 글로벌 매출의 7%를 벌금으로 부과하기로 했다. 이 밖에 규제법에 명시된 세부 규정을 어긴 IT 기업에는 1,500만 유로(약 213억원) 또는 전 세계 연간 매출액의 3%에 달하는 벌금을 부과한다. 다만 구체적인 비율에 대해서는 중소기업이나 스타트업에 한해 조정될 것으로 보인다. AI 규제법은 앞으로 유럽 의회와 위원회의 승인을 거쳐야 한다. 승인 후 완전히 발효되기까지는 2년이 소요되며, 이후 EU는 AI 규제를 위한 국가 및 범유럽 규제 기관을 창설할 예정이다.

美 빅테크 목줄 쥐고, 유럽 기업 성장 꾀하려는 심산

AI 규제법은 개인과 기업의 권리 보호 균형을 이루고, 혁신을 촉진하기 위함이라는 명분을 내세우고 있으나, 사실상 미국 빅테크의 목줄을 쥐고 EU 기업들의 성장의 꾀하기 위함이라는 분석이 나온다. 유럽의 AI 기술을 지키고 실리콘밸리로 대표되는 미국 AI 기술의 역내 진입을 거부하려는 의지가 엿보이기 때문이다.

그도 그럴 것이 AI법이 현실화하면 미국 빅테크의 유럽시장 진출 계획에 차질이 불가피하다. 실제로 AI 규제법에 적용될 수 있는 기업은 대부분 구글이나 메타 등 미국 빅테크 기업들이다. 아직까지 유럽의 AI 기업들은 글로벌 시장에서 강력한 존재감을 보이지 못하는 가운데 주로 미국 기업들이 판을 주도하고 있기 때문이다. 더욱이 AI 규제법이 표면적으로는 모든 AI 기업에 대한 규제를 전제한다지만, 현실적으로 미국 기업만 해당된다는 것만 봐도 사실상 미국 기업을 겨냥한 법안이라는 평가다.

EU가 AI 규제법을 발표할 당시 “중소기업이 기술의 가치사슬을 장악하고 있는 대기업의 부당한 압력 없이 AI 솔루션을 개발할 수 있도록 보장하고자 한다”는 발언에서도 미국 기업에 대한 노골적인 견제가 드러난다. 이는 곧 미국 대기업의 역내 시장 진입을 막으면서 유럽 내 자체적인 AI 기초체력을 키우는 것을 돕겠다는 선언이나 마찬가지다.

생성형 AI의 대규모언어모델에 대한 규제를 유독 강화한 것도 이같은 시각을 뒷받침한다. 실제로 GPAI에 대한 가드레일 제정은 AI 산업 선두인 빅테크에 대한 큰 족쇄가 될 전망이다. EU AI 규제법은 GPAI 시스템과 그 기반이 되는 GPAI 모델은 투명성 요건을 준수해야 한다고 명시하고 있는데 여기에는 기술 문서 작성, EU 저작권법 준수, AI 학습에 사용된 콘텐츠에 대한 자세한 요약본 배포가 포함된다. 영향력이 큰 GPAI 모델에 대해선 더 강력한 준수 사항을 요구했다. 모델 평가, 시스템 평가·위험 완화 대책 마련, 보안 테스트 수행, 심각한 사고 발생 시 EU 집행위원회에 보고, 사이버 보안 보장, 에너지 효율성 보고 등을 모두 준수해야 한다.

다만 외부를 향해 겨눈 칼날이 EU 내부에 위해를 가할 수 있다는 목소리도 나온다. 프랑스의 미스트랄AI, 독일의 알레프알파 등 유럽 AI 기업의 기술 혁신까지 가로막을 수도 있다는 이유에서다. 이와 관련해 기술기업 모임 ‘디지털유럽’의 사무총장 세실리아 보네펠드 달은 “기업들이 AI 엔지니어 대신 변호사를 고용할 판”이라고 지적했다.

중국도 ‘AI 잠정법’으로 자국 기업 경쟁력 확보에 박차

AI를 두고 벌어지는 파워게임은 비단 유럽과 미국 사이에서만 벌어지는 것은 아니다. 유럽보다 앞서 생성형 AI 규제안을 발표한 국가는 중국이다. 지난 7월 중국 국가인터넷정보판공실(CAC) 등 7개 부처는 '생성형 AI 서비스 관리 잠정법(이하 AI 잠정법)'을 발표, 지난 8월부터 시행 중이다. EU AI 규제법과 마찬가지로, 겉으로는 사회주의 이념 구현 및 AI 기술을 기반으로 한 인류 발전에 대한 기여를 내세우고 있으나, 본질은 자국 기업의 경쟁력 확보에 무게를 뒀다는 평가가 지배적이다.

AI 잠정법에는 관리 감독 체계에 대한 내용은 물론 기술 개발 촉진, 데이터 처리 활동 및 데이터 라벨링 교육에 대한 요구 사항이 포함됐다. 이 과정에 ‘불법 및 유해 정보가 5% 이상’ 포함된 콘텐츠는 블랙리스트에 올릴 것을 지시했다. 불법 및 유해 정보에는 △테러리즘 및 폭력을 옹호하는 행위 △사회주의 체제 전복 행위 △국가 이미지 훼손 행위 △국가 단결과 사회 안정을 훼손하는 행위 등이 포함된다. 또한 중국 인터넷 중 검열을 통과하지 못하고 삭제된 데이터를 사용해서는 안 된다고 명시했다.

아울러 AI 모델을 훈련하는 기업이 생체 인식 데이터를 포함한 개인 정보를 훈련에 활용하는 경우 당사자의 동의를 얻어야 한다고 규정했다. 이어 지식재산권 침해를 방지하기 위한 포괄적인 지침도 제시했다. 생성형 AI 서비스 사양을 규정하고 미성년자 보호와 관련된 내용도 명시돼 있으며, 이외에도 보안평가, 민원신고 등 운영상의 규제도 마련됐다. 이는 중국에서 서비스를 하는 해외 기업에도 적용된다. 하지만 자국 기업이 중국이 아닌 해외에서만 서비스를 하는 경우에는 적용되지 않는다.

중국 현지 언론에 따르면 중국 규제 당국은 AI를 두고 글로벌 경쟁이 치열해지는 상황에서 자국 기업의 경쟁력을 위축시키지 않아야 한다는 점에서 규제 수위를 두고 고민하다 결국 친기업적으로 방향을 선회한 것으로 알려졌다. 이와 관련해 중국 AI 업계에서는 명확한 규제책이 만들어진 만큼 산업 발전에 속도가 붙을 것으로 기대하고 있다. 또한 개발자, 공급업체, 사용자의 법적 책임을 규정하면서 권리 침해 시 이를 법적으로 추궁할 수 있는 권한도 생겨 접근성이 더욱 높아질 것으로 전망하고 있다.

AI 잠정법은 중국 규제 당국이 바이두를 포함한 여러 중국 빅테크 기업이 생성형 AI 기반 챗봇을 대중에 출시하도록 허용한 지 한달여 만에 나온 것이다. 다만 전문가들 사이에서는 생성형 AI가 만들어 내는 콘텐츠가 중국의 사회주의 가치를 반영해야 한다는 점에서 외국 기업의 생성형 AI 서비스가 중국에 진출하거나, 반대로 중국 기업이 해외로 진출하기가 어려워졌다는 지적도 나온다.