유럽의회 문턱 넘어선 EU AI법, 2년 후 전면 시행 예정
특정 AI 서비스 금지·투명성 의무 등 강력한 규제 내용 담겨
느슨한 규제 체계 유지하던 글로벌 AI 시장, 차후 흐름 변화는

유럽연합(EU)이 세계 최초로 인공지능(AI)을 규제하는 법안을 승인했다. 블룸버그 등 외신에 따르면 유럽의회는 13일(현지시간) 프랑스 스트라스부르에서 회의를 개최, AI법(AI Act)을 찬성 523표·반대 46표로 가결했다. 기권은 49표였다. 법안은 EU 회원국의 서명을 거쳐 오는 6월 EU 관보에 게재될 예정이며, 내년 초 발효 이후 2026년 전면 시행된다.

AI 기술 위험성에 따른 차등 규제 실시

AI법은 AI 기술 사용에 따른 위험도를 4단계로 구분해 기업에 관련 의무를 차등 부과한다. 우선 EU 측이 '용인할 수 없는 수준'으로 평가한 일부 AI 기술은 사용이 금지된다. 이에 따라 EU 지역 내에서는 AI를 활용해 개인의 사회적 신용 점수를 매기는 이른바 '사회적 점수 평가'(social scoring·소셜 스코어링), 학교나 직장 내 감정 해석을 위한 AI 사용 등이 불가능해질 예정이다. AI를 활용한 실시간 원격 생체인식 식별 시스템 사용도 사실상 금지된다(특정 상황 제외).

이에 더해 EU는 △의료, 교육 등 공공 서비스 △선거 △핵심 인프라 △자율주행 등의 분야에서 AI 기술을 사용하는 것을 고위험 등급으로 분류했다. 고위험 등급 분야에서 AI 기술을 사용할 경우, 반드시 사람이 감독을 실시해야 하며 별도의 위험관리 시스템을 구축해야 한다.

범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)를 개발하는 기업은 '투명성 의무'에 따라 EU 저작권법을 반드시 준수해야 하며, AI의 학습 과정에 사용한 콘텐츠를 명시해야 한다. 또한 광범위한 사이버 공격, '유해한 선입견' 전파 등 EU가 시스템적 위험이라고 규정한 사고 발생을 방지하기 위해 AI 모델 설계 과정에서 조처를 취해야 한다. EU는 기업이 해당 의무를 준수하지 않을 경우 위반 정도와 회사 규모에 따라 최대 3,500만 유로(약 503억원) 또는 전 세계 매출의 7%에 해당하는 과징금을 부과할 예정이다.

AI 규제와 혁신의 충돌

AI법은 세계 최초의 AI 규제법으로, 차후 글로벌 시장에 막대한 영향을 미칠 가능성이 크다. 실제 세계 각국에서는 AI법으로부터 비롯된 ‘브뤼셀 효과(전 세계에 관철되는 유럽연합의 시장 규제 능력)’가 발생하고 있다. 사용자에 미치는 위험수준에 따라 AI 제품과 서비스에 차등 규제를 실시하는 EU의 규제 방식이 다수 국가의 법률안에 속속 반영되기 시작한 것이다.

산업계에서는 AI법에 대한 반대의 목소리가 흘러나오고 있다. 과도한 규제가 AI 혁신을 죽인다는 비판도 거셌다. 지멘스, 에어버스 등 유럽의 대표적인 150여 기업은 "범용 AI 규제가 혁신을 억누르고, 유럽기업들이 AI 경쟁력을 저하한다"는 내용을 담은 공개서한에 서명하며 반대의 뜻을 드러내기도 했다. EU 내 빅3 국가인 프랑스와 독일, 이탈리아 정부도 강한 규제보다는 혁신과 경쟁을 촉진하는 규제 프레임워크가 필요하다는 입장을 피력했다.

반면 유럽의 AI 전문가들 및 NGO들은 산업계의 주장에 AI법이 위협받아서는 안 된다는 내용의 공개서한을 프랑스 대통령과 독일 총리, 이탈리아 총리에게 전달했다. 각계의 이해관계와 주장이 끊임없이 부딪히는 가운데, AI법은 수 차례의 보완과 수정을 거쳐야 했다. 현재 시행을 앞둔 AI법은 시장 규제와 혁신 사이 최선의 합의점인 셈이다.

미적지근한 AI 강국 규제, AI법 따라 변할까

한편 업계 일각에서는 EU의 AI법 시행이 디지털 주권 강화를 위한 일종의 '전략'이라는 분석이 제기된다. EU의 시선에서 수립한 AI 규제를 글로벌 AI 시장의 '이정표'로 제시, 이렇다 할 규제 체계를 갖추지 못한 글로벌 AI 강국을 견제하고 있다는 것이다. 실제 글로벌 AI 시장의 선두 주자인 미국에는 아직 강력한 AI 규제 체계가 없다. 조 바이든 정부의 AI 정책 원칙과 방향성을 제시하는 ‘AI 권리 장전(The Blue Print of an AI Bill of rights)’, 상무부 산하 국립표준기술연구소(NIST)가 발표한 ‘AI 위험관리프레임워크(RMF)’ 등의 지침에 법적 구속력이 없기 때문이다.

중국의 경우 AI에 대한 포괄적 규제법 대신 2023년 ‘생성형 인공지능 서비스 잠정 관리 방법’을 제정했다. 해당 규제안에는 △생성형 AI 서비스 제공·이용 관련 관리감독 체계 확립 △기술 개발 촉진 △데이터 처리 활동 및 데이터 라벨링 교육에 대한 요구 사항 △인종·민족·성별 등에 대한 차별 방지 △개인정보 및 미성년자 보호 등 비교적 기초적인 단계의 규제가 포함돼 있다. 과도한 규제보다는 생성형 AI 산업 발전 지원에 초점을 맞추고 있다는 의미다.

다만 우리나라의 경우 관련 논의가 정체돼 있는 상태다. AI 규제 관련 내용을 담은 '인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안'이 2023년 2월에 소관 상임위인 과학기술정보방송통신위원회의 소위를 통과한 후 현재까지 계류돼 있기 때문이다. 주목할 만한 부분은 해당 법안에 특정 AI 서비스에 대한 금지·페널티 벌칙 규정은 없으며, 우선 허용·사후 규제 원칙을 표방하고 있다는 점이다. 차후 EU의 강력한 규제가 글로벌 시장의 기준으로 자리잡을 경우, 우리나라를 비롯해 느슨한 규제를 채택하던 대다수 국가의 AI 시장에 거대한 지각변동이 발생할 것으로 전망된다.