주요 7개국(G7)들이 민주주의 가치를 훼손하고 표현의 자유를 억압하는 AI 악용에 반대한다고 강조하며 AI 기술 개발에 대해 ‘위험기반’ 규제를 도입해야 한다고 밝혔다.

지난달 29~30일 일본 군마현 다카사키시에서 개최된 ‘G7 디지털·기술장관 회의’에서는 ‘책임 있는 인공지능(AI) 실현’이라는 슬로건 아래 AI 기술 개발에 대한 위험 인식을 공유했다. 이는 최근 챗GPT로 대표되는 생성형 AI를 둘러싸고 개인정보 유출, 가짜뉴스 형성과 같은 논란이 일어나는 것에 대한 대응이다. G7이 AI와 관련된 행동 강령을 채택하는 것은 이번이 처음이다.

회의 의장을 맡은 마쓰모토 다케아키 일본 총무상은 AI에 대해 “인류의 가능성을 넓히는 새로운 기술의 길을 막아서는 안 된다는 인식과 동시에 적절한 규칙을 만들 필요가 있다는 인식을 공유했다”고 전했다. 로이터는 이번 합의에 대해 "개인정보 보호 문제와 보안 위험 속에서 주요국들이 AI를 관리하는 방식에 대한 획기적 이정표를 세웠다"고 평가했다.

지난해 11월 출시된 오픈AI사의 챗GPT로 촉발된 초거대 AI(인공지능)에 대한 패권 경쟁이 과열되는 가운데, 국내는 물론 세계적으로 AI의 활용과 규제를 둘러싼 관련법 논의가 한창이다. 챗GPT와 같은 생성형 AI는 정확도 향상을 위해 대량의 데이터를 학습시키는 과정이 필수적이지만, 이러한 학습 과정에서 개인정보가 무단으로 수집되거나, 생성된 내용이 저작권을 침해한다는 지적이 꾸준히 제기되면서 규제 도입에 대한 목소리가 커지고 있기 때문이다.

이에 G7은 AI의 활용 및 규제를 핵심 의제로 채택하고 AI 등 새로운 기술 활용에 관한 △법의 지배 △적절한 절차 준수 △혁신적 기회의 활용 △민주주의 △ 인권 존중 등 5가지 원칙에 합의했다.

AI의 글로벌 상호운용성 증진을 위한 행동 계획

먼저 인간 중심적이고 신뢰할 수 있는 AI를 촉진하는 데 있어 상호 운용 가능한 도구의 역할을 지원하고, AI와 데이터 중심 경제에 대한 신뢰 구축은 물론, 책임 있는 AI 혁신을 위한 개방적이고 활성화된 환경을 조성하는 데 이들의 역할을 인식하기로 결의했다.

또한 AI 거버넌스 프레임워크 전반의 상호 운용성을 장려하기 위해 표준개발기구(SDOs)의 국제표준 개발에 이해관계자가 포괄적으로 참여할 수 있도록 지원한다고 명시했다. 특히 국제 AI 기술 표준에 대한 G7의 협력을 강화하기 위해 △국제 AI 기술 표준에 대한 이해관계자들의 인식 제고 및 개발 노력 △국제 AI 기술 표준 개발에 적극적으로 참여할 수 있는 방안에 대한 이해관계자 간 역량 강화 △신뢰할 수 있는 AI 발전을 위한 도구로 국제 AI 표준을 채택하기로 했다.

이어 리스크 평가·관리 프레임워크, 감사, 인증제도 등 신뢰할 수 있는 AI를 위한 도구와 거버넌스 프레임워크 간 상호 운용성에 대한 논의를 위해 G7 회원국의 전문가와 혁신가들을 모아 G7 회의를 개최하고, 대화 촉진에 노력을 기울이기로 결의했다.

거버넌스 프레임워크 전반의 상호운용성 촉진과 신뢰할 수 있는 AI를 위한 지표 및 도구 개발을 위해 경제협력개발기구(OECD), 글로벌 인공지는 파트너십(GPAI), 유네스코 등 국제기구 및 이니셔티브와의 협력도 확대하기로 했다. 아울러 G7 내부 및 OECD와 같은 포럼의 모든 이해관계자들과 함께 생성형 AI를 비롯해 향후 AI에 직면한 기회 및 도전과 관련된 미래 정책 등 사회적 요구에 대한 협력도 강화할 방침이다.

나아가 민주적 가치와 인권 및 기본적 자유에 대한 존중을 강화하기 위해 개발도상국 및 신흥 경제국의 참여를 확대함으로써 OECD AI 원칙을 이행함과 동시에, 전 세계적으로 AI 혁신을 위한 개방적이고 유연한 환경을 지원하기 위해 공동의 노력을 기울인다는 의지도 표명했다.

G7은 특히 국제 표준 기준을 마련하는 목적이 AI를 규제하기 위해서가 아닌, 책임 있게 발전시키기 위해서라는 점을 강조했다. 규제가 나라마다 제각각으로 마련될 경우 AI의 활용이 오히려 제한 받을 수 있다는 것이다. 이에 AI와 관련한 리스크를 공통으로 평가하고 적절히 규제함으로써 균형 잡힌 발전을 꾀한다는 방침이다.

G7, 생성형 AI 국제 기준 마련엔 합의했으나 규제에선 온도차 보여

G7은 챗GPT와 같은 생성형 AI에 관한 국제 기준을 마련하기로 한 데는 합의에 이르렀으나, 규제를 강조하는 유럽과 달리 미국·일본은 AI 기술 개발을 저해할 수 있다고 우려하며 경계하는 모습이다. 즉 규제가 필요하다는 총론에는 일치를 보였으나, 세부적인 규제 수단과 관련된 각론에서는 진척을 보이지 못한 것이다. 유럽은 새로운 법률 제정에 따른 규제를 지향하는 반면, 미국과 일본은 유연한 대응을 추구하고 있는 만큼 간극을 좁히지 못해 타협의 전망이 서지 않는 상황이다.

현재까지 AI에 대한 규제 논의가 가장 활발한 곳은 유럽이다. 이탈리아 정부는 챗GPT의 훈련 방식이 프라이버시를 침해할 수 있다는 이유로 챗GPT 서비스 접근을 일시적으로 차단한 뒤 진상조사까지 벌인 바 있다. 아울러 EU는 2021년부터 개인의 존엄과 개인정보 보호, 양성평등과 같은 기본권이 인공지능 이용으로 침해되지 않도록 하기 위해 AI 규칙을 논의하고 있으며, 생성형 AI를 고위험 분야로 분류해 엄격한 규제 대상으로 삼는 방안도 제기된 상태다.

반면 미국과 일본의 경우 기업 측의 자주적 규제나 민·관이 설정하는 가이드라인과 같은 형태로, 법률에 기반하지 않은 대응책을 지향하고 있다. 이에 따라 이번 G7 디지털·기술 담당 각료 선언에서는 양론을 병기하는 것으로 결정됐다.

물론 미국이나 일본이 생성 AI에 대해 우려하지 않는 것은 아니다. 일례로 미국에서는 기업들에 대해 AI의 신뢰성 보장을 위한 감사 제도 관련 의견 공모가 진행 중이다. EU의 AI 규제 대응을 인식하면서, 기존 법령을 활용해 규제 정비에 나서고 있는 것이다. 일본도 이달 내 AI 전략회의를 신설하고 생성형 AI 활용에 관한 가이드라인을 마련할 방침이다.

그러나 두 나라 모두 유럽처럼 생성형 AI를 전면 규제하는 새로운 법령 제정과 같은 움직임은 보이지 않고 있다. 니시무라 야스토시 경제산업상은 “일본은 G7이 AI 기술에 대해 선제적이고 모든 것을 파악하는 규제가 아닌 민첩하거나 유연한 거버넌스에 합의하기를 희망한다”고 밝혔다.

과기부, 尹 '뉴욕구상' 후속조치로 새로운 디지털 질서 정립 방안 마련

우리 정부도 글로벌 AI 질서 정립에 동참한다. 과학기술정보통신부는 지난 2일 AI 기술 발전으로 발생할 수 있는 부작용에 대비하기 위한 ‘새로운 디지털 질서 정립 방안’을 공유했다. AI 개발 가속화가 불러올 새로운 디지털 세상에 대비하기 위해서는 AI로 발생할 수 있는 각종 사회적 쟁점에 대한 기준 마련이 필요하다는 것이다.

이종호 과기정통부 장관은 “디지털 기술은 빠르게 발전해 더 정교해지는 동시에 고도화되고 있지만, 거대 플랫폼 기업의 영향력 확대와 AI와의 일자리 공존, 디지털 역량 격차 심화 등에 대한 문제를 해결할 기준 정립은 부족한 상황”이라며 “디지털 기술이 우리 삶을 편리하게 만드는 만큼 일하는 방식과 삶, 소통 방식 등에 영향을 주고 있다”고 전했다. 이 장관은 이어 “정부 차원의 디지털 질서 기본 방향을 마련하고, 사회적 공론화와 실태 진단을 추진하는 등 범정부 차원의 추진 계획을 마련할 것”이라며 “새로운 디지털 질서의 기본방향으로서 디지털권리장전을 오는 9월까지 마련하고, 누구나 자유롭게 토론할 수 있는 디지털 공론장을 구축하겠다”고 밝혔다.

과기정통부의 새로운 디지털 질서 정립 추진은 윤석열 대통령의 뉴욕구상과 하버드대학교 연설에 이은 후속 조치다. 윤 대통령은 지난해 9월 미국 방문 당시 뉴욕구상을 발표하면서 디지털권리장전을 마련하겠다고 밝힌 바 있다. 아울러 윤 대통령은 지난달 28일 미국 하버드대에서 진행한 연설에서도 “디지털이라는 새로운 공간에서 만들어지는 디지털 질서가 정당성, 통용성, 지속가능성을 가지기 위해서는 그 질서와 규범이 세계시민의 자유와 후생을 극대화하고 공정한 기회가 보장돼야 한다”며 “대한민국은 보편적 정의에 터 잡은 공정한 디지털 질서가 국제사회에 구축되도록 최선을 다하겠다”고 전하기도 했다. 이에 과기부는 오는 8월 대한민국 국민 누구나 디지털 질서와 관련된 관심사를 토론할 수 있는 ‘디지털 공론장’을 연 1회 정기 진단하며 범정부 대응 현황을 점검할 방침이다.