AI는 경제를 재편하고 성장을 주도할 잠재력이 있지만, 독점과 배제의 위험도 있어
이를 방지하기 위해 데이터의 자유로운 이동과 소외된 지역사회의 역량 강화 필요
아시아에서는 싱가포르가 이러한 노력을 주도하고 있어, 국가 간 조율이 중요해

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (GIAI R&D Korea)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

---

과거 알렉산드리아 항구에 상인들이 도착하면 그들이 손으로 직접 쓴 노트들을 압수하여 그 도시의 유명한 도서관으로 가져가 필경사가 사본을 만들었다고 한다. 재밌는 것은 원본은 압수하고 사본을 상인에게 돌려주었다. 오늘날 디지털 경제를 새롭게 쓰고 있는 생성형 AI 프로그램의 배후에 있는 소프트웨어 개발자들에게도 알렉산드리아 항구의 약탈 정신이 여전히 살아 있는 것을 볼 수 있다.

ChatGPT와 그 경쟁업체들은 대가를 제대로 지급하지 않고 다른 이들의 텍스트와 기타 데이터를 기반으로 모델을 학습했다. ChatGPT와 같은 생성형 프로그램의 기반이 되는 말뭉치를 구축하기 위해 체계적으로 저작권을 위반한 OpenAI를 고발하는 작가들의 대규모 소송은 AI에서 허용되는 것과 허용되지 않는 것에 제한을 두려는 새로운 규제 형성의 시작에 불과하다.

성장과 독점의 딜레마

그러나 두 가지 주요 문제가 복잡성을 증가시키고 있다. 첫 번째는 초기 디지털 혁신인 검색 엔진과는 다르게 AI는 더 큰 선점 효과와 규모의 경제로 인해 자연 독점으로 진화할 수 있다는 점이다. 마이크로소프트와 같은 소프트웨어 제조업체에 대한 반독점 소송은 일부 합의로 마무리되었지만, 경쟁적 행위와 혁신의 경계를 명확히 하는 디지털 경제의 일반적인 원칙을 수립하는 데 큰 도움이 되지 못했다.

두 번째 문제는 AI가 국가 안보에 매우 중요하게 작용하며, 독점적 지위가 형성된다면 각 국가는 경제적, 안보적 이유로 자국 기업의 시장 지배를 선호할 것이라는 점이다. 높은 진입 장벽과 증가하는 규모의 경제는 이미 미국과 중국의 기존 기업들이 우위를 점하게 했다.

불안정한 지정학적 상황과 분열된 세계 경제를 고려할 때, 새로운 디지털 프런티어는 세계에서 가장 큰 두 경제 대국 간의 경쟁의 장이 되었고, 이는 특히 아시아의 소규모 경제에 큰 위험을 안겼다.

변치 않는 가치 기반으로 소규모 경제 보호

새로운 기술은 종종 기존의 규칙을 흔들지만, 그들의 기반이 되는 가치는 변하지 않는다. AI가 세계 경제의 모든 영역으로 빠르게 전파되면서 새로운 국제 경제 규칙의 필요성이 대두되었지만, 이러한 규칙은 이미 입증된 국제적 개방성과 투명성 등의 원칙에 근거해야 한다.

AI 경제에서 미국과 중국의 권력 중앙화를 고려할 때, 아시아는 소규모 경제에 해를 끼치지 않으면서도 합법적인 국가 안보 우려를 해소할 수 있는 새로운 AI 참여 규칙의 채택을 촉진하는 데 중요한 역할을 할 수 있다. 싱가포르의 적극적인 노력은 이를 잘 보여주고 있다.

최신 동아시아 포럼 분기별 보고서에서 발췌한 제이컵 테일러(Jacob Taylor)의 글을 통해 포괄적인 AI 거버넌스 시스템의 잠재적 특징을 살펴보면, 그는 지역 협력을 통해 데이터의 현지화 경향을 극복하고 국경을 넘어 자유롭고 잘 규제된 데이터 이동을 보장하는 것이 중요하다고 강조했다. 이는 지역 내 소규모 기업들의 진입 장벽을 낮출 수 있는 규제 방향이다. 아시아의 신흥 디지털 경제에서 소외된 지역사회를 강화하기 위해 효과적인 자금 조달과 규제 지원이 필요하다.

미·중 대립으로 AI 규제 협력은 더 난항

물론 AI를 관리하기 위한 새로운 규칙을 고안하려는 모든 시도는 지정학적 라이벌에게 어떤 이점도 양보하지 않으려는 워싱턴과 베이징의 고집에 부딪힐 것이다. 미국이 세계무역기구의 교착 상태를 방치하고 협상 테이블에 나오기를 거부하는데, 중요 국가들의 동의를 얻은 효과적이고 포괄적인 AI 규정을 상상하는 것은 너무 순진한 생각일 수 있음을 시사한다. 미국이 참여하고 있는 G7 AI 이니셔티브에서도 중국은 참여국이 아니었다.

테일러가 주장하듯이 AI 시스템의 권력 집중화, 지역화, 배제 문제에 대한 쉬운 해답은 없다. 하지만 조율된 AI 거버넌스는 다양한 지역 이해관계자들이 AI 시스템을 적극적으로 관리하도록 동기를 부여하는 동시에 위험에 대한 투명성을 높일 수 있는 분명한 인센티브가 자리 잡고 있다.

특히 대부분의 디지털 거래의 국경 없는 특성을 고려할 때, 기술의 발전은 규제 당국이 따라잡을 수 있는 속도보다 더 빠르게 진행되고 있다. AI가 경제를 재편하고 성장을 주도할 수 있는 범위는 분명하지만, 데이터를 국경에 가두어 혜택을 독점하거나 낭비하지 않고 훨씬 더 많은 사람이 개발 과정에 참여할 수 있는 신기술의 잠재력을 실현하기 위해서는 효과적이고 효율적이며 사려 깊은 규제가 절실히 필요한 시점이다.

---

Regulating the AI revolution in Asia

It is said that when merchants arrived in the port of Alexandria in antiquity, their manuscripts would be seized, taken to the city’s famous library, and copied by scribes, who would confiscate the original and graciously give the copy to the merchant.

Something of that mercenary spirit is still alive in the software developers behind the wildly successful new generative artificial intelligence (AI) programs that are rewriting the digital economy. The functionality of ChatGPT and its competitors is built on collections of text and other data that some allege has not properly been paid for. A major lawsuit from authors accusing OpenAI of systematically violating copyright to build the corpus on which programs like ChatGPT are based is only the start of a new round of litigation and regulation that will try to place limits on what is and is not permissible in AI.

But two problems complicate matters. The first is that, even more than for earlier digital innovations like the search engine, there are major first-mover advantages and economies of scale that make AI ripe for natural monopolies. An early age of antitrust suits against software makers like Microsoft, generally ending in weak settlements, did little to establish general principles for the digital economy about where to draw the line between successful innovation and anti-competitive behaviour.

The second problem is that AI has quite obvious national security applications, and if there are monopoly rents to be had, each government would prefer — for security purposes as well as economic reasons — that their own companies hold the dominant market position. Because of the high fixed costs of entry and increasing returns to scale, as well as the national security nexus, established players in the United States and China have the upper hand.

Given the volatile geopolitical situation and the splintering world economy, the new digital frontier has become an arena of contest between the two largest economies in the world, and that entails major risks for smaller economies, particularly in Asia.

New technologies often make existing rules obsolete, but not the values upon which they are based. The rapid spread of AI into every corner of the global economy demands new international economic rules, but they should be based on principles that have proven themselves, like international openness and transparency.

Given the centrality of the United States and China in the AI economy, there is an important role for Asian economic cooperation to play in driving the adoption of new rules of engagement for AI that address legitimate national security concerns without disadvantaging smaller economies. This explains Singapore’s proactivity in this sphere.

In this week’s lead article, excerpted from the latest East Asia Forum Quarterly, Jacob Taylor explores some of the potential features that a comprehensive system of AI governance might have. He argues that there is a need to address the tendency for governments to try to localise data through regional cooperation to ensure the free, well-regulated flow of data across national borders. This will help to lower the barriers to entry for new, smaller players in the region. There must also be a concerted effort to build capacity in communities that have been excluded from the emerging digital economy in Asia through effective financing and regulatory assistance.

Any attempt to devise new rules to govern AI will, of course, come up against the unwillingness of Washington and Beijing to cede any advantage to their geopolitical rival. The United States’ refusal to come to the table to end the gridlock at the World Trade Organization suggests that it might be wishful thinking to imagine a comprehensive set of regulations for AI that has effective buy-in from all of the most important players. The G7 AI initiative, of which the United States is a part, does not meet this test.

As Taylor argues, ‘[t]here are no easy answers to questions of concentration, localisation and exclusion in AI systems. But coordinated AI governance can create incentives for diverse regional stakeholders to actively steward AI systems while increasing transparency around risks.’

The state of technology is moving faster than regulators have been able to keep up with, particularly given the borderless nature of most digital transactions.

The scope for AI to reshape economies and drive growth is obvious, but effective, efficient and thoughtful regulation is desperately needed to ensure that the benefits are not monopolised or squandered by locking data behind national borders and the potential of the new technology to include vastly more people in the process of development is realised.

The EAF Editorial Board is located in the Crawford School of Public Policy, College of Asia and the Pacific, The Australian National University.