현행 허위 정보 대책은 인간을 지나치게 이성적인 존재로 가정해
허위 정보 확산은 정보 부족이 아닌, 인간의 직감·소속감·적대감 등 본성과 관련 깊어
인간의 복잡성을 인정하고, 다양한 학문 분야를 융합해 근본 원인을 파악해야

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 글로벌AI협회 연구소(GIAI R&D)에서 콘텐츠 제휴가 진행 중입니다.

소셜 미디어를 둘러보다 보면 자기 생각과 일치하는 글도 있지만, 때로는 화가 나는 글을 마주하기도 한다. 그럴 때면 본인도 모르게 그 글을 공유하고 생각을 덧붙이거나 주변 사람들에게 알릴 수 있다. 하지만 이러한 행동은 의도치 않게 허위 정보를 퍼뜨리는 결과를 낳기도 한다.

사람들은 정보의 진위를 따지기보다 감정적으로 반응하는 경우가 많지만, 기존의 허위 정보 대책들은 사람들이 항상 이성적이라고 가정한다. 그러나 현실은 다르다. 사람들은 직감, 소속감, 심지어 적대감에 따라 움직인다. 허위 정보 문제를 제대로 해결하려면, 감정적이고 편파적이며 때로는 갈등을 일으키기도 하는 인간의 실제 모습을 인정해야 한다.

인간 본성에 대한 재고, 허위 정보 확산 방지의 시작

기존의 허위 정보 대책 모델은 인간을 지나치게 이성적인 존재로 가정하는 경향이 있다. 잘못된 정보를 믿는 이유를 단순히 정보가 부족해서 생기는 실수라고 생각하는 것이다. 그 결과 팩트체크가 중요한 해결책으로 떠올랐고, 관련 기관들도 많이 생겨났다. 실제로 60개국에서 200개의 팩트체크 이니셔티브가 확산됐다. 이러한 접근 방식은 사람들이 기술의 도움을 받으면 더 이성적으로 판단할 수 있다는 믿음에 기반하고 있다.

하지만 사람들은 더 이상 이성에만 의존하지 않는다. 과거 계몽주의 시대의 핵심 가치였던 객관적인 진실, 사회적 발전, 보편적인 가치는 그 힘을 잃었다. 사람들은 이제 자기만의 생각으로 세상을 바라본다. 가짜 뉴스가 넘쳐나고 진실이 무엇인지 알 수 없는 시대가 된 것이다. 이러한 현실이 옳다고 할 순 없지만, 사람들이 이성적인 판단에 회의적인 건 분명하다.

또한 지금까지의 접근 방식은 사람들이 기본적으로 착하고 윤리적이라고 가정한다. 항상 남을 배려하고 옳은 일을 하려고 노력하며, 온라인에서도 예의 바르게 행동한다고 믿고 있다. 이러한 생각 때문에 가짜 뉴스는 나쁜 사람들이 착한 사람들을 속이려고 쓰는 악의적인 기술이라고 여겨졌고, 착한 사람들은 실수를 깨달으면 행동을 바로잡고 건설적인 대화에 참여할 것이라고 생각했다.

기존의 믿음과 달리, 허위 정보 확산은 악의적인 소수가 아닌 평범한 다수에 의해 이루어졌다. 줌 테러, 악플, 가짜 뉴스 유포 등 인간은 호기심, 사회적 지위 추구와 같은 다양한 이유로 장난스럽고, 때로는 적대적인 행동을 하기도 했다. 이러한 인간의 복잡한 면을 간과한 채, 가짜 뉴스를 찾아내는 데에만 집중했던 기존의 대책은 문제 해결에 한계를 들어냈다.

감정과 집단 정체성이 지배하는 정보 판단

더욱이 사람은 생각보다 감정적인 동물이다. 특히 정보가 넘쳐나는 세상에서 우리는 머리보다는 마음이 시키는 대로, 즉 감정이나 습관에 따라 판단하는 경우가 많다. 여러 연구에서도 감정이 이성보다 더 큰 영향을 미친다는 결과가 나왔다. 게다가 온라인 환경은 이러한 감정을 더욱 증폭시키고, 이성적인 사고보다는 감정과 즉각적인 반응을 유도하는 방식으로 진화해 왔다.

이와 함께 사람은 무리 짓기를 좋아한다. 자신이 속한 집단에는 우호적이지만, 외부 집단은 무시하거나 배척하는 경향이 있다. 이러한 성향은 정보를 받아들이는 방식에도 영향을 주는데, 객관적인 사실보다는 자신이 속한 집단의 생각을 더 믿게 된다. 즉 집단 소속감이 정확한 판단보다 우선시되어, 진실이 개인의 정체성과 사회적 관계에 따라 달라질 수 있다는 것을 의미한다.

인간의 본성을 고려하면 이는 당연한 결과다. 정보는 객관적인 개인이 아닌, 특정 가치관과 배경을 가진 사람에 의해 평가되기 때문이다. 같은 정보라도 개인의 정치적 성향이나 사회적 소속에 따라 '진짜 뉴스' 또는 '가짜 뉴스'로 다르게 받아들여진다. 허위 정보가 왜 사람들을 끌어들이고 믿게 만드는지 이해하려면, 논리적인 판단보다 집단에 대한 충성심이 더 강하게 작용하는 인간의 본성을 알아야 한다.

아울러 사람들은 서로 다르기 때문에 갈등이 생기기도 한다. 모두가 악의적인 차별을 하는 건 아니지만, 사람들은 차이에 민감하고 은연중에 편견을 가진다. 이러한 문제는 예전부터 있었지만, 최근에는 디지털 기술 때문에 더욱 심각해졌다. 예를 들어 '정체성 정치'는 미디어를 통해 외부 집단을 배척하거나 비인간화하는 서사를 만들어 내부 집단의 결속을 강화하는 데에 사용되고 있다.

불행히도 인간의 감정적, 파벌적, 차별적 성향은 서로 복잡하게 얽혀 정보 판단을 더욱 어렵게 만든다.

현실적인 인간상 중심의 허위 정보 연구, 다양한 학문 분야의 협력 강조

허위 정보 문제를 해결하려면, 인간을 있는 그대로 봐야 한다. 정보를 객관적으로 평가하는 사상가나 악의적인 정보에 속는 수동적인 대중이 아니라, 다양한 감정, 집단 정체성, 심지어 타인에 대한 적대감을 가진 주체로서 정보에 반응하는 인간을 이해해야 한다.

이러한 시각에서 보면 허위 정보 문제에 대한 접근 방식은 근본적으로 바뀐다. 예를 들어 코로나 백신을 안 맞는다거나 기후 변화를 부정하는 건 단순히 정보가 부족해서가 아니라, 그 안에는 더 깊고 복잡한 사회적 감정들이 얽혀 있다는 것을 깨닫게 된다.

사람은 생각보다 복잡한 존재라는 것을 인정하고 나면 비로소 겸손한 자세로 다양한 사람들의 의견을 들을 수 있다. 허위 정보는 쉽게 해결될 문제가 아니라는 걸 받아들이고 가짜 뉴스가 왜 특정 집단에 더 매력적인지, 여러 분야의 지식을 동원해 깊이 있게 연구해야 한다.

사람에 대한 깊은 이해를 바탕으로 거짓 정보 문제에 접근하면, 허위 정보가 퍼지는 원인을 제대로 파악하고 효과적인 해결책을 찾을 수 있을 것이다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

현대모비스, 차량용 반도체·전기차 부품 투자 늘린다
글로벌 전기차 시장 정조준, 자율주행 투자는 축소 
"기술력이 이끌었다" 해외 완성차 기업 대상 수주 급증

현대모비스가 올해 전기차 부품과 차량용 칩 투자를 확대할 계획이라고 밝혔다. 기술·비용의 한계로 자율주행 시장 전반이 침체기에 접어든 가운데, 과감하게 자율주행 관련 투자를 줄이고 전기차 부문에 총력을 기울이겠다는 방침이다.

전기차 투자 확대하는 현대모비스

현대모비스는 지난 23일(현지 시각) 미국 실리콘밸리에서 투자 설명회 ‘모비스 모빌리티 데이’를 개최했다. ‘모비스 모빌리티 데이’는 현대모비스의 기술 개발 현황과 미래 비전을 현지 기업들과 공유하고, 미래 투자 계획을 설명하는 행사다.

미첼 윤 모비스 실리콘밸리 벤처스(MVSV) 디렉터는 이날 기조연설에서 “현대모비스는 전기차 부품에 대한 투자를 늘려 나갈 계획”이라며 “투자 비중을 기존 절반에서 70%까지 늘리고 파트너십도 확대할 것”이라고 말했다. 윤 디렉터는 “세계 전기차 시장이 일시적으로 수요 둔화를 겪고 있지만, 궁극적으로 친환경 차량의 시대는 도래할 것”이라며 “자동차 산업에서 지속 가능성과 청정 기술 혁신에 대한 투자가 이어질 것”이라고 강조했다.

차량용 반도체 투자도 확대한다는 방침이다. 윤 디렉터는 “하드웨어뿐 아니라 차량 내 소프트웨어의 AI(인공지능) 알고리즘을 구현하려면 고사양 칩이 필수적”이라며 “반도체 공급 부족 사태를 겪으면서 안정적인 칩 공급망을 확보하는 것이 무엇보다 중요해졌다”고 강조했다.

반면 그간 큰 비중을 차지하던 자율주행 관련 투자는 축소하기로 했다. 사실상 완전자율주행이 가능한 레벨4 현실화에는 기술적인 한계가 있고, 개발 비용 부담 역시 크다는 설명이다. 실제 포드와 폭스바겐의 자율주행 합작사 아르고AI는 지난 2022년 시장에서 철수했으며, 애플 역시 최근 자율주행 전기차 개발을 포기한 바 있다.

차량 성능 제고에도 '주목'

업계는 현대모비스가 전기차 관련 투자를 전반적으로 확대하고 있다는 점에 주목하고 있다. 지난 3월 주행 시 공기 저항을 줄이는 전기차용 '프론트 페이스 통합 모듈'을 공개, 차량 주행 성능 향상을 선언한 것이 대표적인 예다. 프론트 페이스(Front Face)는 램프, 그릴, 후드 등이 위치한 차량 전면부를 의미한다.

현대모비스의 새 통합 모듈에는 그릴과 후드 등의 일부가 자동으로 열고 닫히는 시스템이 적용됐다. 회사 측은 외부 공기를 유입시키고 열 교환을 거친 공기 배출을 유도하는 등의 융복합 공력 시스템만으로 전기차의 항속 거리가 약 20㎞ 늘어나게 된다고 설명했다. 항속거리는 연료나 배터리를 가득 채우고 최대 이동할 수 있는 거리를 뜻한다.

현대모비스는 디자인과 센서 보호를 위해 주행 중에만 외부로 돌출돼 작동하는 라이다, 충전 시작 단계에서 충전기를 꽂기만 하면 충전 완료 후 자동으로 충전기를 회수해 주는 등의 신기술도 모듈에 함께 적용했다. 운전자가 직접 충전을 마무리해야 하는 번거로움을 덜며 편의성을 개선한 셈이다.

탄탄한 전기차 부문 실적

현대모비스의 공격적인 전기차 투자는 탄탄한 전기차 부문 실적에서 기인한 것으로 풀이된다. 현대모비스는 지난해 유럽·북미 등 해외 완성차 업체를 대상으로 전년보다 98% 늘어난 92억1,600만 달러(약 12조5,326억원)에 이르는 물량을 수주했다. 이는 현대차·기아를 제외한 기업에서 수주한 물량만 집계한 액수다.

해외 수주 호조를 견인한 것은 전동화 핵심 부품인 배터리시스템(BSA)이었다. 현대모비스는 지난해 글로벌 완성차업체 독일 폭스바겐에서 수조원대 BSA를 수주한 바 있다. BSA는 전기차에서 배터리가 안전하고 효율적으로 작동할 수 있도록 배터리팩과 배터리 관리 장치 등을 합친 모듈로, 전기차 주행거리 등 성능에 직접적인 영향을 미친다. 현대모비스가 공급하는 BSA는 폭스바겐의 차세대 전기차 전용 플랫폼에 탑재될 예정이다.

업계에서는 현대모비스의 기술력이 실적 성장세를 떠받치고 있다는 분석이 흘러나온다. 현대차그룹이 경쟁사 대비 전기차 전환을 신속하게 진행하는 과정에서 현대모비스 기술력 역시 눈에 띄게 강화됐다는 시각이다. 실제 현대모비스는 2022년 모듈 제조사 '모트라스', 부품 제조사 '유니투스' 등을 출범, 글로벌 전기차 시장 내 주요 부품 공급 업체로 발돋움하고 있다.

핵변환 기술, 스위스 국영 기관에 인정받았다
현실화 위해선 ADS 가속기 등 추가 연구 필요
핵폐기물 부담 경감 기대, 높은 초기 비용은 걸림돌

스위스 당국이 원자력발전소에서 배출되는 방사성 폐기물을 획기적으로 줄일 수 있는 '핵변환' 기술을 승인했다. 장기간 연구 단계에서 횡보하던 기술이 최초로 정부 차원의 인정을 받은 것이다.

스위스 나그라, 핵변환 기술 승인

25일(현지시간) 방사성 폐기물을 관리하는 스위스 국영 기관 나그라(Nagra)는 "핵변환 기술을 통해 고준위 방사성 폐기물의 양을 80%까지 줄일 수 있다는 점이 확인됐다"고 발표했다. 제네바에 본사를 둔 스타트업 트랜스뮤텍스가 개발한 핵변환 기술을 수 개월간 검토, 이 같은 결론을 내렸다는 설명이다. 핵변환은 한 원소를 다른 형태의 동위 원소나 다른 원소로 변환하는 기술을 의미한다.

트랜스뮤텍스는 입자 가속기와 반응기로 플루토늄이나 기타 고준위 방사성 폐기물을 남기지 않는 금속인 토륨과 중성자 입자를 결합하는 기술을 개발했다. 이를 통해 우라늄 동위 원소가 생성되고, 해당 동위 원소가 핵분열을 일으켜 에너지를 방출하게 만들었다. 나그라는 트렌스뮤텍스의 핵변환 기술이 방사성 폐기물의 방사능 지속 기간을 500년 미만으로 줄일 뿐만 아니라 폐기물의 부피도 크게 감축시킨다고 판단했다. 

트랜스뮤텍스의 프랭클린 세르반-슈라이버 최고경영자(CEO)는 “핵변환은 핵폐기물 처리 기관이 폐기물량을 줄이고자 진지하게 받아들인 최초의 기술”이라며 “이 기술은 전 세계 핵폐기물 99%에 사용될 수 있고, 방사능이 남아있는 시간을 500년 미만으로 단축할 것”이라고 밝혔다. 아울러 “(핵변환) 기술은 1,000년 동안 폐기물의 방수 보관을 보장할 수 있다는 점에서 의미가 매우 크다”며 “이 과정에서 폐기물량도 80% 감소했다”고 강조했다.

핵변환의 중심축 'ADS'

핵변환 기술은 사용 후 연료의 재처리에서 발생하는 고준위 폐기물(HLW, High Level Waste)에 함유돼 있는 마이너 악티니드(MA, Minor Actinide)와 장수명 핵분열생성물을 분리, 단수명 또는 안정적인 핵종으로 변환하는 기술이다. 이 같은 핵변환 기술의 중심축은 핵변환 전용 시스템인 ADS(Accelerator Driven Systems)다.

ADS가 제 역할을 수행하기 위해서는 강력한 가속기가 필요하다. 가속기를 이용해 빠르게 가속된 양성자를 납 등 특정한 물질에 충돌시켜 원소의 원자핵을 깨뜨리고, 이 과정에서 만들어진 중성자를 활용해 미임계 노심에서 핵분열의 연쇄 반응을 유지하는 방식이다.

ADS용 가속기를 위한 연구는 세계 곳곳에서 진행되고 있다. △미국 Oak Ridge 연구소 핵파쇄중성자원시설(SNA)의 초전도선형가속기 △일본원자력개발기구(JAEA) J–PARC의 3GeV 싱크로트론 △스위스의 SINQ
등이 대표적인 예다. 다만 30MW급의 대출력 양성자가속기는 아직 실현되지 못하고 있다. 이에 업계에서는 차후 가속기의 출력을 1 자릿수 이상 증가시킬 필요가 있다는 분석이 흘러나온다.

가장 큰 변수는 '비용'

핵변환이 성공적으로 자리를 잡을 경우, 고준위 폐기물의 양을 크게 줄이고 저장 부담을 경감할 수 있다. 경수로 사용 후 연료 재처리에서 발생하는 고준위 폐기물이 자연의 천연 우라늄과 동일한 '잠재적 위해도'를 갖추기 위해서는 약 1만 년의 저장 기간이 필요하다. 하지만 핵변환을 통해 MA를 1/10로 줄이면 저장에 필요한 기간은 수천 년까지 단축될 수 있다. MA가 1/100까지 감소한다면 필요 기간은 수백 년으로 감소한다.

추후 관건은 '비용'에 있다. 파이낸셜타임스는 “핵변환 기술의 높은 초기 비용이 잠재적 장애물로 작용할 수 있지만, 스위스 당국의 인정은 핵변환 기술의 실현 가능성을 입증할 중요한 진전으로 평가된다”고 했다. 트랜스뮤텍스가 개발한 기술의 근간이 된 유럽 입자물리학연구소(CERN)의 대형 강입자 충돌기 한 대의 건설 비용은 47억5,000만 달러(약 6조5,000억원) 수준이다. 다만 입자 가속기와 결합된 반응기를 구축하는 비용이 명확하게 책정되지는 않았다.

LLM의 불투명한 의사결정 과정을 설명하는 XAI 기술 연구의 필요성 대두
심리학적·신경과학적 기법 등 다양한 방법을 통해 LLM의 작동 원리를 규명하고자 노력해
그러나 기업의 AI 모델 설명을 의무화하는 법적 규제는 아직 미흡한 상황, 공개된 정보 또한 제한적

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 글로벌AI협회 연구소(GIAI R&D)에서 콘텐츠 제휴가 진행 중입니다.

최근 인공지능 기술은 눈부신 발전을 이루며 다양한 분야에서 두각을 나타내고 있다. 하지만 AI의 복잡한 학습 과정은 마치 '블랙박스'처럼 베일에 싸여 있어 그 원리를 파악하기 어려운 경우가 많다.

이러한 문제를 해결하기 위해 AI의 의사결정 과정을 투명하게 밝히는 '설명 가능한 AI(Explainable AI, 이하 XAI)' 연구가 주목받고 있다. XAI는 AI가 특정 결론에 도달한 이유를 사람이 이해할 수 있는 형태로 제시하는 기술이다. 예를 들어 이미지 인식 AI가 특정 이미지를 고양이로 분류한 이유를 사람이 알 수 있도록 설명하는 기술이 대표적이다.

복잡한 LLM, XAI로 설명 가능해질까?

아울러 XAI는 단순히 AI의 판단 근거를 제시하는 것을 넘어 AI 시스템의 안전성, 효율성, 정확성을 높이고, 사용자의 신뢰를 얻는 데 중요한 역할을 한다. 나아가 규제 당국의 AI 관리를 돕고, 인간의 사고 과정을 이해하는 데에도 새로운 통찰을 제공할 수 있다.

하지만 XAI도 아직 완벽하지 않다. 특히 수백억 개의 매개변수를 가진 대형언어모델(Large Language Model, 이하 LLM)의 복잡성은 XAI의 설명력을 더욱 제한한다.

LLM은 압도적인 편의성과 자연스러움으로 이미 의료 상담, 컴퓨터 코드 작성, 뉴스 요약, 학술 논문 작성 등 다양한 분야에 깊숙이 통합되고 있지만, 이와 동시에 잘못된 정보 생성, 사회적 편견 강화, 개인 정보 유출 등의 문제를 일으켜, LLM의 작동 원리를 설명하는 XAI의 개발 필요성이 더욱 커지고 있는 실정이다.

LLM의 작동 원리에 대한 이해, 확률적 앵무새 vs 사고하는 존재

연구자들 사이에서는 LLM을 '확률적 앵무새'라고 부르는 시각이 지배적이다. 이는 LLM이 이전에 본 텍스트의 패턴을 결합하여 글을 생성할 뿐, 그 내용을 진정으로 이해하지 못한다는 의미다. 게다가 이러한 모델은 종종 예측 불가능한 행동을 보이는데, AI 기업들이 안전장치를 강화하려 노력하지만, '환각'이나 '탈옥' 현상은 여전히 빈번하게 발생하고 있다.

하지만 모든 연구자가 이러한 견해에 동의하는 것은 아니다. '클로드(Claude)' 모델을 개발한 AI 회사 앤스로픽(Anthropic)의 연구팀은 LLM이 특정 발언을 하는 이유를 분석한 결과, 인간과 유사한 논리적 사고 능력이 있다고 주장했다.

이들은 520억 개의 매개변수를 가진 LLM에 관한 연구를 통해 모델이 질문에 답할 때 사용하는 학습 데이터를 조사했다. 그 결과 모델의 최종 발언이 특정 시퀀스 데이터에만 의존하지 않고 다양한 시퀀스에 걸쳐 영향을 받는 것으로 나타났다. 연구팀은 이를 근거로 모델이 단순히 암기하는 것이 아니라 최소한의 사고와 추론을 통해 일반적인 답변을 생성한다고 해석했다.

심리학적 접근을 통한 챗봇 작동 원리 분석

LLM은 단순히 학습 데이터를 기반으로 텍스트를 생성하는 확률적 앵무새에 불과하다는 주장과, 인간과 유사한 논리적 사고 능력을 갖추고 있다는 주장이 대립하고 있는 가운데, 챗봇의 작동 원리를 새로운 관점에서 해석하려는 시도도 등장하고 있다.

일부 연구자들은 챗봇이 대화할 수 있다는 점을 활용해, 인간 심리학에서 적용되는 방식과 유사하게 챗봇에 직접 질문하고 그 답변을 분석함으로써 챗봇의 작동 원리를 이해하려고 시도하고 있다. 독일 슈투트가르트대학의 컴퓨터 과학자인 틸로 하겐도르프(Thilo Hagendorff)는 이러한 접근 방식을 ‘기계 심리학’이라고 부르고, 챗봇과의 대화를 통해 복잡한 학습 과정을 밝혀낼 수 있다고 주장했다.

한편 2022년 구글의 연구팀은 ‘연쇄적 사고 프롬프트'(Chain of Thoughts, 이하 CoT)라는 기법을 통해 LLM의 ‘사고’를 이해하고 더 정확한 답변을 도출할 수 있다고 제안했다. 사용자가 예시 질문과 단계별 답변 과정을 보여준 후 실제 질문을 하면, 모델이 이를 따라 사고 흐름을 출력하여 더 정확한 답변을 제공한다는 것이다. 그러나 챗봇이 정확한 답을 찾지 못할 경우 엉뚱한 논리를 정당화하는 환각 현상이 발생할 수도 있다. 이는 앞서 언급한 챗봇의 심리 분석을 어렵게 만드는 요인으로 작용 한다.

신경과학 기법 활용한 새로운 접근

결국 인공지능 모델의 내부 작동 메커니즘을 이해하기 위해서는 환각 현상에 대한 깊이 있는 분석이 필수적이다. 즉 LLM이 생성하는 거짓 정보를 탐지해야 하는데, 최근에는 거짓말 탐지기 설계에도 활용되는 신경과학의 뇌 영상 스캔 기술을 응용한 연구가 주목받고 있다.

미국 카네기멜런대학의 컴퓨터 과학자 앤디 저우(Andy Zou)와 그의 연구팀은 챗봇에 거짓말과 진실을 번갈아 말하게 하면서 ‘뉴런' 활동 패턴을 분석했다. 이를 통해 진실성을 수학적으로 표현하고, 새로운 질문에 대한 챗봇 답변의 진실성을 90% 이상 정확하게 예측하는 데 성공했다. 또한 특정 패턴을 활성화시켜 챗봇의 정직성을 높이는 성과도 거뒀다.

또 다른 연구에서는 '인과 관계 추적' 기술을 통해 AI 모델이 특정 답변을 생성하는 데 중요한 신경망 영역을 식별하고, 해당 매개변수를 조정하여 모델의 지식을 수정하는 방법을 개발했다. 이는 모델 전체를 재학습시키지 않고도 부정확하거나 오래된 정보를 수정하는 데 유용하다. 이러한 인과 관계 추적 기술은 신경과학 기반의 거짓말 탐지 기술과 함께 AI 환각 현상을 제어하고 LLM의 작동 원리를 이해하는 데 새로운 돌파구를 제시할 것으로 전망된다.

AI 모델 설명의 중요성과 규제 필요성

AI 연구자들이 모델의 작동 방식을 이해하기 위해 노력하는 가운데, 기업 역시 모델에 대한 설명 책임을 다해야 한다는 목소리가 커지고 있다.

유럽 연합은 AI 법안을 통해 고위험 AI 시스템에 대한 설명 가능성을 의무화하고 있으나 안타깝게도 LLM은 아직 고위험 시스템으로 분류되지 않아 법적 규제를 피해 갈 수 있는 상황이다.

이에 대해 자연어 연구의 전문가인 샘 보우먼(Sam Bowman) 뉴욕대 교수는 오픈AI와 같은 일부 기업이 자사 모델의 작동 방식을 공개하지 않는 것에 대해 비판적인 입장을 밝혔다. 오픈AI는 안전상의 이유로 모델 정보를 공개하지 않는다고 주장하지만, 이는 AI 기술 발전과 신뢰 구축에 걸림돌이 될 수 있다고 보우먼 교수는 지적했다.

이렇듯 AI 기술의 발전과 함께 투명성과 설명 가능성에 대한 요구는 더욱 커질 것으로 예상된다. 전문가들은 기업의 자발적인 노력과 함께 명확한 규제 마련을 통해 AI 기술의 건강한 발전을 이끌어내야 할 시점이라고 강조했다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

미국 보조금 받는 앱솔릭스, 유리기판 경쟁력 강화하나
AI 반도체 중요도↑, "2030년 전후로 업계 전반에 유리기판 채용될 듯"
국내 경쟁력 높지만 "선두 기업은 여전히 인텔, 보조금에 안도해선 안 돼"

SKC 자회사 앱솔릭스(Absolics)가 미국 정부로부터 반도체 보조금을 지급받는다. 반도체 칩 제조사를 제외한 반도체 소재·부품·장비 기업 가운데 미 정부 보조금을 받는 첫 사례다. SKC는 이번 보조금 수령을 계기로 인공지능(AI) 반도체 생태계의 게임체인저가 될 유리기판 사업에 한층 속도를 낼 계획이다.

미 정부, 앱솔릭스에 보조금 7,500만 달러 지급

23일(현지 시각) 미 상무부는 칩스법(반도체 지원법)에 따른 반도체 생산 지원금으로 반도체 패키징용 유리기판 생산 업체 앱솔릭스에 7,500만 달러(약 1,015억원)를 제공하는 예비조건각서(PMT)에 서명했다고 밝혔다. 총투자비 3억 달러(약 4,100억원)의 25%에 달하는 규모다. 지급 대상은 연간생산능력 1만2,000㎡의 조지아주 코빙턴 유리기판 제1공장이다. 앱솔릭스는 보조금 수령 이후 연산 7만2,000㎡ 규모의 제2공장 건설도 추진할 예정이다. 2공장에 투입될 투자금은 총 4억 달러 이상이다.

앱솔릭스가 소부장 업체 중 최초로 미 정부 보조금을 수령한단 소식이 알려지면서, 업계에선 의미가 크다는 반응이 나온다. 유리기판이 반도체 산업의 패러다임을 바꿀 수 있을 만한 게임체인저임을 미국 정부 차원에서 인정한 셈 아니냐는 것이다.

AI 시대 본격화에 유리기판도 '주목'

유리기판이 주목받기 시작한 건 지난해 AI 시대가 본격화하면서부터다. 업계에 따르면 AI 성능을 평가하는 바로미터는 연산과 추론을 담당하는 고성능 반도체다. 한층 빠르고 효율적으로 데이터를 처리하고 결과물을 도출하기 위해 더욱 고도화된 AI 반도체 칩이 필요해졌단 의미다. 그러나 시간이 흐를수록 반도체 칩 집적화와 미세공정 고도화 기술에 한계가 드러나기 시작했다.

여기서 업계가 찾아낸 새로운 '길' 중 하나가 바로 플라스틱기판 대신 유리기판을 이용하는 것이다. 유리기판은 기존 실리콘과 유기 소재의 한계를 전반적으로 극복할 수 있을 것으로 전망된다. 구체적으로 실리콘 소재는 배선 밀도가 높고 전기적 성능이 우수하지만 제한된 웨이퍼 크기, 복잡한 공정, 높은 제조 비용 등 단점이 있다. 유기 소재의 경우 공정이 단순하고 제조 비용이 실리콘의 10분의 1 수준이라는 장점이 있지만 낮은 배선 밀도, 높은 열팽창 계수로 인한 뒤틀림 및 변형 등이 발목을 잡는다.

반면 유리기판은 실리콘보다 낮은 제조원가, 유기보다 뛰어난 내열성과 절연성, 높은 평탄도와 기계적 강도 등의 장점을 갖고 있다. AI 반도체의 대면적화에 적합해 많은 칩을 탑재해도 변형 우려가 적다는 강점도 있다. 또 상호연결밀도가 10배가량 개선돼 고주파 신호 손실을 최소화하고 데이터 처리 및 전력 소비효율도 크게 향상시킬 수 있다. 

이외 적층세라믹콘덴서(MLCC)와 같은 수동 소자를 기판 내부에 심을 수 있어 기판 규모 축소에 유리하다는 것도 장점이다. 유기와 유리기판의 거칠기 수치는 각각 400~600nm, 10nm 수준으로 최대 60배 가까이 차이가 나는 것으로 알려졌다. 유리 소재의 취성과 높은 생산비용, 다층 배선 구조 구현의 어려움 등 단점이 있긴 하나 단점 대비 강점의 효용이 더 클 것이란 게 업계의 대체적인 평가다.

앱솔릭스 경쟁력 높지만, "선두 기업 인텔 주시해야"

시장에선 2030년 전후로 인텔, 엔비디아, AMD 등 고성능컴퓨팅(HPC) 업체들의 유리기판 채용이 진행될 것이란 전망이 나온다. 현재 추세대로라면 2030년에 유기 소재 기판이 2.5D·3D 패키징을 통한 트랜지스터 수 확장세를 감당하기 어려울 것으로 예상되기 때문이다. 

이런 가운데 국내 유리기판 시장에서 가장 눈에 띄는 성과를 보이는 건 역시 앱솔릭스다. 앱솔릭스는 지난 2021년 HPC용 유리기판 시제품을 선보인 바 있으며, 지난해 하반기엔 패키징 테스트 장비 분야 선두 기업인 ISC와 미국 반도체 패키징 분야 스타트업 칩플레에 연이은 지분 투자를 단행하기도 했다. 전략적 투자를 통한 사업 기반 및 경쟁력 강화를 이루겠단 취지다.

삼성도 유리기판 사업에 뛰어들었다. 삼성그룹의 반도체 기판 개발사 삼성전기는 지난 1월 세계가전박람회 CES 2024에서 유리기판 실물을 공개하며 사업 진출을 공식화했다. 업계에 따르면 삼성전기는 2026년 유리기판 양산을 목표로 생산개시 계획에 착수, 유리기판 출시를 위해 그룹계열사와의 공동 연구개발을 진행 중이다. 최근엔 독일 LPKF와 LPKF 코리아, 켐트로닉스 등 제조 장비 회사들과 유리기판 제조 공급망 구축을 위한 기술 협약을 추진하기도 했다. 유리기판 사업에 있어 국내 기업의 시장 선점이 기대되는 지점이다.

다만 해외에서도 관련 사업에 투자를 아끼지 않고 있는 만큼 방심해선 안 된다는 목소리도 적지 않다. 실제 인텔은 10년 넘게 유리기판 대체 노력을 지속해 오면서 유리기판 시장을 선도하고 있다. 애리조나주에 대규모 생산설비 팹을 구축하고 지난해 9월 업계 최초로 유리기판 패키징 기술을 선보인 바도 있다. 인텔은 2030년까지 단일 패키지에 1조 개의 트랜지스터를 수용하는 유리기판을 출시하는 것을 목표로 세운 상태며, 한편으론 HPC 및 AI 반도체용 유리기판 출시에도 박차를 가하고 있다. 앱솔릭스가 미국 정부 보조금 지원에 매몰되기만 해선 안 되는 이유다.

반도체 산업 지원 총 26조원, K칩스법 기한도 연장 수순
소부장 지원 강화에 기대 나오지만, 일각선 '직접 지원' 필요하단 지적도
법인세 부담률 높은 한국 반도체 대기업들, SK는 27.8%·삼성은 18.3%

전 세계적으로 첨단산업 자국 유치 전쟁이 격화한 가운데 우리 정부도 26조원 규모의 반도체 산업 지원책을 내놨다. 주요 기업에 직접 보조금을 주는 대신 우대 대출과 인프라·인력 양성을 통해 반도체 산업 약점을 보강하는 데 집중하겠다는 구상이다. 업계에선 정책 지원을 공식화했다는 데 긍정적인 반응을 보였지만, 시장 일각에선 비판 여론도 적지 않다. 여타 강대국들이 대규모 보조금을 앞세워 직접 지원을 이어가는 와중 간접 지원만으론 한계가 명확하지 않겠냐는 지적이다.

26조원 지원 공식화, 한국도 '반도체 전쟁' 참전하나

윤석열 대통령은 23일 용산 대통령실에서 2차 경제이슈점검회의를 주재해 "반도체는 국가 총력전이 전개되는 분야"라며 "금융, 인프라, R&D는 물론 중소·중견기업 지원까지 아우르는 26조원 규모의 반도체산업 종합 지원 프로그램을 만들었다"고 밝혔다. "기업들이 공장 신축, 라인 증설과 같은 설비에 막대한 자금을 투자하다 보니 유동성 문제가 발생하는데, 신설되는 산업은행 지원프로그램으로 이런 어려움이 많이 해소될 것"이라고 자평하기도 했다.

이날 정부가 밝힌 26조원 규모의 지원 프로그램은 18조1,000억원 이상의 금융·펀드 지원과 2조5,000억원 이상의 반도체 클러스터 도로·용수·전력 인프라 지원, 5조원 이상의 연구개발(R&D)·인력 양성 지원으로 구성됐다. 금융·펀드 지원 가운데 17조원은 반도체 설비 투자 기업에 대한 산업은행의 저리 대출 용도로 쓰일 예정이며, 인프라 투자액은 정부(국고 지원)와 공공기관이 분담할 계획이다. 이와 관련해 윤 대통령은 "1조원 규모의 반도체 생태계 펀드를 조성해 유망 팹리스와 소부장 기업들의 성장을 돕는 한편 미리팹 등 기업들이 공동 이용할 수 있는 연구 인프라를 신속 확충하겠다"고 힘줘 말했다.

올해 일몰되는 K칩스법(조세특례제한법)에 대해선 기한 연장을 공식화했다. K칩스법은 반도체·2차전지·전기차 같은 국가전략기술에 시설 투자하면 15~25%의 세금을 돌려주는 제도로, 올해 투자 증가분에 10%p 한시 공제율을 더해주는 임시투자세액공제까지 합치면 공제율은 최대 25~35%까지 높아진다. 정부는 올해 세법 개정을 통해 법안 기한을 총 3년 연장하는 데 무게를 두고 있는 것으로 알려졌다. 윤 대통령은 "세액공제는 R&D와 설비 투자금의 일정 비율을 국가가 환급해 주는 것으로 보조금이나 다를 바 없다"며 "기한을 연장해 기업이 R&D와 설비투자에 어려움을 겪지 않도록 하겠다"고 전했다.

업계는 환영 목소리, "소부장 지원 의미 클 것"

정부의 본격적인 지원 정책에 업계는 환영한다는 입장을 밝혔다. 간접적인 금융지원을 전개하면서 각국의 보조금 전쟁에 맞설 토대가 마련됐다는 시선에서다. 한 업계 관계자는 "금융 지원과 투자세액공제 연장으로 속도감 있는 반도체 클러스터 준공을 위한 여건이 조성됐다"며 "주요국들이 반도체 산업을 놓고 지원 경쟁을 펼치고 있는 만큼 속도감 있는 이행이 꼭 필요하다"고 강조했다.

특히 소부장 기업들의 호응이 좋다. 이번 반도체 지원 정책 공식화로 앞서 최상목 경제부총리 겸 기획재정부 장관이 언급한 '10조원 이상의 반도체 금융지원 프로그램'에도 활력이 생겼기 때문이다. 최 부총리는 지난 10일 경기 화성에서 반도체 소부장 업체들과 간담회를 갖고 "소부장 기업, 팹리스, 제조시설 등 반도체 전 분야의 설비투자 및 연구개발을 지원하는 10조원가량의 반도체 지원 프로그램을 준비 중"이라고 언급한 바 있다. 진행 중이던 5조원 규모의 정책금융에 지원책을 더 추가하겠단 건데, 정황상 이번 17조원 반도체 설비 투자 기업 저리 대출이 이것으로 보인다. 당초 계획에서 7조원이 추가된 셈이다.

윤 대통령이 직접 반도체 생태계 펀드 조성을 강조한 점도 긍정적으로 평가된다. 자금 조달 여력이 충분치 않은 대부분의 소부장 기업에 있어 정부 차원의 생태계 조성은 기업 생명력과도 직결된 문제기 때문이다. R&D에 5조원가량이 투입되는 것 또한 소부장 기업 성장에 젖줄로 작용할 것으로 업계는 보고 있다.

일각선 비판 목소리도, "간접 지원만으론 한계 뚜렷해"

다만 일각에선 부정적 의견도 나온다. 결국 미국·유럽연합(EU)·일본 등 세계 주요국들이 대규모 보조금 지급책을 앞다퉈 꺼내 들고 있는 상황에서 대출 위주의 간접 지원만 시사한 이번 정책은 아쉽다는 것이다. 실제 미국의 경우 2022년 반도체법(칩스법)을 통해 마련한 총 390억 달러(약 53조원)의 보조금을 삼성전자·인텔·TSMC 등에 지원하고 있고, 일본 정부는 4조 엔(약 35조원)을 배정해 자국 라피더스와 대만 TSMC를 지원하고 있다. 이에 업계에선 직접 지원 방식 대비 효용이 적은 간접 지원만으로 공장 유치 경쟁에서 파이를 나눠 갖기는 힘들 수밖에 없다는 지적이 쏟아진다.

반도체 대기업에 대한 무관심이 정책에 노출된 것 아니냐는 비판도 있다. 한정된 재원으로 소부장 업체를 중심으로 대책을 짜다 보니 실질적으로 한국을 이끌고 있는 삼성전자·SK하이닉스 등에 대해선 지원이 부족해졌단 것이다. 그나마 반도체 지원 프로그램의 경우 반도체 대기업에도 어느 정도 효용이 있을 것으로 기대되고 있긴 하나, 법인세 부담률 등 근본적인 문제를 해결하지 못했단 점에서 한계가 명확하다는 평가가 지배적이다.

실제로 인텔(10.8%)·TSMC(10.5%)와 비교하면 국내 반도체 대기업의 세금 부담은 월등히 높은 수준이다. 스탠더드앤드푸어스(S&P)와 한국경제인협회에 따르면 SK하이닉스의 2018~2022년 평균 법인세 부담률(법인세 비용÷법인세 차감 전 순이익)은 27.8%로 집계됐고, 같은 기간 삼성전자도 18.3%로 20%에 육박했다. 업계 관계자들 사이에서 정책 지원이 여전히 부족하다는 목소리가 거듭 나오는 이유다.

인도에서 기업가치 가장 높은 유니콘 '바이주스'
기업가치 220억 달러에서 2,500만 달러로 급락
미래에셋, 200억원 투자했다가 휴지 조각 위기

미래에셋증권이 200억원을 투자한 인도의 온라인 교육 스타트업 바이주스(Byju’s)의 기업가치가 폭락했다. 바이주스는 지난 2022년 기업가치가 220억 달러(약 30조원)에 이르면서 인도에서 가장 몸값이 비싼 비상장 기업으로 등극했지만 1년 만에 기업가치가 99% 넘게 급락한 것이다. 회계 부정, 채무 급증, 대출 미상환, 정리 해고, 임금 체불 등 문제가 얽히면서 회사 존립마저 위태로운 상황이다.

IPO 지연되면서 채무 급증, 임금 체불 등 불거져

지난 2011년 설립된 바이주스는 팬데믹 기간 중 온라인 강의에 대한 수요가 급증하면서 인도 최대의 에듀테크 기업으로 부상했다. 2022년 10월까지 저커버그 재단, 세쿼이아 인디아, 블랙록, 블랙스톤, 카타르국부펀드, 텐센트, IFC 등 글로벌 투자기관으로부터 유치한 자금이 50억 달러(약 6조8,000억원)에 이른다. 미래에셋증권 인도법인(미래에셋캐피탈마켓)도 지난 2021년 9월 시리즈 F 펀딩에 참여해 13억8,000만 루피(약 214억 원)를 투자했다.

2022년 기준 바이주스의 기업가치는 220억 달러로 평가됐다. 하지만 이후 기업공개(IPO)가 지연되면서 은행 대출 미상환, 임금 체불 등의 문제가 불거졌다. 회계 장부 공개도 미루면서 회계감사를 진행했던 딜로이트가 지난해 6월에 사임했고, 같은 해 10월에는 블랙록이 바이주스의 지분 가치를 95% 하향 조정하면서 기업가치가 10억 달러(약 1조3,700억원) 미만으로 급락했다.

현재는 주요 기관 투자자와 창업자 간의 법정 다툼이 진행되고 있다. 9%의 지분을 보유한 네덜란드 프로수스가 주도해 주주총회에서 창업자인 바이주 라빈드란을 최고경영자직에서 몰아냈지만 라빈드란이 이를 거부하면서 양측의 갈등이 깊어졌다. 2억 달러 규모의 신주 발행을 놓고도 소송전이 이어졌다. 신주 발행을 가정한 바이주스의 기업가치는 2,500만 달러(약 341억원)로 2022년 최고 수준 대비 99.9% 하락한 수치다. 이 때문에 주요 주주들은 신주가 발행되면 자신들의 지분 가치가 제로가 될 것이라며 반발하고 있다.

미래에셋, 인도 유일의 독립 외국자본 운용사로 성장

바이주스의 기업가치 하락으로 미래에셋그룹도 투자 손실이 불가피할 것으로 보인다. 실제로 지난해 바이주스에 대한 기업가치 조정으로 미래에셋증권 인도법인은 투자액의 82%가량 손실을 본 것으로 전해졌다. 인도 시장에 대한 미래에셋의 투자는 이미 20여 년 전 시작됐다. 미래에셋자산운용은 2006년 뭄바이에 법인을 설립한 데 이어 2008년 1호 펀드를 출시하며 인도 시장에 본격 진출해 15년 만에 인도 9위의 자산운용사로 성장했다. 현재 미래에셋자산운용 인도법인은 인도 내 유일한 독립 외국자본 운용사다.

2019년 11월에는 인도 증권거래위원회로부터 운용지주사 전환을 승인받아 펀드 운용과 자문뿐 아니라 비은행금융회사(NBFC), VC(벤처캐피털) 등으로 사업 영역을 넓히고 있다. 박현주 미래에셋그룹 회장은 지난해 뭄바이 포시즌스호텔에서 열린 인도법인 15주년 기념행사에서 인도 시장의 중요성을 강조하면서 "인도의 잠재력을 높이 평가하고 오랜 시간 적극적인 투자를 아끼지 않은 미래에셋자산운용은 인도와 함께 성장해 나가는 운용사로 거듭날 수 있도록 앞으로도 노력하겠다”고 밝힌 바 있다.

국내 자본시장에서는 인도 상품의 라인업을 강화하고 있다. 미래에셋자산운용이 국내에서 운용하고 있는 '미래에셋연금인디아업종대표' 펀드의 설정액은 1,145억원으로 국내 인도 주식형 펀드 중 가장 큰 규모다. 해당 펀드는 최근 1년간 약 30% 수익률을 낸 것으로 알려졌다.

이후에도 인도중소형포커스펀드, TIGER 인도빌리언컨슈머 ETF 등을 신규 출시했다. 또 인도 자산관리(WM) 시장의 빠른 성장에 발맞춰 아랍에미리트 두바이에 지점을 설립하며 국내 운용사 최초로 중동에 진출했다. 두바이는 인도와 지리적으로 가까운 데다 전체 인구 중 인도인의 비중이 35%에 달해 인도 현지 펀드에 대한 투자 수요가 크다.

미래에셋증권도 지난해 12월 인도법인과 공동으로 현지 증권사 '쉐어칸'을 4,800억원에 인수하면서 사업을 확대했다. 인수 당시 미래에셋증권은 앞으로 적극적인 투자를 통해 5년 내 인도 증권사 5위 진입을 목표로 대규모 증자를 추진하고 자산관리와 투자은행(IB) 부문의 경쟁력을 강화하겠다고 밝혔다. 이외에도 네이버와 함께 조성한 1조원 규모 펀드를 통해 인도 소셜미디어 셰어챗, 숏비디오 앱 트렐, 핀테크 앱 크레디트비 등에도 투자했고 자기자본으로 투자한 인도 비상장 기업도 수십 개에 달한다.

전사적 노력에도 인도법인 영업손실 37억원

미래에셋그룹이 전사적으로 인도시장에 공을 들이면서 사업확장과 현지화에 힘을 쏟고 있지만 구체적인 성과는 미비하다. 특히 미래에셋증권 인도법인은 지난 2022년 기준 영업손실 37억원을 기록하면서 좀처럼 부진의 늪에서 헤어 나오지 못하고 있다. 지난해는 투자자산의 평가손실 탓에 올해 상반기 순이익이 30% 가까이 감소했다. 증권업계 관계자는 "박현주 회장이 적극적으로 해외 부동산 투자에 나섰지만, 미래에셋증권이 보유하고 있는 투자 부동산에 대한 손상 부담이 올해도 지속될 것”이라고 지적했다.

더욱이 인도 10위 증권사인 쉐어칸의 인수는 국내 증권사 처음으로 인도에 진출해 이룬 값진 성과지만 국내 자본시장 상황을 고려할 때 호재로만 보기는 어렵다. 국내 대형 증권사가 돈을 벌기 위해 해외로 뻗어 나가는 것은 바람직하지만 진출한 국가와 관련한 펀드 상품을 만들어 국내 자본을 끌어들이면서 국내 자본시장의 불안을 야기하기 때문이다. 미래에셋증권도 쉐어칸을 현지 증권사 10위에서 5위로 끌어올리기 위해서는 국내 투자시장에 인도 관련 금융 상품들을 쏟아낼 가능성이 크다.

홍콩 ELS 투자 부실 사태도 이런 증권업계의 전략과 무관하지 않다. 발표 내용대로 미래에셋증권이 4,800억원을 투자했다면 아마도 국내에서 수조원대 펀드 조성에 나설 가능성이 크다. 이 때문에 일각에서는 과거 여러 차례 어려움을 겪었던 러시아 장∙단기채권(GKO), 동남아시아 국채 투자, 베트남 펀드, 브라질 채권, 그리고 최근 홍콩 ELS 사태와 같은 '투자 쏠림' 현상이 인도를 기반으로 한 금융 상품 투자에서도 벌어질 수도 있다는 우려가 나온다.

일례로 지난 2014년 브라질의 국가 신용등급이 강등되면서 브라질 국채에 투자한 투자자들이 큰 손실을 봤다. 2018년에는 브라질 헤알화 가치 급락 탓에 환 변동에 노출된 투자자들이 손실을 입었다. 당시 브라질 국채 투자 규모는 8조원을 넘었다. 최근 들어 상황이 나아지긴 했으나 한국투자신탁운용의 베트남 펀드도 과거 수익률 부진으로 투자자들이 큰 손실을 보면서 10년 넘게 어려움을 겪은 바 있다. 1990년대 중반 러시아 장∙단기채권도 채권 발행이 막히면서 국내 금융기관들이 투자금 대부분을 날려야 했다.

오픈AI 수퍼얼라인먼트팀 해체, 안전 우려 커져
신규 음성 서비스 '스카이', 유명 배우 목소리 모방 의혹 
데이터 무단 사용으로 꾸준히 누적된 불신, 어떻게 해소하나

오픈AI의 안전과 윤리를 책임지던 ‘수퍼얼라인먼트(superalignment)’팀이 해체된 가운데, 곳곳에서 오픈AI의 '윤리 의식'에 대한 우려가 제기되고 있다. 기존 수퍼얼라인먼트팀을 이끌던 수장들은 물론, 오픈AI의 평직원들마저도 한목소리로 오픈AI가 AI 윤리와 안전에 힘써야 한다고 주장하기 시작한 것이다.

"오픈AI, 안전 신경 써야"

24일 업계에 따르면 수퍼얼라인먼트팀을 이끌던 일리야 수츠케버 전 오픈AI 최고과학자는 오픈AI가 ‘GPT-4o’를 공개한 지난 14일(이하 현지시간)에 회사를 떠났다. 그는 이날 자신의 X(옛 트위터)에 “거의 10년 만에 오픈AI를 떠나기로 결정했다. 회사의 궤적은 기적에 가까웠다”면서 오픈AI가 ‘안전한 AGI(범용인공지능)’를 개발하길 바란다고 밝혔다. 이는 AGI의 안전보다 ‘성능’에 중점을 싣는 샘 올트먼 오픈AI CEO의 현행 전략을 겨냥한 발언으로 풀이된다.

수츠케버의 뒤를 이어 오픈AI를 떠난 얀 리이크 전 오픈AI 안전팀 공동 리더는 한층 고강도의 비판 의견을 내놨다. 그는 “지난 수년간 AI 안전성은 '잘 나가는 제품'보다 뒷전으로 밀려났다”며 “오픈AI는 AI의 위험에 대비하는 것을 최우선으로 해야 하며 회사의 역량 중 많은 부분을 보안, 모니터링, 안전 등에 집중해야 한다. 그래야 AGI가 인류에 혜택을 줄 수 있을 것”이라고 일갈했다.

수퍼얼라인먼트팀의 일원이었던 그레첸 크루거도 비판에 가세했다. 그는 자신의 X 계정에 “회사를 떠나는 것은 쉬운 결정이 아니었다”며 “수츠케버와 리이크에 대한 소식을 듣기 몇 시간 전에 사임했다. 나는 그들의 우려를 공유한다”고 밝혔다. 그러면서 “오픈AI는 의사결정 과정에서 책임과 투명성을 갖춰야 하며 정책 집행, 기술 사용에 대한 주의, 불평등 등을 개선하기 위해 더 많은 조치가 필요하다”고 지적했다. 안전팀의 또 다른 연구원인 다니엘 코코타일로, 윌리엄 손더스 등의 인물 역시 최근 퇴사를 결정했다. 코코타일로는 “오픈AI가 AGI 시대에 책임감 있게 행동할 것이라는 믿음을 잃고 떠났다”고 밝혔다.

음성 서비스 '스카이'가 낳은 잡음

이들이 우려한 '안전' 문제는 실제 얼마 가지 않아 오픈AI의 발목을 잡았다. 오픈AI는 수츠케버가 회사를 떠난 지난 14일 GPT-4o 라이브 시연에서 음성 서비스 ‘스카이’를 공개했다. 문제가 된 것은 스카이의 목소리였다. 스카이의 음성이 영화 ‘그녀(Her)’의 AI 비서를 연기한 배우 스칼렛 요한슨의 목소리와 유사하다는 논란이 발생한 것이다.

오픈AI는 스카이의 음성이 의도적으로 요한슨의 목소리를 모방했다는 점을 부인하고 나섰다. 오픈AI 측은 "AI의 목소리가 유명인의 독특한 목소리를 의도적으로 모방해서는 안 된다고 생각한다"며 "스카이의 목소리는 스칼렛 요한슨을 모방한 게 아니라, 원래 자연스러운 말투를 사용하는 다른 전문 배우의 목소리"라고 주장했다. 다만 오픈AI 측은 개인정보 보호를 위해 성우의 이름을 밝힐 수는 없다고 덧붙였다.

당사자인 요한슨은 이 같은 오픈AI의 주장에 동의하지 않고 있다. 그녀는 성명을 통해 "올트먼 CEO가 지난해 9월 GPT-4o에 목소리를 빌려줄 의향이 있는지 물으며 기술에 익숙하지 않은 사람들에게 위로가 될 것이라고 말했다"고 전하며 "나는 많은 고민 끝에 개인적 이유로 제안을 거절했다"고 밝혔다. 올트먼 CEO가 GPT-4o 발표 이틀 전 제안을 다시 생각해 달라고 요청했으나, 재차 거절 의사를 표명했다는 설명이다. 요한슨은 "공개된 데모를 들었을 때 오픈AI가 내 목소리와 아주 비슷하게 들리는 목소리를 사용한다는 사실에 충격과 분노를 느꼈다"며 "가장 가까운 친구와 뉴스 매체도 차이를 구분할 수 없을 정도로 비슷했다"고 비판했다.

오픈AI의 '윤리적' 발자취

오픈AI의 데이터 무단 사용 논란은 이번이 처음이 아니다. 지난달 외신 보도에 따르면 오픈AI는 GPT-4를 개발 중이던 2021년 유튜브 영상과 팟캐스트 등의 콘텐츠를 무단으로 사용했다. 깃허브, 위키피디아 등 온라인 무료 오픈소스 플랫폼의 데이터가 고갈되자, 데이터 무단 활용이 금지돼 있는 유튜브 등 플랫폼에 손을 뻗은 것이다.

지난해 말에는 뉴욕타임스가 오픈AI와 마이크로소프트(MS)를 상대로 소송을 제기하기도 했다. 뉴욕타임스는 미국 뉴욕 남부지방법원에 소를 제기하면서 “자사가 발행한 수백만 개의 기사가 오픈AI의 챗GPT와 MS의 코파일럿 등 챗봇을 훈련하는 데 무단으로 사용됐다”며 “이들 기사는 연간 수억 달러를 써 고용한 기자 수천 명이 작성한 작품으로, 오픈AI와 MS는 이를 허락 없이 사용하며 수십억 달러를 아끼는 효과를 얻었다”고 주장했다.

주목할 만한 부분은 오픈AI가 거듭되는 갈등 끝에 정식 데이터 라이선싱 계약 체결 사례를 늘려가고 있다는 점이다. 오픈AI는 지난해 AP통신과 정식으로 콘텐츠 라이선스를 제공하는 협약을 체결했으며, 올해 초에는 폴리티코와 비즈니스인사이더 등 언론사를 보유한 독일 악셀스프링거와 연간 수천만 달러 규모의 라이선스 계약을 맺었다. 22일에는 호주의 미디어 재벌 루퍼트 머독이 이끄는 뉴스코퍼레이션(뉴스코프)과 오픈AI가 ‘다년간의 글로벌 파트너십’을 체결했다는 소식이 전해지기도 했다.

개인정보보호위원회, 카카오에 '역대급 과징금' 부과
서비스 장애 이어 개인정보 유출까지, 지속 악재 누적
"라인 개인정보 유출 사태 연상된다" 시장의 시각

개인정보보호위원회(이하 개인정보위)가 카카오에 역대 최대 규모의 과징금을 부과했다. 카카오톡의 시스템상 허점과 미흡한 대응이 최근 발생한 개인정보 유출 사건의 피해를 키웠다는 판단에서다. 카카오톡의 서비스 안정성에 대한 소비자 불신이 쌓여가는 가운데, 카카오 측은 개인정보위의 결정에 반발하며 행정소송을 불사하겠다는 입장을 밝혔다.

카카오톡의 개인정보 유출 사태

23일 개인정보위는 카카오에 151억4,196만원의 과징금, 780만원의 과태료를 부과하고 시정명령과 결과 공표 처분을 내렸다. 카카오가 카카오톡 오픈채팅 이용자의 개인정보 6만5,000건이 유출되는 동안 안전조치 의무를 위반했으며, 유출 신고·피해자 통지 등 사후 조치를 소홀히 했다고 판단한 데 따른 것이다.

앞서 지난해 3월 개인정보위는 특정 업체가 카카오톡 오픈채팅방 이용자들의 아이디 정보를 추출하고, 휴대전화 번호 등 개인정보를 수집·판매한 사건에 대한 조사에 착수한 바 있다. 해킹범들은 오픈채팅방 시스템의 취약점 및 카카오톡의 친구 추가 기능, 불법 프로그램 등을 악용해 이용자 정보를 확보하고, 개인정보 파일을 생성해 판매한 것으로 확인됐다. 이들이 불법적으로 조회한 개인정보는 최소 6만5,719건에 달한다.

한편 카카오는 개인정보위 발표 이후 즉시 입장문을 내고 "개인정보위에 적극적으로 소명했으나 이 같은 결과가 나와 매우 아쉽다"며 "행정소송을 포함한 다양한 조치 및 대응을 검토할 예정"이라고 밝혔다. 아울러 "오픈채팅 서비스 개시 당시부터 (해킹범이 악용한) 해당 임시 ID를 난독화해 운영 및 관리했고, 2020년 8월 이후 더욱 보안을 강화한 암호화를 적용했다"고 강조했다.

연이은 서비스 장애도 '발목'

카카오톡을 둘러싼 잡음은 비단 개인정보 유출에서 그치지 않는다. 최근 잇따르는 서비스 장애 역시 카카오톡 서비스에 대한 국민 신뢰를 훼손하는 '악재'로 작용하고 있다. 지난 13일 오후 1시 44분부터 6분간 일부 카카오톡 이용자들 사이에서는 메시지 수·발신, PC 로그인 등이 불안정해지는 서비스 장애가 발생했다. 지난 20일 오후 2시 50분경에는 내부 시스템 오류로 인해 동일한 문제가 재차 확인되기도 했다.

이뿐만이 아니다. 지난 21일에도 유사한 형태의 오류가 관측됐다. 오전 8시 30분부터 9시 24분까지 1시간 가까이 카카오톡 PC 버전 로그인, 메시지 수·발신 등 주요 기능이 불안정해진 것이다. 앞서 지난해 1월 17일, 5월 8일, 10월 18일에도 비슷한 장애 사고가 발생했다. 올해 들어서만 3차례, 최근 1년간 6차례의 치명적인 서비스 장애가 발생한 셈이다.

전문가들은 카카오톡이 단순 '메신저' 이상의 서비스를 제공하게 된 이후로 장애 발생이 급증했다는 평가를 내놓는다. 다양한 기능이 동시에 작동하며 서버 부하가 급증, 오류 발생 가능성이 치솟았다는 것이다. 실제 카카오는 지난해 일정 시간이 지나면 콘텐츠가 자동 삭제되는 서비스 ‘펑’을 신규 도입했다. 아울러 카카오톡 메인 탭에 오픈채팅 탭을 별도로 신설, 자체 커뮤니티 시스템 강화를 도모하기도 했다.

현 상황 '라인 사태'와 닮았다?

카카오톡의 서비스 보안·안정성과 관련한 악재가 꾸준히 누적되는 가운데, 시장 일각에서는 현재 상황이 라인의 대규모 개인정보 유출 사태를 연상케 한다는 분석도 흘러나온다. 라인 야후에서는 지난해 11월 27일과 올해 2월 14일 등 두 번에 걸쳐 부정 액세스에 의한 정보 유출이 발생했다. 해당 사고는 네이버 클라우드 및 라인 야후의 위탁 기업의 PC가 악성코드에 감염되며 시작됐다.

라인 야후 서버에 대한 무단 액세스가 시작된 것은 지난해 9월 14일부터였으며, 같은 해 10월 9일에는 네이버 클라우드 시스템을 통해 라인 야후에 대한 제3자의 무단 접근이 이뤄졌다. 이로 인해 라인 야후의 사용자, 거래처 직원, 라인 야후 및 네이버 그룹의 임직원, 업무 위탁처 파견원 등의 개인정보가 다수 유출됐다. 현재 유출이 확인된 개인정보는 총 30만2,569건에 달한다.

이후 일본 총무성은 라인 야후에 두 차례(3월 5일, 4월 16일) 행정 지도를 내렸다. 일본 정부는 라인 야후가 네이버에 과도하게 의존하는 것이 문제라고 지적, 네이버와 자본 관계 재검토를 포함한 경영 체계 개선을 요구했다. 사실상 네이버의 지분을 소프트뱅크에 넘기라는 의미다. 개인정보 유출에서 시작된 잡음이 네이버의 일본 내 입지 자체를 뒤흔드는 문제로 비화한 셈이다.

"노래와 말의 차이점이 무엇인가요?" 예상외로 대답하기 까다로워
일반적으로 노래의 고유한 특징이라고 생각하는 것이 말에서도 나타나
놀랍게도 전 세계 전통 음악 간의 공통점 있어

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 글로벌AI협회 연구소(GIAI R&D)에서 콘텐츠 제휴가 진행 중입니다.

노래와 말의 차이를 조사하기 위해 전 세계적인 공동 연구가 진행됐다. 무려 75명의 공동 연구진이 참여하는 만큼 연구는 큰 기대를 받고 있다. 본 연구에서 전 세계 전통 음악을 비교하던 중 공통점을 발견했으며 이는 음악의 진화 과정을 밝힐 수 있는 단서가 될 것이라고 주장한다.

노래와 말의 차이점은?

노래와 말의 차이점은 무엇일까? 생각보다 대답하기 까다로운 질문이다. 간단히 생각하면 노래에는 멜로디가 있으나, 말에는 멜로디가 없다. 그러나 반례로 랩은 멜로디가 없는 노래다. 다른 대답으로 노래는 규칙적인 박자가 있으나, 말은 규칙적인 박자가 없다. 하지만 그레고리오 성가처럼 무반주인 노래도 있어 이 또한 적절하지 않다. 뉴질랜드 오클랜드 대학교의 비교음악학자인 패트릭 새비지는 음악을 어떻게 정의하더라도 항상 반례를 맞이할 수 밖에 없다며 음악을 정의하기란 너무 어려운 작업이라는 의견이다.

새비지는 노래와 말의 차이점을 찾아내기 위해 전 세계에서 75명의 공동 연구자를 모집했다. 공동 연구자들은 각자의 문화권에서 전통 음악을 연주한 녹음 파일을 제출하여 이를 분석 자료로 삼았다. 새비지와 공동 연구진은 연구의 시작점으로 전 세계의 전통 음악이 말과 어떻게 다른지 조사했다. 공동 연구진이 제출한 75개의 전통 음악을 분석한 결과, 전통 음악은 일반적으로 말보다 느리고 고음이 많으며 음고(음높이)가 안정된 경향이 있다. 물론 위 규칙에는 예외가 있지만, 연구진은 음악에 숨겨진 ‘공통점’을 발견했다. 놀랍게도 공통점에는 음악이 어떻게 진화했는지를 보여주는 단서가 들어있었다.

노래의 고유한 특징이라고 생각한 것이 말에서도 나타나

게이오 대학에서 음악의 문학적 다양성을 연구하는 유토 오자키는 전 세계에서 음악이라고 불리는 모든 것을 샅샅이 조사했다. 그 결과 전 세계 전통 음악 간의 차이점과 유사점을 파악했고 이를 통해 음악이 어떻게 생겨났는지 한 발짝 다가갈 수 있었다. 더불어 연구진은 음악이 공통적으로 가지고 있는 몇 가지 특징을 발견했다. 예를 들어 사람들이 ‘노래’라고 생각하는 것은 짧은 구절과 특정 음고를 사용하는 경향이 있다.

하지만 연구진은 위에서 언급한 특징이 음악에만 해당하는 것이 아니라, 말에도 그 특징이 존재할 가능성을 염두에 뒀다. 새비지는 짧은 구절이 “한 번에 사용할 수 있는 호흡이 한정되어 있기 때문에 두 가지 형태의 발성에서 모두 나타날 수 있다”는 점을 언급했다. 또한 노래가 특정 음고를 사용한다는 점도 중국어와 같이 성조를 가진 언어는 말에서 단어를 구별하기 위해 음고에 의존하는 모습을 보인다.

연구진은 전 세계에서 각자의 언어와 전통 음악을 데이터로 삼았으므로 편향이 존재할 가능성을 고려했다. 따라서 연구진은 이를 확인하기 위해 공동 연구자 중 일부만 가설을 미리 알려 주었고 가설을 알고 있는 연구자의 데이터를 제외하여 다시 분석했다. 그 결과 가설을 미리 아는 것은 전체 결과에 영향을 미치지 않는다는 사실을 확인했다. 또한 연구진은 실험 과정에서 실험 설계가 바뀌는 것을 막기 위해 미리 학술지에 실험 설계를 등록했다.

전 세계 전통 음악 간의 공통점 존재해

공동 저자는 각자 선택한 전통 음악에서 네 종류의 샘플(악기 연주, 멜로디, 가사, 말하기)을 만들었다. 데이터를 종합한 결과, 악기 연주는 가장 느린 템포와 높고 안정적인 음고를 가진 반면, 말하기에서는 가장 빠른 템포와 낮고 불안정한 음고를 가진 것으로 나왔다. 멜로디와 가사는 그 중간에 속했다.

놀랍게도 전 세계 전통 음악은 문화적 차이에도 불구하고 공통점을 가졌다. 게다가 공통점에서 음악이 어떻게 진화했는지에 대한 단서를 얻을 수 있었다. 본 연구 이전에도 음악의 진화 과정에 대한 여러 이론이 있다. 한 이론에서는 음악이 단순히 언어의 부산물이라고 주장한다. 또 다른 이론으로는 새소리처럼 음악도 이성을 차지하기 위한 수단에서 비롯되었다는 이론이 있으며 음악과 노래가 일종의 사회적 기능을 수행했기 때문에 진화했다는 주장도 있다.

본 연구에서는 음악이 말의 부산물이라는 이론의 반박 증거를 제시한다. 또한 본 연구에서는 전 세계적으로 노래와 말의 차이점을 설명할 수 있는 공통 요인이 존재함을 주장한다. 하지만 그 요인이 무엇인지는 밝혀지지 않았으며 추측에 불과한 수준이다. 새비지와 오자키는 사회적 유대 가설에 따라 노래가 집단을 더 친밀하게 만들기 위해 진화했을 것이라 주장한다. 새비지는 노래가 느리고 규칙적이며 예상 가능한 멜로디를 통해 집단을 하나로 뭉쳤을 것으로 주장한다. 다시 말해, 노래는 언어가 할 수 없는 방식으로 집단을 하나로 묶는 역할을 한다.

자토레는 위 가설을 증명하기는 매우 어렵지만, 노래가 언어처럼 사회적 기능을 수행하도록 진화했다는 것에는 이견이 없다는 입장이다. 또한 자토레는 감정을 전달하는 데 있어 음악은 매우 강력하여 말보다 훨씬 더 효과적인 수단이라는 점도 강조했다.

노래와 말은 직관적으로 다르다. 하지만 노래와 말의 차이점에 대해 답하기 어려울 뿐만 아니라 '노래'라는 것을 정의하기도 상당히 까다롭다. 연구진은 노래와 말의 차이점을 찾는 것에서 시작하여 전 세계 전통 음악 간의 차이점과 공통점을 살펴봤으며 신기하게도 전통 음악 간의 공통점이 음악의 진화를 밝힐 단서가 될 수 있다는 주장을 내놓았다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.