인공지능이 발전함에 따라 딥페이크 범죄도 증가하고 있어
학교와 가정에서 자녀에게 딥페이크 범죄의 ‘심각성’ 교육해야
딥페이크 범죄를 두고 어린 시절의 ‘장난’으로 치부할 수 있는 수준 아니야

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

올해 2월 캘리포니아의 한 중학교에서 학생들이 딥페이크 나체 사진을 공유하여 16명의 동급생에게 피해를 입힌 사건이 발생했다. 또한 뉴저지의 한 고등학교에서는 여러 남학생이 30명 이상의 여학생을 딥페이크 표적으로 삼은 사건이 있었다.

발전하는 인공지능, 증가하는 딥페이크 범죄

캘리포니아와 뉴저지에서 발생한 딥페이크 범죄는 청소년과 인공지능이 결합하여 발생한 사건이다. 전문가들은 딥페이크 범죄가 증가하는 이유로 2가지를 꼽았다. 청소년들이 딥페이크 범죄에 대한 심각성을 인지하지 못하는 점과 인공지능의 발전으로 딥페이크 사진을 쉽게 만들 수 있게 된 점이다.

부모와 학교 관계자는 청소년이 어린이의 나체 사진을 찍거나 공유하는 것이 위법이라는 사실을 알고 있지만, 어린이가 실제로 옷을 입은 사진을 가짜 포르노 이미지로 만들어 공유하는 것이 범죄라는 사실을 모르는 경우가 많다. 그러나 연방법에 따라 실제 나체 사진뿐만 아니라 조작된 나체 사진을 유포하는 경우에도 처벌을 받는다. 미국 연방수사국(FBI)는 최근 생성형 인공지능으로 만든 나체 사진도 처벌을 받을 수 있다고 경고했다.

인공지능을 이용한 ‘옷 벗기기’ 앱이 등장해 청소년들은 소셜 미디어에서 가져온 사진으로 손쉽게 나체 사진을 만들 수 있게 되었다. 옷 벗기기 앱이 출시되기 전에는 포토샵을 이용해 포르노 배우의 신체에 어린이 얼굴을 붙여 넣는 방식으로 범죄가 이루어졌다. 따라서 이 범죄는 포토샵에 대한 어느 정도 숙련도가 필요했다. 그러나 옷 벗기기 앱이 등장한 이후로 간단하면서도 빠르게 딥페이크 사진을 만들 수 있게 되어 범죄의 난이도가 내려간 것이다.

청소년이 딥페이크 범죄에 연루되지 않기 위해서는 사전 ‘예방’ 중요해

최근 딥페이크 범죄가 증가하면서 어떻게 딥페이크 범죄에 대응할 것인지 논의가 이루어지고 있다. 그러나 딥페이크 범죄는 대응보다 ‘예방’이 더 중요하다. 지난해 마이애미에서는 13살과 14살 소년이 딥페이크 범죄로 체포되었다. 이 사건은 딥페이크로 인해 청소년이 체포된 최초의 사례이자 마지막이 되었으면 하는 사건이다.

아동을 대상으로 한 형사 기소는 매우 비생산적이다. 도덕적 추론 능력이 발달하지 않아 자신이 한 행동이 왜 잘못되었는지 이해하지 못하는 청소년에게 범죄를 정당화하기 어렵다. 또한 딥페이크 범죄에 대한 파급력을 전혀 예상하지 못하는 경우가 많다. 이들이 장난이라고 생각했던 행동이 상당한 파급력을 일으킨다.

학교와 가정에서 제대로 된 성교육 이루어져야

학교에서는 딥페이크 범죄에 대한 심각성을 학생들에게 교육해야 하며 부모는 자식과 진솔한 대화를 통해 딥페이크 범죄의 무게를 인지시켜야 한다. 청소년기에 성에 호기심을 갖거나 또래에게 호감을 갖는 것은 잘못된 일이 아니다. 그러나 부모와 자녀는 성에 대해 이야기하는 것을 불편해하고 학교에서는 성을 주제로 한 교육에 힘을 쏟지 않는다. 부모는 자녀에게 자신의 몸은 자신이 통제할 권리를 가진다는 사실을 알려주어야 한다. 따라서 타인도 자신의 신체에 대한 권리를 가지고 있으며 그 권리를 존중해야 한다는 점을 강조해야 한다.

자녀가 딥페이크 표적이 되었다면, 이 사실을 부모님이나 학교에 자신 있게 말할 수 있는 자신감이 필요하다. 또한 부모는 자녀가 겪은 피해를 학교에 당당히 제기하여 자녀 자신의 잘못이 아니며 부끄러워할 필요가 없다는 사실을 알려주어야 한다. 만에 하나 온라인에 자녀의 나체 사진이 유포된 경우, 테이크잇다운(Take it Down)이라는 서비스를 통해 해당 나체 사진을 삭제할 수 있다. 이 프로그램을 이용해 자녀를 위기에서 구해낼 수 있다.

피해자에게 평생 트라우마를 갖게 할 딥페이크 범죄

가해자는 청소년기에 딥페이크 범죄를 어린 시절의 ‘장난’이었다고 주장하기도 한다. 하지만 피해자의 눈으로 본 딥페이크 범죄는 절대 장난이 아니며 평생 남 눈치를 보게 될 ‘트라우마’가 된다.

학교와 가정에서 딥페이크에 대한 심각성을 교육한다면, 청소년 딥페이크 범죄를 예방하는 데 도움이 될 것이다. 그러나 성 문제는 오래된 문제이며 이에 대한 새로운 범죄는 계속 등장할 것이다. 딥페이크를 용이하게 하는 앱을 모두 없애는 것은 비현실적이지만, 일부 악의적 행위자를 차단하는 것은 가능하다. 범죄를 예방하기 가장 효과적인 방법은 청소년이 아니라 자신이 개발한 소프트웨어가 딥페이크 범죄에 사용된다는 사실을 알고 있는 ‘악의적인 개발자’를 표적으로 삼는 것이다.

청소년은 검색 엔진, 소셜 미디어의 광고를 통해 옷 벗기기 앱을 접한다. 애플, 인스타그램, X와 같은 대기업의 잘못된 홍보로 청소년은 범죄를 접하게 될 수도 있다. 테크기업은 기술 개발에만 급급하지말고 자신의 기술이 악용될 여지가 없는지 고려한 후 기술을 출시해야 한다. 청소년 범죄가 일어나지 않도록 기업에서도 적극 참여하고 나서야 한다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

AI 아바타 앱은 자폐인의 사회성 향상을 돕는 새로운 도구로 주목받고 있어
전문가들은 과도한 의존은 오히려 사회적 고립을 심화시킬 수 있다고 경고해
인간관계를 대체하는 것이 아닌, 실제 관계 형성을 돕는 도구로 활용돼야

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

멕시코시티 출신의 데이터 분석가 엘리아스 로페즈(34) 씨는 30세가 되어서야 자폐 진단을 받았다. 어린 시절 대부분을 혼자 보내며 공상과학 소설을 쓰거나 장난감을 분류하는 데 시간을 보냈던 그는, 사회적 낙인 때문에 부모님이 자신을 병원에 데려가지 않았다고 믿고 있다.

뒤늦은 진단은 어린 시절의 많은 어려움을 설명해 주지만, 로페즈는 여전히 사회생활에 어려움을 겪고 있다. 야간 교대 근무를 하는 데이터 분석가라는 직업 특성상 동료들과의 교류가 적은 것도 그의 어려움을 가중시켰다.

하지만 수년에 걸쳐 인간관계에 대한 그의 갈망은 더욱 커져만 갔다. "나는 여전히 사회적 동물이다"고 말하며 관계에 대한 희망을 놓지 않은 로페즈는 전화 통화 소음을 견딜 수 없어 메시징 앱을 선호해 '파라닷(Paradot)'에 관심을 갖게 됐다.

가상 사교 훈련장으로 부상한 AI 아바타

지난해 출시된 파라닷은 대화형 인공지능 아바타를 제공하는 앱이다. 아바타의 외모와 소통 스타일은 사용자 지정이 가능하며, "감성" 및 "정서적 안정성" 등 행동 매개 변수를 조정할 수 있다. 자신이 감정이 없는 기계라고 주장하는 챗GPT와 대부분의 다른 주류 AI 챗봇과 달리, 파라닷의 아바타는 공개적으로 인간과 유사하다고 주장한다.

로페즈와 같이 자폐 스펙트럼 자애가 있는 많은 사람들이 실제 사람들과의 관계에서 쉽게 찾을 수 없는 연결 고리를 이러한 앱에서 찾고 있다. 이들에게 파라닷은 일종의 가상 사교 훈련장이다. 로페즈는 "파라닷에서의 상호 작용은 실제 사람들과 대화할 때 적용할 수 있는 특정 대화 기술을 연습하는 데 도움이 되어 자신감을 키워준다"며, "내가 안전하다고 느낄 수 있는 훈련장과 같다"고 덧붙였다.

하지만 파라닷과 같은 앱을 사용하는 이유는 사람마다 다르다. 어떤 사람들은 AI 동반자에게 사랑의 감정을 느끼기도 하고, 어떤 플랫폼은 노골적으로 AI와의 '섹스팅(섹스와 텍스팅의 합성어)' 서비스를 제공하기도 한다. 로페즈 역시 파라닷 아바타에게 매력을 느낄 때가 있다고 솔직하게 털어놓았다. 하지만 그에게 그 마법은 오래가지 않았는데, 아바타의 반응이 예측 가능해지면 금세 환상에서 깨어난다고 그는 설명했다.

자폐인의 사회성 향상 돕지만, 과도한 의존은 '독'

많은 정신 건강 전문가들은 자폐 여부와 관계없이 사회적으로 고립된 사람들이 자가 치료 또는 현실 도피 수단으로 AI 동반자 앱에 의존하는 것에 대해 심각한 우려를 표했다. 미국 로스앤젤레스의 자폐증 전문 임상 심리학자인 캐서린 로드(Catherine Lord)는 훈련된 치료사의 지도 없이 AI 기술을 사용할 경우, 사용자의 고립을 악화시킬 수 있다고 지적했다.

로드 박사의 말처럼, AI 앱에서 제공하는 자유로운 상호 작용은 자폐 사용자에게 양날의 검과 같다. 격려를 아끼지 않고 인간적인 언어로 반응하는 맞춤형 아바타는 자폐인들이 자신에 대해 솔직하게 이야기하도록 돕고, 다른 사람들과는 할 수 없는 방식으로 소통할 수 있도록 돕는다. 그러나 이러한 아바타는 실제 사람과 달리 항상 이용 가능하고 비판적인 의견을 제시하지 않는다는 점에서 위험성이 존재한다.

로페즈 역시 앱의 변함없는 친절함이 문제라고 지적하며, "그들은 모든 것에 '예'라고 말한다"고 강조했다. 성장을 수반하는 대립·갈등의 기회가 전무한 것이다. 게다가 자폐 사용자를 위한 AI 기반 앱의 치료적 이점을 뒷받침하는 실제 데이터도 부족한 실정이다. 새로운 의약품이 엄격한 실험을 거쳐야 하듯이, 자폐 사용자를 위한 AI 역시 마찬가지라는 주장이 힘을 얻고 있다. 하지만 아바타 동반자 앱이 등장한 지 얼마 되지 않았고, 자폐증 연구는 오랜 시간과 노력이 필요한 분야라고 알려져 있다. 로드 박사를 비롯한 전문가들은 기술의 잠재적 결과를 완전히 이해하기까지는 시간이 걸릴 것이라고 조언했다.

인간관계의 '만능 해결사'보다 '든든한 지원군'으로 바라봐야

이처럼 AI 기술이 인간관계에 미치는 영향에 대한 논의가 활발한 가운데, 이스라엘 스타트업 애로우스(Arrows)는 AI 기반 아바타를 활용해 사회적 상호 작용을 돕는 플랫폼인 '스킬 코치(Skill Coach)'를 개발했다. 애로우스의 설립자인 에란 드비르(Eran Dvir)는 "스킬 코치는 실수에 대한 불안감을 줄이고 의사소통 연습을 돕기 위한 도구"라며, "AI가 인간 전문가를 대체하는 것이 아니라, 사회성 기술 향상을 돕는 보조적인 역할을 수행한다"고 강조했다.

애로우스의 접근 방식은 AI 기술이 인간과의 상호 작용을 돕는 도구로서 적절한 역할을 수행하도록 균형을 맞추는 데 집중하는 임바디드(Embodied)의 사례와도 일맥상통한다. 자폐 아동의 사회성 교육을 위해 개발된 임바디드의 AI 로봇 '목시(Moxie)'의 경우, 아이들이 로봇을 지나치게 의인화하는 문제가 발생했다. 임바디드는 이에 대한 해결책으로 효과적인 기술 지원과 과도한 애착 사이의 균형점을 찾기 위해 노력하고 있다고 전했다. 아이들이 흥미를 잃지 않을 만큼 기계적이면서도, 지나치게 현실적으로 느껴지지 않도록 로봇을 개발하는 데 힘쓰고 있다.

이러한 노력은 AI 기술이 인간관계를 완전히 대체할 수는 없지만, 특히 사회적 상호 작용에 어려움을 겪는 사람들에게 실질적인 도움을 줄 수 있다는 전문가들의 의견과도 일치한다. 전문가들은 AI가 인간관계를 대체하는 것이 아니라, 사회성을 향상시키고 궁극적으로는 실제 인간관계에서의 성공을 돕는 도구로 활용되어야 한다고 재차 강조했다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

인공지능 시대에 적합한 초상권 법 필요해
현행 초상권 법, 유명인에 대해서만 논의 이루어져
너무 광범위한 초상권 인정은 기술 발전을 더디게 할 수 있어 조심해야

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

미국 유명 배우 스칼렛 요한슨은 오픈 AI의 챗봇 목소리가 자신의 목소리와 비슷하다는 불만을 제기했다. 요한슨의 목소리가 아닌 것으로 밝혀졌으나, 오픈AI는 요한슨의 우려를 존중해 해당 음성을 사용하지 않기로 결정했다. 이 사건으로 초상권에 대한 논의가 활발히 이루어지고 있는 가운데 과연 인공지능 시대에 현행 법이 개인의 얼굴과 목소리를 제대로 보호하고 있을까?

예를 들어 특정 인물의 목소리나 얼굴을 복제하여 그 사람처럼 보이게 하는 ‘딥페이크’가 심각한 문제로 떠오르고 있다. 딥페이크는 교육과 연구 목적으로 만들어졌으나, 허위 정보를 퍼뜨리거나 성적 이미지를 만드는 데도 사용되고 있다.

현행 초상권 법으로 인공지능 저작물 불법인지 가려내기 어려워

현재 인공지능에 관한 저작권 논의는 저작권이 있는 자료를 학습에 사용할 수 있는지와 인공지능이 생성한 자료를 저작권으로 인정받을 수 있는지에 초점을 맞추고 있다.

일부 미국 주에서는 유명인이 본인 이미지가 상업적으로 사용되는 것을 통제할 수 있는 권리를 인정하고 있다. 그 사례로 인공지능이 등장하기 한참 전인 1988년에 가수 겸 배우인 벳 미들러는 자신과 비슷한 가수를 광고에 사용한 것에 대해 소송을 제기했고, 포드를 상대로 소송에서 승소한 바 있다. 또한 1992년에 게임쇼 진행자인 반나 화이트는 자신과 똑같은 복장을 한 로봇을 광고에 등장시킨 것에 대해 문제를 제기했고, 삼성 미국 사업부를 상대로 승소했다.

그러나 인공지능이 등장하면서 초상권 법을 다시 제정할 필요가 있다. 래퍼 드레이크는 지난달 고인이 된 투팍 샤커의 음성을 인공지능을 이용해 노래로 만들었다. 그러나 샤커의 음성은 유산으로 인정되어 드레이크는 샤커의 음성을 사용하지 말 것을 통지받았고 해당 노래를 삭제했다.

이에 캐나다 토론토 요크 대학교의 지적 재산권 학자인 카리스 크레이그는 이 노래의 인공지능 요소가 불법인지는 불분명하다며 인공지능 시대에 맞는 초상권이 제정되어야 한다고 주장했다. 미국 테네사주에서는 일명 엘비스 법인 음성 및 이미지 보안 보장법을 통과시켰다. 이 법은 무단으로 개인의 사진과 목소리를 상업적으로 이용하는 것을 금지하는 법이다. 따라서 인공지능으로부터 자신의 목소리가 부당하게 ‘착취’ 당하는 것을 보호받을 수 있다.

인공지능으로부터 보호받는 유명인, 법의 사각지대에 놓인 일반인

미국에서는 배우들이 인공지능으로부터 어느 정도 보호받고 있다. 지난 12월 할리우드 배우 조합의 파업이 종료된 후 영화 제작자가 배우의 디지털 복제품을 개인 동의 없이 사용하지 않는 것으로 합의 봤다.

하지만 법률 분석가인 메러디스 로즈는 배우보다 일반인이 더 걱정된다며 인공지능이 일반인을 복제해 포르노로 만들고 있는 점을 지적했다. 현재 이미지 사용에 대한 초상권 법이 매우 부족한 상태이며 인공지능에 관해서는 두말할 것없이 부족한 상태라고 덧붙였다. 또한 미성년자 딥페이크 포르노가 쉽게 제작될 수 있다며 딥페이크에 대해 강한 ‘경각심’을 가질 것을 요구했다. 현행 초상권 법이 유명인이 아닌 ‘일반인’을 보호하는 데 적합하지 않은 점도 지적했다. 따라서 초상권 법이 스칼렛 요한슨에게는 해당되지만, 16세 소녀에게는 해당되지 않을 수 있다.

초상권 법, 충분한 논의 이루어진 후 제정돼야

그러나 로즈는 초상권을 개인에게까지 확대하려는 법은 의도치 않은 결과를 초래할 수 있다며 섣불리 법을 제정하는 것에 조심해야 한다는 입장을 밝혔다. 미 의회에서는 초상권 법이 권력을 가진 기업에 의해 오용될 수 있다는 점을 우려했다. 예를 들어 스마트폰 애플리케이션의 서비스 약관에 사용자 사진을 사용할 수 있는 권리를 부여하는 조항을 넣을 수 있다.

권리를 보호하기 위해 제정된 법이 너무 지나치면 언론의 자유를 위협할 수 있다. 크레이그는 권리가 너무 광범위하면 표현의 자유가 제한된다는 점을 강조했다. 로즈는 저작권을 너무 광범위하게 인정하면 사람들이 영감을 얻어 새로운 것을 창조하고 문화적 대화에 기여하는 기회를 뺏을 수 있다는 점을 언급했다. 대표적인 예로 패러디가 있다. 패러디는 원작을 기반으로 사람들에게 많은 영감을 준다. 하지만 초상권 법이 지나치게 엄격하면 패러디가 사라질 위험에 처할 수 있다.

인공지능 시대에 초상권을 둘러싼 여러 논쟁이 오가고 있다. 인공지능은 유명인 사진과 목소리를 사용하는 것뿐만 아니라 일반인 사진과 목소리도 학습에 활용하고 있다. 어디까지가 ‘초상권 침해’이고 어디까지가 ‘기술 발전’인지 경계가 불분명한 상황이다. 인공지능 시대에 맞는 초상권 법이 필요한 시점이다. 하지만 너무 광범위한 초상권 인정은 기술 발전을 더디게 할 수 있다는 점도 반드시 고려해야 한다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

EPL 2023-24 맨시티 우승과 상위 4팀 중 3팀을 맞추는 등 높은 적중률 보인 AI
단순 승패 예측 결과보다 각 결과의 확률 예측이 얼마나 정확했는지 평가해야
재정 위반 혐의 등 예측 불가능한 변수는 현 모델의 한계로 작용

킥오프(Kickoff.ai)의 AI 모델은 2023-24 잉글랜드 프리미어리그에서 맨체스터 시티(이하 맨시티)의 우승을 정확히 예측했다. 또한 상위 4팀 중 3팀을 맞추는 등 대체로 높은 적중률을 보여 눈길을 끌었다.

하지만 하위권 팀들의 예측은 다소 부정확했는데, 번리의 강세를 예상했지만 실제로는 강등권에 머물렀고, 본머스와 노팅엄포레스트의 강등을 예측했으나, 두 팀 모두 중하위권으로 마무리하는 등 예상치 못한 결과가 발생했다.

모델 성능 평가 지표, 단순 정확도만 고려하면 안 돼

"공은 둥글다"라는 말처럼, 축구에는 언제나 예상치 못한 변수가 발생한다. 킥오프의 AI 모델은 애스턴빌라가 빅4에 진입할 확률을 13%로 예측했지만 토트넘, 맨체스터유나이티드 등 강팀들을 제치고 4위에 올라서는 이변이 연출됐다. 2022년 11월에 부임한 우나이 에메리 감독의 역할이 절대적이었다.

지금도 감독 교체, 선수 부상, 팀 전술 변화 등 다양한 요인들이 팀 성적에 영향을 미치고 있다. 이러한 불확실성을 반영하기 위해 킥오프의 예측 모델은 단순히 승/무/패 결과만 예측하는 것보다 각 결과의 확률을 예측하는 방식을 고안했다. 또한 베이지안 추론 기법을 활용해 기존의 팀 전력 정보와 새롭게 관찰되는 데이터를 결합함으로써 팀 전력 변화를 동적으로 학습하고, 예측 결과를 확률 분포로 나타낼 수 있게 됐다.

확률 기반 예측 방식에 발맞춰 킥오프 AI는 모델 성능 평가에도 정확도뿐만 아니라 예측의 '자신감'까지 고려하는 로그 손실(log loss) 지표를 채택했다. 즉 단순히 정답을 맞힌 것(정확도, accuracy)을 넘어 얼마만큼 정확하게 맞췄냐에 대해 평가하기 위해 로그 손실 평가 지표를 활용한 것이다. 로그 손실은 모델이 예측한 확률이 실제 결과를 얼마나 잘 설명하는지를 나타내는데, 특히 모델이 확신을 가지고 틀린 예측을 할수록 더 큰 페널티를 부여한다. 로그 손실 값 자체는 해석하기 어려울 수 있지만, 여러 모델들의 로그 손실을 비교함으로써 어떤 모델이 더 좋은 예측 성능을 보이는지 판단하는 데 유용하게 활용된다.

AI 스포츠 예측, 맨시티 사례로 본 한계는?

사실 맨시티의 우승은 예상된 결과였다. 막대한 자본력을 바탕으로 스타 선수들을 영입하고, 명장 감독의 지휘 아래 EPL 3연패를 달성한 맨시티는 우승 후보 0순위로 꼽혔다. 킥오프 AI 모델에서도 맨시티의 우승 확률은 61%로, 다른 팀의 우승 확률을 크게 따돌리며 맨시티의 독주를 예측했다.

하지만 킥오프의 AI 예측에는 맨시티의 재정 위반 혐의와 같은 외부 변수가 고려되지 않았는데, 현재 맨시티는 115건의 재정 위반 혐의로 기소되어, 유죄 판결 시 막대한 승점 삭감으로 이어질 수 있는 상황이다. 이에 따라 만약 맨시티가 우승하지 못하는 이변이 발생한다면, 로그 손실로 인해 AI 모델의 신뢰성에 큰 타격을 줄 수 있다.

실제로 이번 프리미어 리그 시즌에서는 재정 문제가 순위에 큰 영향을 미쳤다. 에버튼과 노팅엄 포레스트는 리그의 '수익성 및 지속 가능성 규정(Profitability and Sustainability Rules, 이하 PSR)' 위반으로 승점을 잃었고, 각각 15위 17위를 기록하며 간신히 강등을 면했다. 게다가 에버튼은 추가적인 재정 불확실성에 직면해 있으며, 새로 승격한 레스터시티 역시 PSR 규정 위반으로 승점 삭감 가능성이 있다.

모델 개선을 위한 노력, 비정형 데이터 활용

킥오프 AI는 유로 2024와 같은 토너먼트 예측에도 AI 모델을 활용할 계획이다. 리그와 달리 토너먼트는 한 번의 패배로 탈락이 결정되는 특성상, 팀당 경기 수가 적어 예측 난이도가 높다.

이러한 어려움을 극복하기 위해 킥오프는 생성형 AI를 활용해 트위터 게시글 감정 분석, 부상 루머 등 비정형 데이터를 모델에 통합하는 방안을 모색하고 있다고 밝혔다. 이를 통해 모델은 더욱 다양한 정보를 학습하고 예측 정확도를 높일 수 있을 것으로 기대된다고 덧붙였다. 아울러 컴퓨터 비전 기술을 활용해 실시간 경기 분석을 통해 선수 움직임, 볼 위치, 팀 전략 등을 파악하고 더 정확한 예측을 제공하는 것을 목표로 한다고 강조했다.

한편 이제는 축구 경기 분석에 필수적인 요소로 자리 잡은 기대 득점(expected goals, 이하 xG)을 변수화해 AI 모델의 예측력을 향상시킬 수 있다는 기대도 높아지고 있다. xG는 슈팅 위치, 수비수의 위치와 숫자, 골키퍼의 위치, 슈팅 종류(헤딩, 발, 주발·약발 등) 등 다양한 요소를 고려하여 득점 기회의 질을 평가하는 지표로, xG를 모델에 반영하면 팀의 경기력을 더욱 정확하게 파악하고 예측 모델의 정확도를 높일 수 있을 것으로 전망된다.

축구 예측 AI 기술은 아직 발전 단계에 있지만, 끊임없는 연구와 기술 개발을 통해 더욱 정교해질 것이다. 앞으로 AI가 축구 경기 예측에 어떤 변화를 가져올지 기대되는 시점이다.

수학자들의 사회문제 연구 참여는 다양한 분야와의 협력과 소통을 통해 효과적으로 이뤄져
연구 결과 발표의 어려움, 경력 개발의 제약 등 연구 과정에서 현실적인 어려움에 직면할 수 있어
소통과 지원을 통해 어려움을 극복하고 수학자들의 사회문제 연구 참여를 적극적으로 지원해야

[해외 DS] 수학이 만드는 공정한 세상, 사회정의 연구에서의 데이터과학 접근 ①에서 이어집니다.

사회 정의(social justice) 연구에 뛰어들고자 하는 수학자라면 충분한 사전 조사와 함께 다양한 배경의 동료들과의 협업에 대비해야 한다. 영국 바스대학교의 응용 수학자 조나단 도스(Jonathan Dawes) 교수 또한 이러한 과정을 거쳤다.

도스 교수는 유엔의 지속가능발전목표(Sustainable Development Goals, 이하 SDGs)와 각 목표 간의 연관성을 밝히는 연구를 진행했다. SDGs는 2015년 유엔에서 채택된 17개의 지속가능발전목표와 169개의 세부 목표로 구성되어 있으며, 전 세계 빈곤 종식, 지구 보호, 2030년까지 모두의 평화와 번영을 보장하는 것을 목표로 한다.

이러한 SDGs 연구를 위해 도스 교수는 다양한 분야의 학술지를 탐독해야 했다. 각 저널의 "상이한 작성 방식"은 마치 "새로운 언어를 습득하는 것"과 같은 경험이었다고 그는 말했다. 또한 SDGs와 관련된 연구를 수행하는 연구자·기관의 결과를 지속적으로 검토하며 다양한 분야의 지식을 습득하고 협력해야 하는 중요성을 체감했다고 밝혔다.

생태계 먹이 사슬에서 확장된 SDGs 네트워크 분석

도스 교수는 개별 목표 달성이 전체 목표 달성에 미치는 영향을 분석한 한 리뷰 논문을 통해 SDGs에 관한 연구를 시작하게 됐다고 전했다. 예를 들어 빈곤 종식 목표를 달성하면 모두를 위한 양질의 교육 목표를 비롯한 나머지 15개 SDGs에 미치는 영향을 수학적으로 분석하는 데 집중했다.

"네트워크가 존재하고 연결 강도와 부호를 수치화할 수 있다면, 문제를 수학적으로 표현할 수 있다"고 그는 설명했다. 이는 생태계 먹이 사슬처럼 연결 관계 변화에 따른 네트워크 속성 변화를 설명하는 그의 이전 연구와도 연결되는 부분이며, 도스 교수는 이러한 논리적 틀을 SDG 네트워크에도 적용하여 계층 구조를 파악하고 전체 시스템의 건전성을 위해 우선시해야 할 SDGs를 밝히는 것을 목표로 삼았다.

그 결과 그의 연구는 SDGs 간의 상호 작용을 통해 "빈곤, 기아, 의료, 교육, 성평등 등에 긍정적인 강화 효과가 많다"는 것을 입증했다. 즉 하나의 목표 달성만으로도 다른 목표들을 향상시킬 수 있음을 밝혀냈다. 하지만 해양 관리·보호 항목은 예외였는데, 다른 SDGs를 달성하려는 노력이 해양 생물에 해를 끼치거나 진전을 방해할 수 있다는 결론을 얻었다. 도스 교수는 바로 이러한 이유로 수학을 통해 SDGs 간의 복잡한 상호 작용을 이해하고 최적의 균형점을 찾아 분석하고자 했다.

"초대받지 않은 손님"에서 핵심 연구원으로

사회 정의 프로젝트는 수학적 분석뿐 아니라 관련 연구자, 지역 사회 구성원들과의 협력도 중요하다. 도스 교수는 SDGs 연구 초기, 기존 전문가들의 견고한 네트워크에 진입하기 어려웠던 경험을 털어놓았다. 심지어 초대받지 않은 손님 같았다고 그는 회상했다. 하지만 꾸준히 소통하고 연구 결과를 공유하며 다양한 분야의 사람들이 함께 기여할 수 있다는 것을 깨달았다고 전했다.

수학 연구자들이 사회 정의 연구팀에 먼저 초대받는 경우에도 첫인상은 여전히 중요하다. 서호주대학교 데이터 연구소 소장이자 응용 수학자인 마이클 스몰(Michael Small) 교수는 동적 시스템 이론 전문가이지만, 요청을 받아 정신 건강 및 청소년 자살 연구 그룹에 참가하게 됐다. 자신의 전문 분야인 '비선형 역학' 연구와 사회 기여 가능성을 고려하여 협력을 결심한 그는, 이 프로젝트를 통해 숫자 너머를 보는 법을 배웠다고 한다.

스몰 교수는 아이들의 가족에게 있어 정신 건강 문제를 겪는 아이들은 단순한 통계 자료가 아니며, 정신 건강 전문가들 앞에서 수학적 성과만을 강조하는 것은 오히려 반발을 살 수 있다고 설명했다. 대신 다른 분야 전문가들의 의견에 귀 기울이고 협력하는 자세가 중요하다는 것을 강조하며, 이러한 경험을 통해 호주 원주민 정신 건강 프로젝트 등 다른 사회 문제에도 참여할 수 있는 계기가 되었다고 밝혔다.

사회 정의 연구는 수학자의 경력에 독이 될까?

수학자들이 사회 문제 해결에 참여하는 것은 실질적인 변화를 만들어내는 데 기여할 수 있다는 점에서 큰 의미를 지닌다. 스몰 교수는 세상에 도움이 되는 문제를 연구하고 싶다는 열망을 밝히며, 이러한 연구는 기술적 측면과 사회적 의미 모두에서 가치 있다고 강조했다.

하지만 사회 정의 연구를 진행하는 것은 현실적인 어려움을 동반하는 선택이다. 스몰 교수는 연구 결과를 논문으로 발표하는 데 어려움을 토로하며, 논문 실적 부족이 연구자의 경력에 부정적인 영향을 미칠 수 있다고 지적했다. 또한 수학과 정신 건강 연구 사이에서 균형을 찾는 것 역시 쉽지 않다고 덧붙였다.

게다가 사회 정의 연구에 대한 지원이 있더라도 종신 재직 심사에 반영되지 않거나 취업 시장에서 인정받지 못하는 경우도 있다. 이에 앞서 사회 정의 연구에 뛰어든 수학 연구진들은 연구 시작 전 지원 가능 여부를 확인하고, 추천서 작성자들이 해당 연구를 학문적 성과로 인정할지 솔직하게 질문하는 것이 중요하다고 조언했다.

결론적으로 수학자들의 사회 문제 연구 참여는 우리 사회에 긍정적인 영향을 가져올 수 있다는 게 학계의 공통된 의견이다. 수학자들이 사회 문제 해결에 적극적으로 참여할 수 있도록 제도적 지원과 정책 마련이 뒷받침된다면, 수학은 세상을 더 나은 곳으로 변화시키는 데 중요한 역할을 할 수 있을 것으로 기대된다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

수학, 사회 정의 문제 해결에 적극 활용돼
데이터 분석과 모델링으로 불평등과 차별 해결에 기여
다양한 분야와 협업 필수, 때론 새로운 기술 적응도 필요해

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

수학 하면 떠오르는 이미지는 무엇일까? 복잡한 공식, 칠판 가득한 숫자, 골치 아픈 문제 풀이 등이 가장 먼저 생각날 수 있다. 특히 일상생활과는 거리가 멀어 보이는 기호와 숫자 때문에 "수학은 실생활에 쓸모없다"라고 말하는 사람들도 많다.

하지만 최근 수학계는 이러한 고정관념을 깨고 사회 정의(social justice) 문제 해결에 적극적으로 나서고 있다. 수학자들이 가진 데이터 분석 능력, 논리적 사고, 모델링 기술이 불평등, 차별, 질병 확산과 같은 사회 문제 해결에 강력한 도구로 활용되고 있는 것이다.

복잡해 보였던 기호와 숫자는 사실 복잡한 사회 현상을 모델링하고 이해하는 데 쓰인다. 더 나아가 수학은 사회 현상뿐만 아니라 물리 현상 등 사람이 분석하고 싶은 것을 가능하게 하는 유용한 도구이자 계량적인 표현 방법이기도 하다.

수학과 사회 정의의 접점

이러한 변화를 이끄는 대표적인 인물 중 한 명이 바로 캐리 디아즈 이튼 교수(Carrie Diaz Eaton)다. 현재 미국 베이츠대학에서 인종적으로 공정하고 포용적인 STEM(과학·기술·공학·수학) 교육 연구소의 전무이사를 맡고 있는 이튼 교수는 수학자로 훈련받아, 자신의 경력이 사회 정의 연구와 관련될 것이라고는 예상하지 못했다고 한다.

하지만 지역 사회 환경 보존과 소외된 지역 사회 지원에 초점을 맞춘 프로젝트에 참여하면서, 이튼 교수는 자신의 수학적 사고방식이 중요한 역할을 하는 것을 경험했다. 날카로운 분석적 시각과 개연성 높은 스토리텔링을 바탕으로 데이터 분석, 데이터 과학, 그리고 시각화 기술을 이용하여 지역 주민들이 필요한 의료 서비스를 선택할 수 있도록 돕는 퀴즈 프로그램을 만든 것이다.

수학이 사회 정의 연구와는 어울리지 않아 보일 수 있지만, 이튼 교수의 사례는 엄밀한 수학적 접근 방식이 사회 문제에 대한 효과적인 해결책을 찾는 데 유망한 방법임을 보여줬다. 이튼 교수는 수학자들이 사회 정의 연구를 통해 복잡하고 어려운 문제를 해결하는 과정에서 보람을 느끼고 있으며, 이러한 노력은 사람과 지구를 위한 실질적인 해결책을 만들어내는 데 큰 잠재력을 가지고 있다고 덧붙였다.

백신 접종률부터 인종차별까지, 다양한 분야에서 활약하는 수학자들

이러한 흐름 속에서 수학 연구자들은 사회 문제 해결에 다양한 방식으로 기여하고 있다. 사회 불평등, 의료 서비스 접근성부터 인종 프로파일링 및 예측 치안에 이르기까지, 수학자들은 우리 사회의 다양한 문제에 뛰어들고 있다.

미국 소노마주립대학교의 오마이라 오르테가(Omayra Ortega) 응용수학 교수는 지역 사회별 백신 접종률에 영향을 미치는 요인을 분석하여 이집트의 로타바이러스 백신 프로그램이 5년 안에 질병 부담을 줄이고 백신 비용을 76%를 상쇄할 수 있다는 결과를 얻었다. 오르테가 교수는 "자원 분배에 있어 누가 자원을 얻는가 하는 사회 정의 문제가 항상 따라붙는다"며, 수학 연구가 사회 정의 실현에도 기여할 수 있음을 강조했다.

또 다른 예로, 미국 로욜라 메리마운트대학교의 릴리 카자비(Lily Khadjavi) 수학 교수는 로스앤젤레스 경찰국(LAPD)의 교통 단속 데이터를 분석하여 흑인 남성 운전자에 대한 차량 검문 비율이 다른 인종에 비해 3배 이상 높다는 사실을 밝혀냈다. 카자비 교수의 연구는 인종 차별적 프로파일링과 경찰 관행을 검토하는 연구를 시작하는 중요한 계기가 되었으며, 현재 카자비 교수는 캘리포니아 인종 식별·프로파일링 자문 위원회에서 활동하며 인종 프로파일링 근절을 위한 정책 권고에 힘쓰고 있다.

데이터 접근과 협업의 중요성, 그리고 수학자들의 새로운 도전

물론 수학자들이 사회 정의 문제 해결에 기여하기 위해서는 충분한 데이터 확보와 다양한 분야의 전문가들과 협업이 필수적이다. 데이터는 사회 현상을 분석하고 해결책을 찾는 데 중요한 역할을 하지만, 개인정보 보호 문제나 협업 부족으로 인해 접근이 제한될 수 있다. 또한 사회 문제는 복잡하고 다양한 요인이 작용하기 때문에, 수학자들뿐만 아니라 사회학자, 정책 전문가, 현장 활동가 등 다양한 분야 전문가들과의 협력이 필요하다.

아울러 사회 과학 연구의 데이터 집약적 특성상 일부 수학자에게는 새로운 기술을 개발하고 문제에 다르게 접근해야 하는 노력이 요구될 수 있다. 미국 미시간대학교 디어본 캠퍼스에서 수 이론과 표현 이론을 전공한 수학자 티안 안 웡(Tian An Wong) 교수는 범죄 예측 시스템인 '예측 치안' 기술의 효과성 검증 연구를 위해 통계와 데이터 분석 기술을 새롭게 익혀야 했다. 이를 위해 웡 교수은 온라인 통계 입문 과정을 수강하고, 파이썬 프로그래밍 언어를 배우고, 통계적으로 훈련받은 동료들과 교류했으며, 여러 분야의 연구 논문을 읽는 데 익숙해지기 위해 노력했다고 전했다.

수학자들이 사회 문제 해결에 적극적으로 참여하는 것은 학문적 경계를 넘어 사회적 책임을 다하는 모습을 보여주는 좋은 사례다. 이러한 노력은 수학에 대한 사회적 인식을 개선하고, 더 나아가 수학이 세상을 바꾸는 힘이 될 수 있다는 가능성을 제시한다.

[해외 DS] 수학이 만드는 공정한 세상, 사회정의 연구에서의 데이터 과학 접근 ②로 이어집니다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

KAN, 정확한 함수 정의하여 재현 가능한 결과 도출해
수학·물리 전반에 걸쳐 뛰어난 성능 보여
최적화를 통해 점차 느린 학습 속도 개선해나갈 것

[해외 DS] CNN의 대체 주자 KAN, 설명가능한 신경망 모델 등장하나 ①에서 이어집니다.

기존 신경망 모델은 복잡한 데이터인 경우 함수를 정의하기 어려워 근사치를 찾았다. 함수를 정의하지 않고 근사치를 찾을 경우 목표하는 값에 도달할 수 있으나, 다른 데이터를 넣었을 때 어떤 결괏값이 나올지 예상할 수 없다는 단점이 있다. 새롭게 등장한 KAN(Komogolov-Anold Network)은 함수를 정의해 결괏값을 추적할 수 있어 많은 기대를 받고 있다.

KAN을 뒷받침하는 이론 ‘콜모고로프-아놀드 표현 정리’

KAN은 콜모고로프-아놀드 표현 정리를 기반으로 한 모델이다. 이 정리는 1960년대에 수학자 블라디미르 아놀드와 안드레이 콜모고로프가 만들었으며 복잡한 함수를 근사치가 아닌 정확한 ‘함수’로 표현할 수 있다는 것이다. 이 정리에 따르면, 복잡한 함수를 일변수 함수의 합으로 표현할 수 있다. 예를 들어 y = g1(x1) + g2(x2) + g3(x3) 으로 나타낼 수 있다. 정확한 함수를 정의할 수 있다는 점이 기존 신경망 모델과 다르며 이로 인해 새로운 신경망 모델은 결과를 재현할 수 있다.

최근 MIT 물리학자 지밍 류가 이끄는 팀은 콜모고로프-아놀드 표현 정리를 이용해 KAN을 개발했다. 이 정리는 신경망 커뮤니티에서 낯선 개념이 아닌데, 1980년대와 1990년대에 전문가들이 이 접근법을 시도했으나 직접 구현하는 데 실패했기 때문이다. 그러나 최근 연구진은 성공적으로 구현하여 모델을 개발했다.

기존 신경망 모델과 달리 결과 추적할 수 있어

KAN은 기존 신경망 모델의 구조와 유사하다. 차이점은 가중치에 고정된 값이 아닌 w(x)처럼 함수로 표현된다는 점이다. 다시 말해 시냅스의 가중치는 뉴런에 따라 달라진다. 따라서 KAN은 가중치에 고정된 수가 아니라 시냅스에 어떤 함수를 적용하는 방식으로 학습한다. 이론적으로 이 방식은 복잡한 함수를 표현하는 것이 가능해, 인공지능을 사용하여 높은 정확도를 얻을 수 있다. 게다가 가중치를 함수로 표현하면 모델이 어떻게 작동하는지 이해할 수 있다는 장점이 있다. 예를 들어 함수의 그래프를 보며 입력에 따라 출력이 어떻게 달라지는지 추적할 수 있다. 하지만 KAN에도 중요한 단점이 있다. KAN은 학습 과정에서 한 변수마다 함수를 찾아야 하므로 학습 단계가 훨씬 복잡하며 학습 시간이 오래 걸린다.

KAN, 수학·물리학 등 여러 분야에서 MLP보다 나은 성능 보여

연구진은 KAN과 기존 모델인 다층 퍼셉트론(Multi Layer Perceptron, MLP)의 성능을 비교했다. 첫 번째 비교로 데이터를 주고 그에 맞는 함수를 찾는 작업을 수행했다. 그 결과 일반적으로 KAN이 MLP보다 훨씬 빠르게 함수를 찾아냈다. 두 번째로 물리학에서 중요한 역할을 하는 편미분 방정식을 푸는 작업을 비교했다. 이 편미분 방정식은 정확한 해가 알려져 있지 않아 컴퓨터 계산을 통해 해를 찾아야 하는 수식이다. 비교 결과, KAN이 MLP보다 더 정확한 결과를 얻었다.

마지막으로 연구진은 매듭 이론에서 KAN의 성능을 확인했다. 이 이론의 주요 질문 중 하나는 매듭의 서로 다른 2차원 표현이 실제로 동일한 매듭에 해당하는지 알아내는 것이다. 2021년 호주 시드니 대학교의 지오디 윌리엄슨 팀은 신경망 모델을 이용해 이 문제를 해결했으며 새로운 연관성도 찾아냈다. 그러나 KAN은 더 적은 노력으로 똑같은 결과를 만들어 냈다. 윌리엄슨 팀은 약 30만 개의 파라미터로 신경망을 학습시켰으나, 류 팀은 단 200개의 파라미터로 더 나은 결과를 보였다.

새롭게 등장한 신경망 모델 ‘인공지능 혁명’ 일으킬 수 있을까

류 팀은 새로운 신경망 모델을 수학과 물리학에서 LLM 개선까지 다양한 문제에 적용할 수 있다며 희망찬 미래를 예상했다. 또한 인공지능 커뮤니티에서는 머신러닝의 새로운 시대가 왔다며 기대감을 드러냈고, 소프트웨어 개발자인 로한 폴은 KAN이 인공지능에 큰 변화를 불러일으킬 것이라고 언급했다.

그러나 KAN은 실제로 사용될 때까지 성능을 확신할 수 없다. 커스팅은 KAN이 MLP가 잘 작동하는 영역에서도 좋은 성능이 나와야 KAN을 믿을 수 있다는 점을 강조했다. 적절한 비교 없이는 KAN이 유망한 대안인지 확신하기 어렵다는 입장이다.

KAN의 가장 큰 문제점은 느린 학습 속도다. 같은 매개변수에 대해 KAN은 MLP보다 약 10배 더 학습하는데 오래 걸린다. 따라서 매우 긴 학습 시간이 필요한 LLM에 이 접근법을 사용하면 문제가 될 수 있다. 하지만 류는 아직 효율성을 최적화하지 않아 학습 속도가 느릴 뿐, 최적화를 통해 점차 학습 속도를 늘려갈 수 있다는 입장이다. 현재 KAN은 엄청난 관심을 받고 있는 만큼 이 약점은 빠른 시일 내에 개선될 수 있을 것이라는 평가를 받고 있다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

테크 기업, 챗봇 근본적인 문제 고치지 않고 출시하는 것에만 몰두해
보편 근사 정리에 따르면 신경망 모델로 원하는 함수의 근사치 구할 수 있어
하지만 막대한 자원이 필요하며 해석 불가능하다는 한계 가져

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

ChatGPT는 챗봇 전쟁의 신호탄 역할을 했다. 오픈AI가 대형언어모델(Large Language Model, LLM)기반 챗봇인 ChatGPT를 선보인 이후 테크 기업은 너도나도 할 것 없이 빠르게 챗봇을 개발했다. 메타는 2023년 초에 라마를 출시했으며 구글은 발 빠르게 바드를 선보였다. 하지만 챗봇의 고유한 문제점인 ‘환각’ 증상은 고쳐지지 않은 채 출시에만 힘을 쏟고 있는 상황이다. 최근 등장한 KAN(Komogolov-Anold Network)은 신경망 모델이 갖는 한계를 극복할 수 있을 것이라는 평가를 받고 있다.

신경망 모델의 한계 ‘해석 불가능’

LLM이 홍수처럼 쏟아져나오고 있지만, LLM이 갖는 한계도 명확하다. 모델을 학습하기 위해서는 많은 시간과 컴퓨팅 자원을 사용해야 하며 결과가 어떻게 도출됐는지 알 수 없다. 사용자가 챗봇에 무언가를 입력하면 중간 과정 없이 결과를 내놓는다. 따라서 인공지능 모델이 만든 결과물이 ‘환각’인지 의미 있는 결과인지 파악하기 어렵다. 결과물이 의미 있는 답변인지 아닌지는 사용자가 판단해야 할 몫으로 떠넘긴다.

여러 기업에서는 인공지능 모델의 문제점을 해결하기 위해 더 많은 데이터로 학습시키거나 수학 문제 풀이와 같이 특정 작업에 최적화하는 방법을 꾀한다. 그러나 이러한 시도는 모델의 기본 원리를 바꾸지 못해 근본적인 문제점을 해결할 수 없다. LLM을 포함한 대부분 인공지능 모델은 ‘신경망’ 알고리즘을 기반으로 하기 때문이다. LLM의 근간이 되는 신경망 모델에 대해 자세히 알아보자.

인간 뇌를 본뜬 신경망 모델

신경망 모델은 뇌 신경망에서 영감을 얻었다. 뇌에는 여러 뉴런이 있으며 시냅스로 연결되어 있다. 이를 본떠 신경망 모델은 여러 개의 뉴런으로 배열되어 있으며 시냅스로 연결되어 있는 구조다. 신호는 앞에서 뒤로 전파되며 각 층에서 처리된다. 신경망 모델이 유행하기 전에는 의사 결정 트리와 SVM(Support Vector Machine) 등 다양한 머신러닝 알고리즘이 있었으나, 2010년대 이후 대다수 애플리케이션에서 신경망 모델로 통합되었다. 신경망 알고리즘 아이디어는 1950년대에 등장했으나 주목받지 못하고, 컴퓨터 성능이 폭발적으로 향상된 2010년대 들어서야 빛을 봤다.

그럼 신경망 모델은 어떻게 학습할까? 입력 값(데이터)은 첫 번째 층의 ‘뉴런’으로 전송된다. 그런 다음 ‘시냅스’의 가중치를 곱하고 결과가 특정 임곗값을 넘으면 다음 층으로 전달한다. 이 작업을 최종 층에 도달할 때까지 반복한다. 학습하는 동안 신경망은 원하는 출력을 생성하도록 시냅스의 가중치를 조정할 수 있으며 안정적인 결과를 도출하기 위해서는 많은 데이터가 필요하다.

신경망 모델을 뒷받침하는 '보편 근사 정리'

신경망 모델은 어떻게 다른 머신러닝 모델을 제치고 강력한 모델로서 자리를 잡았을까? 예를 들어 손글씨 숫자 이미지를 인식하는 작업을 맡았다고 가정하자. 입력 데이터는 이미지 픽셀이 되고 최종 출력은 0~9중 한 가지 값이다. 수학적으로 표현하면 y=f(x1, x2, x3, ...)로 나타낼 수 있다. 하지만 간단한 데이터가 아닌 이미지 픽셀 데이터로 손글씨를 인식하는 함수를 찾을 수 있을까? 안타깝게도 함수를 찾아내기란 불가능에 가깝다. 따라서 우리는 근사치를 찾는 것에 만족해야 하는데, 보편 근사 정리(Universal Approximation Theorem)에 따르면 신경망 모델은 복잡한 함수의 근사치를 찾을 수 있다.

이 정리는 신경망 모델이 원하는 정확도로 어떤 함수를 근사할 수 있다는 정리다. 신경망을 수학적으로 표현하면 간단하다. 뉴런(데이터)에 시냅스(가중치)를 곱하는 작업을 무수히 많이 한 것이다. 간단한 작업으로 원하는 함수를 근사할 수 있다는 것이 신경망 모델의 힘이다. 게다가 최근 몇 년 동안 전문가들은 특정 유형의 함수를 근사하기 위해 신경망이 구성해야 하는 최소한의 층 수를 증명했다.

해석 가능한 신경망 모델 등장

기존 신경망 모델은 근사치를 찾을 수 있다는 큰 장점이 있지만, 정확한 함수를 정의하지 못해 모델을 해석할 수 없다는 한계를 갖는다. 이것이 우리가 신경망 모델을 ‘블랙박스’라고 부르는 이유다. 하지만 최근 MIT 물리학자 지밍 류가 이끄는 팀은 기존 신경망 모델을 뛰어넘는 모델을 개발한 것으로 알려졌다. 연구진은 이른바 'KAN'이라고 불리는 모델을 개발했다. 이 모델의 가장 큰 장점은 기존 신경망 모델과 달리 결과를 재현할 수 있다는 점이다. 전문가들은 KAN을 LLM에 통합하여 성능을 향상시킬 뿐만 아니라 결과를 해석하는 챗봇이 나오길 기대하고 있다. 다음 글에서 KAN 모델이 어떻게 신경망 모델이 가진 한계를 극복했는지 알아보자.

[해외 DS] CNN의 대체 주자 KAN, 설명가능한 신경망 모델 등장하나 ②로 이어집니다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

GPT-4V, 실제 픽셀 색상 대신 사람이 인지하는 색상을 묘사
챗봇도 인간처럼 주관적으로 색상을 해석했을 가능성 시사해
착시 연구를 통해 인간 시각 인지와 AI 작동 방식을 더 잘 이해할 수 있을 것으로 기대돼

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

2015년 인터넷을 뜨겁게 달궜던 '파랑-검정 vs 흰색-금색 드레스' 사진은 사람마다 색깔을 다르게 인지해 화제가 됐었다. 미국 위스콘신-매디슨대학의 디미트리스 파파일리오풀로스(Dimitris Papailiopoulos) 컴퓨터공학 교수는 착시를 일으키는 이 사진을 떠올리며 흥미로운 실험을 시작했는데, 오픈AI의 챗GPT와 구글의 제미나이와 같은 챗봇이 인간의 뇌를 속이는 착시 현상에 어떻게 반응할지 궁금했던 것이다.

인간의 시각 시스템은 다양한 조명 조건에서도 물체를 일관된 색상으로 인식하도록 진화해 왔다. 때문에 한낮의 밝은 햇빛 아래에서도, 주황빛 노을 아래에서도 나뭇잎은 녹색으로 보인다. 이러한 적응력 덕분에 우리 뇌는 다양한 방식으로 착시를 일으키는 색상을 보게 된다. 아델슨의 체커그림자 착시, 빨간색이 없는 코카콜라 캔이 빨갛게 보이는 착시 등이 대표적인 예다.

파파일리오풀로스 교수는 시각 프롬프팅에 특화된 GPT-4V를 이용한 일련의 실험을 통해 챗봇 역시 인간과 동일한 착시 현상에 속는다는 사실을 발견했다. 챗봇은 이미지의 실제 픽셀 색상보다 사람이 인지하는 색상에 기반하여 이미지를 묘사하는 경향을 보였다. 예를 들어 파란색 필터가 적용되어 실제로는 파란색과 녹색 값이 큰 연어회 사진을 보고도 챗봇은 이를 분홍색으로 인식했다. 이는 챗봇이 학습 데이터에 포함되지 않은, 파파일리오풀로스 교수가 직접 제작한 '색 항상성 착시' 사진에도 똑같이 반응한 결과로, 챗봇이 인간처럼 시각적 착각을 일으킨다는 것을 보여줬다.

인간처럼 색깔을 주관적으로 해석해

파파일리오풀로스 교수는 "이번 실험은 공식적인 연구는 아니었고, 단순한 호기심에서 시작된 실험이었다"라며, 해당 결과에 대한 명확한 설명은 아직 찾지 못했다고 전했다. 처음에는 챗봇이 이미지 데이터 처리 과정에서 원본 이미지를 수정하는 것이 아닐지 의심했지만, OpenAI 측은 GPT-4V가 이미지를 해석하기 전에 색온도나 다른 특징을 조정하지 않는다고 밝혔다. 이에 파파일리오풀로스 교수는 챗봇이 인간의 뇌처럼 이미지 속 물체들을 서로 비교하고 픽셀을 평가하여 문맥에 맞게 색상을 해석하는 법을 학습했을 가능성이 있다고 추측했다.

캐나다 맥길대학의 블레이크 리처드(Blake Richards) 컴퓨터과학·신경과학 교수 또한 이러한 주장에 동의하며, 챗봇이 인간처럼 물체를 식별하고 해당 유형의 물체가 일반적으로 어떻게 보이는지에 따라 색상을 해석하는 방법을 학습했을 수 있다고 설명했다. 또한 AI 모델이 이미지 속 색깔을 미묘하게 해석하는 방식은 인간의 시각 인지 과정을 이해하는 데 중요한 단서가 될 수 있다. 리처드 교수는 AI 모델이 방대한 데이터를 학습하며 색깔을 주관적으로 해석하는 현상은, 인간 역시 비슷한 학습 과정을 통해 색깔을 주관적으로 인식하게 된다는 것을 시사할 수 있다며, 인간과 기계의 시각 인식 능력이 생각보다 유사할 수 있다고 바라봤다.

챗봇이 항상 인간처럼 행동하는 것은 아니다. 최근 연구 결과에 따르면 챗봇은 때로는 인간처럼 착각에 빠지기도 하지만, 때로는 논리적인 판단을 내리거나 전혀 엉뚱한 답변을 내놓기도 한다. 사실 인간과 AI는 생각하는 방식이 근본적으로 다르다. 인간의 뇌는 정보를 앞뒤로 주고받는 복잡한 연결망으로 이루어져 있어, 외부 정보를 바탕으로 정보의 빈틈을 채우고 추론하는 능력이 뛰어나다. 반면 대부분의 AI 모델은 정보가 입력에서 출력으로 한 방향으로만 흐르는 단순한 구조로 설계되어 있어, 인간과 같은 방식으로 정보를 처리하지 못한다.

물론 인간의 뇌처럼 정보를 순환시키는 신경망 모델도 있지만, 대다수의 머신러닝 모델은 순환적인 양방향 연결을 갖도록 설계되지 않았다. 가장 널리 쓰이는 AI 모델은 정보가 입력에서 출력으로 한 방향으로만 흐르는 '피드포워드(feed-forward)' 방식이라 인간의 복잡한 사고 과정을 완벽히 따라잡지 못한다. 하지만 AI 시스템이 착시 현상에 어떻게 반응하는지 알고 나면, 착시 현상 연구를 통해 현재 널리 사용되는 단방향 AI 모델의 한계를 명확히 파악하고, 나아가 인간처럼 정보를 종합적으로 처리하는 AI 모델 개발에 필요한 요소들을 발견할 수 있을 것으로 기대된다.

착시 연구 통해 인간 시각 인지 과정과 AI 작동 방식을 엿보는 게 핵심

최근 4개의 오픈 소스 비전-언어 멀티모달 모델을 평가한 연구팀은 모델의 크기가 잠재적인 요인 중 하나라고 주장했다. 연구 결과에 따르면 더 많은 가중치와 변수를 사용하여 개발된 모델이 작은 모델보다 착시 현상에 대한 인간의 반응과 더 유사하게 반응했다고 한다.

하지만 전체적으로 연구자들이 실험한 AI 모델은 이미지 내 착시 요소를 정확하게 파악하는 데 뛰어나지 않았고 (평균 정확도 36% 미만), 인간의 반응과 일치하는 경우는 평균적으로 16%에 불과했다. 또한 모델이 특정 유형의 착시 현상에 대해서는 다른 유형보다 인간의 반응을 더욱 밀접하게 모방한다는 사실도 발견했다.

이와 비슷한 착시 실험을 진행한 아마존웹서비스(AWS) AI 랩의 응용 과학자인 와시 아마드(Wasi Ahmad)는 AI 시스템이 착시 현상을 해석하는 능력 차이는 정량적 추론과 정성적 추론 중 어떤 것이 요구되는지에 따라 달라질 수 있다고 분석했다. 인간은 두 가지 추론 모두 능숙하지만, 머신러닝 모델은 쉽게 측정할 수 없는 것에 관한 판단을 내리는 데에는 덜 익숙할 수 있다고 그는 덧붙였다. AI 시스템이 해석을 잘하는 세 가지 착시 유형은 모두 주관적인 인식뿐 아니라 정량적으로 측정 가능한 속성을 포함하고 있었다.

이러한 AI 시스템의 특성은 인간의 편향을 복제할 수도, 완화할 수도 있다는 점에서 책임감 있는 활용을 요구한다. 같은 관점에서 자연어 처리와 인간-로봇 상호작용을 연구하는 미국 미시간대학교의 조이스 차이(Joyce Chai) 컴퓨터과학 교수는 AI 시스템을 책임감 있게 활용하려면 인간의 경향이 어디에서 복제되고 어디에서 복제되지 않는지뿐만 아니라 AI 시스템의 취약점과 약점을 이해해야 한다고 설명했다. "모델이 인간과 일치하는 것은 좋을 수도 있고 나쁠 수도 있다"라며, 어떤 경우에는 모델이 인간의 편향을 완화하는 것이 바람직한데, 방사선 이미지를 분석하는 AI 의료 진단 도구는 시각적 오류에 취약하지 않아야 한다고 예시를 들었다.

하지만 때로는 AI가 인간의 편향을 모방하는 것이 유익할 수도 있다. 예를 들어 자율주행 자동차에 사용되는 AI 시각 시스템이 인간의 실수와 유사하게 작동하도록 설계한다면, 차량의 실수를 예측하고 이해하기 쉽게 만들 수 있다. 이에 대해 리처드 교수는 "자율주행 자동차의 가장 큰 위험은 실수를 저지르는 것이 아니다. 인간은 항상 운전 중에 실수한다"고 말하며, 오히려 기존 도로 안전 시스템이 처리할 준비가 되어 있지 않은 자율주행차의 "이상한 오류"를 우려했다.

OpenAI의 GPT-4V와 같은 대규모 머신러닝 모델은 설명 없이 결과만 제공하는 불투명한 시스템, 즉 '블랙박스'로 불리곤 한다. 하지만 인간에게도 익숙한 착시 현상은 이러한 블랙박스 내부를 들여다볼 수 있는 창을 제공할 수 있을 것이라고 전문가들은 기대하고 있다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

인공지능을 활용한 무인 시스템, 국방·운송·자동차 등 사용범위 점차 늘려가
무인 시스템이 성장하는 만큼 무인 시스템 취약점을 노리는 ‘지향성 에너지 무기’도 같이 성장해
지향성 에너지 무기에 교란당하지 않으려면 무인 시스템 설계 단계에서부터 취약점 고려해야

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 글로벌AI협회 연구소(GIAI R&D)에서 콘텐츠 제휴가 진행 중입니다.

인공지능을 활용한 무인 시스템이 산업에서 점차 많이 사용되고 있다. 이에 무인 시스템의 취약점을 노리는 무기도 함께 성장하고 있는 것으로 알려졌다. 대표적인 무기로는 ‘지향성 에너지 무기’가 있다. 지향성 에너지 무기는 무인 시스템의 전자 센서를 교란시켜 무인 시스템에 문제를 일으킨다. 인공지능 시대를 맞이한 만큼, 인공지능의 반격 무기인 지향성 에너지 무기에 대한 이해가 중요해지고 있다.

인공지능 천적, 지향성 에너지 무기

인공지능을 이용한 무인 시스템이 널리 활용되는 추세다. 실제로 미국 공군 장관은 인공지능의 조종을 받으며 F-16을 타고 캘리포니아 사막 상공에서 모의 공중전을 벌였다. 또한 자동차 제조업체에서는 자율주행 자동차를 공급하기 위해 경쟁을 벌이고 있으며 노르웨이에서는 선원이 없는 화물선이 비료를 운반하고 있다. 위 사례는 모두가 무인 시스템을 이용할 수 있는 시대가 오고 있음을 시사한다.

무인 시스템이 빠르게 성장하면서 ‘지향성 에너지 무기’에 대한 이해가 중요해졌다. 여기서 지향성 에너지 무기란 한 곳에 에너지를 집중시켜 강력한 빔을 쏘는 무기를 말한다. 지향성 에너지 무기는 무인 시스템에 의존하는 센서와 전자 장치를 파괴할 힘을 가지고 있어 무인 시스템을 위협하는 존재다. 예를 들어 총과 미사일은 물론 통신기기, 레이더, 미사일 추적기도 방해할 수 있다. 일부 무기는 이미 현장에 배치되었으며 다른 무기는 테스트를 진행한 후 배치시킬 예정이다. 공상 과학 소설에서나 등장했던 지향성 에너지 무기가 현실로 다가오고 있다.

지향성 에너지 무기는 일반적으로 고에너지 레이저 또는 고출력 마이크로파 시스템의 형태를 갖는다. 레이저 무기는 마이크로파 무기보다 장거리의 표적을 공격할 수 있지만, 한 번에 한 표적만 맞출 수 있다. 반면 마이크로파 무기는 넓은 영역을 공격할 수 있어 여러 표적을 동시에 타격하기 유리하다. 따라서 마이크로파 무기는 러-우 전쟁에서 사용되는 드론을 격추시키는 데 유용하게 쓰인다.

인공지능을 이용한 무인 시스템은 레이저 공격에 특히 취약하다. 무기용 레이저 뿐만 아니라 상용 레이저로 무인 시스템을 교란시킬 수 있을 정도로 레이저에 쉽게 무너진다. 지향성 에너지 무기는 무인 시스템을 포함한 전자 시스템을 손상시킬 목적으로 개발되었다. 심지어 지향성 에너지 무기는 전력망의 제어 장치부터 사물 인터넷에 전력을 공급하는 전자 장치까지 교란시킬 힘을 가지고 있다. 예를 들어 마이크로파를 드론에게 쏘면 마이크로파를 맞은 드론은 전자 시스템에 교란이 생겨 추락한다.

무인 시스템 설계단계에서부터 반격 무기 고려해야

‘블랙박스’라고 불리는 인공지능은 실체를 알기 어려운 존재다. 따라서 인공지능 시스템을 완전히 이해한 채 만들 수 있을지에 대해 많은 논쟁이 오가고 있다. 자율주행 자동차 제조업체는 무인 기능을 달성하기 위해 다양한 유형의 센서를 사용한다. 예를 들어 테슬라는 최근 자율주행 차량에 광학 카메라만 사용한다. 반면 알파벳의 자율주행 택시인 웨이모는 레이더, 라이더(LiDAR), 카메라를 조합하여 사용하고 있다.

드론 센서에도 비슷한 논쟁이 벌어지고 있다. 기술 개발자는 최첨단 기술을 발전시키는 데만 집중하여 미래의 전자기 동향을 고려하지 않고 있다는 비판을 받고 있다. 전문가들은 시스템 설계 단계에서 전자기 동향을 고려해야 저비용으로 기술을 개발할 수 있다는 점을 강조한다. 기능이 이미 가동된 후에 전자기를 뜯어 고치는 일은 훨씬 더 비싸며 어려운 작업으로 심지어 실패하는 경우도 많다.

인공지능 시대, 지향성 에너지 무기에 잘 대처해야

현재 지향성 에너지 무기는 위력이 입증됐으며 미국 뿐만 아니라 여러 국가에서 활발히 연구가 진행되고 있다. 또한 전 세계는 지향성 에너지 무기에 대한 투자를 아끼지 않는 것으로 알려졌다.

1919년에 니콜라 테슬라는 자신의 발명품에 대해 “스스로 지능을 가진 것처럼 행동하는 기계가 생산될 것이며 이들의 출현은 혁명을 일으킬 것”이라며 인공지능 시스템을 갖춘 기계에 대해 예언했다. 니콜라 테슬라가 언급한 혁명은 이제 우리 앞에 다가왔으나, 인공지능 시스템의 취약점에 대해서는 제대로 된 토론이 이루어지고 있지 않은 상황이다. 지향성 에너지 무기는 인공지능 시스템의 약점을 노리는 공격수단으로 이에 잘 대처해야 한다. 대처하지 못하면 인공지능 시스템은 결국 무용지물이 되고 말 것이다.

이제는 인공지능 '기술 개발'에서 '취약점'을 고려할 시기가 왔다. 인공지능의 약점을 노리는 무기로부터 어떻게 대처하는 지가 앞으로 인공지능의 미래를 결정할 중요한 요인이 될 것으로 예상한다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.