프랑스, 2024 파리 올림픽 앞두고 ‘AI 감시 시스템’ 도입
시민단체로부터 개인 정보 및 인권 침해 우려 제기돼
올림픽 이후 감시 시스템 유지 또는 수출 가능성도 논란

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

2024 파리 올림픽을 앞두고 프랑스 정부는 보안 감시 시스템에 AI 소프트웨어를 광범위하게 사용할 수 있도록 허용했다. 새롭게 확장된 감시 법률에 따라 프랑스 당국은 비데틱스(Videtics), 오렌지 비즈니스(Orange Business), 캡스비전(ChapsVision), 윈틱스(Wintics)와 같은 AI 기업들과 협력해 기존 CCTV 영상을 분석한 결과로 잠재적 위협을 식별하는 AI 비디오 감시 시스템을 개발했다.

이들 기업이 개발한 AI 소프트웨어는 일반적으로 △군중 규모 및 이동 변화 △버려진 물건 △무기의 존재·사용 △쓰러진 사람 △연기 또는 화염 △교통 법규 위반과 같은 특정 이벤트를 감지하도록 설계됐으며, 목표는 실시간으로 이러한 이벤트를 감지하고 보안 요원에게 경고해 즉각적인 대응을 가능하게 하는 것이다. 이미 주요 콘서트, 스포츠 경기, 지하철 및 기차역 등에서 실험적으로 운영되고 있으며, 프랑스 당국은 이러한 실험이 성공적이었다고 평가해 앞으로의 활용에 "청신호"를 보냈다고 밝혔다.

AI 감시 시스템 합법화 논란, EU 개인정보보호법 위반 우려

올림픽은 막대한 인파가 운집하는 만큼 극도의 보안이 요구되는 행사다. 이러한 상황에서 정부의 감시는 불가피한 측면이 있지만, 프랑스의 경우는 조금 다르다. 엄격한 개인정보보호규정(General Data Protection Regulation, 이하 GDPR)을 가진 유럽 연합(EU) 회원국임에도 불구하고, 대규모 AI 감시 시스템 사용을 허용하는 법을 제정했기 때문이다. 특히 논란이 되는 것은 법률 2023-380의 7조와 10조다. 7조는 올림픽 전후로 지능형 비디오 감시 실험을 허용하고, 10조는 AI를 활용한 영상 감시를 가능하게 한다. 이는 프랑스가 EU 최초로 대규모 AI 감시 시스템을 합법화한 것으로, 개인의 자유와 프라이버시 침해 우려가 커지고 있는 이유다.

프랑스 정부의 AI 감시 시스템 도입에 대해 학계와 시민단체는 강력히 반발했다. 핵심 쟁점은 EU의 GDPR 위반 가능성이다. 정부와 기업은 AI가 생체 정보를 수집하지 않고도 목표를 달성할 수 있다고 주장하지만, 시민단체들은 공공장소에서 특정 행위를 감지하는 AI 카메라의 특성상 생체 정보 수집은 불가피하다고 반박했다. 게다가 정부가 생체 데이터 사용 방지를 위한 안전장치를 마련했다고 해도, 훈련 데이터에 생체 정보가 포함될 수 있고 시스템이 이를 악용할 가능성을 배제할 수 없다는 것이다. 특히 시민단체들은 데이터 수집 범위, 시스템의 정확성과 편향성, 데이터 처리 방식 등에 대한 투명성 부족을 지적하며, 생체 정보 오용 가능성에 대한 우려를 제기했다.

올림픽 넘어 일상으로 이어지는 감시

유럽 시민단체들이 우려하는 또 다른 문제는 이러한 감시 시스템이 얼마나 오랫동안 유지될 것인가 하는 점이다. 테러 위협이나 대규모 행사를 명분으로 감시를 정당화하고, 구축된 시스템을 일상적인 치안 유지에 활용하는 정부의 행태는 빈번하게 발생하기 때문이다. 비록 법률에 만료일이 명시되어 있지만, 올림픽 기간 동안의 필요성과 비례성에 대한 면밀한 검토가 부족했다는 지적이 지배적이다. 이는 법률의 자의적인 해석과 남용 가능성이 높아 시민들의 자유와 프라이버시를 장기적으로 위협할 수 있다는 것을 의미한다.

한편 보안 기술 분야와 올림픽 역사 전문가들은 올림픽이 단순한 스포츠 행사가 아닌, 첨단 감시 기술을 선보이고 거래하는 '보안 무역 박람회'처럼 활용된다고 비판했다. 프랑스가 올림픽 이후 AI 감시 시스템 사용을 중단하더라도, 이 기술이 해외로 수출되어 다른 국가의 인권 침해에 악용될 가능성이 높다는 것이다. 실제로 2008년 베이징 올림픽에서 선보인 감시 기술이 이후 에콰도르 등 인권 탄압 국가에 판매된 사례는 이러한 우려를 뒷받침한다. 올림픽이라는 국제적인 무대가 감시 기술 확산의 기폭제 역할을 하면서, 전 세계적인 인권 침해 문제를 심화시킬 수 있다는 분석이 흘러나오는 이유다.

2024 파리 올림픽에서 시행되는 AI 감시 시스템은 기술 발전과 안전이라는 명분 아래 개인의 자유와 프라이버시를 침해할 수 있다는 심각한 우려를 낳고 있다. 특히 올림픽이라는 특수한 상황을 넘어 일상생활 속 감시로 이어지고, 인권 탄압 국가를 포함한 다른 국가로 확산될 가능성은 AI 기술과의 공존 방식에 대한 깊은 고민을 요구한다. AI 기술의 발전은 감시 시스템의 정확성과 효율성을 높이겠지만, 동시에 개인 정보 보호와 인권 침해 문제를 더욱 심각하게 만들 수 있다는 점을 간과해서는 안 된다. AI 감시 시스템 도입·운영 과정을 투명하게 공개하고 시민들의 의견을 적극적으로 수렴해 사회적 합의를 이끌어내는 프랑스 정부의 노력이 절실한 시점이다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

대형언어모델을 통해 외계인에게 인간 세상 보여줄 수 있어
하지만 현재 기술로는 행성 간 통신이 어렵다는 의견 지배적
무선 통신과 레이저 기술 등을 통해 장애물을 하나하나 뛰어넘고자 노력하고 있어

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

AI가 보편화되면서 제조, 교육, 의료 등 분야를 가리지 않고 널리 사용되고 있다. 이제는 활용처를 지구 넘어 우주까지 뻗어나가려고 한다. 대형언어모델(LLM)은 인간 세계를 잘 나타낸 기계로 외계인이 인간 세계를 이해하는데 큰 도움이 된다. 따라서 과학자들은 대형언어모델이 오랫동안 품어왔던 꿈을 이루게 해줄 동아줄이 될 수 있다며 희망을 품고 있다.

인간 세계 압축판, 대형언어모델

외계인에게 메시지를 보내는 등 외계인을 찾아 외계 문명과 소통하려는 시도는 오래전부터 존재했다. 그러나 40년간의 끝없는 노력에도 불구하고 외계인을 찾지 못했으며 당연히 메시지에 대답도 받지 못했다. 지구는 우주에 있는 작은 모래 알갱이에 불과해 인간이 은하계에 홀로 존재한다고 단정 짓기 어려우며 그 가능성은 언제나 열려 있다. 하지만 이제까지 시도했던 방식에 근본적인 의문을 던질 때가 됐다.

대형언어모델은 수많은 텍스트를 분석해 방대한 ‘인간 지식’을 담고 있다. 따라서 과학자들은 대형언어모델을 인간 세계를 잘 요약한 기계라며 이를 외계 생명체 탐사에 적극 활용할 수 있다고 밝혔다. 대형언어모델을 통해 외계 문명은 광활한 거리를 두고 인간과 간접적으로 대화하며 지구에 대해 배울 수 있다.

최근 외계 생명체가 존재할 것으므로 짐작되는 증거가 발견됐다. 우주 망원경을 통해 관찰한 결과, 우리 은하가 외계 행성으로 가득 차 있으며 적어도 3억 개 이상이 지구와 유사하고 액체 상태의 물이 존재할 가능성이 있는 것으로 밝혀졌다. 이 중 몇몇 행성은 인간을 만나고 인간에 대해 배우고 싶어 하는 문명이 존재할 것이라고 기대하고 있다.

대형언어모델, 곧바로 사용되기에는 무거워

그러나 대형언어모델을 우주로 보내 외계인과 소통하기에는 많은 장애물이 도사리고 있다. 행성 간 통신을 하기 위해서는 컴퓨터 자원을 상대적으로 적게 필요로 하는 소규모 언어 모델을 사용해야 한다. 대표적으로 메타의 라마3 70B 모델이 있다. 그러나 라마3 70B 모델은 약 130기가바이트(GB) 크기로, 우주를 가로질러 오류 없이 전송하기에는 아직 다소 무겁다는 의견이다. 하지만 양자화 기술을 사용하면 성능을 유지하면서 몇 기가바이트로 압축하여 정보를 보낼 수 있다. 행성 간 통신에서 가장 중요한 것은 인터넷 연결 없이도 AI 시스템이 자체적으로 실행될 수 있어야 한다는 점이다.

달 너머의 선진 문명에 도달하려면 별 사이의 엄청난 거리, 신호 감쇠 등 기술적 한계를 극복해야 한다. 작년 나사(NASA)는 프시케 탐사선에 행성 간 통신 장치를 부착하고 소행성으로 쏘아 올렸다. 이 기술은 수백 메가바이트라는 엄청난 데이터 속도를 자랑한다. 그러나 이 기술을 사용하더라도 여러 방해 요소로 인해 행성 간 통신은 초당 100비트까지 떨어질 가능성이 높다는 의견이다. 태양계에서 가장 가까운 행성계인 센타우루스자리 알파에 대형언어모델을 보내더라도 답변을 받으려면 수백 년이 걸린다. 물론 태양계에서 가장 가깝다고 하더라도 무려 4.37광년이나 떨어져 있다.

무선 통신과 레이저로 통신 문제 해결하고자

이 문제를 해결하기 위해 두 가지 기술이 거론되고 있다. 첫 번째는 광범위하고 느린 무선 통신이고 두 번째는 방향성 있고 빠른 레이저 통신 기술이다. 무선 통신 기술의 경우, NASA의 달 정찰 궤도선은 초당 최대 100메가바이트(Mbps)의 속도로 데이터를 전송하는 데 성공했다. 이는 라마3 70B 모델 전체를 달에 전송하는 데 약 30분이 걸리는 속도다.

또한 전송 속도를 높이기 위해 더 강력한 레이저를 사용하는 방법이 있다. 강력한 레이저를 여러 개 결합하여 송신기를 만들면 몇 광년을 빠르게 지나가 대량의 데이터를 전송할 수 있다. 다른 아이디어로는 태양을 중력 렌즈로 사용하여 신호를 증폭하고 행성 간 초고속 통신 시스템을 구축하는 것이다. 그러나 이를 위해서는 태양으로부터 820억 킬로미터 떨어진 명왕성 궤도 너머에 레이저를 장착한 탐사선이 필요하다.

조금 오래된 해결책으로는 우주선에 인터페이스가 포함된 컴퓨터를 장착하는 것이다. 컴퓨터에는 외계인에게 지구 이야기를 전달할 이미지, 음악, 메시지를 담아 보낸다. 이 방법을 통해 외계인에게 자신들이 혼자가 아니며 한때 인간 문명이 존재했음을 알려줄 수 있다. 게다가 자신들과 크게 다르지 않으며 지금도 존재할 수 있다는 것을 보여준다.

대형언어모델을 우주로 보내 외계인과 전례 없는 교류의 문을 열어 인류의 유산이 지속될 수 있기를 바란다. 또한 이제는 AI가 지구를 넘어 우주에서도 활용될 수 있다. 행성 간 통신은 하나의 예시이며 활용 가능성은 무궁무진하다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

英 옥스퍼드대학 연구진, 챗봇을 이용해 챗봇의 환각을 잡아내는 연구 진행
'의미론적 엔트로피' 계산법을 도입해 AI 답변의 일관성을 측정하고 환각 발생 여부를 판단
환각 감지 정확도는 향상됐으나, 추가적인 에너지 소비와 정보 부족 상황에서의 환각 발생 가능성 등 해결해야 할 과제 남아

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

최근 챗GPT와 같은 인공지능 시스템에 에펠탑의 위치를 물으면 대부분 "파리"라고 정확하게 답변한다. 그러나 같은 질문을 반복하면 "로마"라는 틀린 답변을 내놓을 수도 있다. 이러한 오류는 사소해 보일 수 있지만, 의료, 금융과 같은 민감한 분야에서는 위험한 결과를 초래할 수도 있다.

생성형 AI의 심각한 문제인 '환각(hallucination)', 현실과 맞지 않는 내용을 생성하는 현상에 대해 영국 옥스퍼드대학교 AI 연구원 안드레아스 키르슈(Andreas Kirsch)는 "AI 언어 모델은 진실과 거짓을 구분하지 못한다"고 지적하며, 이 때문에 AI 챗봇이 정확성과 상관없이 모든 주장을 자신 있게 말하는 경향이 있다고 설명했다.

AI 모델의 일관성 검증, '작화증' 집중 분석

환각은 해결하기 어려운 문제로 남아있지만, 전문가들은 챗GPT와 같은 대규모 언어 모델(Large Language Model, 이하 LLM)에서 이를 감지하는 방법을 모색하고 있다. 최근에는 다른 LLM을 통해 LLM의 답변을 검증하고 일관성과 불확실성 수준을 평가해 오류를 찾아내는 것을 목표로 한 연구가 진행 중이다. 옥스퍼드대학교의 박사 과정 학생이자 이번 연구의 저자인 얀닉 코센(Jannik Kossen)은 이 방법을 "특정 인물이 일관성 없는 이야기를 하는 경향을 파악하는 것"에 비유했다. AI 시스템끼리 서로 질문하고 답하는 방식은 새로운 개념은 아니지만, 이번 연구는 기존의 환각 탐지 수준을 뛰어넘는 성과를 보여주고 있다.

연구진은 "임의적이고 부정확한 진술"을 하는 '작화증(Confabulation)'이라는 형태의 LLM 환각에 초점을 맞췄다. 잘못된 학습 데이터나 추론 실패로 인해 발생할 수 있는 다른 유형의 AI 오류와 달리, 작화증은 모델 생성 과정에서 내제된 무작위성에서 비롯된다. 그러나 챗봇을 사용해 작화증을 감지하는 것은 까다로운 일이다. 호주 RMIT 대학교의 컴퓨팅 기술학장 카린 버스퍼(Karin Verspoor)는 같은 것을 여러 가지 다른 방식으로 정확하게 말할 수 있기 때문에 컴퓨터가 거짓말을 탐지하는 것은 어려운 일이라고 설명했다.

이번 연구는 AI에 같은 질문을 여러 번 던져 다양한 답변을 얻은 뒤, 이를 다른 LLM을 통해 의미별로 분류하는 방식으로 작화증 발생 시점을 파악했다. 예를 들어 "존은 차를 몰고 가게로 갔다"와 "존은 자신의 차를 타고 가게에 갔다"는 같은 의미로 묶인다. 또한 연구팀은 '의미론적 엔트로피(semantic entropy'라는 새로운 개념을 도입해 AI가 생성한 답변의 일관성을 측정했다. AI 모델이 생성한 답변들이 비슷한 의미를 가질수록 의미론적 엔트로피는 낮아진다. 이는 모델이 해당 질문에 대해 높은 확신을 가지고 있거나, 여러 답변 간에 높은 합의가 이루어졌음을 의미한다. 반대로 답변들의 의미가 서로 크게 다를 경우 의미론적 엔트로피는 높아지며, 이는 모델이 불확실성을 가지고 있거나 잘못된 정보(작화증)를 생성할 가능성이 높다는 것을 나타낸다.

두 모델 협력으로 AI '환각' 10% 감소, 비용 증가 및 정보 부족 문제는 여전

기존의 환각 방지 방법은 하나의 AI 모델만 사용했지만, 이번 연구에서는 두 개의 AI 모델을 짝지어 답변 생성과 평가를 분담했다. 이를 통해 정확한 답변과 부정확한 답변을 구별하는 정확도가 약 10% 향상되는 결과를 얻었다고 연구진은 전했다. 하지만 완벽한 해결책은 없다. 모든 기술적 진보에는 비용편익의 상충 관계가 존재하듯, AI 모델의 신뢰성을 높이기 위해서는 필연적으로 더 많은 에너지 소비가 요구된다. 여러 답변을 생성하고 평가하는 과정에서 발생하는 추가적인 계산 비용과 에너지 소비는 무시할 수 없는 문제다. 이에 대해 옥스퍼드대의 키르슈 연구원은 이 문제에 대해 비용과 효과 사이의 균형을 고려해야 한다는 점을 인정하면서도, 환각 현상을 최소화하기 위해 추가 비용을 감수할 만한 가치가 있다고 강조했다.

또 다른 문제는 AI 모델이 정확한 답변을 생성하는 데 필요한 데이터에 접근할 수 없는 상황에서 발생한다. 이러한 경우 AI는 가장 그럴듯한 추측을 기반으로 답변을 생성하게 되는데, 이 과정에서 환각이 불가피하게 발생할 수 있다. 예를 들어 최신 연구 논문을 요약하도록 요청받은 AI 모델이 해당 논문에 접근할 수 없다면, 실제 내용과는 다른 조작된 정보를 제공할 수 있다는 것이다. 이렇듯 이번 연구는 작화증 감지를 위한 새로운 방법을 제시했지만, AI 환각 문제를 완전히 해결하지는 못한다. RMIT 대학교의 버스퍼 교수는 "이 연구는 AI 환각 문제의 일부만 다루고 있다"며, "AI 모델을 어느 정도 신뢰하되, 한계를 인지해야 한다"고 지적했다.

결론적으로 AI 환각 문제는 여전히 해결해야 할 과제가 많지만, 이번 연구는 문제 해결을 위한 새로운 방향을 제시했다는 점에서 큰 의미를 지닌다고 평가받고 있다. 또한 앞으로 AI 기술이 발전하고 데이터 접근성이 향상됨에 따라 AI 환각 문제는 점차 개선될 것으로 기대되며, 그 과정에서 발생하는 비용과 편익의 균형, 정보 부족 상황에서의 환각 발생 가능성 등 다양한 문제를 해결하기 위한 지속적인 연구와 노력이 이뤄질 것으로 전망된다. 물론 사용자 스스로 AI 모델의 한계를 인지하고 정보를 비판적으로 수용하는 자세를 갖추는 것 역시 중요하다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

챗GPT 오류, '환각'보다는 '헛소리'라는 표현이 더 적절해
챗GPT, 진실인지 거짓인지 검증하지 않고 답변 내놓아
정확한 단어로 표현해야 인공지능 실체에 더 가까워질 수 있어

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

인공지능 붐이 일어나고 나서 인공지능은 분야를 가르지 않고 널리 사용되고 있다. 문서 작성 시 ‘인공지능’ 비서가 문서 작성을 도와주며 PDF를 열면 인공지능이 내용을 요약해 준다. 그러나 인공지능 챗봇은 마치 사실인 것처럼 내용을 지어내어 종종 사람들을 당황스럽게 만든다.

챗GPT, 헛소리하는 기계

이러한 오류를 ‘환각’이라고 표현한다. 하지만 이 표현은 오해의 소지가 있으며 잠재적으로 피해를 줄 가능성이 크다. 따라서 오류가 발생했을 때는 ‘헛소리’라는 더 적절한 단어로 표현하자는 주장이 제기된다. 말장난처럼 들리지만, 단어 정의는 사람들에게 큰 영향을 미쳐 섬세하게 다루어야 하는 문제다.

미국 철학자 해리 프랑크푸르트는 철학자들 사이에서 ‘헛소리’라는 단어를 유행시켰다. 헛소리는 전문적인 의미가 있다. 누군가 헛소리하는 것은 진실을 말하는 것은 아니지만, 그렇다고 거짓말을 하는 것도 아니다. 프랑크푸르트는 헛소리하는 사람의 특징으로 자신이 하는 말이 진실인지 아닌지 전혀 신경 쓰지 않는다는 점을 강조했다. 챗GPT는 진실을 신경 쓰지 않고 결과를 내뱉기 때문에 기술적인 의미에서 ‘헛소리하 기계’라고 부르는 것이 타당하다.

챗GPT가 헛소리를 늘어놓아 피해를 준 사례가 한둘이 아니다. 작년 한 변호사는 법률 자료를 요약하면서 챗GPT를 사용했다가 곤경에 처한 적이 있다. 그 이유는 챗GPT가 가상의 판례를 인용했기 때문이다. 챗GPT가 인용한 판례는 그 어디에서도 존재하지 않았다.

헛소리 기계의 작동 원리

챗GPT가 거짓 정보를 제공하는 이유는 대형언어모델(LLM) 작동 원리 속에 숨어있다. 대형언어모델은 방대한 양의 텍스트를 학습 데이터로 삼고 훈련하는데, 챗GPT는 인터넷에 있는 수십억 페이지의 텍스트로 훈련한다.

대형언어모델은 학습 데이터를 바탕으로 다음에 나올 내용을 예측한다. 다음에 나타날 확률이 가장 높은 단어 목록 중에서 유력한 후보를 하나 선택한다. 매번 가장 확률이 높은 단어를 선택하는 것은 창의적이고 인간적인 면이 떨어진다. 따라서 이를 방지하기 위해 유력한 후보 중에서 하나를 선택한다. 모델 후반부에는 사람이 직접 결과물을 판단하여 예측을 더욱 구체화한다.

대형언어모델의 작동 방식을 이해하면, 챗GPT가 헛소리하는 기계라는 것을 알 수 있다. 잘 훈련된 챗봇은 인간과 유사한 텍스트를 생성하지만, 그 과정에서 텍스트가 사실인지 확인하는 절차는 없다. 따라서 대형언어모델이 답하는 내용을 실제로 이해하고 있는지 의심스러운 눈초리로 쳐다볼 수밖에 없다.

챗GPT 오류, 환각보다는 헛소리에 더 가까워

최근 몇 년 동안 사람들은 인공지능에 익숙해지면서 이러한 행동을 ‘환각’이라고 부르기 시작했다. 이 표현은 은유적이지만, 사람들이 인공지능을 제대로 이해하기에 좋은 표현은 아니라는 의견이다.

챗GPT는 사람이 작성한 것처럼 보이는 텍스트를 만드는 것을 목표로 한다. 사람도 항상 진실만을 말하지 않듯이 챗GPT도 항상 진실을 내뱉는 것은 아니다. 그러나 거짓을 ‘환각’이라고 표현하는 것은 앞서 얘기한 특징을 잡아내지 못한다.

지난 6월 윤리 및 정보 기술 보고서에서는 ‘환각’이라는 표현 대신 ‘헛소리’라는 표현을 제안했다. 그 이유는 헛소리하는 사람은 자신이 하는 말이 사실인지 아닌지 신경 쓰지 않고 말하는데 이것이 챗GPT의 행동과 똑같기 때문이다.

잘못된 단어 정의는 사람들의 오해 불러일으켜

챗GPT가 내뱉는 헛소리를 환각이라고 표현하면 어떤 문제가 발생할까? 오해의 소지가 있는 단어를 사용하면 사람들이 기술 작동 방식을 오해할 가능성이 크다. 단어는 대중이 기술을 이해하는 데 지대한 영향을 미친다. 예를 들어 ‘자율주행’ 자동차라고 하면 주차부터 운전까지 모든 것을 자율적으로 수행하는 자동차라고 생각한다. 그러나 이는 현실적으로 불가능에 가깝다. 고속도로와 같이 정제된 상황에서는 자동차가 알아서 운전을 해줄 수 있겠지만, 어떤 장애물이 나올지 모르는 시내에서는 자동차가 알아서 운전할 수 없다.

따라서 전문가들은 인공지능 오류를 ‘환각’이라고 표현하는 것은 챗봇을 의인화할 위험이 있다고 우려한다. 일라이자 효과는 사람들이 컴퓨터 프로그램에 인간의 특징을 부여할 때 발생한다. 비록 성능이 좋은 챗봇이라 할지라도 챗GPT를 헛소리 기계라고 설명하면, 이러한 위험을 줄이는 데 도움이 된다.

또한 챗GPT 오류를 환각이라고 표현하면, 책임은 챗GPT에게 있는 걸로 생각한다. 그러나 챗GPT한테 오류가 발생하면 그 문제는 사용하는 사람이나 프로그래머가 책임을 져야 한다. 책임을 누가 질 것인가에 대해서는 의료나 자율주행과 같이 사람 목숨과 맞닿은 곳에서는 특히 중요하다. 따라서 문제가 발생했을 때 누구에게 책임이 있는지 아는 것은 중요하다.

인공지능이 엉뚱한 답변을 해준다면, 환각 증상을 보이는 게 아니라 ‘헛소리’ 를 열심히 늘어놓는 중이다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

대규모 아동 연구, 젠더가 뇌 네트워크 형성에 미치는 영향 최초 입증
사회적 기대가 뇌 연결 방식 변화시켜
후속 연구 통해 젠더와 뇌 발달 관계 규명 기대

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

새로운 뇌 영상 연구 결과, 청소년의 뇌에서 생물학적 성별(sex)과 사회적 성별(gender)이 서로 다른 뇌 연결망에 반영되는 것으로 나타났다. 국제 학술지 사이언스 어드밴스(Science Advances)에 발표된 이 연구 결과는 신경과학 연구에서 생리학적 성별과 젠더를 혼동하지 않고 젠더의 사회적 영향을 고려하는 것의 중요성을 보여준다.

남녀 뇌 차이? 사회문화적 영향 간과 말아야

"뇌를 더 잘 이해하려면 앞으로 성별과 젠더를 별도로 고려해야 한다"고 미국 파인스타인 의학 연구소(Feinstein Institute for Medical Research) 신경과학자이자 이 연구의 공동 저자인 엘비샤 다말라(Elvisha Dhamala) 교수는 최근 기자 회견에서 이같이 말했다.

생물학적 성별은 주로 염색체, 유전자, 호르몬 등 생물학적 시스템에 의해 결정되지만, 남성, 여성 또는 논바이너리와 같은 사회문화적 성, 즉 젠더에 대한 관념 또한 개인의 삶과 행동에 지대한 영향을 미친다. 과학자들은 성별과 젠더를 엄연히 다른 개념으로 인지하고 있음에도 불구하고, 신경과학 연구에서는 이 둘을 혼동하는 경향이 있다.

네덜란드 레이덴대학교에서 뇌 발달의 성별 차이를 연구하는 신경과학자 라라 위렌가(Lara M. Wierenga) 교수는 이번 연구에 참여하지 않았지만, "신경과학 연구에서 여성 또는 남성으로서 사회적 경험이 뇌에 미치는 영향은 간과되고 있다"고 지적했다. "우리는 뇌가 매우 가소적이며 경험에 의해 변화될 수 있다는 것을 알고 있다"며, 이는 출생 시 남성 또는 여성으로 지정된 개인 간의 뇌 차이를 설명하는 중요한 요인이 될 수 있다고 강조했다.

설문조사·fMRI 데이터로 본 젠더 인식과 뇌 활동의 연관성

다말라 교수의 연구팀은 젠더의 사회적 영향을 간과했을 때 신경과학 분야에서 어떤 중요한 정보를 놓치고 있는지 밝히고자 했다. 이를 위해 미국 청소년들을 대상으로 진행된 대규모 종단 연구 데이터를 활용해, 뇌 스캔 데이터와 참가자 및 부모의 성별·젠더 설문 조사 응답을 비교 분석했다. 연구팀은 특정 뇌 활동과 생물학적 성별 간의 연관성은 예상했지만, 젠더가 뇌에 어떤 방식으로 어디에서 반영될지는 미지수였다.

연구팀은 9세 또는 10세 아동 4,757명의 기능적 자기공명영상(functional MRI, 이하 fMRI) 데이터를 분석했다. fMRI 스캐너는 특정 과제를 수행하지 않고 깨어 있는 상태에서 발생하는 다양한 뇌 영역의 "휴식 상태" 활동을 기록하는 기술이다. 어린 참가자들은 자신의 젠더에 대한 감정을 묻는 네 가지 질문(예: "내가 남자라고 느끼는 정도는?")에 답했고, 부모는 자녀의 젠더 표현 방식과 "남자아이" 또는 "여자아이"를 위한 고정 관념적인 놀이 활동 참여 정도에 대한 12가지 질문에 답했다.

연구팀은 수집된 뇌 스캔 데이터와 각 참가자의 성별 정보를 머신 러닝 모델에 입력해, 남성과 여성 그룹 간의 특정 뇌 영역 활동 차이를 학습시켰다. 이후 모델이 학습하지 않은 새로운 데이터를 통해 참가자의 성별을 예측하도록 테스트한 결과, 77%의 높은 정확도를 보였다. 다음으로 연구팀은 또 다른 머신 러닝 모델을 훈련해 십 대 전후 아동과 부모의 젠더 보고서를 기반으로 예측을 수행했다. 하지만 성별과 젠더는 밀접한 관련성을 가져, 각각과 연관된 뇌 네트워크가 상당 부분 중복되는 현상이 나타났다. 이에 연구팀은 젠더의 영향을 명확하게 파악하기 위해 성별을 기준으로 참가자의 젠더 변화를 세분화해 분석했다. 이를 통해 출생 시 동일한 성별로 지정됐지만 젠더에 대한 감정과 표현이 다른 사람들 사이에서 뇌 활동의 차이를 확인할 수 있었다.

마지막으로 연구팀은 젠더 차이와 관련된 뇌 네트워크를 성별 차이와 관련된 네트워크와 비교 분석했다. 그 결과 두 네트워크 그룹 간에는 약간의 중복이 있었지만 전반적으로 큰 차이를 보였다. 특히 이러한 차이는 자녀가 직접 응답한 자체 보고 설문지보다 부모가 응답한 젠더 데이터에서 더욱 두드러지게 나타났다. 연구팀은 자체 보고 설문지가 아이들이 자신의 젠더에 대해 느끼고 생각하는 미묘한 차이를 충분히 반영하지 못했을 가능성을 제기했다.

성별·젠더 따라 뇌 기능 연결 지도 달라

생물학적 성별과 관련된 뇌 네트워크는 시각 및 운동 네트워크처럼 뇌 기능에서 명확하게 정의된 역할을 담당하는 경향을 보였다. 반면 젠더와 관련된 뇌 네트워크는 뇌 전체에 걸쳐 흩어져 있는 양상을 나타냈다. 다말라 교수는 이러한 차이가 왜 발생하는지, 특히 특정 네트워크가 성별과 관련되는 반면 다른 네트워크는 젠더와 관련되는 이유에 대해서는 아직 결론을 내리기에 이르다고 밝혔다. "현재로서는 이러한 차이가 행동 차이와 어떤 관련이 있는지 알 수 없다"고 덧붙였다.

위렌가 교수는 "이번 연구는 대규모 데이터를 통해 성별뿐만 아니라 젠더 역시 뇌 연결 방식에 영향을 미친다는 사실을 최초로 입증했다는 점에서 의미가 크다"고 평가했다. "젠더에 대한 사회적 기대가 뇌에 실제로 영향을 미친다는 사실은 매우 중요하다"고 위렌가 교수는 강조하며, 이러한 연구 결과는 출생 시 여성 또는 남성으로 지정된 사람들에게서 각각 ADHD, 불안 및 기분 장애와 같은 정신 질환이 진단되는 데 어려움을 겪는 이유를 설명하는 데 도움이 될 수 있다고 덧붙였다.

이번 연구는 아동을 대상으로 진행되었기 때문에 성인의 뇌에서도 젠더가 성별과 다른 패턴을 보일지는 아직 확실하지 않다. 그러나 위렌가 교수는 이러한 경향이 성인에게도 유사하게 나타날 것으로 예상했다.

한편 다말라 교수의 연구팀은 이번 연구에 참여한 아동 그룹이 성장하는 과정을 추적하며 유사한 분석을 반복할 계획이다. 다말라 교수는 "이들은 아직 어린아이들이다. 청소년기를 거쳐 성인이 되면서 뇌 네트워크와 기능적 연결성이 변화할 것이다"고 언급했다. 연구진은 다른 연구팀들도 연구에 성별뿐만 아니라 젠더를 포함시켜 전 생애에 걸친 뇌 차이에 대한 더욱 명확한 그림을 그려나가기를 기대한다고 밝혔다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

적대적 공격을 통해 바둑 AI 이기는 방법 발견해
여러 방어책 마련했으나, 큰 효과 거두지 못해
바둑은 시작에 불과, 자율주행·의료 등에도 적대적 공격 들어올 수 있어

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

알파고가 이세돌 9단을 상대로 4:1 대승을 거두고 난 후, 이제는 AI가 인간을 뛰어넘었다는 의견이 지배적이었다. 현재 바둑 AI의 성능은 세계 최고 바둑 프로기사가 2점을 놓고 둬도 이기기 힘들 정도다. 그러나 이토록 ‘초인적’ 성능을 보이는 바둑 AI에 취약점이 드러났다. 더 나아가 이 발견은 바둑뿐만 아니라 다른 AI 시스템의 안정성과 신뢰성 문제를 제기한다.

세계 최강 이기는 초보

지난 6월 적대적 공격을 통해 바둑 AI의 약점을 찾아낸 논문이 공개됐다. 연구는 논문 사전 공개 사이트인 아카이브(arXiv)에 게시되었다. 일리노이 대학교 어배너-섐페인의 컴퓨터 과학자인 후안 장은 “이 연구는 사람들이 신뢰할 수 있는 AI란 무엇인가에 대해 중요한 물음을 남긴다”라며 AI 정체에 의문을 던졌다. 또한 MIT 컴퓨터 과학자인 스티븐 캐스퍼는 이 연구를 두고 “인간이 원하는 대로 AI를 만드는 것이 얼마나 어려운지 보여주는 증거”라며 오류 없는 AI를 만드는 것은 불가능에 가깝다는 의견을 밝혔다.

연구원들은 이미 재작년에 카타고(KataGo)를 이길 수 있는 적대적 AI를 만드는 데 성공했다. 카타고는 프로기사를 가볍게 이길 정도로 높은 성능을 가지고 있다. 그러나 놀랍게도 적대적 AI는 바둑 아마추어가 상대해도 이길 수 있는 실력이다. 단지 카타고를 이기는 데 특화된 것뿐이다. 심지어 인간이 적대적 AI의 수법을 이해하고 이를 응용하면 카타고를 이길 수 있다.

바둑 AI, 예상치 못한 수 맞닥뜨리면 오류 일으켜

사실 바둑 AI가 오류를 낸 것은 처음이 아니다. 이세돌 대 알파고 제4국에서 ‘신의 한 수’라고 불리는 78수도 엄밀히 말하면 꼼수였다. 즉, 알파고가 오류를 내지 않고 정확하게 응수했다면 안 되는 수였다. 그러나 78수는 알파고가 생각지 못한 수였고, 그 결과 오류를 내며 대국을 파국으로 몰고 갔다.

이처럼 바둑 AI는 생각지 못한 수를 맞닥뜨렸을 때 자주 오류를 일으킨다. 논문에서 공개한 적대적 AI 대 카타고 기보를 보면, 적대적 AI는 당황스러운 수를 두어 카타고를 먹통으로 만든다. 카타고는 프로기사 기보를 교재로 삼는 만큼 적대적 AI가 두는 수를 거의 고려조차 하지 않아 오류가 발생한다는 의견이다.

적대적 AI의 공격으로부터 방어할 수 있을까

따라서 연구진은 카타고의 약점을 인지하고 적대적 AI로부터 방어하는 방법을 모색했다. 파에이아이(FAR AI)의 CEO이자 2022년 논문의 공동 저자인 아담 글리브는 바둑 적대적 AI의 공격으로부터 방어할 수 있는 방법을 세 가지 제안했으며 이에 대해 실험을 진행했다.

첫 번째 방어책은 적대적 AI가 공격하는 수를 카타고에게 미리 알려주고 카타고가 스스로 바둑을 두게 하여 해당 수를 학습하는 방법이다. 이 방법은 바둑을 스스로 학습하는 방식과 유사하다. 하지만 적대적 AI는 이렇게 학습한 카타고를 상대로 91% 승률을 기록했다.

두 번째 방어 전략은 적대적 AI와 카타고를 번갈아가며 학습시키는 방법이다. 우선 적대적 AI를 상대로 카타고를 훈련한 다음, 훈련된 카타고를 상대로 적대적 AI를 훈련한다. 이렇게 카타고와 적대적 AI를 번갈아가며 9번에 걸쳐 학습시켰다. 그러나 이 방법도 ‘무적의’ 카타고를 만들 수 없었다. 적대적 AI는 계속해서 카타고의 취약점을 찾아냈고, 최종적으로 카타고를 상대로 81% 승률을 거뒀다.

마지막으로 세 번째 전략은 바둑 AI를 새로운 모델로 학습시키는 방법이다. 카타고는 합성곱 신경망(CNN) 모델을 기반으로 한다. 연구진은 CNN이 국소적인 부분에 너무 집중하여 전체적인 패턴을 놓칠 수 있다고 판단하여 비전 트랜스포머(ViT)라는 대체 신경망을 사용하여 바둑 AI를 생성했다. 하지만 적대적 AI는 새로운 바둑 AI에서도 새로운 약점을 발견하여 ViT 시스템을 상대로 78% 승률을 기록했다.

적대적 AI, 이제 시작에 불과해

적대적 AI는 카타고와 다른 바둑 AI를 이길 수 있으나, 다재다능한 전략가는 아니다. 적대적 AI는 단순히 바둑 AI의 숨겨진 ‘취약점’을 찾도록 훈련받은 것뿐이다. 글리브는 “사람은 적대적 AI에게 쉽게 이길 수 있다”며 적대적 AI가 만능이 아님을 강조했다.

인간이 적대적 AI 전략을 사용하여 바둑 AI를 이길 수 있는 상황에서 AI를 두고 ‘초인적’이라고 부르는 것이 여전히 합당한지 의문이다. 글리브는 이에 대해 계속해서 고민했던 문제라며 바둑 AI를 ‘일반적으로 초인적’이라고 정의했다. 카타고를 처음 개발한 데이비드 우도 바둑 AI는 평균적으로 초인적이지만, 최악의 경우에는 초인적이 아니라며 약점을 인정했다.

카타고가 적대적 AI의 공격을 받고 오류를 일으키는 것은 사실상 아무에게도 피해를 주지 않는다. 따라서 이 연구는 논문을 위한 논문일 뿐 아무 효용이 없다는 의견이 나온다. 그러나 바둑은 시작에 불과하다. 만약 일상생활과 맞닿아 있는 자율주행 자동차가 적대적 AI의 공격을 받아 오류를 일으키는 상황이 발생할 수 있다. 또한 적대적 AI의 공격을 받은 의료용 AI 로봇 팔이 멋대로 움직이는 상황이 벌어질 수도 있다. 그래도 괜찮은가?

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

낯선 사람에게 말 거는 것보다 옛 친구에게 연락하는 것을 더 꺼려
연락하는 것을 망설이는 이유, 상대방의 반응에 대한 걱정·어색함
연구 결과, 간단한 워밍업으로 옛 친구에게 연락하는 심리적 장벽 낮출 수 있어

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

사회적 관계가 건강과 행복에 미치는 중요성은 이미 수많은 연구를 통해 입증됐다. 특히 힘든 시기를 겪을 때 의지할 친구가 있다는 것은 삶의 만족도를 높이는 주요 요인으로 꼽힌다. 하지만 시간이 흐르면서 자연스럽게 멀어지는 친구들이 생기는 것은 어쩔 수 없는 일이다.

최근 의사소통 심리학(Communications Psychology)에 발표된 연구는 이러한 현상에 주목해 흥미로운 결과를 제시했다. 연구진은 얼마나 많은 사람들이 잃어버린 오랜 친구가 있는지, 그리고 그들에게 연락할 의향이 있는지 조사했다.

2,400명 이상의 참가자를 대상으로 7개의 연구를 진행한 결과, 상당수의 사람들이 잃어버린 오랜 친구가 있으며, 그들에게 연락할 의향이 있음에도 불구하고 주저하는 모습을 보였다. 연구진은 이러한 망설임의 원인을 분석하고, 이를 극복하는 데 도움이 될 수 있는 전략도 함께 제안했다.

끊어진 인연, 다시 잇기 망설이는 이유

캐나다 대학생 441명을 대상으로 실시한 연구에 따르면 91%가 연락이 끊긴 친구가 있지만, 다시 연락하는 것에 대해서는 망설이는 것으로 나타났다. 특히 미래의 어느 시점보다 지금 당장 연락하는 것에 대한 부담감이 더 큰 것으로 조사됐다.

이러한 망설임의 원인으로는 상대방의 반응에 대한 걱정, 오랜 시간으로 인한 어색함 등이 꼽혔다. 즉 사람들은 옛 친구의 삶에 방해가 될까 봐 걱정하는 것 같았다. 하지만 기존 연구 결과는 이러한 걱정이 기우에 불과할 수 있음을 지적하는데, 연락이 끊긴 친구들은 우리가 생각하는 것보다 훨씬 더 연락을 반기고 고마워하는 경향이 있다는 것이다.

또한 연구팀은 사람들이 걱정을 극복할 수 있다면 옛 친구와 다시 연결되는 것에 관심이 있다는 사실을 발견했다. 199명의 젊은 성인을 대상으로 한 실험에서는 옛 친구에게 연락하는 것보다 옛 친구로부터 연락받는 것을 선호하는 것으로 드러났는데, 이는 사람들이 관심이 없는 것이 아니라, 의사 소통을 시작하는 것에 어려움을 느끼는 것으로 해석된다.

연구팀은 이러한 결과를 바탕으로 1,000명 이상의 사람들을 대상으로 두 가지 실험을 진행했다. 옛 친구에게 연락하고 싶고, 자신에게 연락하면 기뻐할 것으로 생각되는 옛 친구를 떠올릴 수 있는 사람들만 모집해, 옛 친구의 연락처 정보를 확인하고 메시지를 작성하는 시간을 줬다.

그 결과 놀랍게도 이러한 유리한 조건에도 불구하고 실제로 옛 친구에게 메시지를 보낸 사람은 3분의 1도 되지 않았다. 그러나 메시지를 보낸 사람들은 그렇지 않은 사람들보다 즉각적으로 더 큰 행복감을 느꼈다고 보고했다.

옛 친구는 낯선 사람? 시간이 만든 심리적 거리

연구진은 사람들에게 상황을 과도하게 분석하지 말고 "전송" 버튼을 누르라고 조언한다. 또한 연구진은 옛 친구의 입장에서 메시지를 받는 것이 얼마나 감사할지 생각해 보도록 유도했다. 답장에 대한 기대를 버리고 연락 자체를 친절한 행동으로 여기도록 제안해 거절에 대한 두려움을 줄이려고 노력한 것이다.

하지만 안타깝게도 이러한 노력은 옛 친구에게 연락하는 사람들의 수를 크게 늘리지는 못한 것으로 밝혀졌다. 연구진은 이 결과에 대해 옛 친구에게 연락하는 것에 대한 심리적 장벽이 낯선 사람에게 말을 거는 것과 유사한 심리적 요인에서 비롯된다고 분석했다.

심지어 288명을 대상으로 쓰레기 줍기, 치과 예약, 어린 시절 좋아하는 노래 듣기, 낯선 사람과 이야기하기, 옛 친구에게 연락하기 등 다양한 일상 행동에 대한 의향을 조사한 결과, 사람들은 쓰레기를 줍거나 낯선 사람에게 말을 거는 것보다 옛 친구에게 연락하는 것을 더 꺼리는 것으로 나타났다.

사실 시간이 흐르면서 옛 친구가 낯선 사람처럼 느껴지는 현상은 자연스러운 일이다. 오히려 옛 친구에게 다시 연락하는 것이 낯선 사람에게 말을 거는 것보다 더 어렵게 느껴질 수도 있다. 옛 친구와의 관계 회복에 대한 막연한 두려움과 걱정이 낯선 사람에게 말을 거는 것보다 더 큰 심리적 장벽으로 작용할 수 있다는 것이다.

희망적인 연구 결과도 있다. 연구진은 특정 사회적 상호 작용을 연습하는 '워밍업'을 통해 이러한 어려움을 극복할 수 있다는 가능성을 제시했다. 실험 참가자들은 두 그룹으로 나눠 한 그룹은 현재 친구나 지인에게 메시지를 보내는 3분 워밍업 과제를 수행하고, 다른 그룹은 소셜 미디어를 훑어보는 시간을 가졌다.

실험 결과 현재 친구나 지인에게 메시지를 보내는 3분 워밍업 과제를 수행한 참가자들은 그렇지 않은 참가자들보다 옛 친구에게 연락하는 비율이 더 높았다. 구체적으로는 워밍업 과제를 수행한 그룹의 절반이 옛 친구에게 연락한 반면, 소셜 미디어를 훑어본 그룹에서는 3분의 1만이 연락을 시도했다.

사회적 관계는 삶의 만족도와 행복에 큰 영향을 미치지만, 개인적인 사정과 같은 다양한 이유로 관계는 소원해지기 마련이다. 이번 연구 결과를 통해 옛 친구와의 연락이 더 큰 행복으로 이어질 수 있으며, 간단한 준비만으로도 연락에 대한 부담감을 줄일 수 있다는 것을 보여준다. 이는 단순히 옛 친구와의 연락을 넘어, 멀어진 관계 회복에 대한 새로운 가능성을 제시하며 사회적 관계 개선에 중요한 시사점을 제공할 것으로 기대된다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

구조대, 드론을 이용한 효율적인 구조 작업 수행
공중 광학 분할 기술로 드론이 가진 한계 보완해
신경망 모델로 객체 인식 작업 성능 높여

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

몇 년 전 스코틀랜드의 한 산악인이 히말라야 산맥을 하산하던 중 얼음 절벽에서 추락하는 사고를 당했다. 동료들은 그가 돌아오지 않아 사고를 당했다고 추측하고 절망에 빠져있었다. 그러나 같이 캠프에 있던 산악인들은 ‘드론’을 이용해 조난 당한 사람을 구할 수 있을 거라며 안심시켰다. 과연 드론을 이용하여 조난자를 구해낼 수 있을까?

생명의 은인이 된 드론

산악인들은 조난 당했을 것으로 추정되는 위치에 쿼드콥터를 날렸다. 36시간 동안 보급품 없이 홀로 있었음에도 불구하고 다행히 그는 아이젠으로 얼음 절벽에 매달린 채 살아 있었다. GPS 좌표를 확인한 구조대가 몇 시간 만에 도착하여 끔찍한 시련을 끝낼 수 있었다. 산악구조대는 드론을 사용하지 않았다면 조난자의 위치를 파악하기 어려웠을 뿐더러 효율적인 구조가 불가능했을 것이라고 말했다.

매년 야생에서 길을 잃거나 사망하는 수많은 사람들이 있다. 버섯 채집가는 길을 잃고, 등산객은 발목을 접질르고, 등산객은 더 이상 올라갈 수도 내려갈 수도 없는 지점에서 갇히기도 한다. 조난 당한 사람을 구하기 위해 구조대가 투입되지만, 한 시가 급한 상황임에도 불구하고 구조대는 조난 위치를 추측하여 정찰하고 도보로 넓은 지역을 꼼꼼하게 살필 수 밖에 없었다. 그러나 이제는 드론을 이용하여 구조대의 안전을 지키면서 실종자를 더 빨리 찾을 수 있게 된 것이다.

AI 드론, 3D 작업 대신해드립니다

게다가 드론은 산에서 조난 당한 사람뿐만 아니라 강에서 조난 당한 사람을 구하는 데도 도움을 주고 있다. 현재 드론 조종사들은 아칸소 강에 빠진 사람을 찾기 위해 드론을 사용하여 수중 구조를 보조하는 훈련을 하고 있다. 기존에는 뗏목을 타고 강을 따라 내려가면서 시속 8마일에 바위나 기타 위험에 노출된 채 수색을 진행했다. 그러나 드론을 이용하면 훨씬 적은 위험으로 시속 25~30마일로 하류를 내려갈 수 있다.

샤피 카운티 구조대는 임무의 약 20%에 드론을 사용하고 있으며 수색대원들이 3D 작업(더럽고, 위험하고, 힘든 일)이라고 부르는 임무에 드론을 적극 사용하고 있다. 구조대가 실종자를 찾기 위해 늪지대를 헤매는 것과 같이 지저분한 일을 드론이 대신하는 것이다. 또한 드론에게 지루할 정도로 넓은 지역을 수색하는 힘든 일도 맡긴다. 드론은 가시성이 좋은 날에는 시간당 1평방 마일을 커버할 정도로 엄청난 성능을 가지고 있다.

공중 광학 분할 기술로 드론 카메라 단점 극복

요하네스 케플러 대학교의 컴퓨터 과학자인 올리버 빔버는 공중 광학 분할(Airborne optical sectioning)이라는 기술을 개발해 드론이 가진 단점을 극복했다. 드론은 카메라 렌즈가 작아 이미지를 식별하는 데 어려움을 겪었다. 그러나 이 기술을 이용하면 카메라에서 아무리 멀리 떨어져 있어도 모든 촬영물에 초점을 맞출 수 있다.

렌즈가 커서 얻는 이점은 특정 부분만 확대하고 나머지 이미지는 흐릿하게 만들 수 있다는 점이다. 예를 들어 숲이 우거진 지역에서 의도적으로 나무 꼭대기는 흐리게 처리하고 그 아래 땅에 초점을 맞춘다. 렌즈가 충분히 크면 나무 꼭대기는 사라지고 그 아래에는 길을 잃거나 다친 사람처럼 보이는 선명한 특징만 남게 된다.

빔버의 접근 방식은 더 큰 렌즈로 카메라를 시뮬레이션하여 초점 효과를 얻는 것이다. 개별 드론을 통해 순차적으로 이미지를 얻거나 군집 드론으로 동시에 촬영한 이미지를 얻는다. 이렇게 얻은 이미지를 일관된 사진으로 합성하면 선명한 사진을 얻을 수 있다. 지금까지 발표된 테스트는 단일 드론과 시뮬레이션 된 군집 드론을 대상으로 했으나, 곧 사이언스에 발표될 논문에서는 실제 군집 드론을 사용한 연구를 선보일 예정이다.

이상 감지로 구조 작업 시간 단축

빔버는 수집한 데이터로 신경망 모델을 이용해 사람 모양의 물체를 찾아내 추적한다고 밝혔다. 또한 최근에는 ‘이상 감지’에 힘을 쏟고 있다고 덧붙였다. 예를 들어 나무 아래에서 색상, 온도, 움직임과 관련하여 비정상적인 행동을 하는 물체를 발견하고 추적하는 작업을 수행한다. 그런 다음 구조대는 이상이 감지된 물체가 사람인지 아닌지 조사하여 수색 시간을 월등히 줄일 수 있다.

또한 드론이 숲속에 숨어 있는 사람들을 찾아내는 실험을 진행한 바 있다. 연구진은 드론 한 대를 사용하여 90% 이상 조난자를 발견했으며 길을 잃은 사람이 이동 중일 때 드론을 여러 대 띄워도 비슷한 결과를 얻었다.

수색구조의 중심은 여전히 사람이지만, 드론은 든든한 파트너 역할을 한다. 은퇴한 엔지니어인 빌 샘플은 드론이 어떤 역할을 하는지 알아내는 것에 보람을 느끼고 있다고 했다. 드론을 계속 공중에 띄우고 드론으로 사람을 찾는 것이 엔지니어가 할 수 있는 문제 해결 방법이라며 뿌듯함을 표했다. 드론이든 사람이든 조난 당한 사람을 먼저 발견하면, 그 사람은 똑같이 고마워할 것이다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

세계 주요 인사들, 자율 무기 통제에 강한 입장 밝혀
자율 무기 위험성은 인지하고 있으나, 제대로 된 합의 이루어지지 않아
자율 무기, 일단 개발되면 없었던 과거로 돌아갈 수 없어

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

사람의 개입없이 적을 판별하고 사살하는 무기를 떠올려보자. 자율 무기는 언제 공격할지, 어떤 표적을 적이라고 판단할지 등 모든 선택권이 기계에게 있다. 그러나 자율 무기는 프로그래밍된 기계에 불과하다. 만약 이 무기가 잘못된 결정을 내리면, 누구에게 책임을 물어야하나?

‘지금 당장’ 자율 무기에 합의해야

지난 4월 빈에서 자율 무기를 주제로 한 컨퍼런스가 열렸다. 컨퍼런스에서는 자율 무기의 책임은 누구에게 있으며 자율 무기가 허락된 미래는 어떻게 흘러갈지에 대해 심도 있는 논의가 이루어졌다.

오스트리아 연방총리인 알렉산더 샬렌베르크는 "지금이 우리 세대의 오펜하이머 순간"이라며 제2의 핵무기가 나오지 않도록 자율 무기에 관해 신중해야 한다는 입장을 밝혔다. 또한 전쟁에서 자율 무기에 전권을 부여하는 것을 막기 위해 국제법이 절실히 필요하다고 덧붙였다. 하지만 안타깝게도 법 제정이 제대로 이루어지지 않은 상황이다.

첫 번째 ‘오펜하이머 순간’ 이후 수십 년 동안 냉전이 지속됐고 핵전쟁이라는 공포에서 벗어나지 못했다. 오늘날에도 문명을 붕괴시키고 인류를 멸종시킬 수 있는 위협이 항상 도사리고 있다. 여기에 자율 무기까지 추가되면 위협은 배로 커진다. 어린아이의 체온을 군인의 체온으로 착각하거나 몇 분 만에 도심 광장을 대량 폭격할 수 있는 자율 기계가 존재하는 미래가 펼쳐질 것이다. 법을 제정해야 할 시기는 다음 주, 내년, 10년 후가 아니라 바로 ‘지금’이다.

인간의 통제에서 벗어나고자 하는 무기들

‘킬러 로봇’이라고 하면 터미네이터를 떠올리지만, 실제 킬러 로봇은 컴퓨터 프로그램으로 위장하여 훨씬 더 교묘하게 등장한다. 예를 들어 목표물을 배회하며 기다리다가 공격하는 자살 드론, 목표물을 쫓는 미사일, 대량 살상에 사용되는 군집 드론 등이 있다.

기존 무기는 사람이 언제 어디서 사용할지 결정하는 ‘인간의 통제’ 하에 존재했으나, 점차 무기 설계자들은 사람이 직접 빨간 버튼을 누르지 않고도 무기 스스로 결정을 내릴 수 있도록 훈련시키고 있다. 자율 무기에 제재를 가하는 것은 무기 개발을 지연시킨다는 주장이 있으나, 최소한 자율 무기 사용에 대한 규칙은 만들어져야 한다.

자율 무기는 더 이상 미래 문제가 아니며 우크라이나 전쟁에서 ‘완전 자율 드론’이 사용되었다는 보고가 있었다. 또한 이스라엘 방위군은 하마스 조직원을 추적하고 표적으로 삼기 위해 AI 기반 데이터베이스를 사용하고 있는 것으로 알려졌다.

세계 주요 인사들 "얼른 자율 무기 통제해야"

자율 무기는 이미 뜨거운 논쟁거리가 되었다. 자율 무기의 사용 방법, 윤리, 규제 여부 등을 주제로 한 회의가 지난 몇 년 사이에 기하급수적으로 증가했다. 자율 무기에 관심은 많아졌으나, 아직 제대로 된 합의가 이루어지지 않은 상황이다.

세계 주요 인사들은 자율 무기가 초래하는 위협을 인식하고 있다. 국제인권감시기구(HRW)는 자율 무기 사용이 “국제인권법에 부합하지 않는다”며 국제법 제정을 촉구하는 목소리를 냈다. 또한 킬러 로봇 반대 연합을 공동 설립하여 ‘자율 무기 반대’ 캠페인을 열어 자율 무기에 관해 강한 반대 입장을 표했다. 게다가 작년 10월에는 유엔 사무총장인 안토니우 구테흐스와 국제 적십자 위원회 총재인 미르자나 스폴자릭은 자율 무기에 대 구체적인 제한 방안을 마련해야 한다고 호소했다.

'자율 무기 합의'에 무관심한 강대국

이러한 노력과 강력한 성명에도 불구하고 법안 마련은 여전히 지지부진한 상태다. 그 이유는 자율 무기에 관심을 가져야 할 국가들이 관심을 보이지 않기 때문이다.

미국 국방부는 자율 무기의 위험성을 인식하고 있으나, 개발과 사용에 대한 명확한 규율을 제정하지 않은 채 뒤에서 조용히 군사 AI 및 자율 무기 기술에 투자하고 있다. 미국 국방부는 중국의 기술 발전에 발맞추기 위해 2023년 말 기준으로 최소 800개의 군사 AI 프로젝트를 진행 중이며 2026년까지 AI 기반 자율 군용 차량을 배치할 계획임을 밝혔다.

미국이 자율 무기 규율에 아예 손놓고 있었던 것은 아니다. 자율 무기에 관한 공개 지침을 발표했으나, 여기에는 허점이 많다는 지적을 받고 있다. 예를 들어 ‘적절한 수준의 인간 판단’과 같이 모호한 정의가 다수 포함되어 있었다. 또한 작년 미국 정부는 자율 무기에 대한 국제적 공감대를 형성하고 군사 AI에 관해 정치적 선언을 했다. 그러나 정작 AI 무기를 개발 중인 중국, 러시아, 이란, 인도 등은 이에 서명하지 않는 모습을 보였다.

자율 무기, 제2의 핵무기 되면 안 돼

오펜하이머는 원자폭탄을 만들면서 "이제 나는 세계의 파괴자, 죽음이 되었다"라는 말을 반복한 것으로 유명하다. 80년이 지난 지금도 핵무기는 여전히 남아 있고, 앞으로 핵무기가 없는 세상을 경험하지 못할 것이다. 우리는 자율 무기라는 또 다른 ‘세계의 파괴자’가 출현하는 상황을 목전에 두고 있다. 기계는 감정을 느낄 수도 인간을 알 수도 없어 진정한 ‘인간적’ 판단을 내릴 수 없다.

기술은 법률을 뛰어넘고 있으며 인류의 모든 것을 뛰어넘기 시작했다. 지금 이 순간 법과 조약을 통해 자율 무기를 통제하지 않으면, 치명적인 자율 무기와 터미네이터와 같은 살인 로봇의 위협으로부터 도망칠 수 없는 미래가 펼쳐질 것이다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.

디지털 트윈 기술을 활용한 과학적인 훈련 방식, 수영 선수들의 기량 향상에 기여
선수 개개인의 강점과 약점을 분석해 맞춤형 훈련을 제공하며 최적의 경기 전략 수립 도와
이번 파리 올림픽 수영 경기에서 미국 선수들의 기량 향상과 기록 경신에 기여할 것으로 기대돼

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

미국 올림픽 대표 선발전은 종목별 최정상급 선수 60~80명만이 참가하는 치열한 경쟁의 장이다. 이 중 단 두 명만이 올림픽 출전권을 얻을 수 있는 만큼, 0.01초의 기록 차이가 선수의 운명을 가르기도 한다. 이러한 상황에서 코치들은 어떤 방식으로 선수들을 지도하고 있을까?

과거에는 유명 선수들의 동작을 모방하는 방식으로 훈련했지만, 이제는 수학·물리학·첨단 기술이 접목된 과학적인 훈련 방식이 대세다. 선수 개개인의 신체적 특징과 장단점을 분석하고, 이를 토대로 맞춤형 훈련 프로그램을 설계하는 것이 핵심이다.

수영에 작용하는 힘

이번 파리 올림픽에서 미국 수영 국가대표 9명은 특별한 코치의 지도를 받는다. 바로 '디지털 트윈'이다. 2015년부터 켄 오노 교수가 이끄는 에모리대학교와 버지니아대학교 연구팀은 선수들의 움직임을 밀리초(1/1000초) 단위로 분석하는 디지털 트윈 기술을 개발해 왔다.

선수들은 손목·발목·등에 센서를 부착하고 훈련에 임했다. 이 센서는 일반적인 디지털 비디오(초당 24프레임)보다 20배 이상 빠른 속도(초당 512프레임)로 선수의 모든 동작을 기록할 수 있다. 회전, 물튀김, 당기기, 발차기 등 모든 움직임이 가속도에 미치는 영향을 정밀하게 분석하는 것이 가능하다. 최근에는 선수 손의 힘을 모든 방향에서 측정하는 첨단 센서까지 개발됐다. 이를 통해 과거에는 수면 위에서 관찰하는 것만으로는 알 수 없었던 세밀한 힘의 분포까지 파악할 수 있게 됐다.

연구팀은 미국 최고 수영 선수 100명 이상의 디지털 트윈 데이터베이스를 구축해 올림픽 기간에도 선수 개개인의 강점과 약점을 분석하고 맞춤형 훈련 프로그램을 제공할 예정이다. 이를 통해 기술적 결함을 신속하게 수정하고 경기력 향상을 극대화할 수 있을 것으로 기대된다. 또한 디지털 트윈 기술은 머리·다리 위치, 몸 회전 균형, 호흡 효율성 등 세부적인 기술 분석을 통해 특정 기술 변화가 기록 단축에 미치는 영향을 예측하고, 이를 바탕으로 선수에게 최적의 경기 전략까지 제시할 계획이다.

데이터 기반 개인 맞춤형 전략

2020년 11월 연구진은 한 대학 수영 선수의 디지털 트윈을 활용해 200m 평영 기록 단축 가능성을 발견한 바 있다. 당시 세계 선수권 대회 수준에는 미치지 못했지만, 디지털 트윈 분석 결과 선수의 신체 및 유산소 능력은 세계 선수권 대회 수준에 부합하는 것으로 나타났다. 특히 머리 위치 조정을 통해 '유선형 자세(streamline position)'를 개선하면 0.1~0.15초 기록 단축이 가능하며, 200m 경기에서는 총 0.4~0.6초 단축 효과를 기대할 수 있었다. 3년간의 훈련 끝에 해당 선수는 실제로 0.44초 기록을 단축해, 2023년 미국 신기록을 달성하는 성과를 이뤘다.

디지털 트윈은 경기 전략 수립에도 중요한 역할을 한다. 예를 들어 두 명의 엘리트 평영 선수의 '풀아웃' 동작을 디지털 트윈으로 분석한 결과, 선수별 강점과 약점을 파악해 맞춤형 전략 수립이 가능해졌다. 풀아웃은 턴 후 벽을 차고 나와 수면 아래에서 돌핀킥과 팔동작으로 추진력을 얻는 영법으로, 경기 초반 승부에 결정적인 영향을 미친다. 분석 결과, 주황색 선수는 감속 없이 부드럽게 유영하며 빠른 돌핀킥이 강점인 반면, 파란색 선수는 활공 시 속도는 줄지만 강력한 발차기가 강점으로 나타났다. 이에 따라 주황색 선수는 돌핀킥 시점을 늦춰 지속적인 추진력을 유지하는 전략을, 파란색 선수는 발차기 시점을 앞당겨 초기 속도를 확보하는 전략을 고려해 볼 수 있다.

또한 다양한 시뮬레이션을 통해 전략 변화가 실제 경기 결과에 미치는 영향을 예측함으로써, 추측이 아닌 과학적 데이터 분석을 기반으로 선수의 잠재력을 극대화하고 경기력 향상을 이끌어낼 수 있다. 예를 들어 100m 접영 경기에서 다이빙 후 돌핀킥을 추가하는 전략은 더 많은 산소 소비를 요구하지만 0.1초의 기록 단축 효과를 가져오는데, 코치진은 이러한 시뮬레이션 결과를 바탕으로 선수의 유산소 능력 향상을 위한 훈련 계획을 수립하고, 실제 경기에서 활용 가능한 맞춤형 전략으로 발전시킬 수 있다.

100년 만에 파리에서 열리는 올림픽이라는 역사적인 무대에서, 첨단 기술의 도움을 받아 훈련한 선수들이 펼치는 경기는 그 어느 때보다 치열하고 흥미진진할 것으로 예상된다. 선수들은 자신의 한계를 뛰어넘어 세계 신기록을 달성하고 메달을 획득하며, 스포츠 역사에 길이 남을 명장면을 만들어낼 것이다. 특히 파리 라 데팡스 아레나에서 펼쳐지는 수영 경기는 단순한 스포츠 경기가 아닌, 첨단 기술과 인간의 노력이 만들어내는 감동적인 드라마가 될 것으로 기대된다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.