AGI에 대한 명확한 정의가 없는 가운데 언론에 더 자주 등장해
AI 회사들, AGI에 대해 각자 다른 방식으로 접근하고 있어
AGI를 정의하는 것은 어려운 도전이지만, AI를 이해하기 위해 중요한 시도로 평가받고 있어

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.

AI를 연구하는 많은 회사와 연구진의 궁극적인 목표는 기계가 ‘AGI’를 갖는 것이다. AGI는 Artificial General Intelligence의 약자로 인간이 할 수 있는 모든 업무를 기계가 성공적으로 해낼 수 있는 지적 수준을 말한다. 하지만 기계가 어느 수준의 일까지 해냈을 때 AGI를 이루어 냈다는 데는 의견이 분분한 상태다. 그럼에도 전문가들은 AGI를 정의하기 위한 시도는 AI의 정체를 알아내는 데 중요한 접근이라고 강조했다.

명확한 정의 없는 AGI '마케팅 슬로건'인가

1970년 컴퓨터 과학자인 마빈 민스키는 “곧 기계가 셰익스피어를 읽고 자동차에 기름을 바르며 사람과 농담할 것”이라며 머지않아 AGI를 이룬 기계가 나타날 것으로 예측했다. 또한 애플의 공동 창업자인 스티브 워즈니악은 기계가 낯선 사람의 집에 들어가 커피를 내릴 수 있을 때 AGI가 실현된 것이라며 ‘커피 테스트’를 제안했다.

이처럼 AGI가 무엇인지에 대해 모두가 동의하는 정의는 없으며 AGI 달성 여부에 대해서도 의견이 나뉜다. 컴퓨터, 과학, 정책 등 여러 전문가 사이에서도 AGI에 대해 각기 달리 이해하고 있다. AGI에 대해 합의가 이루어지지 않으면 AGI의 이점과 위험과 대한 ‘생산적인’ 토론이 이루어지기 어렵다는 지적이 나온다.

AGI에 대한 명확한 정의가 없는 와중에 AGI는 인터넷과 논문에서 점점 더 자주 등장하고 있다. 마이크로소프트 연구원들은 GPT-4가 ‘AGI의 불꽃’을 보여줬다며 AGI를 언급했고 지난 5월에는 오픈AI가 차세대 머신러닝 모델을 훈련하여 ‘AGI로 가는 길’을 걷고 있다고 했다.

AGI에 접근하는 각자 다른 방식

오픈AI는 AGI를 “가장 경제적으로 가치 있는 작업에서 인간을 능가하는 자율적인 시스템”으로 정의했다. 또한 오픈AI의 설립자인 샘 알트먼은 AGI에 대해 보다 개방적인 미래를 그리고 있다고 밝혔다. 최근 인터뷰에서 샘 알트먼은 “AGI는 한순간에 완성되는 일이라고 생각하지 않는다”며 모든 사람이 AGI를 이루었다고 동의하는 달이나 연도는 없고 자연스럽게 AGI가 이루어질 것이라고 주장했다.

한편 구글 딥마인드는 AGI를 모호하게 정의하는 것 대신 구체적인 내용을 세분화했다. 2023년에 딥마인드 연구원들이 발표한 논문에서 컴퓨터 지능을 6단계로 분류할 수 있는 기준을 제시했다. ‘AI 기능이 전혀 없는’ 시스템부터 ‘신흥’, ‘유능한’, ‘전문가’, ‘거장’, ‘초인적’으로 AGI를 6단계로 분류했다.

더 나아가 작업별로 특화된 기계와 일반적인 작업을 수행하는 기계로 구분했다. 논문의 수석 저자인 메러디스 링켈 모리스는 “AGI는 논란의 여지가 많은 개념”이라며 AGI에 대해 세부적으로 나누는 작업이 매우 실용적이고 경험적인 접근방식이라고 주장했다.

딥마인드가 제안한 방식에 따르면 챗GPT와 제미나이(Gemini)를 포함한 소수 대형언어모델은 새로운 기술 학습과 같은 메타인지 작업에서 인간과 동등하거나 다소 우수하므로 ‘신흥 AGI’로 인정받을 수 있다. 하지만 이토록 까다롭게 구성된 자격 조건에서조차도 여러 한계점을 가지고 있다.

AI 시스템 능력을 평가하기 위해 어떤 작업을 사용해야 하는지, 한 분야에 특화된 기계와 일반적인 기계를 어떻게 구분할 것인지 등에 대해 명시하지 않았다. 모리스는 기계와 인간의 기술을 올바르게 비교하는 작업은 ‘활발한 연구 분야’라며 AI를 평가하는 일을 강조했다.

'인간 지능' 정의하기도 어려워, AGI 정의하는 것은 더 큰 도전

AGI에 대해 각자 다른 정의를 갖고 있지만, 모두 정의가 광범위하고 불명확해 보인다. 가장 단순한 정의 인간의 지능과 동등하거나 능가하는 지적 수준이다. 하지만 ‘지능’ 자체를 정의하거나 정량화하기도 매우 어렵다. 위스콘신 매디슨 대학교의 인지 신경과학자이자 심리학 교수인 게리 루피안은 ‘일반 지능’은 훨씬 정의하기 까다롭다는 의견을 냈다. 루피안은 AI 연구자들이 인간 지능과 기계 지능을 측정하는 방법에 대해 이야기할 때 종종 ‘과신’하는 경우가 많다고 했다.

인지 과학자들은 한 세기가 넘도록 인간 지능의 근본적인 구성 요소를 파악하기 위해 노력해 왔다. 일반적으로 한 가지 인지 문제를 잘 해결하는 사람은 다른 문제에서도 잘 해내는 경향이 있다. 이를 ‘g 인자’라고 부르는 아직 밝혀지지 않은 일부 요인 때문이라고 한다. 그러나 루피안은 일반적인 지능을 정량화하는 데 사용되는 IQ 테스트 및 기타 테스트는 현재 상태를 보여주는 ‘스냅샷’에 불과할 뿐이라고 주장한다.

시간이 지남에 따라 변하는 ‘지능 기준’

루피안은 컴퓨터 프로그래밍 기초를 배우는 초등학생과 미적분 수업을 통과한 고등학생은 “몇 백 년 전만 해도 일반 사람들의 영역을 훌쩍 뛰어넘는 일”이며 그렇다고 해서 오늘날의 아이들이 과거의 성인보다 더 똑똑하다는 의미는 아니라는 점을 짚었다. 그저 인간이 지식을 축적하고 학습 우선순위를 식량 확보에서 계산 능력으로 옮겨갔다며 지능은 시간이 지남에 따라 변한다는 점을 언급했다.

캘리포니아 버클리 대학교의 심리학 교수인 앨리슨 고프닉은 “인공 지능이든 자연 지능이든 ‘일반 지능’이라는 것은 존재하지 않는다”며 일반 지능의 존재를 부정했다. 고프닉은 다양한 상황에서 다양한 종류의 인지 능력이 필요하며 한 가지 유형의 지능으로 모든 것을 해결할 수 없다고 지적했다. 서로 다른 인지 능력은 서로 연결되어 있다는 점을 덧붙였다. 고프닉은 AGI는 “좋은 마케팅 슬로건”에 지나지 않는다며 AGI에 대해 조롱을 보냈다.

AGI를 정의하는 것은 AI를 이해하는 데 중요해

그러나 일부 과학자들은 “AGI란 무엇인가”에 답하고 적절한 평가를 하는 것은 여전히 중요한 작업이라고 강조했다. 물론 현재 AGI를 평가하는 방식이 부족할 수 있다는 점을 인정한다. SAT, 변호사 시험 등 인간을 대상으로 한 표준화 시험과 같이 대중화된 AI 벤치마크는 AGI를 구분하는 데 효과적이지 못하다. 산타페 연구소의 교수이자 컴퓨터 과학자인 멜라니 미첼은 기계가 인간과 비슷한 점수를 받았다고 해서 인간이 할 수 있는 일을 할 수 있다는 것은 아니라는 점을 지적했다.

여러 나라에서 AI를 규제하기 위해 AGI를 언급하고 있다. 미첼은 AGI 정의에 따라 정책 운용 방식이 달라질 수 있다며 AGI 정의에 대한 중요성을 강조했다. 템플 대학교의 컴퓨터 과학자 페이 왕도는 모두가 인정하는 AGI의 정의를 만드는 것은 불가능하다고 주장했다. 그러나 AI 시스템이 새로운 법안의 적용을 받는지부터 해당 시스템의 책임이 누구에게 있는지까지 AGI의 정의에 따라 이 모든 것이 달라질 것이라며 AGI를 잘 정의하는 게 중요하다고 언급했다.

이름을 어떻게 짓느냐에 따라 AI 미래 바뀔 수 있어

대형언어모델의 급성장에서 얻을 수 있는 중요한 교훈은 ‘언어’가 매우 강력하다는 점이다. 충분한 텍스트 데이터만 있으면 인간에게 필적하는 지능을 가진 기계를 만들 수 있다. 또한 미첼은 단어에 따라 기계는 다른 모습을 보여줄 것이라며 ‘단어’ 정의의 중요성을 강조했다.

AI 연구가 시작되던 1956년 다트머스 대학의 워크숍에서 과학자들은 자신의 연구를 무엇이라고 부를 지에 관해 토론을 벌였다. 어떤 사람은 ‘인공지능’을 옹호한 반면, 다른 이는 ‘복잡한 정보 처리’를 주장했다. 아마도 AGI를 ‘고급 복합 정보 처리’와 같은 이름을 붙였다면 우리는 기계를 의인화하거나 AI 종말을 두려워하지 않았을 것이며 그에 대한 위험성을 제대로 인지하지 못했을 것이다.

이처럼 AGI를 정의하는 것은 매우 어려운 작업이며 모든 사람이 인정하는 AGI 정의를 만들어내는 일은 사실상 불가능에 가깝다. 그럼에도 불구하고 AGI를 정의하기 위해 여러 벤치마크를 만들고 그 벤치마크가 AGI에 부합하는지 확인하는 일은 AI의 본질을 파악하는 데 중요한 일이 될 것이다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.