빅테크가 주목한 AI 에이전트, 현실은 인지 능력 떨어지고 결함 많은 '잡동사니'

차세대 성장동력 기대와 달리 기술 완성도 낮아
인지능력 떨어져 해결하려면 최소 10년 필요
조직 내 저항, 보안·책임 문제로 실무 활용 제한

빅테크 기업들이 인공지능(AI) 에이전트를 차세대 성장 동력으로 내세우고 있지만, 정작 기술 완성도는 기대에 미치지 못한다는 평가가 나왔다. AI 에이전트는 함께 일하는 인턴과 같은 역할을 수행해야 하지만, 인지적 결함이 크고 제대로 작동하지 못해 문제 해결에는 최소 10년이 필요하다는 진단이다. 여기에 AI 도입에 대한 조직 내 정서적 저항과 의사결정 책임 논란, 보안 우려까지 겹치면서 실무 활용에도 제약이 크다는 지적이 제기된다.

"AI 에이전트는 잡동사니에 불과"

23일(현지시각) IT업계에 따르면 안드레이 카르파시 유레카랩스 최고경영자(CEO)는 전날 미국 팟캐스트 드와르케시(Dwarkesh)에 출연해 “AI 에이전트는 인지적으로 결함이 많고 제대로 작동하지 않는다”며 “이 문제를 해결하려면 앞으로 10년은 걸릴 것”이라고 지적했다. 카르파시 CEO는 오픈AI의 공동 창업자이자로 2015년 설립 당시 딥러닝 및 컴퓨터 비전 모델의 토대를 마련했다. 2017년부터는 테슬라로 자리를 옮겨 자율주행 시스템 신경망 개발을 총괄하는 등 AI 코딩 분야 최고 전문가로 평가받는다.

카르파시 CEO는 이날 인터뷰에서 "산업계가 너무 큰 도약을 시도하며 마치 대단한 진보가 있는 것처럼 과장하고 있지만, 현실은 그렇지 않다"며 "지금의 결과물은 AI 슬롭(잡동사니)에 불과하다"고 꼬집었다. 이어 그는 AI 에이전트를 '함께 일할 수 있는 직원이나 인턴' 등으로 정의하면서 현재 클로드·코덱스 등이 선보인 AI 에이전트들은 기대하는 수준에 도달하지 못했다고 언급했다. 그러면서 "지속적 학습 기능도 없어서 뭔가를 알려줘도 기억하지 못한다"며 "인지 능력이 부족해 제대로 작동하지 않는다"고 진단했다.​

그는 오픈AI 재직 시절 GUI(Graphical User Interface) 에이전트 프로젝트인 유니버스의 실패 경험을 예시로 들며 AI 에이전트 개발의 어려움을 강조했다. 유니버스는 AI 에이전트가 가상 환경 내에서 다양한 작업을 수행하고 학습하도록 만든 플랫폼으로 2016년 출시됐지만, 실시간 작동의 불안정성과 화면 인식 한계로 실패했다. 인간 수준의 지능을 갖춘 범용 AI(AGI)에 대해서는 "일론 머스크 테슬라 CEO가 그록5가 AGI에 도달할 가능성을 10%라고 했지만, 실제 AGI가 등장하려면 10년은 걸릴 것"이라고 평가했다.

기존 챗봇, RPA를 포장만 바꾼 수준

이날 카르파시 CEO의 발언은 최근 빅테크들이 앞다퉈 에이전틱 AI를 차세대 성장동력으로 내세우는 흐름과 대비된다. 마이크로소프트(MS)는 오는 2028년까지 기업들이 13억 개의 AI 에이전트를 보유할 것으로 전망했고, 세일즈포스도 자사 CRM(Customer Relationship Management) 플랫폼에 ‘에이전트포스’를 탑재하며 “모든 산업이 에이전트 중심으로 재편될 것”이라고 예상했다. 이외에도 샘 올트먼 오픈AI CEO, 마크 저커버그 메타 CEO 등은 짧게는 3년, 길게는 7년 내에 AGI 시대가 올 것이란 전망을 내놨다.

하지만 AI 에이전트 모델에 대한 반응은 기대에 못 미치고 있다. 시장조사업체 가트너는 올해 6월 발표한 보고서에서 “AI 에이전트 제품 상당수가 기존 챗봇이나 로봇 프로세스 자동화(RPA) 툴을 포장만 바꿔 낸 수준”이라며 “이른바 ‘에이전트 워싱’ 현상이 심각하다”고 지적했다. 이어 “오는 2027년까지 전체 에이전틱 AI 프로젝트의 40%가 취소되고, 2028년까지 기업 의사결정의 15%만이 인간의 개입 없이 AI 에이전트에 의해 수행될 것"이라며 "이는 투자수익률이 낮고 실제 현장 활용도가 떨어지기 때문”이라고 분석했다.

AI 에이전트가 실무 현장에서 제대로 활용되지 못하는 이유는 단순히 기술력의 한계 때문만은 아니다. 최근에는 조직 내 정서적 저항이 주요 제약 요인으로 지목된다. 많은 직원이 AI를 생산성 향상을 돕는 도구로 보기보다 일자리를 위협하는 존재로 받아들이기 때문이다. 특히 간단한 조사 분석이나 단순 반복 업무를 맡은 직원은 AI 도입에 적대적인 경향이 있어 AI 에이전트 사용을 꺼리거나 비공식적으로 거부하는 사례가 적지 않다. 실제 금융권에서도 AI 에이전트 도입 초기 애널리스트들이 강하게 반발한 사례가 보고된 바 있다.

의사결정의 책임 문제와 보안 리스크 역시 실무 적용을 가로막는 요인이다. AI 에이전트가 스스로 결정을 내리고 업무를 실행하는 과정에서 오류나 손실이 발생할 경우, 책임 소재를 명확히 규정하기 어렵다. 특히 의료, 금융 등 고위험 산업에서는 법적·윤리적 책임이 불분명하면 도입 자체가 불가능하다. 여기에 AI 에이전트가 민감한 정보에 광범위하게 접근할 수 있는 권한을 갖게 된다는 점에서 보안에 대한 우려도 크다. AI 에이전트가 내부 기밀정보를 노출하거나 예기치 않은 명령을 실행시켜 보안 사고를 일으킬 수 있기 때문이다.

AI 투자 과열, 금융 위기 초래할 수도

AI 에이전트에 대한 과도한 기대는 AI 투자 과열로 이어진다는 점에서 금융권과 경제 전반에 위험 요인으로 꼽힌다. 영국 중앙은행 산하 금융감독청의 샘 우즈 부총재는 “AI 버블 위험을 포함해 우려할 사안이 많다”며 “통제되지 않은 신기술이 금융 시스템 불안으로 이어질 수 있다”고 경고했고, 제임스 에겔호프 BNP파리바 수석 이코노미스트는 “AI 붐이 식을 경우 소비 둔화와 경기 위축으로 이어질 수 있다”고 우려했다.

올트먼 CEO도 IT 전문 매체 더 버지와의 인터뷰에서 "현재 AI 버블 속에 있다"며 "투자자들이 AI 기술에 지나치게 흥분한 상태"라고 진단했다. 이어 그는 "AI 자체는 과거 인터넷 혁명과 같이 장기적으로 매우 중요한 기술"이라면서도 "1990년대 닷컴 버블 당시처럼 기술 기반이 충분하지 않은 스타트업의 경우 과도한 고평가로 리스크를 안고 있어 버블이 확대되면 심각한 손실을 입을 수 있다고" 경고했다.

일각에서는 AI 거품 우려가 과도하다는 반론도 있다. 스티븐 젠 유리존 SLJ자산운용 CEO는 로이터통신 기고에서 “AI 버블은 아직 베이스캠프 수준에 불과하다”며 “닷컴 버블 당시 기술주의 평균 PER(주가수익비율)이 276배였던 것과 비교하면 현재는 상대적으로 안정적”이라고 평가했다. 그러면서 “현재의 빅테크 기업들은 수익 기반이 탄탄하고 현금 흐름도 충분해 과거와 같은 급격한 붕괴 가능성은 낮다”고 전망했다.