AI 도입 확산 속 ‘사용량 극대화’ 전략 한계 부각
정보 과잉·AI 의존 심화에 검증 역량 약화 우려 확대 
실질 성과·판단 책임 중시하는 ‘밸류 맥싱’ 부상 

본 연구 기사는 유럽 경제 연구소 The Economy의 연구위원(Fellow)들이 작성한 The Economy Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술-경제-정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적인 의견이며, The Economy 또는 집필자의 소속 기관의 견해와 일치하지 않을 수 있습니다.

지난해 기준 기업의 88%가 최소 한 개 이상의 부서에서 인공지능(AI)을 업무에 활용하고 있다고 답했다. 그러나 AI 활용 확대가 곧바로 실질적 성과로 이어지는 것은 아니다. 프롬프트 입력과 토큰 소비가 늘어나더라도 결과물이 완성도 낮은 아이디어와 부정확한 판단에 그칠 경우, 생산성 개선 효과 역시 제한될 수밖에 없다. 이에 따라 AI 사용량 자체보다 실제 업무 성과와 품질 개선에 얼마나 기여하는지를 중시하는 ‘밸류 맥싱(Value-Maxxing·가치 극대화)’ 개념이 새로운 기준으로 부상하고 있다.

양적 투입 경쟁에 갇힌 토큰 맥싱

‘토큰 맥싱(token maxxing·토큰 최대화)’은 생성형 AI 사용량 자체를 늘리는 데 초점을 맞춘 초기 활용 전략이다. 프롬프트 입력과 결과물 생성을 최대한 확대해 AI 활용 범위를 빠르게 넓히는 방식으로 볼 수 있다. 2024년에는 기업 내부 관리 기준이 정비되기 전부터 지식 노동자의 75%가 개인적으로 AI를 업무에 사용한 것으로 조사됐다. 업무 처리 속도를 높이려는 현장 수요가 그만큼 강했던 셈이다.

하지만 AI 사용량 증가 자체가 목표가 될 수는 없다. 투입 규모와 실제 성과를 혼동할 가능성이 크기 때문이다. 이제 생성형 AI는 단순한 소프트웨어 활용 수준을 넘어 컴퓨팅 비용과 데이터 유출 위험, 결과 검증 인력까지 함께 투입되는 주요 운영 비용 항목으로 확대됐다. 이 과정에서 완성도 낮은 초안을 반복적으로 생성한 경우와 정교한 질문 하나로 핵심 결과를 도출한 경우가 비슷한 평가를 받게 되면 실제 성과보다 사용량 경쟁만 부추길 가능성이 커진다.

정보 과잉이 키우는 컨텍스트 맥싱 부작용

사용량 확대 중심 전략의 한계를 보완하기 위해 등장한 개념이 ‘컨텍스트 맥싱(Context-Maxxing·맥락 극대화)’이다. 단순히 입력량만 늘리는 데서 벗어나 배경 자료와 업무 목표, 세부 기준 등을 함께 제공해 AI 결과물의 정확도와 활용도를 높이는 접근으로 해석된다. 실제로 구체적인 사례와 데이터, 평가 기준이 함께 제시될 경우 AI 답변은 실무에 적용 가능한 수준까지 정교해질 수 있다.

그러나 맥락 정보 역시 많을수록 효과가 커지는 것은 아니다. 문제 정의가 불명확한 상태에서 대량의 자료와 데이터를 무분별하게 입력할 경우 핵심 논점이 흐려지거나 민감 정보 유출 위험이 커질 수 있다. 긴 프롬프트를 작성했다는 이유만으로 충분한 검토와 판단이 이뤄졌다고 받아들이는 사례도 적지 않다. 오히려 입력 정보가 과도하게 늘어날수록 실제로 필요한 핵심 정보의 밀도는 낮아질 가능성이 크다. 결국 검증 없이 맥락 정보만 반복적으로 추가하는 방식은 사용량 확대에 치우친 토큰 맥싱과 크게 다르지 않은 비효율이라는 비판도 나온다.

AI 의존 커질수록 약해지는 검증 역량

실제 현장 연구 결과를 보면 AI 활용 확대만으로 생산성과 품질 개선이 자동으로 뒤따르는 것은 아니라는 점이 확인된다. AI를 도입한 고객센터에서는 업무 처리 건수가 약 14% 증가했고, 특히 주니어 직원들의 업무 숙련 속도가 빨라지는 효과도 나타났다. 그러나 업무가 AI 학습 범위를 벗어나는 순간 한계 역시 분명하게 드러난다. 일부 연구에서는 AI를 활용한 직원들이 오히려 AI를 사용하지 않은 직원보다 정답을 도출할 가능성이 낮아진 사례도 보고됐다.

문제는 AI의 자연스럽고 매끄러운 답변 방식이 인간의 경계심까지 약화시킬 수 있다는 점이다. 지난해 발표된 한 실증 연구에서는 생성형 AI에 대한 신뢰 수준이 높을수록 인간의 비판적 사고 능력이 유의미하게 낮아지는 경향이 확인됐다. 반면 자신의 판단 과정을 반복적으로 검증한 집단은 오류를 걸러낼 가능성이 상대적으로 높았다. 이에 따라 AI가 사실과 다른 내용을 그럴듯하게 만들어내는 ‘환각(hallucination)’ 문제를 줄이기 위해서는 단순한 속도 경쟁보다 검증과 판단 절차를 유지하는 체계 구축이 중요 과제로 떠오르고 있다.

인간의 판단력 지키는 의도적 마찰 필요

이 같은 흐름 속에서 주목받는 개념이 ‘프릭션 맥싱(Friction-Maxxing·마찰 극대화)’이다. 속도와 효율이 경쟁력으로 강조되는 AI 시대에 다소 역행하는 접근처럼 보일 수 있지만, 모든 과정을 빠르게 처리하는 것이 항상 바람직한 결과로 이어지는 것은 아니다. 특히 위험 부담이 큰 의사결정일수록 인간의 검토와 판단이 개입되는 의도적 제동 장치가 필요하다는 목소리가 커지고 있다. AI를 활용하기 전 스스로 논리를 먼저 정리하는 기획자나 AI 결과물의 사실관계를 직접 교차 검증하는 연구자만이 기계가 놓친 오류와 허점을 발견할 수 있기 때문이다.

이 같은 마찰은 인간의 주체성과 판단 능력을 유지하기 위한 최소한의 안전장치로 평가된다. 문제를 정의하고 기준을 설정하며 최종 결과를 검토·선택하는 책임은 결국 인간이 맡아야 한다. 이러한 과정 없이 기계가 제시하는 속도와 효율만 좇을 경우 AI가 제공하는 생산성 향상이 오히려 잘못된 판단을 더 빠르게 확대하는 위험 요인으로 이어질 수 있다.

AI 규제 기준, 실질 성과 중심으로 재편

정부와 기업의 AI 운영 기준 역시 단순 허용과 전면 규제 사이의 이분법적 접근에서 벗어나야 한다는 의견이 확산되고 있다. 이를 위해 업무 과정 곳곳에 인간의 검토와 판단이 개입될 수 있는 ‘전략적 마찰 지점’을 설계하는 일이 핵심 과제로 꼽힌다. 기업 내부에서는 AI 결과물 가운데 어떤 내용을 수용했고 어떤 부분을 수정했는지 기록하도록 관리 체계를 구축해야 한다는 제언도 제기된다.

기술 공급 기업에 대한 요구 수준도 높아지는 추세다. 단순히 처리 속도와 편의성을 앞세우는 수준을 넘어 결과물이 어떤 과정을 거쳐 생성됐는지 확인할 수 있는 ‘감사 추적(Audit Trail)’ 기능 필요성이 커지고 있다. 이러한 장치들은 이용자에게 결과를 반복적으로 검토하고 비교·설명하도록 요구하면서 인간의 판단 책임을 유지하는 역할을 맡는다.

정책 방향 역시 사용량 중심에서 실질 가치 중심으로 이동하고 있다. 단순 데이터 요약처럼 속도가 중요한 저위험 업무는 자동화를 확대하되, 공공 메시지나 고위험 데이터 검증처럼 판단과 책임이 중요한 영역은 인간 감독과 단계적 도입 절차를 강화하는 방식이다. 도입 이후에도 실제 오류율 감소 여부와 업무 품질 개선 효과, 직원들의 고부가가치 업무 전환 여부 등 실질적 성과에 대한 지속적인 점검이 필요하다.

AI 도입이 빠르게 확산되면서 이제 기술 자체만으로 경쟁 우위를 확보하기는 어려워진 실정이다. 중요한 것은 AI가 만들어낸 결과를 얼마나 정확하게 검증하고 책임 있게 활용할 수 있느냐다. 앞으로 기업과 정부의 경쟁력은 AI에 투입한 비용과 자원이 실제 생산성 향상과 품질 개선으로 얼마나 이어졌는지를 입증할 수 있는지에 달려 있다. AI 활용을 통한 실질적인 가치 창출 능력이 향후 시장 경쟁력을 좌우할 가능성이 크다.

본 연구 기사의 원문은 Value-Maxxing: The AI Metric That Puts Judgment Back in Charge을 참고해 주시기 바랍니다. 본 기사의 저작권은 The Economy에 있습니다.