AI에 돈 쏟아붓고도 성과는 5%, 기업 AX 덮친 ‘DX 실패 공식’

업무 재설계 없이 AI 솔루션 도입부터 서두른 기업들
기존 보고·결재 체계와 새 시스템의 충돌로 현장 혼선 확대
막대한 투자에도 수익 개선은커녕 품질·효율 동반 악화

인공지능(AI)을 도입하는 기업이 급증하고 있지만 이를 매출과 비용 개선으로 연결한 곳은 극소수에 그친 것으로 나타났다. 업무 흐름과 보고·결재·평가 체계는 그대로 둔 채 솔루션부터 얹으면서, 자동화가 오히려 서비스 품질 저하와 현장 업무 가중으로 돌아오는 사례도 속출하는 모습이다. 국내에서는 정부 지원금에 맞춘 공급자 중심의 구축 방식까지 확산해 기업별 맞춤 설계와 사후 관리가 밀려나고 있다. 5년 전 디지털 전환(Digital Transformation·DX) 열풍 당시 시스템 개통을 성과로 포장하고 실질적인 활용과 수익성을 놓쳤던 실패 공식이 AX 시대에 되풀이될 수 있다는 경고가 나온다.

‘도입’에 그친 기업 AI

20일(현지시간) 보스턴컨설팅그룹(BCG)이 세계 1,250개 기업의 고위 경영진과 AI 의사결정권자를 조사한 ‘커지는 AI 성과 격차(The Widening AI Value Gap)’ 보고서에 따르면, AI를 전사적으로 활용해 상당한 가치를 만들어내는 ‘퓨처 빌트(Future-built)’ 기업은 전체의 5%에 그쳤다. 상당한 투자를 집행하고도 매출과 비용에서 실질적인 성과를 거두지 못한 기업은 60%였다. 나머지 35%는 일부 수익을 확보하며 확장 단계에 진입했으나, 상당수 경영진이 속도와 범위에 한계가 있다고 답했다.

맥킨지가 101개국 1,491명을 대상으로 실시한 조사에서도 응답자의 4분의 3 이상이 소속 조직에서 AI를 업무에 사용하고 있다고 답했지만, 80% 이상은 AI가 기업 전체의 영업이익에 가시적인 영향을 주지 못했다고 밝혔다. 맥킨지가 검토한 25개 항목 중 영업이익 기여도와 연관성이 가장 큰 요인은 업무 흐름 재설계였으나, 실제로 일부 업무를 근본적으로 개편했다는 응답은 21%에 그쳤다. AI의 핵심성과지표를 추적하는 조직도 5곳 중 1곳에 못 미쳤다.

표1. 클라르나와 스타벅스의 AI 도입 성과 및 한계

AI 도입 서두르다 혼란만 키워

AI 활용이 수익 개선으로 이어지지 못하는 배경에는 업무 체계 개편을 미룬 채 솔루션 도입부터 서두르는 기업들의 AX(AI Transformation·AI 전환) 추진 방식이 자리하고 있다. 대표적인 사례가 스웨덴 핀테크 기업 클라르나다. 클라르나는 2024년 2월 AI 상담원이 도입 한 달 만에 고객 문의 230만 건을 처리하며 전체 채팅의 3분의 2를 맡았고, 상담원 700명분의 업무를 수행했다고 발표했다. 평균 처리 시간도 11분에서 2분으로 줄었다며 비용 절감 효과를 전면에 내세웠다. 그러나 이듬해 세바스티안 시에미앗코프스키 최고경영자(CEO)는 비용을 지나치게 중시한 결과 서비스 품질이 낮아졌다고 인정했다. 업무 체계와 품질 관리 방식을 충분히 손보지 않은 채 자동화를 밀어붙인 결과다.

클라르나가 고객 응대에서 품질 저하를 겪었다면, 스타벅스는 매장 운영에서 같은 시행착오를 되풀이했다. 스타벅스는 지난해 9월 북미 매장에 우유와 시럽 등의 재고를 자동 집계하는 AI 시스템 ‘오토메이티드 카운팅’을 일제히 배치했지만, 도입 9개월 만인 올해 5월 운영을 접었다. 품절을 줄이고 바리스타의 수작업을 덜겠다는 구상이었으나, 시스템이 비슷한 우유 제품을 혼동하거나 진열된 상품을 누락하는 오류가 잇따랐다. 이에 스타벅스는 매장별 재고 집계 절차를 통일하겠다며 수작업 체계로 되돌아갔다. 노후 전산망과 분절된 공급망을 그대로 둔 채 AI를 전 매장에 배치하면서, 현장의 업무 부담만 키운 셈이다.

정부 지원에 기댄 AX, 현장 맞춤 설계는 뒷전

업무 체계 개편 없이 AI 솔루션을 도입하는 사례가 잇따르는 가운데, 국내에서는 AX를 정부 지원금에 기대 추진하려는 경향이 짙어지고 있다. 대한상공회의소와 산업연구원이 지난해 국내 기업 500곳의 IT·전략기획 담당자를 조사한 결과, AI를 활용하지 않는 이유로 기술·IT 인프라 부족(34.6%)과 비용 부담(23.1%)이 가장 많이 거론됐다. 정부에 바라는 정책으로는 투자·연구개발(R&D) 지원이 51.4%로 가장 많았고, AI 인프라 구축이 25%로 뒤를 이었다. 기업들이 AX를 검토할 때 정부 지원을 주요 재원으로 고려하고 있다는 의미다.

최근 지원 사업의 경쟁률도 이러한 수요를 뒷받침한다. 중소벤처기업부가 지난 18일 발표한 ‘2026 중소기업 스마트 서비스 사업’에는 545개사가 신청해 175개사가 선정됐다. 신규 솔루션 개발 기업 150곳에는 5,000만원씩, 기존 서비스 고도화 기업 25곳에는 최대 1억원이 지원된다. 제조업에서도 중소기업중앙회가 지난 5월 공고한 '포스코 AI트랙 스마트공장 사업'은 구축비를 정부 50%, 포스코 30%, 도입기업 20%로 분담하도록 짜였다. 초기 투자 부담이 큰 기업에 있어 정부 자금은 AX 진입 장벽을 낮추는 현실적인 수단이다.

하지만 정부 지원 중심의 AX에서는 투자 판단과 사용 책임이 갈라지기 쉽다. 실제로 지난해 한국콘텐츠학회논문지에 실린 연구도 지원 내용이 기업 사정에 맞는지, 공급업체가 현장을 제대로 이해하는지, 구축 이후 관리가 이어지는지가 시스템 활용도를 좌우한다고 분석했다. 기업마다 공정 순서와 결재 체계, 데이터 처리 방식이 제각각이어서다. 서버와 센서에는 공통 사양을 적용할 수 있어도, 업무용 소프트웨어는 회사 실정에 맞춰 다시 설계해야 한다. 그런데 사업 일정과 검수 기준을 맞추는 데 급급하면 공급업체가 이미 만든 솔루션을 일부 손봐 적용하는 쪽으로 기울기 쉽다. 이렇게 구축된 시스템은 기존 업무에 제대로 녹아들지 못하고, 직원들은 종전 방식과 새 프로그램을 함께 써야 한다.

5년 전 DX 실패 답습

이 같은 부작용은 약 5년 전 기업을 휩쓴 DX 열풍 때도 나타났다. 당시 기업들은 전사적자원관리(ERP)와 고객관계관리(CRM), 모바일 업무 시스템을 잇달아 도입했으나 기존 보고 절차와 결재 방식은 거의 손대지 않았다. 시스템 개통 자체가 경영진의 성과로 포장되면서 실제 사용률과 수익 기여도는 후순위로 밀렸다. 새 프로그램이 기존 업무 위에 덧붙여진 별도 절차로 굳어진 배경이다.

최근 현대캐피탈의 디지털 플랫폼을 둘러싼 평가도 당시 실패 공식을 그대로 보여준다. 현대캐피탈은 AI 기반 심사 시스템과 자체 애플리케이션 고도화에 상당한 자금을 투입했지만, 플랫폼은 현대차·기아 구매 고객을 위한 할부금융 조회·신청 채널에 머물렀다는 평가를 받았다. 고객을 끌어들일 독자 서비스와 수익 모델이 뒷받침되지 않으면서 IT 투자가 영업 경쟁력으로 연결되지 못한 것이다. DX 투자와 사업 성과 사이의 괴리는 지금도 이어지고 있다.

해외 상황도 다르지 않다. 베트남에서는 각종 DX 지원을 받아 프로그램을 설치한 기업들이 내부 시스템 간 연동에 실패하면서 업무 혼선을 겪었다. 영업과 회계, 재고 관리 시스템이 따로 움직였고 부서마다 데이터 입력 기준도 달랐다. 직원들은 같은 내용을 여러 프로그램에 반복해서 입력해야 했으며, 시스템 유지 비용까지 추가로 떠안았다.

독일 할인마트 리들의 ERP 교체 사업도 기존 업무 방식과 새 시스템의 충돌을 겪었다. 리들은 2011년 독일 기업용 소프트웨어 업체 SAP 기반 ERP 시스템 구축에 착수했지만, 재고 가치를 매입가로 계산하던 자사 관행과 판매가를 기준으로 삼는 SAP의 표준 방식이 맞지 않았다. 리들은 업무 절차를 바꾸는 대신 시스템을 대폭 수정하는 길을 택했고, 그 과정에서 사업 범위와 비용이 눈덩이처럼 불어났다. 결국 7년간 5억 유로(약 8,080억원)를 투입한 뒤 2018년 사업을 접고 종전 시스템으로 돌아갔다. 회사의 일하는 방식은 그대로 둔 채 새 소프트웨어를 끼워 맞추려다 막대한 비용만 치른 것이다.

DX 실패 부른 ‘경영진-현장 괴리’, AX서 되풀이되나

이 같은 시행착오는 당시 DX 사업 전반에서 광범위하게 확인됐다. BCG가 2020년 895건의 DX 사례를 분석한 결과, 목표한 가치를 달성하고 지속적인 변화까지 이끌어낸 사례는 30%에 불과했다. 44%는 일부 성과를 냈지만 당초 목표에 미치지 못했고, 26%는 창출한 가치가 목표치의 절반에도 닿지 않았다. BCG는 기술 자체보다 조직과 운영 모델, 업무 절차, 기업 문화가 성패를 좌우했다고 진단했다. 시스템을 새로 들이고도 회사가 일하는 방식은 그대로 둔 기업들이 기대했던 성과를 거두지 못한 이유다.

이듬해 나온 맥킨지 조사 결과도 맥락이 비슷하다. 최근 5년간 기업의 전환 작업에 참여한 1,034명 가운데 조직의 성과를 개선하고 이를 장기간 유지했다고 답한 비율은 3분의 1에 못 미쳤다. 성공했다고 평가받은 기업조차 기대할 수 있었던 재무적 가치의 평균 67%만 확보했다. 특히 전체 가치 손실의 20%는 시스템 구축을 마친 뒤 발생한 것으로 조사됐다. 새 제도를 개통하고도 이를 경영회의와 사업계획, 인사평가 등 일상적인 운영 체계에 정착시키지 못하면서 투자 효과가 빠져나간 것이다.

그 간극의 중심에는 경영진이 있었다. 같은 맥킨지 조사에서 고위직은 다른 직급보다 ‘전환 목표가 직원들의 실제 업무에 맞게 구체화됐다’고 믿는 비율이 20% 가까이 높았다. 윗선은 방향을 충분히 제시했다고 여겼지만, 현장에서는 무엇을 어떻게 바꿔야 하는지조차 알지 못했던 셈이다. 임원이 여전히 대면 보고를 요구하고 기존 양식으로 결재하며 과거 지표로 인사평가를 한다면, 직원이 자기 판단으로 업무 순서를 바꿀 유인은 생기기 어렵다. 승인받지 못한 시도가 실패했을 때 책임은 직원 몫으로 돌아오기 때문이다. 이런 책임 구조는 AX에서도 되풀이될 가능성이 크다.