사고력 보호 기능 핵심 이슈로 부상
AI 활용, 과제·탐색·정리 전반 확산
대화형 사용자 vs. 위임형 사용자

인공지능(AI)이 주어진 문제에 답을 찾는 기능에서 벗어나, 인간의 사고 과정을 유지하고 적극 개입하는 방향으로 진화하고 있다. 최근 등장한 인지 보호 기반 시스템은 사용자의 이해 수준과 참여 상태를 분석해 개입 강도를 조절하며, 과도한 의존을 줄이는 데 초점을 맞춰 눈길을 끈다. 이러한 흐름은 AI 활용이 단순 검색을 넘어 실제 업무와 학습 과정까지 확대된 상황에서 등장했다. 교육 현장에서는 이미 학습 과정 변화가 시작된 가운데, 사용자 간 AI 활용 수준 차이가 실제 업무 수행 결과의 차이로 연결되는 모습도 확인된다.

‘업무 위임 중심 AI 전환’ 강조

23일(이하 현지시각) 테크업계에 따르면 미국 델라웨어주에 본사를 둔 AI 인지 보호 기술 기업 테티AI는 최근 오픈소스 인지 보호 시스템 ‘루시드(Lucid)’를 공개하고, 이를 자사 AI 비서 테티(Teti)에 통합했다. 30건 이상의 연구를 기반으로 개발된 해당 시스템은 사용자와 AI 간 상호작용에서 발생하는 ‘인지 의존’ 문제를 완화하는 것을 목표로 한다. 기존 AI가 단순히 답변을 제공하는 구조였다면, 루시드는 사용자의 사고 과정을 유지하고 강화하는 방향으로 AI 동작을 제어한다는 점에서 차별화된다는 설명이다. 

또한 루시드는 건전한 위임과 문제 있는 위임을 구분해 문서 정리나 번역과 같은 반복 작업은 허용하면서도 추론과 의사결정은 사용자의 직접 참여를 유도하는 방식으로 설계됐다. 연령에 따라 보호 정책도 달라지며, 25세 미만 사용자에게는 세션 시간을 45분에서 30분으로 제한하고 메시지 수도 30개에서 20개로 축소하는 등 보다 강한 개입이 적용된다. 이처럼 결과를 대신 만들어내는 도구가 아니라 ‘사고 과정 자체를 관리하는’ 루시드의 기능은 AI 비서의 역할이 출력 중심에서 인지 개입 중심으로 이동하고 있음을 시사한다.

이러한 변화의 배경에는 AI 활용 방식의 근본적 전환이 자리한다. AI가 문서 생성을 비롯해 코드 작성, 의사결정 보조까지 영역을 넓히면서 사용자는 단순 검색은 물론 일정 수준 추상화된 업무 단위마저 AI에 맡기기 시작했다. 이 흐름에서 시스템 내부를 이해하거나 점검하는 능력은 점차 약화했고, 심지어 소프트웨어 개발 영역에서도 코드의 동작 원리를 이해하지 못한 채 결과만 사용하는 사례가 증가했다. AI가 실행을 담당하고, 인간은 그 결과만 확인하는 패턴이 자리 잡으면서 사고 과정은 생략되는 경우가 빈번하다는 지적이다. 

매사추세츠공과대(MIT) 미디어랩은 이를 ‘인지 부채(cognitive debt)’로 규정하며 “AI에 인지 작업을 반복적으로 위임할수록 비판적 사고 능력이 저하되는 경향이 나타난다”고 분석했다. 이어 “추론과 판단을 AI에 일임하는 환경에서는 인간의 사고 훈련이 축소될 수밖에 없다”고 부연했다. AI 기반 보안 플랫폼 아이키도(Aikido)가 발표한 ‘2026년 AI 보안 및 개발 현황 보고서’에서도 일본 내 개발 조직 5곳 중 1곳은 AI 생성 코드로 심각한 사고를 경험했다고 답했으며, 약 70%는 AI 어시스턴트가 도입한 취약점을 실제 발견한 것으로 파악됐다. 

답 도출 중심 사용 부작용 우려

이 같은 우려의 목소리 속에서도 AI는 교육 현장을 비롯한 사회 전 분야에 빠르게 침투하는 추세다. 프랑스 시사 주간지 렉스프레스(L'Express)는 최근 특집 기사에서 “AI가 단순 정보 검색을 넘어 학습자의 수준에 맞춰 설명을 제공하는 개인 교사 역할까지 수행하는 등 학습 전반에 깊이 개입하고 있다”며 “교육과 노동 시장에서 지식의 전달 방식 자체도 달라졌다”고 진단했다. 복잡한 개념을 비유로 설명하거나 기존 지식을 새로운 상황에 적용하는 과정에서 AI의 보조 역할이 매우 커졌다는 설명이다. 

매체는 “인간 교사에게 주저하는 질문도 AI에는 즉시 제기할 수 있고, 이 과정에서 학습 접근 장벽이 낮아지는 효과도 나타난다”고 전했다. 문제는 AI와의 대화가 자연스러워질수록 학습자 스스로 논리를 구성하거나 사고를 전개하는 것을 건너뛰고 결과를 받아들이는 태도를 보인다는 점이다. 렉스프레스는 이를 “학습의 착각”이라고 표현하며 “AI가 제공하는 답변이 이해를 대체하는 상황이 반복되는 상황에서 실제 사고 능력은 축소될 공산이 크다”고 경고했다. 효율 중심 사용에서 사고 결합형 사용으로 전환이 필요하다는 문제의식이다. 

실제 사용 행태가 이러한 문제의식을 뒷받침한다. 독일 뒤스부르크-에센대학교와 보훔루르대학교 연구진이 교수 113명과 학생 123명을 대상으로 실시한 조사에서 5점 척도 기준 학생들의 AI 사용 빈도는 교수 그룹보다 평균 0.35점 높았다. 더 나아가 100점 척도 기준 AI 위임 수준은 학생이 교수보다 평균 15.72점 높았다. 이는 과제 수행 자체를 AI에 맡기는 학생이 그만큼 증가했음을 의미한다. 과제별 활용도에서도 정보 검색 0.73(효과 크기 0.75), 프로그래밍 0.61(효과 크기 0.63), 문헌 조사 0.50(효과 크기 0.51), 글쓰기 0.48(효과 크기 0.50) 등 격차가 확인됐다. 

아울러 교수와 학생 모두 상대방의 AI 활용 수준을 실제보다 과대평가하는 것으로 파악됐다. 양측은 상대방의 AI 사용 빈도를 평균 1.02점, 위임 수준을 25.89점 높게 인식했다. 연구진은 “이러한 인식 차이가 교육 현장의 상호 신뢰를 약화시킬 수 있다”고 꼬집으며 이에 대한 대응으로는 “교수와 학생 모두 자신의 AI 활용을 공개하는 ‘양방향 투명성’이 필요하다”고 제언했다. 그러면서 연구진은 “교육 현장에서 AI 활용 방식 자체가 학습 구조를 재편하는 단계에 들어선 만큼 그에 대한 활용 기준과 범위를 명확히 설정하는 논의가 필요하다”고 결론 내렸다. 

목표·맥락 설계 AI 활용자 소수

전문가들은 AI 활용 방식의 차이가 사용자들의 업무 수행 수준과 역할 범위를 가르는 기준으로 작용할 것이라는 데 전망이 일치했다. 회계법인 KPMG는 텍사스대학교 오스틴캠퍼스 연구팀과 함께 자사 직원 2,500명이 8개월간 생성한 AI 프롬프트 140만 건을 추적 관찰해 이 관측을 내놨다. 오픈AI 추론 모델 챗GPT o1을 활용한 평가에서 KPMG 전체 직원의 약 90%가 AI를 정기적으로 사용했지만, 이를 정교하게 활용하는 집단은 5% 미만에 그쳤다. 동일한 도구를 사용하더라도 활용 수준에 따라 사용자 집단이 구분되는 양상이 확인된 것이다.

AI를 정교하게 활용하는 집단은 초기 프롬프트부터 구체적인 조건과 맥락을 포함했고, 이후에는 길고 반복적인 대화를 통해 결과를 개선했다. 또한 AI를 일종의 ‘추론 파트너’로 활용하며 역할 부여나 출력 예시 제시, 반복 수정 등 전략적 기법을 적용했다. 복잡한 다단계 과제를 수행할 때는 목표와 제약 조건을 명확히 설정했고, 글쓰기 보조 수준을 넘어 아이디어 도출, 시장 분석, 기술 자문 등으로 활용 범위를 확장했다. 이는 AI를 업무 수행 과정 전반에 이식하는 시도로 해석된다. 

반면 대부분 사용자는 단순 질의응답 중심 활용에 머물렀다. 연령대가 낮은 주니어 직원일수록 업무 외 개인 용도로 AI를 사용하는 비율이 높았으며, 체계적인 전략 없이 사용하는 사례가 빈번했다. 이는 디지털 도구에 익숙한 집단이 더 높은 활용도를 보일 것이라는 예상을 뒤집는 결과로, 도구 사용의 숙련도보다는 문제 정의와 업무 설계 능력이 AI 활용 수준을 가르는 요소로 작용한다는 사실을 의미한다. 같은 AI를 사용하더라도 접근 방식에 따라 수행 가능한 업무 범위가 달라지는 구조가 형성된 것이다.

이러한 차이는 조직 운영 방식에도 반영되기 시작했다. KPMG는 연구 결과를 바탕으로 활용 방식 개선에 초점을 맞춰 인재 개발과 성과 관리 체계를 조정하기로 했다. 실제 업무 시나리오 기반 교육을 도입하고, 감사·세무·자문 등 사업 부문별로 AI 활용 기대 수준을 구분하는 식이다. KPMG 관계자는 “AI 도구를 제공하는 것만으로는 부족하다는 결론에 도달했다”며 “구체적으로 어떤 활용 방식이 성과로 이어지는지를 조직 차원에서 정의하고, 이를 교육과 평가에 지속 반영할 예정”이라고 밝혔다.