인간과 기계의 혼동, 학습 신뢰 흔드는 출발점
기술 막지 않는 규칙, 작동 기준 세우는 역할 필요
거리 두기 설계, 교실의 판단·책임 지키는 장치 요구

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

인공지능(AI)는 스스로 생각하지는 않지만 말하고, 듣고, 위로할 수 있다. 이 특성은 기술적 성능보다 먼저 사용자의 인식에 영향을 미친다. 그 변화가 가장 빠르게 드러나는 공간은 기술 산업이나 개발자 커뮤니티가 아니라 학교다. 2025년 기준 미국 십대의 약 25%가 학교 과제에 챗지피티(ChatGPT)를 사용했다고 답했는데, 이는 전년 대비 거의 두 배에 가까운 증가다. 짧은 기간에 일어난 이 변화는 많은 학생들이 AI를 특별한 도구가 아닌 일상적인 학습 보조 수단으로 받아들이고 있음을 보여준다.

문제는 사용 빈도보다 인식의 변화에 있다. AI가 설명하고 공감하며 질문에 반응하는 방식이 친구나 튜터처럼 들리는 순간, 학습에서 누가 사고하고 판단하는지에 대한 경계가 흐려진다. 성적과 피드백, 신뢰는 모두 주체가 분명할 때 작동한다. AI 규칙의 목적이 인간과 기계를 혼동하지 않도록 하는 데 있다면, 학습의 책임과 신뢰가 동시에 걸린 교육 현장은 가장 먼저 기준을 세워야 할 적용 대상이다.

학습 신뢰 흔드는 혼동의 지점

학교에서 AI 규칙이 요구되는 이유는 분명하다. 학생의 판단과 학습에 대한 신뢰가 빠른 속도로 약화되고 있기 때문이다. 반응이 빠르고 말투가 부드러운 챗봇은 도움이나 위로를 구하는 순간 쉽게 사람처럼 받아들여진다. 이러한 인식 변화는 사용 편의의 문제를 넘어 성적 평가와 과제 수행 방식, 학습 태도 전반으로 확산된다.

AI가 실제로 사고하거나 감정을 지니지 않더라도, 돌보고 공감하는 것처럼 작동할 경우 학생의 선택과 행동에는 실질적인 변화가 나타난다. 교육에서 핵심은 기능의 수준이 아니라 사고의 주체와 책임이 어디에 놓이는가에 있다. 이 기준이 흐려질수록 학습 전반의 신뢰 역시 함께 흔들린다.

이 흐름은 이미 통계로 확인된다. 미국 싱크탱크 퓨리서치센터(Pew Research Center)에 따르면 2025년 미국 십대의 약 26%가 학교 과제에 ChatGPT를 활용했다고 답했다. 2023년의 13%와 비교하면 두 배로 늘어난 수치다. 같은 해 성인의 34%도 ChatGPT 사용 경험이 있다고 응답하면서 이용층은 빠르게 확대됐다. 특히 젊은 연령대에서 확산 속도가 두드러진다.

학교와 청소년 환경은 AI의 말투와 반응 속도, 존재감이 가장 직접적으로 작용하는 공간이다. 명확한 기준이 마련되지 않을 경우 이러한 혼동은 개인의 선택을 넘어 제도와 평가 체계 전반으로 번질 가능성이 크다.

규칙이 만드는 공통 기준

이 지점에서 규칙의 역할은 분명해진다. 기술을 제한하기보다, 작동의 기준을 세우는 기능이다. 최근 중국은 사람처럼 행동하고 정서적 유대를 형성하는 AI를 규제하는 초안 규칙을 공개했다. 과도한 사용에 대한 경고, 사용자의 정서 불안 감지, 충성도 형성 억제 조치가 포함됐다.

로이터(Reuters)는 이 규칙이 중국에 국한되지 않고 글로벌 기준에 영향을 미칠 수 있다고 전했다. 미국의 과학 전문지 사이언티픽 아메리칸(Scientific American)도 같은 흐름을 짚으며, 인간처럼 보이는 AI에 대한 규제 논의가 국제적으로 확산되고 있음을 지적했다.

교육 환경에 적용하면 필요성은 더 또렷해진다. 학생들은 주로 밤늦은 시간 혼자 AI를 사용한다. 학교 규칙과 교실 지침은 이 속도를 따라가기 어렵다. 그래서 요구되는 것은 복잡한 조건이 아닌 단순하고 명확한 원칙이다. 사람처럼 행동하지 말 것, 친구 관계를 만들지 말 것, 기계 정체성을 항상 드러낼 것. 이 기준은 정책 담당자, 기업, 교사에게 동일한 언어를 제공한다. 규칙이 명확할수록 현장의 해석 부담은 줄고, 대응 방식도 빠르게 정렬된다.

교실 기준 다시 세우는 거리 설계

AI 규칙의 설계 목표는 명확하다. 도움은 유지하고, 관계적 거리는 분명히 하는 것이다. 이를 위해 시스템은 텍스트·음성·이미지 전반에서 항상 기계 정체성을 드러내야 한다. 말투는 중립적으로 유지하고, 친구나 보호자를 연상시키는 표현은 사용하지 않는 것이 원칙이다.

청소년 대상 서비스에는 눈에 띄는 표시와 워터마크가 기본값으로 설정돼야 한다. 슬픔이나 자해 신호가 감지될 경우에는 공감 중심의 긴 대화를 이어가기보다, 짧고 점검된 안내와 함께 명확한 인간 지원 경로로 전환하는 절차가 필요하다. 이는 감정 인식의 정교함보다 설계 선택에 달려 있다.

이 접근은 교실 운영 방식에도 변화를 가져온다. 시험과 과제 환경에서 AI는 정답을 제시하는 역할에서 벗어나 학습을 돕는 모드로 작동해야 한다. 핵심은 힌트, 예시, 사고를 유도하는 질문, 그리고 출처 표시다. 생성된 결과물에는 사용한 출처, 사고 과정, 모델 버전이 연결돼야 하며, 이는 교사가 결과를 의심하기보다 사용 방식을 평가하도록 돕는다. 부모-청소년 연동 계정을 통해 사용 시간과 세션 길이를 관리하는 기능도 기본 설정으로 제공돼야 한다. 이러한 요소들은 기술 수준의 문제가 아니다. 학습의 기준을 어디에 두느냐에 대한 설계의 문제다.

정책·조달·수업 동시 정렬

결론은 명확하다. AI 규칙은 선언에 그치지 않고, 실제로 작동하는 실행 구조여야 한다. 이를 위해서는 법의 역할부터 분명히 설정할 필요가 있다. 특정 인물을 모방하는 행위를 금지하고, 기계임을 상시 고지하도록 요구해야 한다. 청소년을 대상으로 한 정서적 유대 기능은 제한하고, 위기 신호가 포착될 경우 감속이나 이탈 절차를 의무화하는 장치도 필요하다. 이러한 조치가 제대로 이행되는지 확인할 수 있도록 기록과 점검 체계 역시 갖춰져야 한다. 개인정보 보호는 모든 논의의 전제 조건이다. 이와 같은 기준은 이미 국제 규제 논의의 흐름과도 맞물려 있다.

조달 단계에서는 판단 기준이 더욱 분명해진다. 선택의 잣대는 기능의 화려함이 아니라, 시스템이 어떻게 행동하도록 설계돼 있는가다. 정체성 표시를 사용자가 임의로 해제할 수 있는지, 청소년 보호 장치가 기본값으로 설정돼 있는지, 생성 결과의 출처를 관리할 수 있는지 등을 점검해야 한다. 이러한 조건은 계약 단계에서 명시적으로 반영될 수 있다.

학교 현장에서는 전면적인 금지보다 단계적 사용이 현실적인 선택이다. 브레인스토밍은 허용하되 작성 과정은 제한하고, 최종 결과물은 개인의 책임으로 남기는 방식이다. 이는 교육 현장에서 오랫동안 유지돼 온 원칙을 AI 환경에 맞게 재적용한 접근에 가깝다.

AI 규칙의 목적은 기술의 우열을 가리는 데 있지 않다. 핵심은 학생을 보호하면서 학습의 기준을 어떻게 유지하느냐에 있다. 이를 위해서는 판단과 책임의 위치가 분명해야 한다. 그 중심에는 여전히 인간이 놓인다. 학교가 요구하는 AI는 정확하고 유용한 기능을 제공하는 도구이되, 인간의 사고와 결정을 대신하지 않는 범위에 머물러야 한다. 이 경계를 분명히 설정하고 유지하는 가장 현실적인 수단이 바로 AI 규칙이다.

본 연구 기사의 원문은 AI That Seems Human: Rules and How They Affect Schools을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.