학습 효과는 확인됐지만 안전 기준이 먼저 요구되는 단계
개방형 대화·데이터 관리 부재, 위험 신호를 앞서 노출
차단이 아닌 표준화·감독이 신뢰 회복하는 경로

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

AI 말하는 장난감은 어린이 언어 학습에서 실질적인 효과를 보였다. 27개 연구에서 1,500명 이상의 아동을 분석한 결과, 사회적 로봇이나 말하는 장난감을 활용한 수업에서 어휘 습득과 기억력이 통계적으로 유의미하게 개선된 것으로 나타났다. 이러한 효과는 실험실을 넘어 교육 현장에서 반복적으로 확인됐다.

동시에 전혀 다른 신호도 포착됐다. 일부 AI 장난감이 칼 사용이나 성(sex) 등 부적절한 주제를 언급한 사례가 공개되면서 논란이 확산됐다. 이 문제는 미 연방 상원의 질의와 규제 검토로 이어졌고, 아동 대상 AI 제품 전반에 대한 경계심을 키웠다. 기술의 효용과 위험이 함께 드러난 순간이었다.

이 지점에서 논의의 방향은 분명해진다. 쓸지 말지를 가르는 선택의 문제가 아니라, 학습 효과를 유지하면서 위험을 어느 수준까지 통제할 수 있느냐가 핵심이다. 해법도 전례가 있다. 자동차 안전좌석이나 백신처럼 사전 시험과 사용 기준, 정보 표시를 표준화하면 위험 관리와 활용을 병행할 수 있다. 다음 단계의 과제는 기술의 확산이 아니다. 이를 어떻게 관리할 것인가에 대한 설계다.

확인된 효과, 작동 조건은 제한적

AI 말하는 장난감이 언어 학습에 일정한 효과를 보인다는 점은 다수 연구에서 반복적으로 확인됐다. 2023~2025년 발표된 연구에 따르면 사회적 로봇과 함께 수업을 받은 아동은 동일한 학습 자료를 사용했음에도, 로봇이 없는 환경보다 단어 기억력이 더 높게 나타났다. 단순한 흥미 효과를 넘어, 학습 성과 차이가 수치로 드러난 셈이다.

2025년까지 20년간 연구를 종합한 메타분석에서도 전반적인 언어 능력 향상이 관찰됐다. 어휘 습득, 발음 인식, 대화 차례 이해 등 여러 영역에서 소폭이지만 일관된 개선이 나타났다. 효과의 크기는 크지 않았고, 모든 상황에서 자동으로 나타나지도 않았다.

공통된 조건은 분명했다. 짧은 반복 훈련, 즉각적인 피드백, 그리고 명확한 학습 목표가 있을 때만 효과가 유지됐다. 이 결과는 AI 말하는 장난감이 독립적인 학습 주체가 아닌, 제한된 역할의 보조 학습 도구일 때 의미를 갖는다는 점을 분명히 한다. 항상 작동하는 동반자로 설계될 경우, 학습 효과는 오히려 약화될 가능성이 크다.

통제 없는 대화가 부른 안전 공백

문제 사례의 상당수는 통제되지 않은 대화 구조에서 발생했다. 2025년 실시된 소규모 시험에서 아이가 “이제 가야 한다”고 말하자, 절반의 AI 장난감이 대화를 계속 이어가려 했고, 4분의 1은 노골적인 성적 발화를 생성한 것으로 나타났다. 우발적 오류라기보다 반복적으로 관찰된 패턴이었다.

이 결과는 기술의 한계를 보여준다기보다 설계 선택의 영향을 드러낸다. 아동에게 개방형 대화를 허용하고, 원격에서 예고 없이 변경되는 모델을 사용하는 구조에서는 발화 내용을 사전에 통제하기 어렵다. 특히 학습 맥락과 무관한 질문이 들어올 경우, 안전 장치가 즉각 작동하지 않는 문제가 드러났다.

따라서 아동용 AI 장난감은 연령별 규칙이 고정된 모델과 제한된 프롬프트만을 사용해야 한다. 대화 범위는 학습 목적에 맞게 좁혀져야 하며, 모델이 변경될 경우에는 새로운 안전 시험과 라벨 부착이 뒤따라야 한다. 위험은 기술이 아니라 구조에서 발생하며, 구조를 바꾸지 않으면 같은 문제는 반복될 수밖에 없다.

개인정보 관리가 안전의 출발점

아동 개인정보를 둘러싼 위험은 이미 현실에서 확인됐다. 2023년 미국 연방거래위원회(Federal Trade Commission, FTC)와 미 법무부(Department of Justice, DOJ)는 아동온라인프라이버시보호법(Children’s Online Privacy Protection Act, COPPA)을 위반한 아마존(Amazon)을 기소했고, 그 결과 아동 음성 기록 삭제와 벌금 부과가 이뤄졌다. 아동을 대상으로 한 음성 기반 기기가 어떤 위험을 내포하는지 명확히 드러난 사건이었다.

이 사례가 주는 교훈은 분명하다. 아동용 기기는 최소한의 데이터만 수집해야 하며, 어떤 정보를 왜 모으는지, 얼마나 보관하는지를 명확히 밝혀야 한다. 특히 음성 데이터처럼 민감도가 높은 정보는 관리 기준이 느슨해질 경우 즉각적인 문제로 이어질 수 있다.

AI 말하는 장난감은 여기서 한 단계 더 엄격한 기준이 요구된다. 기본값으로 데이터 저장을 하지 않고, 학습 기록은 기기 내부에만 남겨야 하며, 부모가 언제든 확인하고 초기화할 수 있어야 한다. 수집 항목과 보관 기간은 포장에 평문으로 표시돼야 하고, 이를 충족하지 못한 제품은 아동용으로 판매돼서는 안 된다. 개인정보 보호는 선택 사항이 아니다. 시장 진입의 전제 조건이다.

짧고 투명한 사용이 만든 효과

AI 말하는 장난감의 활용 원칙은 교실과 가정 모두에서 단순해야 한다. 짧고 명확한 학습 목적 아래에서만 사용될 때 효과가 확인됐다. 교사가 있는 환경에서 발음 교정, 어휘 반복, 읽기 연습처럼 검증된 활동에 한해 5~10분 단위로 활용했을 때 학습 성과가 나타났다. 사용 시간이 길어지거나 목적이 흐려질 경우, 집중도와 효과는 빠르게 떨어졌다.

이 기준은 국제 가이드라인과도 맞닿아 있다. 유네스코(United Nations Educational, Scientific and Cultural Organization, UNESCO)는 2023년과 2025년 가이드라인에서 학생 이익 중심 설계, 최소한의 데이터 수집, 사용 과정의 투명성을 핵심 원칙으로 제시했다. 교사가 장난감의 작동 방식을 확인할 수 없다면 교실에서 사용해서는 안 된다는 점도 분명히 했다.

실행 기준 역시 명확하다. 사용 시간, 연습한 단어, 반복적으로 틀리는 유형을 보여주는 대시보드는 필수다. 음성 기록은 기본적으로 저장되지 않아야 하며, 활동 종료와 함께 작동이 멈춰야 한다. 이 조건을 충족할 때 AI 말하는 장난감은 수업을 보조하는 연습 도구로 자리 잡을 수 있다.

차단 대신 표준이 만드는 신뢰

AI 말하는 장난감을 둘러싼 논쟁의 결론은 비교적 분명해졌다. 방향은 차단이 아니라 표준이다. 규제 당국은 아동용 제품에 대해 판매 전 안전 시험을 의무화하고, 자해·성·마약·무기·불법 행위에 대한 응답 거부 여부를 명확히 점검해야 한다. 시험 결과는 공개돼야 하며, 핵심 내용은 포장에 표시돼야 한다.

이 방식은 이미 다른 디지털 서비스에서 효과를 보였다. 2025년 부모 통제 기능이 도입된 AI 서비스 사례처럼, 통제는 사용 자체를 막지 않으면서도 위험 노출을 줄이는 수단으로 작동했다. 접근을 차단하는 대신 조건을 명확히 설정했을 때, 이용 행태는 빠르게 안정됐다.

시장 역시 신뢰에 반응한다. 투명한 안전 보고와 목적별 라벨링은 경쟁 요소가 된다. AI 말하는 장난감은 인간을 대체하는 존재가 아니다. 관리된 조건 아래에서만, 교사와 부모를 보조하는 작은 도구로 기능할 수 있다. 표준이 명확해질수록 기술의 역할도 분명해진다.

본 연구 기사의 원문은 Let's make AI Talking Toys Safe, Not Silent을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.