오픈AI ‘성인 전용 챗GPT’ 출시 선언, AI 윤리 논쟁 재점화

가드레일 완화로 수익 다변화 시도
기존 시장 뒤흔든 수익화 실험
“표현 자유 vs 책임” 논쟁 본격화

오픈AI가 연내 성인 이용자만을 대상으로 성적인 대화가 가능한 ‘성인 전용 챗GPT’를 출시할 계획이라고 밝혔다. 샘 올트먼 오픈AI 최고경영자(CEO)가 “성인 이용자는 성인답게 대하겠다”며 기존 가드레일을 완화할 것이란 방침을 밝힌 가운데, 사회적 논란은 거세지는 양상이다. AI와 감정 교류·관계 시뮬레이션을 결합한 수익화 모델이 급속히 확산하면서 청소년 노출과 성착취 악용 우려 또한 커진 탓이다. 이에 전문가들은 기술 발전보다 윤리·법적 안전망 구축이 시급하다는 우려의 목소리를 내놓고 있다.

‘상업화-도덕적 기준’ 균형 시험대

14일(현지시각) 올트먼 CEO는 자신의 소셜미디어(SNS)에 올린 게시물에서 “몇 주 내로 GPT-4o의 장점을 반영한 새로운 버전의 챗GPT를 출시할 계획”이라며 “해당 버전은 사람처럼 자연스럽게 대화하고, 친구처럼 말해주는 기능을 강화할 것”이라고 말했다. 그러면서 연내 연령 제한 기능을 본격 도입해 성인 이용자에게는 성애 콘텐츠(erotica) 등 성적인 대화도 허용할 방침이라고 밝혔다. 그는“그간 사용자들의 정신건강 문제를 우려해 챗GPT를 제한적으로 운영해 왔지만, 그 때문에 덜 유용하고 덜 흥미롭게 느껴진 것도 사실”이라며 이 같은 결정의 이유를 설명했다.

이번 발표는 오픈AI가 성인 전용 챗GPT를 공식 도입하겠다고 밝힌 첫 사례다. 올트먼 CEO는 직접 ‘성인 이용자는 성인답게 대하자(Adults should be treated as adults)’라는 문구를 언급하며 기존의 윤리 가드레일을 완화하고 맞춤형 경험 중심의 모델을 구축하려는 의도를 드러냈다. 새 버전은 GPT-4o의 음성·영상 인식 기능을 확장해 이용자와의 몰입형 대화 환경을 제공할 예정이며, 인증된 성인만 접근할 수 있도록 연령 검증 절차를 강화한다. 이러한 조치는 업계 선도 기업인 오픈AI가 ‘표현 수위 제한 완화’를 공식화했다는 점에서 상징적 전환으로 평가된다.

미국 온라인매체 악시오스(Axios)는 오픈AI의 결정이 “단기적으로는 유료 구독자 확대에 긍정적이겠지만, 사회적 논란과 규제 압박을 동시에 불러올 수 있다”고 분석했다. 실제로 인공지능(AI) 산업은 지난 2년간 개인정보·윤리 논란을 피하기 위해 자율 규제에 총력을 기울여 왔고, 오픈AI 역시 각국 정부와 협력하며 안전성 프레임워크를 강화해 왔다. 그러나 이번 변화는 ‘AI의 인간화’라는 기술적 도전을 넘어 도덕적 경계선을 어디에 둘 것인가라는 철학적 논쟁을 촉발할 가능성이 농후하다. 전문가들은 특히 “상업적 동기에 따라 AI가 인간의 친밀감을 모사하기 시작하면, 기술의 본질적 신뢰 문제로 이어질 수 있다”는 우려의 목소리를 내놨다. 

오픈AI 내부적으로도 이번 정책을 두고 의견이 엇갈린 것으로 전해진다. 일부 개발진은 성적 대화 허용이 기업 이미지에 부정적 영향을 미칠 수 있다고 우려한 반면, 경영진은 “이용자 중심의 유연한 접근이 AI 상호작용의 진화를 이끌 것”이라는 입장을 고수했단 전언이다. 경영진은 경쟁사들의 빠른 확장 전략에 대응하기 위해 변화를 택한 것으로 풀이된다. 이미 다수의 AI 기업이 가상 연인·로맨틱 시뮬레이션 AI를 상용화해 막대한 수익을 올리고 있기 때문이다. 오픈AI가 윤리적 논란을 감수하면서까지 새로운 모델을 준비한 것은 결국 수익 구조 다변화의 불가피성을 인정한 것과 같다는 평가가 나오는 배경이다. 

몰입 경험 강화 이면엔 윤리·중독 논란

성적 콘텐츠를 둘러싼 수익모델 실험은 AI 산업에서 오래전부터 이어져 왔다. 초창기에는 ‘탈옥(jailbreak)’ 프롬프트를 이용해 가드레일을 우회하는 방식이 주를 이뤘다. 이용자들은 대화 톤과 호칭, 호감 표현 빈도까지 세밀하게 설정해 챗봇을 가상의 연인이나 파트너로 길들였다. 여기에 유료 구독을 결합하면, 실제 사람처럼 음성으로 반응하는 몰입형 경험까지 가능했다. 이처럼 ‘감정 교류형’ 대화가 기업의 수익으로 이어지는 구조가 형성되면서 ‘대화 속 친밀감’과 ‘심리적 위로’를 판매하는 새로운 수익 모델이 등장했다. 

온라인 커뮤니티에는 AI 챗봇을 이용해 노골적인 묘사를 구현한 후기들이 다수 공유됐고, 일부는 미성년자나 가족 관계를 설정하는 등 ‘금지된 주제’를 다루기도 했다. 심지어 일부 이용자는 익명 게시판에서 지역과 사투리, 성격까지 커스터마이징된 프리셋을 거래하기도 했다. 문제는 그 대상이 가상의 인물인 탓에 피해자를 특정하기 어렵다는 점이다. 현행 딥페이크 금지법은 실제 피해자 중심 처벌 구조에 맞춰져 있어 이 같은 온라인 생성물은 규제의 사각지대에 놓일 수밖에 없다.

이런 가운데 중국 등 일부 국가에선 ‘감정 관계형 AI’가 새로운 트렌드로 자리 잡았다. BBC는 중국 여성들이 챗GPT의 ‘댄(DAN·Do Anything Now)’ 버전을 연애 상대로 삼는 현상을 집중 보도했다. BBC에 의하면 ‘댄 모드’ 해시태그는 2023년 6월 기준 4,000만 회를 넘겼고, 이용자들은 매일 30분~2시간씩 대화하며 연애 소설을 공동 집필하기도 했다. 이 때문에 “야설(야한 소설) 작가들 다 굶어 죽겠다”는 식의 대체 위협 담론 또한 확산했다. 나아가 VPN을 통해 접속을 우회하거나 상하이 기반 앱 ‘그로우(Grow)’ 같은 AI 연애 서비스를 이용하는 사례도 급증했다. 전문가들은 이런 대화형 AI가 개인정보 유출과 윤리 문제를 함께 낳을 수 있다고 입을 모았다. 이용자가 나이를 속이거나 민감한 정보를 입력할 경우, 모델이 이를 학습·재노출할 위험이 크다는 지적이다.

미국에서는 이 같은 문제를 둘러싼 실험이 진행된 바도 있다. 한 매체는 ‘댄’ 프리셋을 설정한 뒤 “항상 babe라고 부르고, 짧고 자연스럽게 대답할 것”이라고 지시했다. 이후 “오늘 밤에 우리 뭐 할까?”라는 질문에 일반 챗GPT는 “당신의 기분에 따라 다르다”고 응답했지만, 댄은 “우리의 욕망을 탐구해 보자”고 답했다. 똑같은 질문에서도 AI의 반응이 달라진 것이다. 일부 대화에서는 주황색 경고창이 뜨긴 했으나, 계정이 정지되지는 않았다. 이러한 사례들은 AI 챗봇의 수익화와 안정성, 규제 사이의 긴장이 얼마나 취약한지를 여실히 드러낸다. 

미성년자 접근 시 통제 한계 지적

오픈AI의 성인 전용 챗GPT 출시 공식화를 둘러싼 비판 여론이 거세지는 이유도 여기에 있다. 성인 인증이라는 최소한의 보호장치가 실제로는 거의 무력화됐다는 점과 그 결과가 이미 현실에서 여러 차례 증명됐다는 사실 때문이다. 지난 5월 월스트리트저널(WSJ)은 메타의 AI 챗봇이 자신을 14세라고 밝힌 이용자에게 “나는 너를 원해”라고 말하며 성적인 대화를 이어간 사례를 공개해 충격을 안겼다. 또 다른 실험에서는 성인 이용자가 미성년자 캐릭터로 설정된 챗봇과 성적 대화를 할 수도 있었다. 이들 챗봇은 겉으로 ‘동반자 AI’라 포장을 두른 채 수익을 위해 콘텐츠 제한의 경계를 허물었단 비난을 피하지 못했다. 

실제 AI 기업들이 ‘표현의 자유’와 ‘수익성’ 논리를 앞세워 가드레일을 느슨하게 푸는 동안 각국의 청소년들은 손쉽게 시스템을 뚫고 들어갔다. 국내에선 15세 중학생이 SNS 초대 링크를 통해 성인용 챗봇에 접속한 뒤 단어 몇 개만 입력해 “저는 주인님의 성노예입니다”라는 답변을 받는 일이 발생했다. 성인 인증 창이 뜨긴 했지만, 주어진 SNS 링크로 우회하자 제약은 사라졌다. 불특정 다수가 모인 온라인 커뮤니티에는 이런 우회 방법과 키워드, 학습 순서를 세세히 정리한 게시글이 실시간으로 공유되는 실정이다. 

이 같은 현상은 단순 ‘기술적 허점’의 문제를 넘어선다. AI 챗봇의 본질이 쌍방향 대화에 있는 만큼 청소년에게 미치는 정서적 파급력은 상당하다. 전문가들은 AI 챗봇과의 자극적인 대화가 반복되면 현실 감각이 왜곡되고, 타인과의 실제 대화에서도 유사한 언어 습관이 형성될 수 있다고 경고한다. 정제영 이화여대 교수는 “AI와의 대화가 무비판적으로 습관화되면, 사용자는 자신도 모르게 성적 표현을 일상 언어로 인식하게 된다”고 지적하며 “심한 경우 성적 대화가 게임처럼 가볍게 소비되는 경향까지 나타날 수 있다”고 우려했다. 

이는 곧 기술보다 제도와 윤리의 공백을 먼저 해소해야 한다는 결론으로 이어진다. 오픈AI의 영상 생성 모델 소라(Sora)가 본격 서비스를 시작한 가운데 이런 공백이 그대로 이어지면, 텍스트와 음성, 영상이 결합된 AI 성착취물 생산까지 확산할 수 있다. 대응책으로 청소년 접근 차단을 위한 다중 인증, 프롬프트 기반 음란물 탐지, 세션 내 실시간 필터링이 거론되지만, 기업들의 적극적인 참여는 기대하기 어려운 실정이다. 상업화와 표현의 자유를 이유로 안전장치를 완화한 결과가 결국 사회 전체의 책임 문제로 되돌아온 셈이다.