성인 모드 ‘ON’ 오픈AI, 경쟁사 견제·수익 압박에 '금기' 해제

오픈AI·그록 성인물 확대 전략
유료 늘려 수익 극대화 목적
올트먼 “우린 도덕경찰 아냐”

최근 xAI의 그록에 이어 오픈AI의 챗GPT까지 미국의 주요 인공지능(AI) 서비스가 잇따라 성인 대상으로 성적인 콘텐츠를 파격적으로 허용하고 있다. 아동·청소년과 정신문제를 겪는 사람의 AI 챗봇 오용을 방지하는 것도 중요하지만, 성인 이용자가 원하는 방식으로 AI를 사용할 수 있도록 자유를 제공해야 한다는 취지다. 이는 윤리적 논란을 감수하더라도 빠른 수익화를 추구해야 하는 스타트업의 전략적 선택이자, AI 기술이 인간의 '욕망' 자체를 새로운 시장 자산으로 전환시키는 진화된 논리를 드러내고 있다는 평가다.

챗GPT, 12월부터 성인용 콘텐츠 허용

20일 정보통신기술(ICT) 업계에 따르면 오픈AI는 오는 12월부터 챗GPT에서 성인 인증을 한 사용자에게 성적인 대화를 포함한 성인용 콘텐츠를 제공할 예정이다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난 17일(이하 현지시간) “‘성인 이용자는 성인답게 대하자’는 원칙에 따라 (연령이) 인증된 성인에게는 성애 콘텐츠 같은 훨씬 더 많은 것을 허용할 것”이라고 밝혔다.

올트먼은 "우리는 정신 건강 문제에 신중을 기하기 위해 챗GPT를 상당히 제한적으로 만들었다"며 그러나 "이런 제한은 해당 문제가 없는 많은 사용자들에게 덜 유용하거나 덜 즐겁다는 점을 깨달았다"고 지적했다. 이어 "이제 우리는 심각한 정신 건강 문제를 완화할 수 있게 됐고 새로운 도구도 갖췄다"며 "대부분의 경우 제한을 안전하게 완화할 수 있게 됐다"고 덧붙였다. 구체적으로 어느 정도 수위까지 허용될지는 공개하지 않았지만, 업계에서는 오픈AI의 이번 결정이 경쟁사인 xAI의 그록을 겨냥한 것으로 보이는 만큼 현재 그록이 제공하는 성적 콘텐츠 수준에 주목하고 있다.

2023년 출시 당시부터 ‘날것 그대로 답변하는 AI’를 내세운 그록은 올해 7월에는 이를 성적 콘텐츠에도 확대해 적용 중이다. 유료 이용자용 AI 컴패니언(동반자)인 ‘애니(Ani)’가 대표적이다. 애니메이션풍의 소녀 캐릭터인 애니는 성인 인증 시 이용자와 노골적이고 에로틱한 대화를 하며 마치 애인과 소통하는 것처럼 대응한다. 이미지와 동영상을 만들 때도 소라2를 비롯한 다른 서비스와 달리 성인인 경우 좀 더 노골적인 표현이 가능한 것으로 알려졌다. 이 밖에 캐릭터 AI 등 다른 서비스에서도 이용자가 가상의 캐릭터와 애인 역할극을 하면서 성적 대화를 할 수 있다.

그록, 19금 ‘스파이시 모드’로 이용자 확대

이번 오픈AI의 성인 모드 도입은 그록을 비롯한 다른 생성형 AI 서비스들은 성적 대화와 이미지·동영상 등 콘텐츠를 매개로 이용자 저변을 확대해 온 흐름에 편승한 것으로 풀이된다. 실제 그록은 애니 출시에 앞서 별도 ‘스파이시 모드’를 통해 텍스트나 이미지 입력 시 성인물을 만들 수 있게 한 상태다.

xAI는 월 30달러의 ‘슈퍼그록(SuperGrok)’ 요금제 가입자에게 AI 이미지·영상 생성 기능과 함께 스파이시 모드를 제공하고 있다. 공식 설명에 따르면 노출 수위가 일정 기준을 넘을 경우 자동 블러(모자이크)가 적용되지만, 실제로는 반투명 레이스, 란제리, 반나체에 가까운 결과물이 다수 생성되고 있다. 스파이시 모드는 기본 탑재된 기능이 아닌 선택적으로 활성화되는 'NSFW 콘텐츠 생성' 옵션에 해당한다. 일론 머스크는 본인의 X 계정을 통해 스파이시 모드로 제작한 이미지를 직접 공유하며 기능을 적극적으로 홍보하기도 했다.

AI가 연애·성적 상호작용을 흉내 내는 수요는 분명 존재한다. 하버드비즈니스리뷰가 지난 4월 정기 사용자 6,000명을 조사한 결과 가장 흔한 용도는 ‘동반자 치유’였다. 투자 전문 운용사 아크인베스트 연구에 따르면 성인 지향 AI 플랫폼의 점유율은 전년 1.5%에서 지난해 14.5%로 급증, 기존에 성인 콘텐츠 플랫폼 온리팬스가 지배하던 시장 일부를 잠식했다. 캐릭터.ai, 레플리카 같은 동반자형 챗봇의 인기 역시 이를 방증한다. 조지타운대 CSET의 제시카 리 선임연구원은 “오픈AI는 이러한 강한 수요 신호를 본 것 같다”고 짚었다. 인간과 모델의 관계 맥락에서 “에로틱·성인 콘텐츠 역시 감정적 몰입의 하나”라는 설명이다.

게다가 앞선 xAI의 성인 컨텐츠 진입은 시장 생태계 전반에 강한 파장을 불러 일으켰다. 특히 성인 사용자 대상 컴패니언 모드나 상호작용형 챗봇등으로 수익을 창출해 온 앱들에 적잖은 타격을 입혔다. 이는 기존 비즈니스 모델이 대형 플랫폼의 진입으로 인해 재검토되기 시작했음을 시사한다는 게 전문가들 평가다.

수익성과 윤리의 충돌

분석가들은 이러한 흐름의 향방이 수익성에 대한 도전과 윤리적 정당성과의 충돌에서 결정될 것으로 보고 있다. 기술적으로는 이미 성인용 AI 인터랙션이 구현 가능한 수준이지만, 플랫폼이 직면한 진짜 변수는 사회적·제도적 반작용이기 때문이다. 현재 아동 보호 단체와 업계 인사들은 인증을 뚫고 미성년자가 성인물에 노출될 가능성을 우려한다. 시민단체 전미성착취반대센터(National Center on Sexual Exploitation)의 헤일리 맥나마라 이사는 성명에서 "성적으로 대상화된 AI 챗봇은 본질적으로 위험하며, 가공된 친밀감으로 인해 실제 정신건강에 해로운 영향을 줄 수 있다"고 지적했다.

기업가 마크 큐번도 오픈AI의 이번 계획이 “크게 역풍을 맞을 수 있다”며 부모가 오픈AI의 연령 필터를 신뢰하지 않을 것이라고 비판했다. 미국 연방거래위원회(FTC)는 이미 챗봇의 미성년자 상호작용에 대한 조사에 착수했고, 주(州) 차원에서도 디지털 동반자·성적 AI 콘텐츠에 더 엄격한 규제를 검토 중이다. 보이스 실러 플렉스너의 제니 김 변호사는 BBC에 “오픈AI가 사람을 ‘깜깜이 실험’ 대상으로 쓰는 셈”이라며 아동 접근 차단 방안을 따져 묻기도 했다.

이에 오픈AI는 성명에서 사용자가 18세 이상인지 가늠하는 ‘연령 예측 시스템’을 구축 중이라고 강조했다. 연령을 확신할 수 없으면 기본값을 ‘18세 미만 경험’으로 낮추고, 성인은 별도 인증을 통해 성인 기능을 해제하도록 하겠다는 방침이다. 올트먼은 X에서 “발표가 생각보다 성인용 콘텐츠 포인트로 과열됐다”고 반응했다. 그는 이번 변화가 “성인을 위한 자유 확대의 한 사례일 뿐, 정신 건강 가드레일이나 안전 조치의 후퇴가 아니다”라고 강조했다. 이어 “우리는 세상의 선출된 도덕 경찰이 아니다(we are not the elected moral police of the world)”라며, 미성년자 고객을 두고는 “프라이버시·자유보다 안전을 우선하되 성인에게는 더 많은 자율을 주겠다”고 덧붙였다.

게다가 이번 방향 전환은 이미 전례가 있다. 지난 2월 오픈AI는 ‘모델 스펙(Model Spec)’을 조용히 개정해, 폭력·성적 콘텐츠 규정을 일부 완화하며 ‘AI 가부장주의’에서의 이탈을 표방했다. 이에 따라 적절한 맥락에 한해 민감한 문서형 콘텐츠 생성이 허용됐는데, 이번 조치는 그 연장선에서 최신 스펙을 구현하되 딥페이크 등 유해 용도는 계속 차단하겠다는 계획이라는 게 회사 측 설명이다. 결국 오픈AI가 성인 기능을 선택적으로 풀면서 균형을 어떻게 유지할지가 관건이 될 전망이다.