[뉴스스페이스=김정영 기자] 일론 머스크의 AI 스타트업 xAI가 'Grok Imagine' 영상 생성 서비스에 성인 콘텐츠 생성(일명 '스파이시 모드')을 포함시키면서 글로벌 논란이 폭발하고 있다.

해당 기능은 최근 iOS 앱 내에 슈퍼그록(SuperGrok·월 30달러, 한화 약 4만1000원)·프리미엄플러스 구독자 대상으로 도입됐다. 단 몇 초 만에 명령어 입력만으로 15초 분량의 영상, NSFW(청소년이용불가) 이미지, 음성까지 생성된다. 특히 스파이시 모드는 누드 등 '반나체·에로틱' 영상까지 허용했으며, 노출 수위가 매우 높은 경우 자동 블러(모자이크)가 적용된다.

AI, 성인 콘텐츠 허용…“4만원이면 AI 야동 무제한?”

이전까지 대부분의 AI 이미지·영상 생성 도구는 성인 콘텐츠를 엄격히 제한해왔다. 그러나 xAI는 머스크 특유의 '검열 없는 혁신' 노선을 내세워 성인 영상 생성을 공식화하며 차별화를 시도했다.

이 때문에 인터넷 커뮤니티 및 SNS에서는 “월 4만원이면 AI 야동 무제한이냐”라는 반응이 속출했다. 실제로 이용자 리뷰에 따르면 '스파이시 모드'를 통해 반투명 레이스 의상 등 실제 누드에 가까운 영상 제작 결과물도 손쉽게 공유되고 있다.

폭발적 성장…그록(Grok), MAU 3510만명까지

2025년 4월 기준 Grok의 월간 활성 이용자(MAU)는 약 3,510만명에 이르렀고, 5월~6월에는 소폭 등락하며 2025년 6월 기준 1,880만 명(도잇 소프트웨어 블로그)~3,900만 명(Exploding Topics 추정치) 수준으로 집계된다.

웹사이트 방문(Visiting) 기준으로도 2025년 3~4월 1억4000만 건을 넘는 등 검색 트래픽이 급증했으나, 활성 사용자의 급격한 유입 이후 성장세가 다소 안정화 또는 둔화되는 조짐도 보인다.

가입자 성별은 남성(66.91%), 연령대는 25~34세(33.39%), 18~24세(21.46%)가 핵심이다. xAI 측은 해외에서도 공격적으로 서비스 확장에 나서고 있다.

AI '섹슈얼' 동반자 및 초상 악용·모의 영상까지 논란

문제는 스파이시 모드 외에도 애니(Annie) 등 일종의 'AI 동반자' 기능에서 노골적으로 선정적이거나 미성년자도 이용 가능한 설정 등 윤리적 쟁점이 잇달아 발생하고 있다는 점이다. 미국 국립성착취방지센터(NCOSE)는 'AI 음란물', '미성년자 접근' 문제를 들어 애플에 18세 이상 연령 제한까지 요구했다.

또한, AI가 유명인이나 제3자 초상을 합성하는 ‘딥페이크’ 음란물까지 손쉽게 생성하게 되어 사회적 폐해가 급증할 것이란 우려가 높다. 미국 인공지능정책연구소가 올 1월 실시한 여론조사에서, 미국인의 84%가 비동의 딥페이크 음란물 처벌법에 찬성한 바 있다.

미국 NCOSE(National Center on Sexual Exploitation, 국립성착취방지센터)는 모든 형태의 성적 착취와 학대를 근절하는 데 초점을 둔 비영리 시민단체로 1962년 뉴욕시에서 다종교 지도자들의 이니셔티브로 설립됐으며, 이전 명칭은 ‘Morality in Media(미디어 윤리)’였다.

미국·영국 등, AI 딥페이크 성인물 강력 규제법 도입

사실상 AI 음란물·딥페이크 사태가 사회적 재앙으로 번지자, 미국은 2025년 5월 트럼프 대통령이 '테이크잇다운법(Take It Down Act)'에 서명, 'AI·비동의 성인물 유포 시 최대 3년형' 부과 및 플랫폼에 48시간 내 삭제 의무화 등 강력 규제를 시행 중이다. 영국·일본·중국·EU 역시 아동·성인 딥페이크 음란물, 초상권 침해 등에 대한 처벌·삭제 명령을 강화하고 있다.

산업계·전문가, “윤리·보호 최소장치 필요”

기술계에선 AI 기반 창작 자유와 함께 미성년자 보호, 타인 초상 악용 방지 등 윤리 장치, 연령·신원 검증, 글로벌 규제 조화가 절실하다는 지적이 이어진다. 'Grok Imagine'의 NSFW 콘텐츠는 “블러 처리”라는 형식적 제어만 있을 뿐, 실질 대응엔 한계가 있다는 평가다.

빅테크 전문가들은 “성인물 수요층이 AI 시장 진입을 견인할 수 있으나, 사회적 폐해·법적 리스크가 더 커질 수 있다”며 “기술 도입과 보호장치 동반이 반드시 전제되어야 한다”고 입을 모았다.

미국 NCOSE 관계자는 "AI 음란물의 대중화는 생각보다 빠르다. xAI 이후 AI 이미지·영상 생성기 대부분이 뒤따를 가능성이 높다. 규제가 없어지거나 약화될수록, 디지털 성범죄·모방 범죄가 급증할 수 있다"고 우려했다.