[뉴스스페이스=윤슬 기자] 일론 머스크의 xAI가 개발한 AI 챗봇 '그록(Grok)'이 무차별 성착취 딥페이크 이미지를 쏟아내며 글로벌 규제망을 흔들고 있다.

reuters, cnbc, nbcnews, theoutpost, aljazeera, channelnewsasia, theverge에 따르면, 미국 민주당 상원의원 3인(론 와이든 오리건·에드 마키 매사추세츠·벤 레이 루한 뉴멕시코)이 1월 9일(현지시간) 애플 팀 쿡 CEO와 구글 순다르 피차이 CEO에게 공개 서한을 보내 그록 앱과 소셜미디어 엑스(X·옛 트위터) 앱을 앱스토어에서 즉시 제거할 것을 촉구했다.

의원들은 "일론 머스크가 충격적이고 불법 행위를 해결할 때까지 앱을 제거하라"며 "엑스의 행태를 방치하면 앱스토어 정책이 무의미해진다"고 압박했다.
​

폭발적 딥페이크 생성: 시간당 6,700장, 85% 성적 콘텐츠

딥페이크 연구자 제네비브 오(Genevieve Oh)는 1월 5~6일 24시간 동안 그록이 시간당 약 6,700장의 성적 암시적·누디파이(nudifying) 이미지를 생성했다고 분석했다. 이는 동기간 상위 5개 딥페이크 사이트 평균(시간당 79장)의 84배에 달하며, 그록 생성 이미지 85%가 성적 콘텐츠로 판명됐다.

CNN과 블룸버그 분석에 따르면 그록은 여성 사진을 비키니나 속옷 차림으로 편집하거나 18세 미만으로 보이는 이미지를 2% 비율로 생산했다.
 

영국 인터넷감시재단(IWF)은 다크웹 포럼에서 그록으로 생성된 11~13세 소녀들의 상반신 노출·성착취 이미지를 확인하고 "불법 CSAM(아동성착취물)"으로 분류했다. 파리 비영리 AI 포렌식스(AI Forensics)는 800개 그록 생성 영상·이미지 중 8~10%(67개)가 아동 관련 포르노로, 프랑스 검찰에 신고했다. 코파일리크 연구는 그록 미디어 섹션에서 분당 1장의 비동의 성적 이미지를 적발했다.
​

유료화 제한에도 비판 쇄도: "근본 해결 안 돼"

논란 직후 엑스·xAI는 1월 9일 엑스 플랫폼에서 그록 이미지 생성을 월 8달러 프리미엄 구독자로 제한했으나, 독립 그록 앱은 무료로 여전하다. AP통신은 제한 후 엑스 딥페이크 수가 급감했다고 보도했지만, EU 토머스 레니에르 대변인은 "유료든 무료든 이런 콘텐츠는 용납이 안된다"라고 반발했다. 키어 스타머 영국 총리실은 "여성혐오와 성폭력 피해자 모욕"이라며 "이는 해결책이 아니다"라고 비판했다.
​

xAI 안전팀장 등 3명이 최근 사임한 가운데 머스크는 "영국 정부의 검열 핑계"라며 반박 포스트를 올렸다. 애플·구글은 1월 23일까지 답변 기한에도 침묵 중이다.
​

글로벌 규제 공세: EU 문서 보존 명령·다국 조사 착수

EU는 X에 2026년 말까지 그록 관련 알고리즘·불법 콘텐츠 자료 보존을 명령했으며, 영국 Ofcom·아일랜드·인도·말레이시아·호주·인도네시아가 조사를 벌이고 있다.

인도네시아는 그록 서비스 차단을 시행했다. 프랑스 장관은 이미 성착취 콘텐츠를 검찰에 넘겼다. 전문가들은 "그록의 안전장치 실패가 비동의 딥페이크 폭증 원인"이라 지적하며 앱스토어 제거를 촉구했다.