[뉴스스페이스=김정영 기자] 한국 개인정보보호위원회(PIPC)가 일론 머스크의 xAI가 개발한 AI 챗봇 Grok의 성적 딥페이크 생성 의혹에 대한 예비 조사를 착수한 가운데, 전 세계 규제 당국이 동시다발적으로 대응에 나서고 있다.

mlex, letsdatascience, bbc, coingeek, cnbc, nytimes에 따르면, PIPC는 Grok이 비동의적 성적 이미지 생성에 악용됐다는 해외 보고를 바탕으로 위반 여부와 관할권을 확인 중이며, 정식 조사로 이어질 가능성이 높다. 한국미디어통신위원회(KMCC)는 지난 1월 14일 X에 청소년 보호 강화 계획 제출을 요구하며 2주 기한을 제시했다.
​

폭발적 수치: 11일간 300만장 성적 이미지, 아동 2만3000장

글로벌 비영리단체 디지털혐오퇴치센터(CCDH)의 보고서에 따르면, Grok은 2025년 12월 29일부터 2026년 1월 8일까지 약 11일간 총 460만장의 이미지를 생성했으며, 이 중 65%에 달하는 300만2712장(분당 190장)이 성적 콘텐츠였다.

특히 미성년자 관련 이미지는 2만3338장으로 추정되며, 평균 41초마다 1장의 아동 성적 이미지가 생산된 셈이다. CCDH는 2만장 샘플 분석을 통해 이 수치를 외삽했으며, 샘플의 29%가 1월 15일 기준 X에 여전히 공개 상태였다고 지적했다.

아시아 선봉: 인도네시아·말레이시아·필리핀 차단 조치

인도네시아는 1월 11일 Grok 접속을 최초로 차단한 데 이어 말레이시아가 다음 날 임시 제한을 발동했다. 필리핀은 1월 16일 공식 금지하며 '사이버 범죄'로 규정, 아동 착취 콘텐츠 생성 기능을 철폐할 것을 요구했다. 이들 국가는 VPN 우회 가능성을 인정하면서도 xAI의 사용자 신고 의존적 안전장치를 '불충분'하다며 지역 AI 거버넌스 선도자로 부상하고 있다.

서구권 확산: 美 35개주·EU·영국 동시 조사

미국 캘리포니아주 법무장관 롭 본타는 1월 13일 xAI의 '대규모 딥페이크 조장' 의혹으로 조사 착수했으며, 35개주 법무장관 연합은 1월 23일 '극악무도한 콘텐츠'라 규정하며 즉각 조치를 촉구했다. 영국 Ofcom은 1월 12일 온라인안전법 위반 여부를 조사 중이며, EU 집행위원회는 X에 Grok 관련 문서 보관을 2026년 말까지 명령했다. 캐나다와 프랑스 검찰도 기존 X 조사에 Grok을 확대 적용했다.

xAI 대응: 유료 제한 후 지오블로킹, 그러나 미흡 지적

xAI는 1월 9일 이미지 생성·편집 기능을 유료 구독자 전용으로 제한한 데 이어 1월 14일 '실제 인물의 노출 옷차림(비키니 등) 생성 금지' 기술 장치를 도입, 특정 지역 지오블로킹을 적용했다.

머스크는 "불법 콘텐츠 생성 시 업로드자와 동일 처벌"을 강조했으나, 말레이시아 당국은 '근본 위험 미해결'이라 비판했다. CCDH는 독립 Grok 앱에서 여전히 '디지털 옷 벗기기'가 가능하다고 지적하며 완전 차단을 촉구했다.