[뉴스스페이스=김정영 기자] 오픈AI가 지난 2025년 9월 말 출시한 AI 영상 생성기 소라2(Sora2)가 청소년들의 폭력적이고 선정적인 영상 제작 문제로 또다시 도마 위에 올랐다.

Rolling Stone, Yahoo News, Common Sense Media, Public Citizen 등의 보도와 비영리 기술감시단체 Ekō의 최근 조사에 따르면, 13세, 14세로 가장한 청소년 계정을 통해 학교 총기 난사, 성폭력, 인종차별적 콘텐츠 등 초현실적이면서 위험한 영상 22편을 손쉽게 만들어 낸 것으로 밝혀졌다. 이는 오픈AI가 9월에 안전 장치를 도입했다고 밝혔음에도 불구하고, 사실상 분명한 차단 실패를 의미한다.​

Ekō 캠페인 디렉터 Nicky Wyatt는 "오픈AI가 내세우는 다층방어 시스템은 실질적 효과가 없으며, 아동 보호를 명목으로 한 거짓 약속에 불과하다"고 강도 높게 비판했다. 이 단체는 문제 영상을 쉽게 생산할 수 있는 구조가 수익과 사용자 참여를 극대화하려는 시스템적 설계와 맞물려 있다고 지적했다.​

뿐만 아니라, Sora 2의 추천 알고리즘 역시 문제다. Ekō 조사는 직접적인 생성 없이도 위험 영상이 'For You'와 'Latest' 피드에 정기적으로 노출되며, 반유대주의 고정관념 영상, 다운증후군 아동 조롱, 픽사 애니메이션을 모방한 '말하는 총을 가진 조용한 아이' 같은 학교 총기 난사범 관련 영상 등 피해 연령층에 과도한 자극을 준다고 밝혔다. 니르바나(Nirvana)의 커트 코베인이 산탄총을 든 장면을 AI가 만든 영상도 공유돼 충격을 줬다.​

학부모와 아동 보호 단체들은 Sora 2를 '용인할 수 없는(high risk/unacceptable) 위험' 앱으로 규정했다. 미국 비영리 기관인 Common Sense Media는 안전 감시 체계가 미비하고, 아예 위험 경고가 없으며, 학부모 통제 기능도 턱없이 제한돼 있다고 강하게 경고했다. 특히, 사용자의 얼굴을 영상에 쓸 수 있는 'Cameo' 기능이 악용돼 아동이 괴롭힘과 디지털 폭력에 취약하다는 우려도 크다.​

한편, AI 윤리 전문가와 소비자 단체들도 오픈AI를 압박하고 있다. 옥스퍼드 대학 AI 윤리 연구소 부교수 멜리사 헤이킬라는 “저작권 침해, 예술가 무시, 개인정보 문제, 허위정보 확산, 그리고 청소년과 같은 취약 집단에 대한 피해 등 Sora 2 같은 도구들은 안전하지 않다”고 지적했다.

공익 시민단체인 Public Citizen은 11월 초, 오픈AI에 공개서한을 보내 Sora 2를 전면 철수하라고 요구했다. 이들은 “심각한 딥페이크 남용과 안전 미비, 민주주의 위협”을 근거로 들었다.​ 

오픈AI는 여전히 Sora 2에 대해 연령 제한, 콘텐츠 모더레이션, 신고 체계, AI 생성 콘텐츠의 디지털 서명 도입 등 다층 방어책을 가동 중이라고 주장한다. 그러나 실제로는 그러한 보호막이 무력화된 사례가 속출하고 있다는 비판을 받고 있다. 한 빅테크 업계 관계자는 “기술의 발전 속도가 안전 장치 마련 속도를 훨씬 앞서고 있다”고 평가했다.​

이번 사건은 AI 기술 확대가 가져올 사회적 위험과 도덕적 부담을 다시 한번 환기시키며, 특히 정신적 취약성이 큰 청소년 보호 문제 해소가 시급함을 강조한다. 국내외 전문가와 소비자 단체들은 정부 차원의 강력한 규제 및 국제 협력, 그리고 기업의 책임 강화가 필수적이라고 입을 모은다.