[뉴스스페이스=이은주 기자] 이미지 생성 인공지능(AI)을 활용해 아동 성착취물을 제작한 혐의로 40대 남성이 구속 기소됐다. 국내에서 AI 음란물 제작자가 재판에 넘겨진 건 이번이 처음이다.

부산지방검찰청은 아동·청소년의 성보호에 관한 법률(아청법) 위반 혐의로 40대 A씨를 구속 기소했다고 1일 밝혔다. A씨는 지난 4월쯤 자신의 노트북에 설치한 이미지 생성 AI 프로그램에 ‘10살’ ‘나체’ 등의 명령어를 입력해 아동 성착취물을 제작한 혐의를 받고 있다.

AI 이미지 생성 도구들은 전문적 기술 없이도 명령어 몇 개만 입력하면 정교한 이미지를 만들어낸다. 이미지 생성 AI는 대부분 아동 성착취물을 제작할 수 없도록 금지 명령어를 지정하고 있지만, 온라인에서는 이를 교묘하게 피하는 꼼수가 공유되고 있다.

A씨는 이러한 방식으로 아동이 신체를 노출하거나 성적 행위를 하는 모습 등이 담긴 이미지 파일 360여개를 제작한 것으로 파악됐다. 또 A씨는 실제 사람이 등장하는 불법 성인 영상물을 제작·배포한 혐의도 받는다.

검찰은 AI로 제작된 아동 성착취물에 대해 실제 아동을 출연시킨 것과 동일하게 아청법 위반을 적용했다.

검찰 관계자는 “아청법상 성착취물은 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장해 성적 행위를 하는 내용을 담은 것”이라면서 “AI를 활용해 만든 가상의 이미지라 해도 실제 아동으로 명백하게 인식될 수 있는 만큼 아청법을 적용했다”고 설명했다.

아청법상 아동·청소년 성착취물을 제작한 사람은 무기징역 또는 5년 이상 유기징역에 처하게 돼 있다.

한편 올해 전 세계에서 인공지능(AI) 악용 범죄로 인한 피해액이 190조원에 달할 것이란 분석 결과가 제시됐다. 지난해보다 50% 증가한 규모다.

한국AI교육협회 자료에 따르면, 올해 전 세계 AI 범죄 피해액은 1500억 달러(약 190조500억원)에 육박할 것으로 추산된다. 지난해 추정 피해액은 1000억 달러(약 126조7000억원)였다.

문형남 한국AI교육협회장(숙명여대 경영전문대학원 교수)은 AI 범죄의 대표 유형으로 △금융 사기 △개인 정보 절취 △가짜뉴스 제작 △테러 △군사 공격 등 5가지를 꼽고 “AI 범죄는 전 세계적으로 증가하고 있으며 피해는 매우 심각한 수준”이라고 지적했다.

유튜브에서는 AI로 만든 아동·청소년 음란물 영상을 쉽게 볼 수 있다.

‘AI 룩북 교복’을 검색하면 ‘고등학교 교실’ ‘멜랑꼴리한 교복 룩북 누나’ ‘여학생’이라는 키워드와 함께 올라온 영상이 조회 수 수십만 회를 기록하고 있다.