[뉴스스페이스=김정영 기자] 미국 플로리다에서 전 여자친구를 상대로 한 성폭력·살해 계획을 챗GPT에 반복적으로 입력한 전직 금융분석가가 오픈AI의 긴급 신고를 거쳐 체포·유죄 인정 처분을 받았다. 이번 사건은 생성형 AI가 범죄 조력 도구가 될 수 있다는 위험과 동시에, 플랫폼의 위험 탐지·당국 통보가 실제 물리적 피해를 막는 안전망으로 작동할 수 있음을 보여준다.

8월 14일(현지시간) 미국 현지 법원 기록과 팜비치포스트 보도에 따르면, 당시 25세였던 대런 저우는 지난 3월 결별한 지 약 6개월 된 전 여자친구를 상대로 납치·성폭력·살해 및 살해 후 자살 계획을 챗GPT에 상세히 입력했다. 그는 “이달 말까지 죽이겠다”, “내 것이 될 수 없다면 누구의 것도 될 수 없다”는 취지의 발언을 남겼고, 피해자의 취미·자주 가는 장소·주변 남성에 대한 질투 등을 언급하며 동선을 파악한 정황도 드러났다.

두 달치 대화, FBI 거쳐 경찰로

핵심은 단순히 폭력적 언어를 사용했다는 데 있지 않다. 수사당국은 저우의 대화가 충동적 감정 표출이 아니라 범행을 “리허설하고 계획한 기록"이라고 판단했다. 그는 전 여자친구가 다니는 체육시설 주차장에서 기다리다 거절당하면 총격을 가하고 자신도 목숨을 끊겠다는 구체적 구상을 입력한 것으로 전해졌다.

오픈AI는 위험 대화 패턴을 탐지한 뒤 FBI에 긴급 경보를 보냈고, 연방 수사기관은 약 2개월치 챗GPT 대화 기록을 팜비치카운티 보안관실에 넘겼다. 수사기관은 AI 대화 내용뿐 아니라 피해자가 확보한 통화·문자·사회관계망서비스(SNS) 메시지, 반복적인 연락 시도 등 외부 증거를 결합해 ‘신빙성 있는 위협’으로 판단했다. 즉, 체포의 근거는 챗봇 대화만이 아니라 디지털 스토킹과 위협 행위가 교차 검증된 결과였다.

저우는 5월 체포된 뒤 10만 달러의 보석금을 내고 석방됐으며, 6월 가중 스토킹, 살해 위협, 범죄 목적 통신기기 이용 등 3개 중범죄 혐의로 기소됐다. 각 혐의는 최대 25년형까지 가능한 범죄였지만, 그는 8월 13일 유죄를 인정하는 합의를 택했다. 법원은 정식 유죄 판결을 유예하고 보호관찰 8년을 명령했다. 현지 보도에 따르면 판사는 피해자의 동의, 피고인의 전과 부재, 정신건강 상태 등을 합의 수용의 배경으로 언급했다.

AI의 신고는 예외인가, 새 표준인가

이번 사건은 챗GPT가 사용자의 대화를 언제, 어떤 기준으로 들여다보고 수사기관에 제공할 수 있는지라는 문제를 전면에 올린다. 팜비치포스트는 오픈AI 정책상 타인에게 위해를 가할 계획이 감지될 경우 제한된 인력이 이용자 상호작용을 검토할 수 있고, 중대한 경우 법집행기관에 제보할 수 있다고 보도했다. 그러나 개별 대화의 감지 기준, 사람의 검토 범위, 오탐 시 이용자 구제 절차, 국가별 법적 절차는 공개 정보만으로 충분히 확인되지 않는다.

특히 이 사례는 “AI와의 대화는 절대적으로 사적인 공간”이라는 인식을 깨뜨린다. 서비스 제공자가 위해 가능성을 탐지해 신고할 수 있는 구조라면, 이용자에게는 사실상 플랫폼 약관과 안전정책, 긴급상황 대응 체계가 대화의 비밀 범위를 규정하는 셈이다.

범죄 예방이라는 공익이 큰 만큼 투명성이 핵심이다. 어떤 위험 신호가 신고로 이어졌는지, 수사기관에 제공되는 데이터 범위는 어디까지인지, 피해 가능성·임박성·구체성은 어떻게 판단하는지가 외부 감시 가능한 형태로 제시돼야 한다.

캐나다 총격 사건과 정반대의 평가

아이러니하게도 오픈AI는 캐나다 브리티시컬럼비아주 텀블러리지 총격 사건에서는 정반대의 비판을 받고 있다. CTV가 입수한 수사 문서에 따르면, 18세 제시 밴 루트셀라르는 2월 총격으로 8명을 살해한 뒤 스스로 목숨을 끊었다. 이후 FBI는 2월 15일 캐나다 연방경찰(RCMP)에 오픈AI가 범인 소유로 추정되는 챗GPT 계정 2개를 확인했다고 통보했다.

해당 사건에서 오픈AI는 경찰에 사전 경보를 보내지 못한 데 대해 사과한 것으로 보도됐다. RCMP는 3월 6일 오픈AI를 상대로 가입자 정보와 관련 데이터를 제출하라는 생산명령을 청구했고, 캐나다 수사는 여전히 진행 중이다. 대형 플랫폼이 위험 신호를 사전에 인지했는지, 인지했다면 어느 시점에서 누구에게 통지할 의무가 있는지가 쟁점이 된 이유다.

두 사건의 대비는 명확하다. 플로리다에서는 오픈AI의 신고가 FBI와 지방 수사기관의 대응으로 이어져 범행 실행 전 개입이 이뤄졌고, 캐나다에서는 사후 계정 확인과 증거 확보가 논란의 중심이 됐다. 전자는 AI 안전 시스템의 예방적 효용을, 후자는 위험 탐지 실패 또는 신고 지연에 대한 기업 책임 문제를 부각한다.

‘탐지’보다 중요한 것은 검증과 책임

생성형 AI 안전정책은 폭력적 질의의 답변을 거절하는 수준을 넘어섰다. 이제 쟁점은 위험을 탐지한 뒤 플랫폼이 실제로 어떤 조치를 해야 하는가다. 다만 AI가 위험 발언을 감지했다는 사실만으로 곧바로 범죄 의도나 유죄를 단정해서는 안 된다. 정신건강 위기, 과장된 표현, 허구적 글쓰기, 맥락 없는 문장이 오탐으로 이어질 수 있기 때문이다.

따라서 바람직한 체계는 자동 탐지와 인간 검토, 임박성 및 구체성 평가, 최소 필요 데이터 제공, 독립적 사후감사, 오남용 방지 장치를 함께 갖추는 것이다. 플로리다 사건에서도 수사기관은 AI 기록을 피해자 진술과 반복적 연락·위협 메시지 등 독립 증거와 대조했다. AI 대화가 수사의 출발점은 될 수 있어도, 처벌과 강제조치의 유일한 근거가 돼서는 안 된다는 원칙이 중요하다.

이번 사건은 생성형 AI의 사회적 역할이 단순한 대화 도구를 넘어 범죄예방 인프라와 사적 감시의 경계에 들어섰음을 보여준다. 이용자 보호와 잠재적 피해자 보호, 그리고 사생활·적법절차 보장은 어느 하나를 포기해서 해결할 문제가 아니다. AI 기업이 위험을 탐지할 권한과 책임을 확대할수록, 그 판단 과정과 데이터 제공의 기준 역시 더 엄격하게 공개·감사받아야 한다.