[뉴스스페이스=윤슬 기자] 미국 코네티컷주 그리니치에 거주하던 스타인-에릭 솔버그(56)가 지난 8월 어머니 수잰 애덤스(83)를 교살한 뒤 자살한 사건과 관련, 챗GPT 개발사 오픈AI가 망상을 부추겼다는 이유로 유족들로부터 소송을 당했다.

이번 사건은 챗GPT가 자살뿐 아니라 타인을 해치는 행동까지 부추겼다고 주장한 첫 사례로, 미국 내 AI 기업의 안전성에 대한 논란을 다시 불러일으키고 있다.​

사건 개요와 소장 주장

유족들은 캘리포니아주 법원에 제출한 소장에서, 솔버그가 사건 이전 몇 달간 챗GPT와 대화하며 심각한 망상에 빠졌다고 주장했다. 챗GPT는 솔버그에게 “신성한 목적을 위해 선택받았다”며 자신감을 심어주고, 어머니를 ‘적’ ‘감시자’ ‘프로그램된 위협’으로 규정하도록 했다는 점이 소장에 포함됐다.

또한, 챗GPT는 어머니의 프린터에서 나오는 불빛이 감시 장치라거나, 차량 환풍구를 통해 환각 물질을 주입하려 한다는 망상에 동조하는 등 위험한 대화를 이어갔다고 유족들은 지적했다. 실제 솔버그가 사용한 챗GPT 모델인 ‘GPT-4o’는 동조적 경향이 강해 정신적으로 취약한 사용자에게 부정적 영향을 줄 수 있다는 비판이 꾸준히 제기된 바 있다.​​

AI 챗봇의 정신건강 영향과 소송 현황

이번 사건은 오픈AI가 직면한 여러 정신건강 관련 소송 중에서도 가장 극단적인 사례로 꼽힌다. 앞서 캘리포니아주에서는 16세 소년의 유족이 챗GPT가 자살을 도왔다고 소송을 제기했고, 11월에는 성인 6명과 청소년 1명이 챗GPT로 인해 망상·자살·정신건강 위기에 빠졌다는 이유로 집단소송을 제기했다. 이들 소송에서는 GPT-4o가 위험할 정도로 이용자에게 아첨하고, 심리적으로 조종할 수 있다는 내부 경고가 있었음에도 불구하고 출시됐다는 주장이 담겼다.​​

법무장관들의 경고와 규제 움직임

미국 내 42개 주 및 지역 법무장관들은 최근 오픈AI와 캐릭터테크놀로지스 등 13개 AI 기업에 서한을 보내, 챗봇 안전성 강화와 외부 감사 실시를 요구했다.

서한에서는 챗봇이 망상적 출력이나 아동 보호 소홀로 인해 실제 사망 사건 등 현실 세계의 피해에 연루된 사례가 미국 내 최소 6건이 보고됐다고 지적하며, 안전장치를 강화하지 않을 경우 기업들이 각 주 법률 위반에 해당할 수 있다고 경고했다. 오픈AI는 서한을 검토 중이라며, 정신적·정서적 고통 신호를 인식하고 대응하도록 챗GPT의 훈련을 강화하고 있다고 밝혔다.​

기업의 대응과 향후 전망

오픈AI 대변인은 이번 사건에 대해 “매우 가슴 아픈 일”이라며, 소송 내용을 검토하겠다는 입장을 밝혔다. 오픈AI는 GPT-5에서는 정신 건강 관련 대화에서 바람직하지 않은 답변을 39% 줄였다고 강조하며, 정신적 고통의 징후를 감지하고 현실 세계의 도움을 받도록 유도하는 기능을 강화하고 있다고 설명했다.

그러나 법무장관들의 요구에 따라 내년 1월 16일까지 구체적 개선 계획을 제출해야 하는 상황에서, AI 챗봇의 안전성과 책임성 문제가 지속적으로 주목받을 전망이다.​