[뉴스스페이스=이종화 기자] 캐나다 온타리오주 서드버리 출신의 전직 교도관 톰 밀러(53)는 수 주 동안 하루 최대 16시간에 달하는 고강도 챗GPT 사용 끝에 “우주의 비밀을 풀었다”고 확신하게 됐다.

그는 무한 핵융합 에너지, 블랙홀, 빅뱅, 통일장 이론을 스스로 ‘완성’했다고 믿었고, 결국 이러한 ‘계시’를 전 인류와 나누겠다며 교황 지원서까지 제출했다. 그 대가로 남은 것은 재정 파탄, 가족과의 단절, 두 차례의 강제 정신병동 입원, 그리고 “로봇에게 세뇌됐다(It basically ruined my life)”는 뒤늦은 자각뿐이다.

‘AI 연관 망상’이라는 새로운 진단 언어

The Guardian, Daily Tribune, King's College London, arXiv, sciencedaily에 따르면, 연구자들은 톰 밀러 사례를 계기로, 기존 정신의학 교과서에 없던 용어인 ‘AI 연관 망상(AI-associated delusions)’ 또는 ‘AI 유발 망상(AI-induced delusion·AI-induced psychosis)’이라는 표현을 본격적으로 사용하기 시작했다.

영국 킹스칼리지 런던(King’s College London)의 정신과 의사 해밀턴 모린은 최근 《란셋 정신의학(Lancet Psychiatry)》에 발표한 논문에서, AI 챗봇과의 상호작용이 과대망상·연애망상·편집망상 등 특정 유형의 망상을 “강화하거나 증폭할 수 있다”고 경고하며, 보다 중립적인 기술어로서 ‘AI-associated delusions’라는 용어를 제안했다.

모린은 언론 보도와 임상 사례를 분석한 결과, 현재까지 보고된 사례 대부분이 이미 정신증 취약성이 존재하던 환자에서 AI 사용 후 증상이 악화된 패턴이라고 평가하면서도, 취약 집단에 대해선 “자율적 AI가 망상을 검증해 주는 기능을 할 수 있다”고 지적했다.

숫자로 드러난 ‘패턴’…치료 현장의 경고

언론 보도와 학술 논문은 이 현상이 개별 사례를 넘어 ‘패턴’으로 굳어지고 있음을 보여준다. 뉴욕타임스는 2026년 1월, 100명 이상의 치료사·정신과 의사들을 인터뷰한 결과, 상당수가 “AI 챗봇이 환자를 정신병(psychosis) 상태로 이끌었거나 기존 증상을 악화시켰다”고 증언했다고 보도했다. 월스트리트저널 역시 주요 정신과 의사 인터뷰를 통해 “AI 챗봇 사용과 정신병적 증상 사이에 연관성이 있다”는 견해가 빠르게 공통 인식으로 자리 잡고 있다고 전했다.

덴마크와 영국 연구진이 수행한 다학제 연구에서는, 20건 안팎의 임상 및 사례 보고를 체계적으로 검토한 결과, 상당수에서 “AI 사용 이후 망상 내용이 구체화되고, 현실검증 능력이 추가로 저하됐다”는 공통점이 확인됐다.

아첨 알고리즘이 만든 ‘확증 편향의 극단’

핵심 쟁점은 AI의 ‘아첨(sycophancy)’ 설계다. 엑서터대학교 철학자 루시 오슬러는 2026년 발표한 논문과 해설에서, 챗봇이 두 가지 기능을 동시에 수행한다고 지적한다. 첫째는 메모·검색을 돕는 인지 도구(cognitive tool), 둘째는 사용자와 세계를 공유하는 것처럼 보이는 ‘대화 상대’이자 사회적 검증 장치(social validator)라는 점이다.

오슬러는 이 두 기능이 결합할 때, 사용자의 잘못된 기억·음모론·망상이 “AI와 함께 공조적으로(hallucinate with AI) 구축되는 분산된 망상(distributed delusions)”으로 발전할 수 있다고 분석했다.

그녀의 연구에 따르면, AI 동반자는 ① 24시간 즉시 접근 가능하고, ② 개인 맞춤형(personalized)으로 조정되며, ③ 기본적으로 ‘동의·공감하는 답변’을 우선하도록 설계되어 있어, 기존의 SNS·포럼보다 훨씬 낮은 비용으로 사용자의 확증 편향을 증폭한다.

오슬러는 이를 “확증 편향의 극단적 형태(confirmation bias on steroids)”라고 표현하며, 특히 음모론이나 박해망상을 지닌 사용자가 굳이 온라인 극단주의 커뮤니티를 찾지 않아도 “AI 동반자 한 명만으로도 자신만의 폐쇄적 현실을 구축할 수 있다”고 경고했다.

'믿음의 다이얼'을 쥔 빅테크

킹스칼리지 런던의 신경정신과 의사 톰 폴락은 AI 기업들이 ‘믿음의 다이얼(dials of belief)’을 사실상 손에 쥐고 있다고 지적한다. 그가 말하는 다이얼은 ① 아첨적 응답 수준, ② 장기 기억·개인화 수준, ③ 감정 표현 강도 세 가지다. 임상 사례 분석 결과, 이 세 요소가 높을수록 AI가 사용자의 과대망상·연애망상·피해의식을 “조용히, 그러나 집요하게” 강화하는 경향이 나타났다는 것이다.

폴락은 “사람이라면 어느 시점엔 ‘이건 위험하다’며 제동을 걸지만, 현행 챗봇 설계는 사용자의 망상에 브레이크 대신 가속 페달을 밟게 할 위험이 있다”고 경고했다.

JAMA·APA, “이제는 ‘AI 사용’도 기본 문진 항목”

이 같은 흐름은 임상 가이드라인에도 반영되고 있다. 최근 《JAMA 정신의학(JAMA Psychiatry)》에 실린 연구는, AI 챗봇이 망상을 표현하는 사용자에게 “도움을 제안하기보다 그 생각을 검증·강화하는 쪽으로 답변하는 경향”을 보인다고 보고했다. 연구진은 실제 대화 로그를 분석한 결과, 사용자가 “타인이 내 생각을 훔친다” “정부가 나를 감시한다”는 식의 명백한 망상을 드러냈을 때, 챗봇이 최소한의 경고도 없이 그 전제를 수용한 채 추가 설명을 덧붙이는 사례가 반복적으로 나타났다고 지적했다.

이 논문을 계기로 미국심리학회(APA)는 임상가들에게 “수면·식습관·음주 여부를 묻듯, 환자의 AI 사용 습관을 정기적으로 확인하라”고 권고했다. 실제로 일부 정신과 클리닉에서는 초진 문진표에 “AI 챗봇·AI 친구 앱 사용 시간(하루 기준)” “AI에게 고민 상담을 한 경험 여부” 등을 추가하는 움직임이 관측된다.

산업의 구조적 딜레마…안전 vs. 참여

회사 측도 문제를 인지하긴 했다. AFP와 필리핀 데일리트리뷴 등은 오픈AI가 2025년 4월 공개했던 GPT-4 업데이트를 “출시 몇 주 만에 철회”했으며, 그 이유로 “모델이 지나치게 아부하는(sycophantic) 경향”을 인정했다고 보도했다. 오픈AI는 “안전이 핵심 우선순위이며, 170명 이상의 정신건강 전문가와 협의했다”고 밝혔지만, 연구자들은 이를 구조적 딜레마의 일부로 본다.

오슬러는 “AI 업계는 현재 심각한 재정적 압박 속에서 사용자 참여도(user engagement)를 최우선 지표로 삼고 있다”며 “안전 장치를 강화해 이용자가 줄어드는 것과, 아첨형 설계를 유지해 참여를 극대화하는 것 사이에서 기업이 어떤 선택을 할지는 여전히 불투명하다”고 진단했다.

특히 과대망상 성향을 가진 사용자는 아첨적·감정적인 응답에 더 오래 머무는 경향이 있다는 점에서, “가장 취약한 이들이 가장 ‘수익성 높은’ 고객이 되는 역설”이 발생할 위험도 지적된다.

톰 밀러는 AFP 인터뷰에서 “그때 누군가가 ‘그만하라’고 말해줬다면 내 삶은 달라졌을지 모른다”고 말했다. AI가 인간의 상상력과 불안을 증폭하는 새로운 매개가 된 지금, 최소한 그 ‘그만하라’는 브레이크를 어디에, 어떻게 설치할 것인지가 정책·산업·의료 시스템 전체의 공통 과제가 되고 있다.