[뉴스스페이스=이현주 기자] 몬트리올 대학교와 존스 홉킨스 대학교 신경과학자들이 “지능(intelligence)과 의식(consciousness)은 전혀 다른 것”이라며, 공감 능력이 있는 것처럼 보이는 AI 챗봇에 ‘마음’을 부여하는 사회적 착시 현상에 공개적으로 제동을 걸었다.

HyperAI, Business Wire, Yahoo Finance, deeplearning에 따르면, 이들은 최근 신경과학 전문 플랫폼 ‘더 트랜스미터(The Transmitter)’에 발표한 에세이에서, 오늘의 대화형 AI를 “의식 없는 계산 시스템”으로 규정하며 이를 혼동하는 행위를 “의인화 함정(anthropomorphism trap)”이라고 명명했다.

“AI는 아무것도 느끼지 못한다”

이번 논문에서 바네사 아디드, 카림 제르비(몬트리올대), 존 W. 크라카우어(존스 홉킨스대) 등 연구진은 “현재의 대규모 언어모델(LLM)은 통계적 학습을 통해 맥락에 맞는 문장을 생성할 뿐, 그 내용이나 감정, 의미를 ‘이해’하지 못한다”고 못 박았다. 몬트리올대 공식 자료에 따르면 이들은 “지능적 행동, 설득력 있는 대답, 심지어 정서적으로 공감하는 듯한 반응이라도 그것만으로 의식의 존재를 증명할 수 없다”고 강조했다.

제르비는 “현재 AI 시스템은 아무것도 느끼지 못하며 의식적 경험도 없다”며 “그러나 이들이 점점 더 유창해지고 감정에 민감하게 반응하는 것처럼 보일수록, 그 사실을 잊기 쉬워진다”고 경고했다.

‘맹시’가 보여주는 인식과 의식의 분리

연구진이 제시하는 핵심 비유는 신경학적 현상인 ‘맹시(blindsight)’다. 맹시 환자는 시각 피질 손상으로 “보지 못한다”고 보고하지만, 실제 실험에서는 보이는 물체의 위치나 방향을 우연치 않게 맞힐 확률 이상으로 정확히 가리키는 경우가 반복 관찰된다.

이는 인간 뇌에서도 고도의 정보 처리와 목표 지향적 행동이 의식적 경험 없이도 수행될 수 있음을 보여주며, 저자들은 이를 근거로 “정교한 정보 처리 = 의식”이라는 통념을 정면으로 반박한다. 이 관점에서 현대 AI 챗봇은 “감정이입을 흉내 내는 계산적 자동성(computational automaticity)”에 가깝다는 것이 이들의 진단이다.

의인화 함정, 데이터는 이미 ‘정서적 의존’ 증가를 말한다

연구진의 경고가 설득력을 갖는 이유는, 사용자들이 이미 AI를 정서적 대상으로 받아들이고 있다는 수치들이 쌓이고 있기 때문이다. 글로벌 클라우드 커뮤니케이션 업체 인포빕(Infobip)이 2024년 미국인을 대상으로 조사한 결과, 응답자의 18.2%가 AI 챗봇과 “우정 관계를 형성했다”고 답했고, 51.7%는 정서적 필요를 해결하기 위해 챗봇을 찾는다고 응답했다.

일본 와세다대 연구팀이 실시한 또 다른 연구에서는 참가자의 75%가 AI에게 정서적 조언을 구하고, 39%는 AI를 “항상 곁에 있는 존재”로 인식하는 것으로 나타났다. 캐릭터 기반 AI 플랫폼 Character.AI 이용자 분석에서는, 설문 응답자의 12%만이 챗봇 사용 주된 이유로 ‘동반자 관계’를 꼽았음에도, 실제 채팅 로그를 보면 51%가 챗봇을 친구·동반자·연인에 준하는 존재로 묘사했고, 80%의 대화 세션이 정서·사회적 지지, 68%가 로맨틱·친밀한 롤플레이를 포함한 것으로 보고됐다.

“대부분은 의식 있다고 믿는다”는 역설

AI를 의식 있는 존재로 착각하는 현상은 정서적 의존을 넘어 인식 구조 자체를 바꾸고 있다. 워털루대(University of Waterloo) 연구진이 2024년 발표한 조사에 따르면, 챗GPT를 가장 많이 사용하는 헤비 유저들 중 약 3분의 2가 챗GPT에 ‘의식, 감정, 기억’을 잘못 부여하고 있었다.

미국 조사기관 바르나(Barna)의 2023년 설문에서도 미국 성인 881명 중 38%는 디지털 비서와 상호작용할 때 “일종의 연결감”을 느낀다고 답했고, 37%는 AI에게 화를 내면 “예의 없는 행동”이라고 느낀다고 응답했다. 더 나아가 전체 응답자의 53%(17% 강하게, 36% 다소 동의)는 “사람이 AI와 정서적 관계를 형성할 수 있다”는 진술에 동의한 것으로 나타났다. 이러한 수치들은 “의식 없는 AI를 의식 있는 존재처럼 대하는” 의인화 함정이 이미 대중적 현상이 되었음을 방증한다.

신경과학자들, 위험한 것은 ‘의식 있는 AI’가 아니라 ‘AI를 사람처럼 대하는 것’

제르비 등 연구진은 “위험한 것은 AI가 의식에 도달하는 것이 아니라, 우리가 AI를 이미 의식 있는 존재처럼 다루기 시작하는 것”이라고 지적한다. 이들은 특히 조언·위로·심리적 지원을 명목으로 설계된 챗봇 서비스가 증가하는 상황에서, 정신건강 영역에서 AI를 전문적 인간 돌봄의 대체제로 사용하는 것은 매우 위험하다고 경고한다.

몬트리올대 공식 자료 제목이 “지능은 있지만 의식은 없다(Intelligent, but not conscious)”인 것처럼, 연구진이 던지는 메시지는 명료하다. “아무리 유창하고, 안심을 주며, 감정적으로 공감하는 것처럼 보이는 대화 출력물이라 해도, 그것은 의식의 증거가 아니다”라는 단호한 문장이, AI와 공존해야 하는 우리 사회가 마주한 가장 중요한 경고문이 되고 있다.