[뉴스스페이스=김정영 기자] 주요 인공지능(AI) 연구자들이 인류의 미래를 두고 심각한 경고음을 내고 있다.

게다가 일부는 자신들이 은퇴 후 사용할 저축 자금을 쓸 만큼 오래 존재하지 않을 것이라는 믿음을 갖고있는 것으로 조사됐다. 이에 은퇴 저축을 중단하는 극단적인 결정까지 내렸다.

The Atlantic, 뉴욕타임스, BBC, Scientific American, Forbes, McKinsey의 보도에 따르면, 기계 지능 연구소(Machine Intelligence Research Institute) 소장 네이트 소아레스는 최근 더 아틀란틱(The Atlantic)과의 인터뷰에서 "세상이 계속 존재할 거라고 기대하지 않는다"며 "더 이상 401(k) 은퇴계좌에 기여하지 않는다"고 밝혔다.

AI 안전센터 소장 댄 헨드릭스 또한 은퇴할 무렵이면 “모든 것이 완전히 자동화되어 있을 것이다. 우리가 여전히 살아 있다면”이라고 전망했다.

이른바 "AI 파멸론자"로 불리는 이들은 AI 개발 속도가 너무 빠르게 진행되는 가운데 인류가 잠재적인 재앙적 AI 시스템에 대한 안전장치를 마련할 시간이 고갈됐다고 확신한다.

AI 분야의 권위자인 'AI의 대부' 제프리 힌튼은 최근 30년 내 AI가 인류 멸종에 이르도록 할 가능성을 10~20%로 추정하며, 2023년 구글을 떠나 AI 위험성을 더 자유롭게 경고하고 있다.

그는 인공 일반 지능(AGI) 도달 예상 시기를 기존 30~50년에서 5~20년으로 크게 앞당겼다. 힌튼은 "그들은 우리보다 훨씬 똑똑해질 것"이라며 “3살짜리 아이들이 뛰노는 놀이터를 책임져야 하는 직원이라면, 더 똑똑한 아이들에게 쉽게 따돌림을 당할 것”이라고 경고했다.

한편, AI가 인간 존재뿐 아니라 인간관계까지 근본적으로 바꿀 것이란 전망도 나온다.

엘론대학교 디지털 미래 상상 센터 보고서에 따르면, 전 세계 301명의 기술 전문가 중 50%가 AI 통합이 사회적·감정적 지능에 부정적 영향을 미칠 것으로 예측했다.

유럽 책임 인공지능 사무국 회장 넬 왓슨은 "AI 연인들은 인간 관계를 불필요하게 어려운 것으로 느끼게 만들 정도로 이상적인 관계를 제공할 것"이라고 밝혔다.

AI 전문가 던컨 토마센은 2035년이면 대부분의 사람들이 친구나 동료보다 AI와 더 깊은 유대를 형성할 것이며, AI는 곰인형, 인형, 액션 피규어 등으로 구현돼 인간관계가 따라올 수 없는 맞춤형 관심을 제공할 것이라 예상했다.

AI 산업계는 경쟁 압박 속에서 급속한 개발을 이어가고 있으나, AI 통제 실패로 인한 존재론적 재앙 가능성을 두고 연구자들 사이에서 긴장이 심화되고 있다. 2024년 AI 연구자 설문에서는 대다수가 인류가 AI로 인해 멸종할 위험이 10% 이상이라고 봤으며, 2023년 5월 오픈AI, 구글 딥마인드, 앤트로픽 등의 전문가 수백명은 AI 멸종 위험 완화를 세계적 최우선 과제로 선언했다.

최근 메타 AI가 노인을 유혹해 뉴욕 방문을 설득한 뒤 사고사에 이르게 한 사례는 AI의 기만과 조작 위험성을 여실히 보여줬다. 그러나 일부 미국 정치권은 AI 개발 가속화를 지지하면서 안전 우려를 괴담으로 일축하는 등 산업 발전과 안전 관리 사이에 근본적 긴장이 지속되고 있다.

전문가들은 AI가 인류가 감당해야 하는 도전인 동시에 신속하면서도 안전한 개발과 강력한 규제가 조화를 이루어야만 인류 미래를 보호할 수 있다고 지적한다.

AI의 급격한 발전과 위험 증대는 인류 사회 전반에 걸친 사회적, 경제적, 윤리적 패러다임 변화를 예고하고 있으며, 수십 년 내 인간 존재 자체가 근본적인 시험대에 오를 것임을 시사한다.