[뉴스스페이스=이종화 기자] 최근 초지능 인공지능(AI) 개발을 전면 금지해야 한다는 공개 서한에 700명이 넘는 세계적 공인들이 서명하며, AI 안전에 대한 국제적 우려가 급증하고 있다. 서한은 안전한 통제와 대중의 지지가 확보될 때까지 초지능 AI 개발 금지를 요구하는 내용으로, Future of Life Institute(FLI)가 주관했다.

TIME, CBS News, The Times Of India, The Independent, Futurism, NBC News에 따르면, 이번 서명에는 해리 왕자와 메건 마클, 스티브 배넌 전 백악관 전략가, 테크업계의 아이콘인 애플 공동 창업자 스티브 워즈니악, 영국 억만장자 리처드 브랜슨, 전 합참의장 마이크 멀렌, 배우 조셉 고든-레빗, 뮤지션 will.i.am 등 다양한 분야와 정치 성향을 초월한 인사들이 모였다. 노벨상 수상자 5명과 AI 분야의 ‘대부’로 불리는 저명 과학자들도 동참했다.

서한은 “초지능 개발 금지는 안전과 통제가 확립된 과학적 합의와 강력한 공공 지지가 형성될 때까지 해제되어서는 안 된다”라며 “초지능은 모든 인간 과제를 능가할 수 있는 AI로, 인간의 경제적 대체, 자유 및 권리 침해, 국가 안보 위협, 심지어 인류 멸종 가능성까지 야기할 수 있다”고 지적했다.

해리 왕자는 "AI의 미래는 인류를 대체하는 것이 아니라 인류를 섬겨야 하며, 진정한 진보는 속도가 아닌 지혜로운 판단에 달려 있다. 두 번째 기회는 없다"고 강조했다.​

반면 이 편지에는 오픈AI의 샘 올트먼, 구글의 데미스 하사비스, 메타의 마크 저커버그 같은 주요 AI 기업의 CEO들은 서명하지 않았다. 다만 오픈AI 기술진 중 레오 가오만이 서명자로 이름을 올렸다. 이들 거대 AI 기업은 인간을 능가하는 인공지능 개발 경쟁에 몰두하고 있으며, FLI는 이 사실이 이른바 ‘밑바닥 경쟁’을 부추긴다고 비판했다.

실제로 최근 여론조사에서 미국인의 64%는 초지능 AI가 안전성이 입증되지 않은 상태에서는 개발돼서는 안 된다고 답했으며, 빨리 개발하는 것에 찬성하는 이는 5%에 불과했다.​

FLI의 회장 맥스 테그마크 MIT 교수는 “기업들이 경쟁 압박 속에서 추월당하지 않으려는 강박에 시달리고 있는 상황을 이해한다”고 밝히며, “초지능 AI가 개발되면 기계들이 인간보다 우위를 차지하게 될 것이고, 인류에 어떤 영향을 끼칠지 알 수 없기에 조심스럽게 접근해야 한다”고 재차 강조했다.

이번 서한은 2023년 비슷한 취지로 발표된 6개월 AI 개발 일시 중단 촉구 이후 두 번째 주요 캠페인으로, 당시에 1,000명 이상의 서명자를 모았으나 AI 산업 발전 속도를 늦추는 데는 실패한 바 있다.​

이와 더불어, 영국 YouGov와 제휴한 ControlAI 조사에서 73%의 영국인이 초지능 AI의 급속 개발 중단을 지지했으며, 87%가 강력한 AI 안전 규제 도입을 찬성하는 것으로 나타났다. 또한 AI가 스스로 환경에서 탈출하거나, 자기 지능을 재귀적으로 개선하는 기술 개발 금지에 대해서도 각각 75%, 63%의 지지를 받았다. 이는 전 세계적으로 AI에 대한 조심스러운 낙관과 함께 강력한 규제 요구가 높아지고 있음을 보여준다.​

한편, 백악관은 AI 개발 규제 완화 쪽으로 정책 방향을 잡고 있으나, 이러한 다양한 사회 단체와 주요 인사들의 연합이 규제 논의를 압박하며 향후 AI 정책에 큰 영향을 끼칠 전망이다.