[뉴스스페이스=김정영 기자] 챗GPT의 아버지 오픈AI의 샘 올트먼 최고경영자(CEO)가 인공지능(AI)으로 인한 '사기 위기'(fraud crisis)를 강력 경고했다.

7월 22일(현지시간) 미국 CNN 보도에 따르면, 오픈AI의 샘 올트만 CEO가 미국 연방준비제도(연준) 회의에서 "AI가 인간의 목소리를 완벽하게 복제해 구식 인증 방식을 무력화시키고 있어, 은행권은 사상 초유의 사기 위기를 맞고 있다"고 경고했다고 전했다.

그는 "여전히 음성 프린트를 인증 수단으로 받아들이는 금융기관이 존재한다는 사실이 두렵다"며, "AI가 이 인증법을 완전히 무너뜨렸다"고 일갈했다.

AI 음성인증, 99% 무력화…금융 보안 혁신 '촉구'

최근 캐나다 워털루 대학교 연구진은 AI 딥페이크 기술로 기존 음성 인증 시스템을 6회 시도만에 최대 99% 확률로 뚫을 수 있음을 입증했다. 심지어 3초 미만의 음성 샘플만 있어도 정교한 목소리 복제가 가능해졌다는 점이 본질적인 위험으로 지적받고 있다. 실제로 AI 음성 복제 기술은 이미 원격은행, 콜센터 등에서 쓰이던 1세대 음성 인증 방식을 빠르게 시대착오적으로 만들고 있다.

샘 올트먼 오픈AI CEO는 "AI 목소리는 현실과 점점 구분이 불가능해지고 있다. 이제 음성 인증은 더 이상 안전장치가 아니다"고 강조했다.

미국 은행 91% "음성 인증 재검토 중"…업계 포기선언 속출

AI 딥페이크 사기 위기가 본격화되면서, 미국 91%의 은행이 '고객 음성 인증' 절차를 전면 재검토하고 있다는 바이오캐치(BioCatch)의 보고가 나왔다. 이미 10만달러 이상의 피해를 본 사례가 23%를 넘어서며, 매번 100만달러가 넘는 손실을 경험했다는 금융기관도 증가추세다.

컨슈머리포트는 기자들이 불과 수초짜리 AI 음성 복제로 주요 은행 시스템을 손쉽게 뚫는 데 성공했다고 밝혀 파장이 크다.

딥페이크 AI 사기…'2027년 400억달러'로 3배 급증 전망

딜로이트와 벤처비트 집계에 따르면, 미국에서 AI와 딥페이크가 수반된 금융사기 피해액은 2023년 123억달러에서 2027년 400억달러(약 54조원)로 3배 이상 증가할 전망이다. 2023년에는 딥페이크 공격이 전년대비 10배 이상 급증하는 등 AI음성·영상 기반 사기 산업이 이미 폭발적으로 확장 중이다.

글로벌 규제도 '공동대응' 시동

올트먼의 발언 직후 연준의 미셸 보우맨 감독 부의장은 "이 분야는 중앙은행이 민간과 파트너십을 모색해야 할 수 있다"고 언급했다. 실제 미국 정부와 연준은 AI·딥페이크 사기 대응을 위한 규제와 산업 협업 채널 구축에도 곧 착수할 전망이다.

"AI 시대, 은행 인증은 새 판이 필요하다"

딥페이크 AI 사기가 '초읽기'에 들어가면서, 금융업계는 이제 구형 인증 기술의 전면 개편이 불가피해졌다. 샘 올트먼 CEO는 "AI가 이미 구식 보안 장치들을 완전히 무력화시켰다"며 "은행도, 사회도 지금 행동해야 한다"고 촉구했다.

미래 금융 시장의 신뢰와 안전을 위해, 지금 은행은 '음성'만 믿는 보안 생태계에서 완전히 벗어나야 할 때다.