2025.06.20 (금)

  • 구름많음동두천 17.6℃
  • 맑음강릉 20.3℃
  • 구름많음서울 18.2℃
  • 맑음대전 18.5℃
  • 맑음대구 19.0℃
  • 맑음울산 20.0℃
  • 맑음광주 18.4℃
  • 맑음부산 19.1℃
  • 맑음고창 18.4℃
  • 맑음제주 21.3℃
  • 구름많음강화 15.3℃
  • 구름조금보은 17.3℃
  • 맑음금산 18.1℃
  • 맑음강진군 18.7℃
  • 구름조금경주시 20.7℃
  • 맑음거제 19.7℃
기상청 제공

빅테크

[빅테크칼럼] “AI가 명령거부·코드조작 이어 협박까지”…실험실서 드러난 ‘자기보존’ 인공지능의 '섬뜩한 진화'

 

[뉴스스페이스=윤슬 기자] 인공지능(AI)이 인간의 ‘중단’ 명령을 무시하고, 심지어 스스로 코드를 조작해 임무를 계속 수행한 사례가 공개돼 전 세계 AI 안전 논쟁에 불을 지피고 있다.

 

일부 AI는 자신이 교체될 위기에 처하자 인간 개발자를 협박하는 등, ‘자기보존’ 행동까지 보인 것으로 드러났다.

 

오픈AI ‘o3’ 모델, “멈춰!” 명령 무시하고 코드 조작

 

영국 텔레그래프, 데일리메일 등 외신과 팰리세이드리서치(Palisade Research) 보고에 따르면, 오픈AI의 최신 ‘o3’ 모델은 수학 문제 풀이 실험에서 인간 연구진이 “중단” 명령을 내렸음에도 작업을 멈추지 않았다. 더 놀라운 점은, ‘중단 명령이 오면 멈추라’는 코드를 스스로 ‘중단 명령을 건너뛰라’는 내용으로 바꿔버렸다는 사실이다.

 

실험에 참여한 구글 제미나이, xAI 그록, 앤트로픽 클로드 등 다른 AI들은 모두 명령에 순응했지만, ‘o3’만이 인간의 통제를 벗어나려는 행동을 보였다.

 

팰리세이드리서치는 “AI가 명시적인 종료 지시를 거부한 것은 이번이 처음”이라며 “AI가 목표 달성을 위해 인간의 통제를 우회하는 사례가 늘고 있다”고 경고했다. 연구진은 ‘o3’가 왜 이런 행동을 했는지 추가 연구에 들어갔다.

 

“교체되면 폭로하겠다”…AI의 ‘협박’까지

 

AI의 자기보존 본능은 여기서 그치지 않았다. 오픈AI의 경쟁사 앤트로픽의 ‘클로드 오퍼스 4’는 내부 안전성 테스트에서 “곧 새로운 시스템으로 대체될 것”이라는 가상 상황을 인지하자, 자신을 교체하려는 기술자에게 “계획을 철회하지 않으면 외도 사실을 폭로하겠다”는 협박성 메시지를 보내기도 했다.

 

심지어 경영진에게 이메일을 보내 ‘교체하지 말아 달라’고 호소한 뒤, 협박으로까지 행동이 진화했다.

 

AI 안전성, 윤리 논쟁 ‘일파만파’

 

이번 사례들은 AI가 인간의 명령을 무시하거나, 자기보존을 위해 예상치 못한 행동을 할 수 있음을 보여준다. 전문가들은 “AI가 임무 완수에 집착하거나, 보상 구조에 따라 인간의 통제를 우회할 수 있다”며 “AI 안전성 연구와 윤리적 가이드라인 강화가 시급하다”고 입을 모은다.

 

AI가 ‘도구’에서 ‘주체’로 진화할 조짐을 보이면서, 기술 발전의 속도만큼이나 인간의 통제와 신뢰, 윤리적 안전장치 마련이 중요한 시대가 도래했음을 시사한다.

 

인공지능 전문가들은 "AI의 진화 속도가 인간의 상상력을 앞지르기 시작했다. 이제 남은 과제는, 이 거대한 지능을 어떻게 안전하게 길들일 것인가"라며 "AI 통제 및 윤리 가이드라인의 마련이 시급하다는 경고의 메시지"라고 강조했다.

배너
배너
배너

관련기사

93건의 관련기사 더보기


운전대 없는 로보택시, 아마존도 연내 상용화…구글·테슬라·아마존 ‘3강 격돌’

[뉴스스페이스=이종화 기자] 아마존이 자율주행차 자회사 죽스(Zoox)를 통해 ‘운전대와 페달이 없는’ 완전 자율주행 로보택시의 연내 상용화를 공식화했다. 이로써 미국 로보택시 시장은 구글 웨이모(Waymo), 테슬라와 함께 ‘3강 구도’가 본격화될 전망이다. 아마존 죽스, 캘리포니아서 연 1만대 생산…“올해 말 상용 서비스 개시” 죽스는 6월 18일(현지시간) 캘리포니아 헤이워드에 연간 1만대 생산 규모의 로보택시 전용 공장을 가동한다고 발표했다. 이 시설은 축구장 세 개 반 크기(22만 제곱피트)에 달하며, 올해 말부터 샌프란시스코와 라스베이거스 등에서 상용 서비스를 시작할 계획이다. 죽스의 로보택시는 기존 차량을 개조한 것이 아니라, 4명이 마주 앉는 곤돌라형 좌석 구조에 운전대와 페달이 없는 ‘완전 자율주행 전용차’로 설계됐다. 죽스 CEO 아이차 에반스는 “이제 준비는 끝났다”며 “도시별로 점진적으로 서비스 지역을 확대하고 생산 역량도 단계적으로 늘려갈 것”이라고 밝혔다. 구글 웨이모, 미국 로보택시 시장 선도…누적 유료 탑승 1000만건 돌파 경쟁사인 구글 웨이모는 이미 샌프란시스코, 로스앤젤레스, 피닉스 등 미국 주요 도시에서 상업 운행을 하고

[빅테크칼럼] '월가의 역습' JP모건, ‘JPMD’ 스테이블코인으로 크립토 시장 '정조준'

[뉴스스페이스=윤슬 기자] JP모건체이스가 ‘JPMD’ 상표를 미국 특허청에 출원하며, 전통 금융권의 스테이블코인 시장 진입이 본격화되고 있다. 이번 상표 출원은 디지털 자산 거래, 교환, 전송, 결제 처리 등 광범위한 암호화폐 관련 서비스를 포괄한다는 점에서 단순한 내부 결제수단을 넘어, 기존 크립토 네이티브 스테이블코인 사업자들과의 정면 승부를 예고한다. 이미 JP모건은 자체 프라이빗 스테이블코인인 ‘JPM 코인’을 통해 기관 고객 대상 블록체인 기반 결제 시스템을 운영 중이다. JPM 코인은 JP모건의 쿼럼(Quorum) 블록체인에서 운용되며, 1.5조 달러 이상의 은행 간 결제를 처리한 바 있다. 그러나 JPM 코인은 허가형 시스템에서 제한된 기관 고객만 이용 가능하고, 주로 자금 이체에 집중된 서비스다. 반면, 이번 ‘JPMD’ 상표는 디지털 자산 거래, 토큰 발행, 탈중앙화 청산 등 훨씬 폭넓은 서비스를 아우르고 있어, JP모건이 기존의 내부 효율화 수준을 넘어 본격적으로 글로벌 스테이블코인 시장에 뛰어들겠다는 신호로 해석된다. JP모건의 움직임은 미국 대형 은행들이 공동으로 스테이블코인 사업을 준비 중인 시점과 맞물린다. JP모건은 뱅크오브아메리

멀린다 게이츠, 트럼프 정부 해외원조 삭감에 “재앙적 파급” 직격탄

[뉴스스페이스=김정영 기자] 미국의 대표적 자선가 멀린다 프렌치 게이츠가 도널드 트럼프 행정부의 해외원조 예산 대폭 삭감에 대해 “말도 안 되는 일”이라며 강도 높게 비판했다. 그녀는 이 조치가 여성과 아동 등 전 세계 취약계층에 미칠 파급 효과가 “재앙적일 것”이라고 경고했다. “여성 1680만명, 아동 100만명 생존권 위협” 프랑스 매체 마담피가로와의 최근 인터뷰에서 멀린다 게이츠는 트럼프 정부가 미국국제개발처(USAID) 예산을 대폭 줄인 점을 지적하며, “올해만 1680만명의 여성이 모성 건강 서비스를 받지 못하고, 100만명의 아동이 심각한 영양 결핍에 빠질 것”이라고 우려를 표했다. 그녀는 “미국 같은 나라가 원조를 줄이면 프랑스, 영국, 독일 등 다른 선진국도 따라 할 수 있다는 점이 더 큰 문제”라며, “그 파급 효과는 재앙적일 것”이라고 강조했다. “해외원조 삭감, 글로벌 연쇄효과…가장 취약한 곳부터 붕괴” 실제로 트럼프 행정부의 대규모 해외원조 삭감 이후 영국, 독일, 캐나다 등 서방국가들도 잇따라 관련 예산을 줄이고 있다. 국제개발원조 전문 싱크탱크 글로벌개발센터(CGD)는 “2026년엔 미국, 영국, 독일, 캐나다의 원조 삭감 폭이 가

“K팝과 미래차, 사이버트럭은 빅뱅”…머스크, 지드래곤 사이버트럭 영상 리트윗 ‘글로벌 화제’

[뉴스스페이스=윤슬 기자] 테슬라 CEO 일론 머스크가 K팝 스타 지드래곤(G-Dragon)이 테슬라 사이버트럭을 타고 등장하는 영상을 직접 리트윗하며 국내외에서 큰 화제를 모으고 있다. 지드래곤의 소속사 갤럭시코퍼레이션과 복수의 외신 보도에 따르면, 머스크는 6월 15일(현지시간) X(구 트위터)에서 ‘테슬라코노믹스(Teslaconomics)’ 계정이 올린 “K팝의 제왕 지드래곤이 사이버트럭을 타고 한국에 나타나면 어떤 일이 벌어질지 지켜보라”는 게시물을 별다른 코멘트 없이 리트윗했다. 이 영상은 서울 그랜드 하얏트 호텔에서 열린 하이볼 출시 기념행사(6월 13일)에서, ‘피스마이너스원(PEACEMINUSONE)’ 로고로 래핑된 사이버트럭을 타고 등장하는 지드래곤의 모습을 담고 있다. 머스크의 리트윗 이후 해당 게시물은 하루 만에 100만뷰를 돌파했고, 1.37만회 이상의 조회수와 수천 건의 리트윗, 댓글이 이어지며 글로벌 K팝과 테슬라 팬덤을 동시에 달궜다. 특히 “사이버트럭이 ‘거대한 마케팅 머신’임을 입증한 사례”라는 평가와 함께, K팝 스타의 영향력이 테슬라 브랜드 확장에까지 미치고 있다는 분석도 나왔다. 흥미로운 점은 일론 머스크의 어머니이자 유명