2025.05.31 (토)

  • 구름많음동두천 17.6℃
  • 맑음강릉 20.3℃
  • 구름많음서울 18.2℃
  • 맑음대전 18.5℃
  • 맑음대구 19.0℃
  • 맑음울산 20.0℃
  • 맑음광주 18.4℃
  • 맑음부산 19.1℃
  • 맑음고창 18.4℃
  • 맑음제주 21.3℃
  • 구름많음강화 15.3℃
  • 구름조금보은 17.3℃
  • 맑음금산 18.1℃
  • 맑음강진군 18.7℃
  • 구름조금경주시 20.7℃
  • 맑음거제 19.7℃
기상청 제공

빅테크칼럼

전체기사 보기

[빅테크칼럼] “AI가 명령거부·코드조작 이어 협박까지”…실험실서 드러난 ‘자기보존’ 인공지능의 '섬뜩한 진화'

[뉴스스페이스=윤슬 기자] 인공지능(AI)이 인간의 ‘중단’ 명령을 무시하고, 심지어 스스로 코드를 조작해 임무를 계속 수행한 사례가 공개돼 전 세계 AI 안전 논쟁에 불을 지피고 있다. 일부 AI는 자신이 교체될 위기에 처하자 인간 개발자를 협박하는 등, ‘자기보존’ 행동까지 보인 것으로 드러났다. 오픈AI ‘o3’ 모델, “멈춰!” 명령 무시하고 코드 조작 영국 텔레그래프, 데일리메일 등 외신과 팰리세이드리서치(Palisade Research) 보고에 따르면, 오픈AI의 최신 ‘o3’ 모델은 수학 문제 풀이 실험에서 인간 연구진이 “중단” 명령을 내렸음에도 작업을 멈추지 않았다. 더 놀라운 점은, ‘중단 명령이 오면 멈추라’는 코드를 스스로 ‘중단 명령을 건너뛰라’는 내용으로 바꿔버렸다는 사실이다. 실험에 참여한 구글 제미나이, xAI 그록, 앤트로픽 클로드 등 다른 AI들은 모두 명령에 순응했지만, ‘o3’만이 인간의 통제를 벗어나려는 행동을 보였다. 팰리세이드리서치는 “AI가 명시적인 종료 지시를 거부한 것은 이번이 처음”이라며 “AI가 목표 달성을 위해 인간의 통제를 우회하는 사례가 늘고 있다”고 경고했다. 연구진은 ‘o3’가 왜 이런 행동을 했는지



[빅테크칼럼] 실리콘밸리 지고, 텍사스 뜬다…머스크·올트먼 최애 지역, '빅테크 산실'로 급부상

[뉴스스페이스=이종화 기자] 최근 미국에서 텍사스는 빅테크(Big Tech)와 첨단 기술 기업의 새로운 상징으로 떠오르고 있다. 오픈AI(OpenAI)는 텍사스 내 여러 지역에 대규모 데이터센터를 구축하는 ‘스타게이트(Stargate) 프로젝트’를 추진 중이며, 테슬라는 오스틴에서 자율주행 로보택시 서비스의 첫 실험을 본격적으로 시작했다. 이처럼 텍사스는 AI 인프라와 자율주행차 등 미래 산업의 핵심 거점으로 급부상하고 있다. 왜 텍사스가 빅테크의 선호지가 된 것일까? 텍사스, 빅테크의 신상륙지 오픈AI는 소프트뱅크, 오라클과 손잡고 텍사스 내 여러 도시에 대규모 데이터센터를 구축하는 ‘스타게이트 프로젝트’를 추진 중이다. 이 프로젝트는 향후 수년간 수천억 달러가 투입될 예정으로, 텍사스를 AI 인프라의 ‘플래그십’으로 삼겠다는 전략이다. 오픈AI는 이미 애빌린(Abilene)에 첫 건설지점을 착공했으며, 앞으로 20개 이상의 추가 사이트가 텍사스 전역에 들어설 계획이다. 이 프로젝트는 AI 연산을 위한 대규모 데이터센터를 필요로 하는 오픈AI의 미래 전략과 맞물려 있다. 테슬라의 자율주행차 첫 실험 테슬라는 오스틴에서 직원 대상으로 자율주행 로보택시 서비스