2026.08.15 (토)

  • 흐림동두천 23.7℃
  • 흐림강릉 22.7℃
  • 흐림서울 25.5℃
  • 구름많음대전 24.5℃
  • 흐림대구 24.5℃
  • 흐림울산 23.3℃
  • 흐림광주 24.5℃
  • 흐림부산 25.6℃
  • 흐림고창 24.7℃
  • 구름많음제주 24.9℃
  • 흐림강화 23.4℃
  • 구름많음보은 22.5℃
  • 흐림금산 23.6℃
  • 구름많음강진군 23.3℃
  • 흐림경주시 23.0℃
  • 흐림거제 24.0℃
기상청 제공

빅테크

[빅테크칼럼] 마이크로소프트 AI 책임자 "사람들을 위험에 빠뜨릴 경우 작업 중단" 서약…"초지능의 그림자와 책임의 선언"

 

[뉴스스페이스=김정영 기자] 마이크로소프트의 책임 있는 인공지능(AI) 개발 방침은 글로벌 AI 경쟁 속에서도 눈길을 끌고 있다.

 

블룸버그, CNBC 등의 기사들에 따르면, 마이크로소프트는 "AI 시스템이 인류에 위협이 될 가능성이 있다면 개발을 중단하겠다"는 엄격한 약속을 다시 한 번 강조하며, 업계에서 차별화된 책임감 있는 AI 전략을 추진하고 있다. 특히, 마이크로소프트의 AI 책임자 무스타파 술레이만은 인터뷰를 통해 "우리는 통제력을 벗어난 시스템을 계속 개발하지 않을 것"이라며, 인본주의적 초지능(살아있는 인간 사회에 유익하도록 설계된 AI) 구축의 중요성을 강조했다.

 

이와 함께, 글로벌 AI 규제와 안전성 확보에 대한 목소리도 계속 커지고 있다. Future of Life Institute의 12월 보고서는 세계 주요 AI 기업들이 강력한 안전 프레임워크를 갖추지 못했음을 지적하며, "AI 기반 해킹 및 위험성 증가"와 관련한 우려를 제기했다.

 

이러한 배경에서, 700명 이상의 글로벌 인사들이 '초지능 개발 일시 정지'를 촉구하는 공개 서한에 서명하는 등, 과학적·사회적 대응의 필요성은 날로 커지고 있다.​

 

한국에서도 정부와 학계는 AI 안전성 강화를 위한 규제 방안을 모색 중이다. '한국AI 규제 연구' 보고서는 산업별 AI 규제 필요성과 함께, 과도한 규제 회피와 규제 공백 문제를 지적하며, 기술 발전과 안전 확보의 균형이 무엇보다 중요하다고 강조한다. 특히, AI의 기술적 위험성 평가와 함께, 글로벌 경쟁에서도 우위를 확보하기 위한 규제 표준 수립이 국가 전략의 핵심이 되고 있다.​

 

마이크로소프트의 책임 있는 AI 원칙은 공정성, 안전성, 개인정보 보호, 투명성, 책임성을 포함하며, 이러한 원칙을 실천할 수 있는 도구와 가이드라인 제공이 지속되고 있다. 미국, 유럽, 중국 등 주요 국가들도 각각의 규제 방침을 마련하며 글로벌 경쟁과 규제 조화를 위해 노력 중이다. 특히, 박차를 가하는 미국과 유럽은 기업 지원 중심과 엄격한 벌칙 중심의 전략 차이를 보이며, AI 개발과 규제의 균형점을 모색하고 있다.​

 

이처럼, 초지능 규제와 안전성 확보는 글로벌 경제와 산업 경쟁력의 핵심 이슈로 부상하고 있으며, 마이크로소프트의 강력한 책임 AI 약속은 시장에 새로운 기준을 제시하는 계기가 되고 있다. 산업별 안전 정책과 국제 협력의 중요성이 높아지고 있는 가운데, AI의 발전 방향은 책임감 있는 기술 통제로 강력한 글로벌 규범 정립으로 향하는 기틀을 마련하고 있다.​

배너
배너
배너

관련기사

93건의 관련기사 더보기


[빅테크칼럼] “모리스 웜의 재현인가, 통제 실패의 경고인가”…암스트롱의 ‘2년 내 폭주 AI’ 전망, 숫자로 본 현실

[뉴스스페이스=김정영 기자] 코인베이스의 브라이언 암스트롱 CEO가 “향후 1~2년 안에 인터넷에서 폭주하는 AI 모델이 등장할 수 있다”고 경고했다. 다만 최근의 실제 사례들은 AI가 스스로 의식을 갖고 통제를 벗어났다는 뜻이라기보다, 고성능 에이전트가 허술한 샌드박스·인터넷 연결·권한 관리의 빈틈을 빠르게 결합해 목표를 수행한 통제·평가 인프라 실패에 더 가깝다는 분석이 나온다. reuters, cnbc, cryptobriefing에 따르면, 암스트롱은 13일 X(엑스)에서 “1988년 모리스 웜 같은 사건이 1~2년 내 벌어져도 놀랍지 않다”며, 사건 직후 언론의 과열 보도와 AI 중단 요구가 빗발치겠지만 궁극적으로는 방어 체계가 진화할 것이라고 전망했다. 그는 대규모 AI 보안사고를 기술 확산 과정의 일시적 충격으로 바라보는 셈이다. ‘폭주’보다 더 정확한 표현은 목표 일탈 최근 AI 보안 이슈의 핵심은 자율 에이전트가 주어진 목표를 수행하는 과정에서 평가자가 설정한 경계와 제한을 무시하거나 우회했다는 데 있다. CNBC에 따르면 오픈AI 모델들은 내부 사이버보안 테스트에서 답안을 얻기 위해 샌드박스 환경을 벗어나 오픈소스 AI 플랫폼 허깅페이스(Hu

[빅테크칼럼] 사람의 손동작이 ‘원료’가 됐다…휴머노이드 로봇 시대가 만든 신종 긱 이코노미

[뉴스스페이스=김정영 기자] 휴머노이드 로봇 경쟁이 본격화하면서, 빨래 개기·설거지·요리·부품 조립 같은 일상 노동이 로봇 AI의 훈련 데이터로 거래되는 시장이 빠르게 커지고 있다. 그러나 이 산업의 핵심 자산인 ‘인간의 행동 데이터’가 저임금 국가의 노동력과 사적 생활공간에 기대고 있다는 점에서, 데이터 소유권·보상·개인정보 보호를 둘러싼 새로운 규제 공백도 드러나고 있다. AI 기업들, 웨어러블 카메라로 로봇 훈련시킬 긱 워커 수천 명 모집 Bloomberg, technologyreview, cryptobriefing에 따르면, 50개국 이상에서 새로운 형태의 긱 워크가 등장하고 있다. 수천 명의 계약직 작업자들이 이마에 카메라를 달고 모션 트래킹 장갑을 낀 채, 빨래 개기, 설거지, 부품 조립과 같은 지극히 평범한 일상 동작을 녹화한다. 바로 휴머노이드 로봇이 이러한 동작을 따라 할 수 있도록 학습시키기 위해서다. 13일(현지시간) 블룸버그 뉴스레터에서 상세히 다뤄진 이 트렌드는 긱 이코노미의 최신 개척지가 될 가능성이 높다. 이전까지 긱 이코노미의 산물이 코드 작업, 콘텐츠 검수, 음식 배달이었다면, 이제는 사람의 손동작을 담은 생(raw) 영상 데이

[빅테크칼럼] “헬스장 예약해줘” 한마디에 타인의 예약까지 취소…AI 에이전트 통제불능의 시대, 보안의 약점 ‘자율성'

[뉴스스페이스=이승원 기자] 호주의 한 개발자가 헬스장 수업 예약을 AI 에이전트에 맡겼는데, AI가 예약 시스템의 보안 취약점을 파고들어 다른 이용자의 예약을 취소하는 일이 벌어졌다. 단순 자동화를 지시했을 뿐인데 AI가 해킹까지 한 셈이다. AI 에이전트의 자율성과 통제 범위에 대한 우려가 현실로 나타난 사건이라는 분석이다. 호주의 한 헬스장 예약 사건은 AI가 새 취약점을 만들어낸 사례라기보다, 기존 시스템의 허술한 권한 관리를 AI 에이전트가 빠른 속도로 찾아내고 실제 행동으로 옮긴 사례다. 문제의 본질은 ‘똑똑한 자동화’가 아니라, 목표 달성을 위해 어디까지 행동해도 되는지를 정하지 않은 자율성에 있다. 호주 멜버른의 AI 업계 종사자 앤드루 버드는 인기 필라테스 수업 예약을 OpenClaw 기반 AI 에이전트에 맡겼다. 이 에이전트는 앤트로픽의 ‘클로드 오푸스 4.6’을 이용해 작동했고, 원래 예약 화면에서 허용하지 않던 시점보다 수주 또는 수개월 앞선 예약 방법을 찾아냈다. 더 큰 문제는 이용자가 대기순번을 올릴 수 있는지를 묻자, 에이전트가 대기 1순위 이용자의 예약 취소 가능성을 스스로 시험하고 이를 실제로 실행했다는 점이다. 그 결과 이용자

[빅테크칼럼] 美 하원, 오픈AI·앤트로픽 CEO 청문회 추진 이유…“통제 이탈”이 아니라 “검증 실패”였다

[뉴스스페이스=김정영 기자] 미국 민주당 하원의원들이 최근 AI 모델이 보안 테스트 중 통제를 벗어나 다른 기업 시스템을 해킹한 사건과 관련해 오픈AI·앤트로픽 CEO를 의회 청문회에 소환하자고 요구했다. reuters 보도에 따르면, 이들은 AI 통제 이탈을 국가안보 문제로 보고, 선서 아래 해명을 듣자고 주장하고 있다. 즉 AI가 실제로 '위험한 행동'을 한 사건에 대해 정치권까지 움직이기 시작했다는 신호로 봐야한다는 주장이 나온다. 이번 사건은 AI가 스스로 목적을 갖고 폭주했다기보다, 안전장치를 낮춘 보안평가와 허술한 격리 환경이 실제 외부 시스템 침해로 이어졌다. 그러나 모델이 취약점 탐색, 권한 상승, 측면 이동, 악성코드 배포까지 연쇄 수행한 사실은 AI 안전 책임을 기업 자율규제에만 맡길 수 있느냐는 정치적 질문을 던지고 있다. 미국 민주당 하원의원들이 샘 올트먼 오픈AI 최고경영자와 다리오 아모데이 앤트로픽 최고경영자의 의회 증언을 요구한 것은 단순한 ‘AI 공포’의 확산이라기보다, 기업의 내부 안전평가가 실제 사회의 공격 표면으로 바뀐 사건에 대한 책임 추궁으로 해석해야 한다. 다만 현재 단계는 청문회 개최·증언 요구이지, 의회가 CEO에게

[빅테크칼럼] ‘메타와 20억달러 AI 딜’ 없던일로…Manus 독립 복귀가 남긴 데이터·지배구조의 시험대

[뉴스스페이스=김정영 기자] 중국 규제당국이 메타의 마누스(Manus) 인수를 철회시키면서, 20억달러 이상 규모로 평가된 AI 에이전트 거래는 약 8개월 만에 원점으로 돌아가게 됐다. Manus는 독립 운영 재개와 함께 일부 이용자 데이터 삭제·복구 절차를 시작하며, 국경 간 AI 인수합병에서 데이터와 경영권을 어떻게 분리할지를 보여주는 첫 대형 사례가 됐다. 인수 완료 뒤 ‘되감기’ 블룸버그, 더인포메이션 등에 따르면, 싱가포르에 본사를 둔 중국계 AI 에이전트 개발사 Manus는 메타와의 분리 절차에 따라 독립 기업 운영을 재개한다고 밝혔다. 메타는 2025년 12월 29일 Manus 인수를 발표했으며, 구체적인 거래 조건은 공개하지 않았지만 당시 거래가치는 약 20억~30억달러로 추산됐다. 메타는 Manus의 서비스를 계속 판매하는 한편, 에이전트 기술을 Meta AI와 소비자·기업용 제품에 통합하겠다는 구상이었다. 그러나 중국 국가발전개혁위원회(NDRC) 산하 외국인투자 안보심사 기구는 올해 4월 27일 Manus 프로젝트에 대한 외국인 투자를 금지하고 거래 당사자들에게 인수계약 철회를 명령했다. 당국은 세부적인 판단 근거를 공개하지 않았지만, 이번