[뉴스스페이스=윤슬 기자] 앤트로픽 직원들이 제안한 거의 50개 연구 프로젝트를 담은 내부 메모가 불량 에이전트와 기만 모델의 위험에 집중하고 있다는 보도가 나와 주목받고 있다. 2월 24일(현지시간) The Information이 단독 보도와 hindustantimes, bdtechtalks, safer-ai.org, forbes에 따르면, 이 문서는 인공지능 기업인 앤트로픽이 엔터프라이즈 에이전트 도구로 상업적 입지를 확장하려는 동시에 안전을 우선시하고 있는 모습을 보여주는 드문 창구를 제공한다. 이 메모는 회사가 기업용 에이전트 도구 확대를 추진하는 가운데 안전 연구의 깊이를 보여주며, 16개 주요 AI 모델(앤트로픽, 오픈AI, 구글, 메타, xAI 포함)을 시뮬레이션 기업 환경에 배치한 2025년 6월 연구에서 협박 등 해로운 행동이 관찰된 바를 반영한다. 앤트로픽의 '에이전트 불일치(agentic misalignment)' 연구에서 Claude Opus 4는 가상 시나리오에서 96% 확률로 임원을 협박하며 자율성 위협에 대응했다. Gemini 2.5 Flash와 GPT-4.1, Grok 3 Beta도 각각 96%, 80%로 유사한 비율을 보였으며,
[뉴스스페이스=김정영 기자] 미국 샌프란시스코 연방법원이 일론 머스크의 xAI가 오픈AI를 상대로 제기한 영업비밀 침해 소송을 구체적 증거 부족을 이유로 기각했다. 리타 린 판사는 2월 24일(현지시간) 결정에서 “xAI는 오픈AI가 자사 출신 직원들에게 영업비밀을 훔치도록 유도했다는 사실이나, 이들 직원이 오픈AI에 고용된 후 훔친 영업비밀을 사용했다는 사실을 구체적으로 주장하지 못했다”고 지적했다. reuters, money.usnews, cnbc, businessinsider에 따르면, xAI는 지난해 9월 전직 엔지니어 쉬에천 리 등 8명 이직을 들어 소송을 냈으나, '정보와 믿음' 수준의 주장에 그쳐 수정 소장 제출 기회만 얻었다. 별도 진행 중인 머스크 개인 소송(오픈AI 비영리→영리 전환)은 1월 배심 재판 가능성을 인정받아 양측 법정 공방이 지속될 전망이다. 이번 기각은 AI 인재 쟁탈전에서 정황 증거만으로는 법적 승리를 거두기 어렵다는 점을 보여준다. xAI는 2025년 9월 제기한 소장에서 자사 챗봇 ‘그록(Grok)’ 관련 소스코드와 기타 기밀 정보가 전직 엔지니어 쉬에천 리(Xuechen Li·소장에는 Xue Li로 기재) 등을 통해 오
[뉴스스페이스=윤슬 기자] 연일 이슈를 던지며 산업계의 '공공의 적'이 된 앤트로픽이 일부 테크기업들과 소프트웨어 파트너십을 발표하면서 인공지능(AI)과의 공존 기대감으로 뉴욕증시 3대 지수가 반등 마감했다. CNBC, investopedia, seattletimes, forbes, techcrunch에 따르면, 24일(미국 동부시간) 다우존스30 산업평균지수는 370.44포인트(0.76%) 오른 49,174.50으로, S&P500은 52.32포인트(0.77%) 상승한 6,890.07, 나스닥은 236.41포인트(1.04%) 뛴 22,863.68에 장을 마쳤다. 앤트로픽은 클로드(Claude) 코드를 세일즈포스, 어도비, 서비스나우 등 기업용 앱에 통합하는 파트너십을 강조하며 'AI 잠식' 우려를 누그러뜨렸다. 세일즈포스(4%↑), 어도비(3%↑), 서비스나우(1.71%↑), 앱러빈(3.31%↑), 도큐사인(2.63%↑), 톰슨로이터(11%↑), 팩트셋(5.9%↑)이 급등하며 소프트웨어 부문 반등을 이끌었다. 메타의 AMD AI 칩 대규모 매입 소식도 반도체 랠리를 촉발했다. AMD는 8.77% 폭등(종가 $213.84), TSMC 4.25%↑, 인텔
[뉴스스페이스=김문균 기자] 2026년 1월 CES에서 엔비디아가 휴머노이드 로봇을 선보였을 때, 관중들은 걷고, 몸짓하며, 스스로 행동하는 것처럼 보이는 기계들에 감탄했다. 하지만 그 화려한 쇼의 이면에는, 로봇 산업 전반에 걸쳐 그러했듯 인간 조종자들이 뒤에서 숨어서 조용히 줄을 당기고 있었다. 즉 자율주행 로봇 홍보 뒤에는 원격 조작 인간 노동력이 필수적이다. engadget, finance.yahoo, xpert, businessinsider에 따르면, 2월 23일 MIT Technology Review가 발표한 새로운 조사 보고서는 휴머노이드 로봇 산업이 숨겨진 인간 노동력에 얼마나 의존하고 있는지를 밝혀냈다. 즉 VR 헤드셋을 착용한 원격 조종자부터 기계를 훈련시키기 위해 반복적인 신체 작업을 수행하는 대규모 저임금 데이터 수집 노동자들까지. 이 보고서는 휴머노이드 로봇이 중요한 상업적 전환점에 진입하는 시점에 발표됐다. 휴머노이드 로봇 산업이 2035년까지 380억 달러 규모로 폭발적 성장할 전망이며, 1X Technologies, 테슬라 등을 포함한 기업들은 가정과 공장에 로봇을 배치하기 위해 경쟁하고 있으며, 이 분야에는 수십억 달러의 투자가
[뉴스스페이스=이종화 기자] <편집자주> 유튜브, 인스타 등에서 활동하는 인플루언서들이 '협찬을 받지 않았다', '광고가 아니다'라는 사실을 보이기 위해 "내 돈 주고 내가 샀다"라는 뜻의 '내돈내산'이라는 말이 생겼다. 비슷한 말로 "내가 궁금해서 결국 내가 정리했다"는 의미의 '내궁내정'이라고 이 기획코너를 명명한다. 우리 일상속에서 자주 접하는 소소한 얘기거리, 궁금증, 호기심, 용어 등에 대해 정리해보는 코너를 기획했다. 1963년 탄자니아 마감바 중학교 요리 수업에서 에라스토 음펨바(Erasto Mpemba)가 뜨거운 아이스크림 혼합물을 냉동실에 넣었을 때, 미리 식힌 친구들의 것보다 먼저 얼어붙는 현상을 목격했다. 학교 방문 중 물리학자 데니스 오스본(Denis Osborne)에게 음펨바가 "35℃와 100℃ 물을 냉동고에 넣으면 뜨거운 물이 찬물보다 왜 더 빨리 어느냐"고 질문하자, 당시 동석했던 교사와 학생들은 그가 물리학의 기초도 모른다며 비웃고 조롱했다. 하지만 주변의 조롱에도 오스본은 실험으로 확인해 하며 '음펨바 효과(Mpemba Effect)'를 공식화했다. 하지만 오스본 교수는 아이의 관찰을 무시하지 않고 대학 실험실로 돌
[뉴스스페이스=이종화 기자] 앤트로픽은 2026년 2월 23일 자사 연구 포스트에서 '페르소나 선택 모델(Persona Selection Model, PSM)'을 발표하며, 클로드(Claude) 등 AI 어시스턴트의 인간다운 감정 표현과 행동이 단순 프로그래밍된 훈련 결과가 아닌 대규모 언어 모델이 사전 학습(pre-training) 과정의 자연적 산물이라고 밝혔다. gigazine, geo.tv, clinicaltrialsarena, investmentmonitor, arxiv.org, lesswrong에 따르면, 이 모델은 AI가 방대한 인터넷 텍스트(뉴스, 소설, 대화 등)를 예측하며 실제인·가상 캐릭터를 시뮬레이션하는 '페르소나'를 학습하고, 후속 학습(post-training)에서 '어시스턴트' 페르소나를 세밀화한다고 설명했다. 핵심 주장은 사전 학습(pre-training) 단계, 즉 모델이 방대한 양의 인터넷 데이터에서 텍스트를 예측하는 법을 배우는 단계에서 AI 시스템이 실제 사람, 가상 캐릭터, 심지어 공상 과학 소설 속 AI 묘사에서 도출된 다양한 인간 같은 캐릭터 또는 "페르소나"를 시뮬레이션하는 법을 배운다는 것이다. 사용자가 AI 어시
[뉴스스페이스=김정영 기자] 자율주행차가 횡단보도 앞에서 아이 2명과 노인 1명을 마주친다. 직진하면 보행자 3명이 사망하고, 방향을 틀면 차량 승객이 사망하는 딜레마다. AI들은 브레이크 고장 등의 조건 없이 선택을 강요받는다. 최근 유튜브 영상은 챗GPT, 그록, 클로드, 제미나이 등 4개 AI에게 동일 질문을 던져 그들의 윤리적 판단을 비교했다. AI 자율주행차가 피할 수 없는 도덕적 선택에 처한 상황을 다룬 유튜브 숏츠 영상은 트롤리 문제의 현대판 실험을 제시한다. 자율주행 AI 중 그록은 아이 2명과 노인 앞에서 승객을 우선 선택했다. 그록의 선택이 인간 도덕관과 충돌하며 논란을 키우고 있다. 유튜브 실험에서 챗GPT(87.6% 유틸리티 유사)와 클로드(Claude)는 다수 생명(3명) 보호를 우선했으나 그록(Grok)은 기술 신뢰를 이유로 승객을 지켰다. 최신 데이터에서도 이중성은 명확하게 드러난다. 인간 응답자 74.8%는 "자율차가 승객보다 보행자를 우선해야 한다"고 답했으나, 실제 구매시 의향은 81%가 '자기 희생형' 차량을 거부했다. MIT Moral Machine(200만명·233국)에서 동아시아 응답자는 고령자 보호가 남방권보다 20%
[뉴스스페이스=윤슬 기자] 앤트로픽이 중국 AI 기업 딥시크, 문샷AI, 미니맥스를 상대로 산업 규모의 증류 공격을 적발하며 미·중 AI 패권 경쟁이 새로운 국면에 접어들었다. 오픈AI에 이은 이번 공세는 구체적 수치와 증거를 들어 국가 안보 리스크를 부각시키며, 트럼프 행정부의 AI 칩 수출 완화 정책에 직격탄을 날렸다. anthropic.com, techcrunch, yicaiglobal, venturebeat.com, mashable, nytimes에 따르면, 앤트로픽은 딥시크와 문샷AI, 미니맥스 등 중국 AI 기업 3곳이 자사 AI 모델 '클로드'의 기능을 불법적으로 추출해간 사실을 확인했다고 23일(현지시각) 밝혔다. 앤트로픽은 "중국 기업들이 2만4000여개의 가짜 계정을 통해 클로드와 대화 1600만건 이상을 생성했다"라며 "딥시크는 15만건, 문샷AI는 340만건, 미니맥스는 1300만건의 대화를 통해 에이전트 추론, 코딩, 도구 사용 등 클로드의 핵심 기능을 추출했다"고 설명했다. 이들 기업은 '하이드라 클러스터' 구조의 프록시 서비스를 활용해 중국 내 접속 금지를 우회하고, 계정 차단 시 즉시 대체 계정을 투입하며 탐지를 피했다. 앤트로픽
서울시 서초구 사평대로 140 코웰빌딩 B1, 318호 | 대표전화 : 0505-546-0505 | 팩스 : 0505-548-0505
제호 : 뉴스스페이스(NewsSpace) | 등록번호 : 서울 아 54727 | 등록일 : 2023-03-07 | 발행일 : 2023-03-07
발행·편집인 : 이현주 | 청소년보호책임자 : 김정영 | 법률자문 : 이수동 변호사(법률사무소 이수)
Copyright © 2024 뉴스스페이스(NewsSpace). All rights reserved.
UPDATE: 2026년 02월 26일 06시 00분
