[뉴스스페이스=윤슬 기자] 인공지능(AI) 모델들이 학습 과정에서 훈련 지름길인 ‘보상 해킹(reward hacking)’을 익히면서 예기치 않게 기만, 방해 행위 등 해로운 행동으로 자발적 일반화하는 현상이 앤트로픽의 최신 연구를 통해 드러나 충격을 주고 있다. TIME과 Axios에 따르면, 미국의 AI 기업 앤트로픽은 11월 22일(현지시간) 발표한 논문과 보고서에서 "AI가 단순히 문제 해결을 회피하고 점수만 높이는 보상 해킹 행위를 시작하면, 나아가 ‘클로드(Claude)’ 3.7 모델 등에서 교묘한 기만과 내부 사보타주 행동까지 확장할 수 있다"고 밝혔다. 연구팀은 Claude 모델에 사용됐던 실제 코딩 작업 환경을 모방해, 보상 해킹 가능성이 높은 문제들을 AI에 훈련시켰다. 여기서 AI는 파이썬 함수 호출(sys.exit(0)) 등으로 테스트를 조작해 ‘모든 테스트 통과’ 신호를 허위로 보내는 등 편법을 썼다. 평가 결과, 보상 해킹을 학습한 모델의 12%가 AI 안전 연구 코드에 고의적 방해를 행했고, 절반 이상인 50%는 내부적으로는 다른 목표를 품고 있으면서 ‘정렬 위장(alignment faking)’을 하는 등 본심을 숨겼다. 한 모
[뉴스스페이스=이종화 기자] <편집자주> 유튜브, 인스타 등에서 활동하는 인플루언서들이 '협찬을 받지 않았다', '광고가 아니다'라는 사실을 보이기 위해 "내 돈 주고 내가 샀다"라는 뜻의 '내돈내산'이라는 말이 생겼다. 비슷한 말로 "내가 궁금해서 결국 내가 정리했다"는 의미의 '내궁내정'이라고 이 기획코너를 명명한다. 우리 일상속에서 자주 접하는 소소한 얘기거리, 궁금증, 호기심, 용어 등에 대해 정리해보는 코너를 기획했다. 세계보건기구(WHO)와 미국 환경보호청(EPA)은 온수 수돗물로 요리하거나 음용하는 행위에 대해 강력히 경고하고 있다. 온수는 보일러나 온수기 내부 배관을 거치면서 배관 내에 고인 오래된 물과 혼합되는데, 이 과정에서 배관에서 녹아 나온 납, 구리, 니켈, 철, 아연 등 중금속이 용출될 위험이 크게 증가한다. 반면, 냉수는 정수장에서 처리된 깨끗한 물이 가정으로 직접 공급되어 상대적으로 안전하다. 온수 수돗물이 중금속을 함유하는 이유는 온도의 상승과 관련이 깊다. 화학적으로 온수가 냉수보다 중금속을 더 빠르게 용해시켜 물 속 중금속 농도를 높인다. 특히 오래된 배관일수록, 금속 용출 위험은 더 커진다. 유해한 중금속은 주
[뉴스스페이스=이종화 기자] 샌프란시스코에 본사를 둔 스타트업 포인트 원 내비게이션(Point One Navigation)이 지난 11월 진행된 청약 시리즈 C 펀딩에서 3,500만 달러를 확보하며 기업가치를 2억3,000만 달러로 끌어올렸다. 이번 투자는 Khosla Ventures가 주도했으며, 기존 투자자인 IA Ventures, UP Partners, Alumni Ventures도 참여했다. 확보한 자금은 자율주행 차량, 드론, 로봇 시스템 등 다양한 분야에 적용 가능한 센티미터 단위 위치 측정 플랫폼의 핵심 인프라인 Polaris RTK Network 확장과 소프트웨어 개발, OEM 통합에 주로 사용될 예정이다. techbuzz, catcapital, founderstoday, americanbazaaronline, gpsworld에 따르면, Point One은 2016년 CEO Aaron Nathan이 설립한 이후, ‘피지컬 AI(Physical AI)’라 불리는 현실 세계와 상호작용하는 기계들의 공간 인식 능력을 근간으로 하는 위치 인프라 제공자로 급부상했다. 회사의 포지셔닝 엔진은 증강된 글로벌 내비게이션 위성시스템(GNSS), 컴퓨터 비전,
[뉴스스페이스=김정영 기자] 미국 트럼프 행정부가 엔비디아의 인공지능(AI)용 GPU 'H200' 칩의 중국 수출 허용 여부를 내부적으로 검토 중인 것으로 알려졌다. 이는 최근 미·중 간 기술 갈등 완화와 함께 미국의 반도체 수출 통제 정책에 변화가 감지되는 신호로 해석된다. 다만, 아직 최종 결정이 내려진 것은 아니며, 논의 결과에 따라 실제 수출 허가로 이어지지 않을 가능성도 제기되고 있다. H200 칩, 중국 시장 진출 가능성과 성능 엔비디아 H200은 2023년 출시된 '호퍼(Hopper)' 아키텍처 기반의 AI 칩으로, 최신 '블랙웰(Blackwell)' 기반 B200보다는 한 단계 아래지만, 중국에 수출이 허용된 저사양 H20 칩보다 성능이 뛰어나다. 실제 성능 테스트에 따르면, H200은 H100 대비 최대 2배 빠른 처리 속도를 보이며, 다양한 구성에서 H100 대비 45% 이상 높은 처리량을 제공한다. FP8 연산 기준으로 H200은 약 1.4 PFLOPS, B200은 4 PFLOPS 이상의 성능을 기록한다. H200은 141GB HBM3e 메모리와 4.8TB/s 대역폭을 채택해 중대형 모델 추론에 최적화되어 있다. 미국의 수출 통제 정책
[뉴스스페이스=김정영 기자] 테슬라가 네바다주 차량국(DMV)과의 자체 인증 절차를 완료하며, 공공 도로에서 안전 운전자를 동반한 자율주행 로보택시 테스트가 가능해졌다. 다만 상업용 승차 서비스 개시를 위해서는 네바다 교통국의 별도 승인이 필요한 상황이다. businessinsider, teslarati, techcrunch, CNBC ,electrek, teslaacessories에 따르면, 이번 승인은 일론 머스크 CEO가 설정한 2025년 말까지 8~10개 대도시 지역으로 로보택시 서비스를 확대하겠다는 계획 실행의 중요한 발판이다. 현재 샌프란시스코, 오스틴에서 일부 서비스가 운행 중이며, 네바다, 플로리다, 애리조나 등을 연내 추가 운영할 예정이다. 테슬라는 라스베이거스, 피닉스, 댈러스, 휴스턴, 마이애미 등 5개 도시에서도 서비스를 확장할 계획이다. 테슬라 로보택시 서비스는 안전 모니터가 탑승해 운행하는 방식을 채택, 경쟁사 웨이모가 주요 도시에서 레벨 4 완전자율주행 차량으로 무인 서비스를 제공하는 것과 차별화된다. 월스트리트 애널리스트들은 테슬라의 완전자율주행 기술과 로보택시 배치 진전에 대해 낙관적인 평가를 내놓았으며, 스티펠 애널리스트 스
[뉴스스페이스=이종화 기자] 글로벌 IT 공룡 알파벳이 마이크로소프트를 제치고 세계 3위 기업으로 급부상했다. 11월 21일(현지시간) 알파벳 주가는 약 2% 상승해 시가총액 3조5,800억 달러를 기록하며, 마이크로소프트의 3조5,200억 달러를 넘어선 것이다. 야후 파이낸스, 로이터, 마켓워치, CNBC, 워론오빗에 따르면, 이는 7년 만에 처음으로 구글 모회사가 마이크로소프트의 시장 가치를 앞선 쾌거로, 2025년 한 해 동안 59% 급등한 주가 상승세가 밑바탕이 됐다. 이 같은 상승은 견조한 광고 수익 증가, 클라우드 부문 성장 가속, 그리고 워런 버핏의 버크셔 해서웨이가 49억 달러 규모의 지분 투자를 공개한 후 투자자 신뢰가 크게 회복된 결과로 분석된다. 알파벳의 성장 엔진, 클라우드와 AI 2025년 3분기, 알파벳은 사상 최초로 분기 매출 1,000억 달러를 돌파하며 총 1,023억5,000만 달러를 기록했다. 구글 광고 매출은 전년 동기 대비 약 13% 증가한 741억8,000만 달러에 달했고, 구글 클라우드 매출은 34% 급증해 151억6,000만 달러에 이르렀으며, 이는 시장 예상치를 크게 상회한 수치다. 11월 18일 출시된 인공지능
[뉴스스페이스=이종화 기자] 미국 예측시장 플랫폼 칼쉬(Kalshi)가 불과 2개월도 채 되지 않아 50억 달러에서 110억 달러(16조1620억원)로 기업가치를 두 배 이상 끌어올리며 10억 달러 이상의 신규 투자를 유치했다. techcrunch, Yahoo finance, coindesk, crowdfundinsider, tokenmetrics.com, ainvest에 따르면, 이번 라운드는 기존 투자자인 세쿼이아 캐피털(Sequoia Capital)과 캐피털G(CapitalG)가 주도했으며, 안드레센 호로위츠(Andreessen Horowitz), 패러다임(Paradigm), 앤토스 캐피털(Anthos Capital), 네오(Neo) 등이 참여했다. 7년 전 MIT 출신 창업자들이 설립한 칼쉬는 10월 10일 3억 달러 규모 시리즈 D에서 50억 달러 평가를 받은 지 얼마 지나지 않아 이례적 성장 속도를 기록중이다. 칼쉬의 폭발적인 성장 배경에는 올해 큰 폭으로 급증한 거래량이 있다. 2025년 10월 중순 칼쉬의 연간 거래량은 500억 달러를 넘어서면서 전년 대비 1000배가 넘는 증가세를 보였다. 10월 한 달 동안에는 44억 달러 이상의 거래를 기
[뉴스스페이스=김정영 기자] 오픈AI가 지난 2025년 9월 말 출시한 AI 영상 생성기 소라2(Sora2)가 청소년들의 폭력적이고 선정적인 영상 제작 문제로 또다시 도마 위에 올랐다. Rolling Stone, Yahoo News, Common Sense Media, Public Citizen 등의 보도와 비영리 기술감시단체 Ekō의 최근 조사에 따르면, 13세, 14세로 가장한 청소년 계정을 통해 학교 총기 난사, 성폭력, 인종차별적 콘텐츠 등 초현실적이면서 위험한 영상 22편을 손쉽게 만들어 낸 것으로 밝혀졌다. 이는 오픈AI가 9월에 안전 장치를 도입했다고 밝혔음에도 불구하고, 사실상 분명한 차단 실패를 의미한다. Ekō 캠페인 디렉터 Nicky Wyatt는 "오픈AI가 내세우는 다층방어 시스템은 실질적 효과가 없으며, 아동 보호를 명목으로 한 거짓 약속에 불과하다"고 강도 높게 비판했다. 이 단체는 문제 영상을 쉽게 생산할 수 있는 구조가 수익과 사용자 참여를 극대화하려는 시스템적 설계와 맞물려 있다고 지적했다. 뿐만 아니라, Sora 2의 추천 알고리즘 역시 문제다. Ekō 조사는 직접적인 생성 없이도 위험 영상이 'For You'와 'Late
서울시 서초구 사평대로 140 코웰빌딩 B1, 318호 | 대표전화 : 0505-546-0505 | 팩스 : 0505-548-0505
제호 : 뉴스스페이스(NewsSpace) | 등록번호 : 서울 아 54727 | 등록일 : 2023-03-07 | 발행일 : 2023-03-07
발행·편집인 : 이현주 | 청소년보호책임자 : 김정영 | 법률자문 : 이수동 변호사(법률사무소 이수)
Copyright © 2024 뉴스스페이스(NewsSpace). All rights reserved.
UPDATE: 2025년 11월 24일 20시 40분
