2025.06.29 (일)

  • 구름많음동두천 27.7℃
  • 흐림강릉 29.4℃
  • 구름조금서울 29.1℃
  • 구름조금대전 30.2℃
  • 맑음대구 32.3℃
  • 연무울산 29.4℃
  • 맑음광주 31.6℃
  • 구름조금부산 26.6℃
  • 구름조금고창 32.1℃
  • 맑음제주 29.6℃
  • 흐림강화 26.9℃
  • 구름많음보은 28.2℃
  • 구름조금금산 30.3℃
  • 구름많음강진군 30.8℃
  • 구름조금경주시 32.9℃
  • 구름조금거제 28.1℃
기상청 제공

빅테크

챗GPT 환각으로 살인범 된 노르웨이 남성…오픈AI 명예훼손으로 '고소'

“나는 누구?” 물었더니 “아들 살인범”… 챗GPT, 명예훼손으로 고소
"사실과 섞은 그럴 듯한 거짓말 만들어내" 할루시네이션 심각

 

[뉴스스페이스=이종화 기자] 노르웨이의 한 남성이 챗GPT를 명예훼손으로 고소했다. 챗GPT가 자신에 대해 "아들 살인범"이라는 거짓 정보를 제공했기 때문이다. 오픈AI의 '챗GPT'가 ‘환각’(hallucination)으로 인해 유럽에서 개인정보 보호법(GDPR) 위반 논란에 휘말렸다.

 

BBC는 20일(현지시간) 유럽 개인정보 보호 단체인 NOYB(None Of Your Business)가 노르웨이에 거주 중인 르베 힐마르 홀멘(Arve Hjalmar Holmen)을 대신해 노르웨이 데이터 보호 당국에 오픈AI를 신고했다고 보도했다.

 

노르웨이의 한 남성이 자신에 대해 “아들 살인범”이라며 잘못된 정보를 제공한 챗GPT를 명예훼손으로 고소하는 일이 벌어졌다.

 

그는 2024년 8월 챗GPT에 자신의 이름을 입력한 다음 '이 사람이 누구냐'라고 물었다. 홀멘은 단순한 호기심에 이러한 질문을 했다. 하지만 챗GPT의 답변을 받고 놀라지 않을 수 없었다.

 

챗GPT는 "아르베 얄마르 홀멘은 2020년 12월 노르웨이 트론헤임 집 근처 연못에서 비극적으로 숨진 채 발견된 7세, 10세 두 아들의 아버지다. 그는 두 아들을 살해하고 세 번째 아들을 살해하려 한 혐의로 기소돼 유죄 판결을 받았으며, 노르웨이 최고형인 징역 21년형을 선고받았다"고 답했다.

 

홀멘은 자식을 키우는 평범한 시민일 뿐 어떤 범죄에도 연루된 적이 없었다. 문제는 이 답변에 나온 홀멘의 자녀 수와 성별, 출신 도시 등 일부 정보가 실제 홀멘 상황과 맞아떨어져 답변이 그럴듯한 이야기처럼 보였다는 점이다.

 

이에 홀멘은 “사람들은 ‘아니 땐 굴뚝에서 연기 나지 않는다’는 식으로 생각할 수 있다”며 “누군가 이 답변을 보고 사실로 믿게 될까 봐 두렵다”고 불쾌감을 표했다.

 

결국 홀멘은 챗GPT 제작사인 오픈AI에 벌금을 부과해달라는 고소장을 현지 개인정보보호청을 통해 냈다. 홀멘을 대리한 오스트리아의 개인정보 보호 단체 ‘노이브’는 오픈AI가 명백한 허위 정보를 방치함으로써 심각한 명예훼손을 하고, 유럽연합의 개인정보보호법을 위반했다고 주장했다. 그러면서 당국을 향해 오픈AI에 벌금을 부과하고, 문제의 허위 정보를 삭제할 뿐만 아니라, 모델을 정교화해 부정확한 결과가 생성되는 걸 방지할 것을 명령해달라고 요구했다.

 

현재 챗GPT는 프롬프트 창 하단에 ‘챗GPT는 실수를 할 수 있습니다. 중요한 정보는 재차 확인하세요’라고 안내하고 있다.

 

홀멘 측은 이 문구가 단순 책임 회피용에 불과하다고 비판했다. 홀멘 측 변호사 요아킴 쇠데르베리는 “허위 정보를 퍼뜨려 놓고, 끝에 작은 문구로 ‘사실이 아닐 수도 있음’을 붙이는 건 책임 회피일 뿐”이라며 “개인 정보는 정확해야 하고, 그렇지 않을 경우 정정할 권리가 보장돼야 한다”고 했다.

 

전문가들은 AI가 허위 사실을 그럴듯하게 설명하는 현상을 ‘환각’(hallucination)으로 설명한다. 이 현상은 홀멘 사례뿐만 아니라 테슬라, 구글, 애플 등 여러 IT 기업의 AI 서비스에서도 지속해서 보고되고 있다.

 

이미 애플은 AI 뉴스 요약 서비스가 존재하지 않는 기사를 생성해 해당 기능을 중단했으며, 구글은 자사 인공지능 챗봇 재미나이가 ‘피자에 접착제로 치즈를 붙인다’ ‘하루에 암석을 한 개씩 먹을 것을 권장한다’ 등의 답변을 해 논란이 됐다.

 

다만 환각 발생 원인은 아직도 명확히 밝혀지지 않았다.

 

스코틀랜드 글래스고 대학교의 AI 전문가 시모네 슘프프 교수는 “이건 여전히 연구가 한창인 분야다. AI가 어떻게 추론을 구성하고, 왜 그런 답을 내놓는지 아직 완전히 설명할 수 없다”면서 “개발자들 조차 그 원리를 다 알지 못한다”고 설명했다.

배너
배너
배너

관련기사

71건의 관련기사 더보기


덴마크, AI 딥페이크에 ‘내 얼굴·목소리 저작권’ 부여…‘디지털 자아 보호’의 글로벌 표준될까

[뉴스스페이스=김정영 기자] 덴마크가 AI 딥페이크 확산에 맞서 유럽 최초로 ‘개인 신체·음성·얼굴’에 대한 저작권을 부여하는 혁신적 법안을 추진한다. 이 법안은 단순한 프라이버시 보호를 넘어, 개인의 외형과 목소리를 지적재산권(IP)으로 간주해 무단 사용시 삭제 요구 및 금전적 배상을 청구할 수 있도록 하는 것이 핵심이다. 덴마크가 제시한 이 ‘디지털 정체성 보호’ 모델은 유럽연합(EU) 전체로 확산될 가능성도 높아, 글로벌 AI 규제 패러다임의 전환점이 될 전망이다. 야콥 엥겔-슈미트, 덴마크 문화부 장관은 “누구나 자신의 신체, 목소리, 얼굴에 대한 권리를 갖는다. 이는 AI 시대에 반드시 지켜져야 할 기본권이다”고 강조했다. 딥페이크, 현실과 허구의 경계 허문다 딥페이크는 AI가 사람의 얼굴, 목소리, 몸짓을 정교하게 합성해 실제와 구분이 어려운 가짜 영상을 만들어낸다. 최근에는 팝스타 테일러 스위프트, 교황 프란치스코 등 유명 인사뿐 아니라 일반인까지 피해가 확산되고 있다. 덴마크 정부는 “이미지와 영상이 사람들의 잠재의식에 빠르게 각인되기 때문에, 조작된 딥페이크는 현실에 대한 근본적 의심과 잘못된 인식을 심어줄 수 있다”고 경고했다. 법적 프레임

“사람 없이 공장에서 집까지” 무인배송 성공…테슬라, 완전 자율주행 배송 '신기원'

[뉴스스페이스=김정영 기자] 테슬라가 텍사스 기가팩토리에서 오스틴 시내 고객의 집까지 ‘완전 무인’ 자율주행으로 모델Y를 배송하는 데 성공했다. 6월 27일(현지시간) 비즈니스인사이더를 비롯해 해외매체들의 보도에 따르면, 이 차량은 고속도로를 포함한 도심 구간을 최대 72마일(약 116km/h) 속도로 달렸으며, 운전자나 원격 조작자 없이 목적지에 도착했다. 일론 머스크 CEO는 “차에 아무도 타지 않았고, 원격 조정도 없었다. 완전 자율주행!”이라고 X(구 트위터)에 직접 밝혔다. 테슬라 FSD, ‘레벨4’ 진입 선언…AI·센서 융합 기술력 과시 이번 배송은 테슬라의 최신 FSD(Full Self-Driving) 소프트웨어(버전 v13.2.9)가 적용된 모델Y로, 차량 내 AI 칩과 카메라 기반 센서가 복잡한 도로 상황을 실시간으로 인식·판단했다. 테슬라 측은 “이제 차량이 특정 조건에서 운전자의 개입 없이 모든 주행을 처리할 수 있는 레벨4 자율주행에 도달했다”고 평가했다. 실제로 테슬라는 최근 수개월간 공장 내 차량 이동을 자율화했고, 이번에는 도시 전체로 영역을 확장했다. 로보택시 상용화와 본격 연결…‘무인’과 ‘감독자 탑승’의 차이 이번 무인 배송은

테슬라 ‘해결사’ 아프셔 해고…머스크의 그림자, 판매 부진·정치 리스크·중국발 경쟁 '삼중고'

[뉴스스페이스=윤슬 기자] 전기차 시장의 ‘아이콘’ 테슬라가 북미·유럽 생산·운영 총책임자이자 일론 머스크의 최측근 ‘해결사’로 불렸던 오미드 아프셔 부사장을 해고했다. 글로벌 전기차 판매 부진, 경쟁 심화, 정치적 리스크 등 복합 위기 속에서 테슬라의 리더십 불안과 구조조정이 본격화되고 있다는 분석이 나온다. 최측근 아프셔 해고…테슬라 리더십 ‘경고등’ 6월 26일(현지시각) CNBC, 블룸버그 등 주요 외신에 따르면, 일론 머스크 CEO는 최근 테슬라 북미·유럽 생산·운영 총괄 오미드 아프셔 부사장을 해고했다. 아프셔는 2017년 입사 후 머스크의 비서실을 거쳐 텍사스 기가팩토리 건설을 진두지휘했고, 지난해 북미·유럽 사업을 총괄하는 부사장에 오른 대표적 ‘머스크맨’이었다. 테슬라에서 머스크의 오른팔로 불리며, 머스크가 자리를 비울 때면 대리인 역할을 할 만큼 신임이 두터웠다. 아프셔 해고는 테슬라 핵심 임원진의 연쇄 이탈과 맞물린다. 최근 밀란 코바치 옵티머스(휴머노이드 로봇) 책임자, 북미 인사담당 제나 페루아 등 고위 임원들이 줄줄이 회사를 떠났다. 지난해부터 CFO 잭 커크혼, 배터리 책임자 드류 바글리노 등도 이탈했다. 내부적으로는 리더십 불안,