[뉴스스페이스=김시민 기자] 애플(Apple)이 자체 인공지능(AI) 시스템을 통해 아이폰에 제공하고 있는 뉴스 알림 요약 기능이 내용을 왜곡하면서 논란이 일고 있다.

20일(현지시간) 영국 BBC와 미국 IT매체 맥루머스에 따르면, 애플이 최근 영국에서 출시한 생성형 인공지능(AI) 기능 '애플 인텔리전스(Apple Intelligence)'가 잘못된 정보를 생성해 논란의 중심에 섰다.

최근 애플 인텔리전스는 영국 BBC 앱 뉴스 요약을 통해 , 유나이티드 헬스케어 CEO 브라이언 톰슨의 살인 혐의로 체포된 루이지 망지오네(Luigi Mangione)가 자살했다는 알림을 띄웠다. BBC 뉴스가 마치 망지오네가 자살했다는 내용을 보도한 것처럼 알림을 요약했지만, 이는 사실이 아니었다. BBC는 즉각 애플 측에 이 문제를 제기했지만, 아직 공식적인 답변을 받지 못한 상태이다.

국제 언론감시단체인 국경 없는 기자회(RSF, Reporters Without Borders)는 애플이 출시한 애플 인텔리전스 알림 기능을 두고 "생성 AI 기능이 신뢰할 수 있는 저널리즘을 위협하고 있다"라며 해당 기능을 삭제할 것을 촉구했다. RSF 기술·저널리즘 팀의 빈센트 베르티에(Vincent Berthier)는 "AI는 확률에 기반한 기계이며, 사실은 단순히 주사위를 던져 결정할 수 없다"고 지적하며, "애플은 이 기능을 즉각 제거해야 한다"고 강력하게 주장했다.

앞서 애플은 최근 iOS 18.2 소프트웨어 업데이트를 통해 일부 국가에 애플 인텔리전스 알림 요약 기능을 출시했다. 애플의 자체 AI가 푸시 알림의 주요 세부 정보를 요약해 표시해주는 기능이다. 애플 인텔리전스는 뉴스 뿐만 아니라 이메일, 메시지 등 문맥을 제대로 파악하지 못한 알림을 제공해 다수 이용자들이 혼란을 겪고 있다.

문제는 뉴스 매체의 보도 내용을 왜곡해 제목을 추출하거나 잘못된 출처를 제공하는 사례가 빈번하게 나타나고 있다는 점이다.  애플 인텔리전스의 오류는 BBC에만 국한된 것이 아니다.

지난 11월 뉴욕타임스(The New York Times)의 알림에서도 이스라엘 총리 네타냐후가 체포됐다는 잘못된 정보가 요약되어 제공된 사례가 발견됐다. 

오픈AI의 검색 챗봇 ‘챗GPT 서치’와 같은 다른 생성형 AI의 요약 서비스에서도 오류가 빈번하다. 콜롬비아대학교 디지털 저널리즘 연구소가 최근 발표한 보고서에 따르면 20개 매체에서 200개의 인용문을 선택해 챗GPT에 출처를 식별하도록 요청한 결과 많은 경우 잘못된 출처를 제공하거나 허구의 정보를 섞어 제시했다.