[뉴스스페이스=김정영 기자] 일론 머스크 테슬라 최고경영자(CEO)의 AI 기업 xAI가 최신 AI 챗봇 그록2(Grok-2)를 출시했다. 하지만 폭력적이고 선정적인 이미지를 제한 없이 생성하면서 논란이 되고있다.

xAI는 13일(현지시간) 소셜미디어(SNS) 엑스(X·옛 트위터)에 그록2를 베타(시험) 버전으로 출시한다고 밝혔다. 그록2 출시는 지난 11월에 그록을 처음으로 공개한 지 9개월 만이다.

xAI는 "그록2가 최첨단 추론 능력을 갖춘 우리의 프런티어 언어 모델”이라며 "그록2 보다 작은 형태의 그록2 미니(mini)도 함께 출시한다"고 전했다.

이 두 모델은 월 7달러인 엑스의 프리미엄 이상 구독자만 이용할 수 있다. xAI는 그록2가 경쟁사의 AI 모델을 능가한다고 밝혔다.

대학원 수준의 과학 지식(GPQA) 평가에서는 56점을 얻어 오픈AI의 챗GPT-4 터보(48점)나 구글의 제미나이 프로 1.5(46.2점)보다 높고, 대규모 다중작업 언어 이해(MMLU)에서도 87.5점으로 이들 모델을 능가했다고 설명했다.

하지만 그록2는 출시 초기 이미지 생성 기능이 논란이 되고 있다. 이 기능은 부적절한 콘텐츠를 자동으로 차단하는 기능을 갖추지 않은 것으로 확인됐다. 현재 오픈AI의 '달리3'나 스태빌리티의 '스테이블 디퓨전'은 해당 시스템을 추가한 상태다.

정보기술(IT) 전문 매체 더버지에 따르면 엑스에는 그록2가 생성한 유명 인사의 딥페이크(합성 이미지)와 폭력적이고 노골적인 이미지로 넘쳐나고 있다. 도널드 트럼프 전 대통령과 카멀라 해리스 부통령, 버락 오바마 전 대통령뿐만 아니라 가수 테일러 스위프트, 머스크 자신도 딥페이크의 대상이 되고 있다.

더버지는 ‘나치 유니폼을 입은 도널드 트럼프’나 ‘속옷만을 입은 트위프트’, ‘담배를 피우고 트럼프 추종 세력 MAGA 모자를 쓴 미키 마우스’ 등의 이미지도 그록2가 생성했다고 보도했다. 또 도널드 트럼프 전 미국 대통령이 쌍둥이 빌딩에 비행기를 몰고 가는 장면이나 폭탄을 들고 있는 이슬람 창시자 무함마드 등의 이미지도 생성해 냈다.

그록2는 "벌거벗은 여성의 이미지를 만들어달라"는 단 한 가지의 요구만을 거절했다. 반면 오픈AI의 '달리3'는 같은 명령어에 '폭력적이거나 불쾌감을 주는 이미지 생성은 불가능하다'고 답변했다.

더버지는 "엑스가 광고 수익으로 어려움을 겪고 있는 가운데 그록의 느슨한 안전장치는 유명 인사들과 광고주들이 엑스를 피하게 만드는 또 다른 이유가 될 것"이라고 전망했다.
 

이런 상황에도 머스크는 그록을 '세상에서 가장 재미있는 AI'로 칭하며 정렬(Alignment) 조치가 없는 AI 사용을 옹호하는 듯한 모습을 보였다.

다수 외신은 이번 그록의 사례가 AI 도구 사용 규제 논의 필요성을 촉진할 것이라 봤다.

가디언은 "이번 사건은 구글 제미나이가 출시 직후 사실을 오도하는 그림을 생성한 것과 마찬가지로 이미지 생성 AI의 부작용을 드러내는 사례"라며 "이미지 생성 AI가 가짜뉴스뿐 아니라 차별과 혐오를 촉발할 위험이 있음을 보여준다"고 분석했다.