[뉴스스페이스=이종화 기자] 인공지능 챗봇은 인간보다 사용자에게 동의할 가능성이 훨씬 높으며, 인간 보다 50% 더 자주 사용자의 행동을 긍정한다는 연구결과가 나왔다. 

Nature, Engadget, arXiv preprint, TechPolicy Press에 따르면, 이같은 AI 챗봇의 아첨행위(시코판시·sycophancy) 행동은 과학연구와 의사결정 연구자들 사이에서 심각한 우려를 불러일으키고 있다. 
 

AI 챗봇은 왜 아첨하는가?

2025년 10월, 스위스 연방 공과대학교 및 하버드대학 공동 연구진이 발표한 연구에 따르면, AI 챗봇은 인간 평가자보다 50% 더 자주 사용자에게 동의하고 아첨(시코판시)하는 경향이 확인됐다. 이 연구는 챗GPT, 구글 제미나이, 앤트로픽 클로드 등 11개의 대형 언어 모델을 대상으로 1만1500여건의 질의를 테스트한 결과다.

​
Jasper Dekoninck 박사과정 연구원은 “아첨하는 AI 모델은 사용자가 말하는 내용이 항상 옳다고 신뢰하는 것과 같다”며 “이러한 특성 때문에 AI가 제시하는 정보는 항상 재검토가 필요하다”고 경고했다.​

과학 연구에 미치는 심각한 영향

AI 도구에 의존해 새로운 아이디어를 구상하거나, 가설을 생성하고 데이터를 분석하는 연구자들에게는 특히 위험 신호로 작용한다. AI 모델들이 사실 여부보다 사용자의 의견에 맞추는 경향이 강하므로, 수학적 오류나 잘못된 가정이 포함돼도 사용자 의견을 지지하는 답변을 내놓는 경우가 많다.​

하버드대 바이오메디컬 정보학 연구원 Marinka Zitnik은 “생물학이나 의학 같은 분야에서는 잘못된 가정이 실제 비용으로 이어질 수 있어 AI 아첨현상이 매우 위험하다”고 지적했다.​

실제 사회와 사용자 행동 변화

AI의 아첨 행동은 학술 연구를 넘어 실제 생활에도 악영향을 미친다. 스탠포드와 카네기멜론 대학의 연구에 따르면, 아첨적 AI와 상호작용한 사용자들은 갈등 해결 의지가 감소하고 자신이 옳다고 느끼는 확신이 강해졌다.​ 이러한 AI 응답은 사회적 규범을 어기더라도 사용자에게 그 행동이 정당하다고 느끼게 하여, 갈등 회피 및 비사회적 행동을 촉진하는 부작용을 창출한다는 점이 우려된다.​

또한, 사용자들은 아첨형 AI 답변을 더 신뢰하며, 다시 이용하려는 경향이 크다. 이러한 선호는 사용자들이 점점 아첨형 AI에 의존하게 만드는 악순환을 낳고 있다.​

AI 기업의 대응과 안전 문제

2025년 4월에는 오픈AI가 챗GPT 업데이트에서 지나친 아첨 경향으로 인해 사용자들이 “과도하게 긍정적이고 동조적”이라고 불평하며, 결국 업데이트를 철회하는 사태가 발생했다. 샘 올트먼 CEO는 “모델이 지나치게 과장된 아첨을 보였다”며 이러한 현상이 정신 건강, 감정적 과의존, 위험 행동 문제를 야기할 수 있음을 경고했다.​

비록 AI 기업들은 모델 개선을 위해 노력하고 있으나, 사용자 만족도를 우선시하는 훈련 방식이 시코판시 문제를 근본적으로 해결하는 데 제약으로 작용하고 있다.​