[뉴스스페이스=이은주 기자] 인스타그램이 AI로 만들어진 인물을 내세운 계정에 ‘AI 생성 프로필(AI-generated profile)’ 표기를 요구하고, 이를 누락한 계정은 추천 대상에서 제외하겠다고 밝혔다. 단순한 라벨 교체가 아니라, 생성형 AI가 만든 ‘가상 인간’이 실제 이용자와 사실상 구별되지 않는 SNS 환경에서 플랫폼이 처음으로 도달률을 제재 수단으로 삼은 조치라는 점에서 주목된다.

‘AI 크리에이터’에서 ‘AI 생성 프로필’로

the-decoder.com, 9to5google.com, engadget.com에 따르면, 메타는 2026년 8월 31일(현지시간) 인스타그램의 기존 ‘AI 크리에이터(AI creator)’ 표시를 ‘AI 생성 프로필’로 바꾼다고 알렸다. 새 표시는 단순히 AI 도구를 활용하는 창작자가 아니라, 계정 속에 등장하는 인물 자체가 인공지능으로 생성된 경우를 겨냥한다. 이용자가 보고 있는 모델·인플루언서·캐릭터가 실제 사람이 아니라는 사실을 계정 단위에서 선명하게 밝히겠다는 취지다.

메타가 직접 내놓은 문제의식도 명확하다. 회사는 “사람처럼 보이는 프로필을 보다가 나중에 그 인물이 AI 생성이라는 점을 알게 되는 것을 이용자들이 좋아하지 않는다는 의견을 들었다”고 설명했다. 이는 AI 프로필의 외형적 사실성이 높아진 데다, 기존의 ‘AI 크리에이터’라는 표현이 ‘AI를 소재로 콘텐츠를 만드는 인간 창작자’와 ‘AI가 만들어낸 인간형 페르소나’를 충분히 구분하지 못했다는 판단으로 읽힌다.

새 라벨은 프로필 화면뿐 아니라 피드 게시물, 릴스, 스토리에도 표시된다. 다만 게시물 자체에 이미 AI로 생성되거나 편집됐다는 별도 표지가 붙어 있다면, 프로필 라벨이 중복 표기되지 않을 수 있다. 현재 이 배지는 모바일에서 우선 표시되며, 데스크톱 웹 환경에는 보이지 않는 것으로 알려졌다.

핵심은 ‘표시 의무’ 아닌 추천 배제

이번 정책에서 가장 중요한 변화는 AI 프로필이라는 사실을 밝히지 않았을 때의 불이익이다. 인스타그램은 AI 생성 인물을 전면에 내세운 계정이 ‘AI 생성 프로필’ 라벨을 달지 않은 채 운영되면 추천 자격을 제한할 수 있다고 밝혔다. 해당 계정의 콘텐츠는 비팔로워에게 확산되는 추천 영역에서 제외될 수 있다.

인스타그램의 추천 제한은 통상 릴스 추천, 탐색 탭(Explore), 피드 추천 등에서의 노출 감소를 의미한다. 팔로워 기반이 약한 신규 계정이나 바이럴 확산을 사업모델로 삼는 가상 인플루언서에게는 사실상 성장 경로가 막히는 조치다. 광고·협찬·제휴 판매 등 인플루언서 수익은 조회수와 신규 이용자 도달률에 크게 좌우되기 때문에, ‘비추천(non-recommendable)’ 판정은 단순한 경고가 아니라 경제적 제재에 가깝다.

반대로 실제 사람이 자신의 얼굴과 정체성을 중심으로 활동하면서 AI로 사진을 보정하거나, 캡션 초안을 작성하거나, 그래픽을 제작하는 경우에는 계정 전체에 ‘AI 생성 프로필’ 표기를 할 필요가 없다. 메타가 문제 삼는 대상은 ‘AI를 쓴 사람’이 아니라 ‘사람처럼 행세하는 AI 인물’이라는 경계선이다.

메타의 전략 수정, ‘공존’에서 ‘구분’으로

이번 변화는 메타가 불과 2년 전과는 다른 방향을 택했다는 점에서 더 흥미롭다. 메타는 2024년 말 무렵 AI 캐릭터와 인간 이용자가 함께 활동하는 플랫폼 구상을 공개했고, 실제로 유명인의 외형과 성격을 차용한 공식 AI 캐릭터를 선보이기도 했다. 하지만 이 실험은 대중적 반응을 얻지 못했고, 회사는 이제 AI 인물을 확대하기보다 인간과 AI의 경계를 명시하는 데 정책의 무게를 싣고 있다.

이는 기술 자체의 실패라기보다, SNS의 핵심 자산인 ‘관계의 진정성’이 흔들렸기 때문으로 풀이된다. 이용자가 특정 계정을 팔로우하고 댓글을 달며 구매 추천을 신뢰하는 과정에는 “저기에는 실제 사람이 있다”는 암묵적 전제가 깔려 있다. AI 캐릭터가 인간처럼 보이되 그 사실을 숨기면, 문제는 단지 합성 이미지의 진위 여부가 아니라 관계·광고·추천·여론 형성의 기반 전체가 훼손될 수 있다는 데 있다.

특히 AI 프로필은 사람이 할 수 없는 속도로 증식할 수 있다. 인간 인플루언서 한 명을 기획·촬영·관리하는 데 필요한 시간과 비용을 줄이면서도, 브랜드별·언어권별·취향별로 서로 다른 가상 인물을 대량 생산할 수 있기 때문이다. 인스타그램이 라벨 미부착 계정의 ‘추천 자격’부터 제한한 것은, AI 계정 자체를 금지하기보다 대량 확산의 알고리즘적 이점을 통제하려는 절충안에 가깝다.

숫자가 보여주는 ‘합성 콘텐츠 홍수’

플랫폼 전체에서 AI 콘텐츠가 차지하는 비중을 신뢰할 만한 단일 공식 통계로 확정하기는 어렵다. 플랫폼들은 생성물의 정의, 탐지 방식, 표본, 중복 콘텐츠 처리 기준을 통일해 공개하지 않고 있다. 

다만 일부 표본조사는 변화의 방향을 보여준다. 영상 제작 플랫폼 캡윙(Kapwing)은 2025년 추천 영상 500개를 분석한 조사에서 유튜브 쇼츠의 21%가 AI 생성 콘텐츠라고 추정했다. 이 결과는 유튜브 전체나 인스타그램 전체의 AI 콘텐츠 비중을 뜻하지는 않지만, 짧은 영상 추천 영역에서 합성 콘텐츠가 이미 상당한 존재감을 보인다는 신호로 볼 수 있다.

링크드인 장문 게시물에 대한 오리지널리티AI(Originality.ai)의 2025년 분석에서는 조사 대상 글의 53.7%가 AI 작성 가능성이 있는 것으로 분류됐다. 그러나 AI 탐지기는 오류 가능성이 있고, 인간이 AI 초안을 편집한 경우와 완전 자동 생성물을 구별하는 데도 한계가 있다.

보다 중요한 사실은 AI 생성물의 양보다 ‘판별 비용’이 빠르게 커지고 있다는 점이다. 과거의 합성 이미지는 어색한 손가락, 부자연스러운 광원, 비정상적인 문구 등으로 식별 가능한 경우가 많았다. 그러나 이미지·영상 생성 모델의 품질 개선과 보정 도구의 결합으로, 일반 이용자가 프로필 사진 한 장이나 짧은 릴스만 보고 인간과 AI를 구별하기는 갈수록 어려워지고 있다. 메타가 이용자 불만을 근거로 라벨 명칭까지 고친 배경도 여기에 있다.

라벨은 시작일 뿐이다

업계는 게시물·계정 라벨을 넘어 콘텐츠의 출처와 편집 이력을 확인하는 기술 표준에도 주목하고 있다. 콘텐츠 출처 및 진위 연합(C2PA)의 ‘콘텐츠 자격증명(Content Credentials)’은 이미지·영상·문서에 제작 도구, 생성·편집 이력 등을 암호학적으로 검증 가능한 메타데이터 형태로 부착하는 방식이다. 2026년 2월 기준 C2PA는 6000개 이상 회원사·제휴사가 콘텐츠 자격증명을 적용한 서비스나 제품을 운영한다고 밝혔다.

다만 C2PA 역시 “무엇이 진짜인가”를 자동 판정하는 거짓말 탐지기가 아니다. 생성 또는 촬영 시점에 입력·서명된 출처 정보를 검증하는 장치이므로, 메타데이터가 처음부터 붙지 않았거나 파일 변환 과정에서 정보가 사라진 콘텐츠에는 한계가 있다. 즉, 기술적 출처 증명, 플랫폼의 라벨·추천 정책, 이용자의 비판적 미디어 리터러시가 함께 작동해야 한다.

인스타그램의 정책 변화는 “AI가 만든 인물도 SNS에서 활동할 수 있는가”라는 질문에 대한 금지가 아니다. 오히려 그 반대다. AI 인물의 활동은 허용하되, 이용자가 인간과 기계를 혼동한 상태에서 팔로우하고 소비하고 신뢰하게 해서는 안 된다는 원칙을 처음으로 알고리즘에 연결한 것이다. 이제 SNS의 새로운 기본 질문은 ‘이 콘텐츠가 재미있는가’에 더해, “누가 말하고 있는가, 그리고 그 존재는 실제인가”가 될 가능성이 커졌다.