[뉴스스페이스=김정영 기자] MIT 연구진이 대규모 확산형 이미지 생성 모델에서 특정 학습 이미지와 생성 결과 사이의 인과관계를 입증하기가 사실상 불가능해질 수 있다는 결과를 내놨다. 이는 AI 기업에 자동 면책을 주는 발견이 아니라, 저작권 소송의 쟁점을 ‘학습 여부’에서 ‘실질적 복제와 출력 단계의 인과성’으로 옮길 수 있는 기술적 근거다.

데이터가 클수록 희미해지는 개별 이미지의 흔적

MIT News, theregister, zmescience, aifeed, blogspan, xenospectrum에 따르면, MIT 컴퓨터과학·인공지능연구소(CSAIL)의 Zheng Dai와 David Gifford 연구진은 Nature Communications에 공개한 연구에서 ‘저작권 귀속 소멸(attribution decay)’ 현상을 제시했다. 생성 모델이 더 많은 이미지로 학습될수록, 특정 결과물에 대해 개별 학습 이미지 한 장이 미친 영향을 찾아내기 어려워지고, 일정 규모를 넘으면 그 영향 자체가 측정되지 않을 수 있다는 내용이다.

연구진은 단일 거대 모델을 매번 다시 훈련하는 대신, 데이터셋의 서로 겹치는 부분집합으로 학습한 여러 구성 요소를 결합하는 ‘디퓨전 앙상블(diffusion ensemble)’ 구조를 설계했다. 특정 이미지의 영향을 확인할 때는 그 이미지를 학습한 구성 요소를 제외해, 해당 이미지가 학습에 없었을 경우의 결과물인 반사실적 출력(counterfactual output)을 만들었다. 이는 기존의 영향도 추정 기법과 달리, 특정 데이터의 학습 영향을 실제로 제거하는 방식이라는 점에서 차별화된다.

실험 규모도 적지 않다. 연구진은 CIFAR-10, CelebA, MetFaces, ArtBench 등 7개 공개 이미지 컬렉션을 활용해 총 24개 앙상블을 구축했고, 학습 데이터 규모는 256장부터 16만 장 이상까지 확대했다. 그 결과 데이터셋이 커질수록 원래 출력과 특정 데이터를 배제한 출력 사이의 최대 차이인 ‘반사실 반경(counterfactual radius)’이 역멱법칙(inverse power law)에 따라 줄어드는 경향이 확인됐다. 픽셀 단위와 의미론적 유사성 등 복수 지표에서도 같은 흐름이 관찰됐다고 MIT는 설명했다.

특히 연구진은 소규모 조건에서 1,282개의 모델을 별도로 재학습하는 방식으로도 결과를 검증했다. 데이터 제거 방식 자체가 결과를 왜곡했을 가능성을 점검하기 위해서다. 제거 비율을 고정하거나, 학습 에포크·텍스트 프롬프트·클래스 조건·4개 유사도 지표를 바꿔도 귀속 소멸 패턴은 유지됐다고 연구진은 밝혔다.

“학습했다”와 “그 결과를 만들었다”는 다르다

이번 논문의 핵심은 AI 모델이 특정 이미지를 학습 데이터로 보유했다는 사실과, 해당 이미지가 특정 생성물의 원인이라는 주장이 동일하지 않다는 데 있다. Dai 연구원은 특정 데이터를 빼도 결과가 변하지 않는다면 그 데이터가 해당 출력에 영향을 미쳤다고 보기 어렵다는 취지로 설명했다.

이 논리는 현재의 AI 저작권 분쟁에서 중요한 구분을 요구한다. 원고가 제기하는 첫 번째 문제는 작품이 무단으로 수집·학습됐는지다. 두 번째는 그 학습이 특정 출력의 실질적 유사성, 복제 또는 2차적 저작물성으로 이어졌는지다. MIT 연구는 후자의 인과관계를 개별 학습 샘플 단위로 입증하는 일이 데이터 규모가 커질수록 어려워질 수 있음을 보여준다.

다만 이것이 “대규모 데이터로 학습했으니 침해가 아니다”라는 결론으로 직행하지는 않는다. 연구진도 모델의 암기와 재현이 발생할 수 있음을 명시했다. 특정 이미지가 거의 그대로 출력되거나, 희귀한 작품·워터마크·인물 사진이 반복적으로 재현되는 경우라면, 저작권·퍼블리시티권·개인정보 문제는 여전히 별도로 검토돼야 한다. 논문이 다룬 대상도 이미지 확산 모델이며, 대규모 언어모델(LLM)에 동일한 현상이 성립하는지는 아직 검증되지 않았다.

소송의 승부처는 ‘데이터셋 공개’만이 아니다

AI 저작권 소송에서 원고 측은 대체로 학습 데이터 접근, 작품 포함 여부, 출력의 유사성, 모델의 암기 가능성 등을 입증하려 한다. 그러나 이 연구는 데이터셋에서 특정 작가의 작품이 발견됐다는 사실만으로 개별 출력물의 침해적 파생성을 곧바로 설명하기 어렵다는 문제를 부각한다.

코넬 로스쿨과 코넬 테크의 James Grimmelmann 교수는 MIT 발표를 통해, 귀속 분석이 제대로 작동한다면 특정 결과물과 저작권 보호 작품의 유사성이 복제 때문인지 우연인지 판별할 수 있어야 하지만, 이번 논문은 “흥미로운 모델”에서는 그러한 귀속이 실패할 수 있다는 근거를 제시한다고 평가했다. 법원과 기술 전문가는 복제 여부를 평가하기 위해 다른 방법을 사용해야 할 것이라는 견해다.

즉, 법적 판단은 “그림 한 장이 데이터셋에 있었는가”라는 정적 사실보다, “그림 한 장 또는 특정 창작자의 표현이 어떤 경로로 출력에 실질적으로 재현됐는가”라는 동적 증명에 더 의존할 수 있다.

AI 기업에는 방패이자 새로운 의무

이번 연구는 AI 기업에 유리한 면과 부담을 동시에 안긴다. 대형 모델에서 개별 데이터의 출력 기여도가 극히 작거나 측정 불가능하다는 점은 특정 생성 결과를 한 작가나 한 작품에 귀속시키려는 주장에 방어 논리가 될 수 있다. 반면 기업이 이를 방어에 활용하려면 실제 모델이 개별 저작물을 암기·재생산하지 않도록 설계·검증됐다는 것을 보여줘야 한다.

Gifford 교수도 기업들이 “인터넷의 개별 항목에 대한 파생물”을 생성하지 않는다고 주장하려면, 그러한 비귀속성을 보장·입증할 수 있는 모델 개선과 검증 역량을 갖춰야 한다는 취지로 강조했다. 단순히 학습 데이터가 많다는 사실만으로는 충분하지 않고, 데이터 거버넌스와 출력 안전성 평가가 결합돼야 한다는 의미다.

산업적으로는 세 가지 과제가 선명해진다. 첫째, 기업은 고위험 저작물·유명 작가·인물·상표에 대해 데이터 출처와 삭제 요청을 추적할 수 있는 체계를 갖춰야 한다. 둘째, 모델 출시 전후로 재현성·근접복제·워터마크 생성 여부를 테스트하고 그 결과를 기록해야 한다. 셋째, 소송이나 규제 조사 시 학습 데이터가 출력에 미친 영향을 단순 추정이 아닌 재현 가능한 방식으로 설명할 수 있어야 한다.

MIT 연구가 보여준 것은 저작권 문제가 사라진다는 사실이 아니라, AI 시대의 저작권 책임을 계산하는 방식이 더 복잡해졌다는 점이다. 학습 데이터의 무단 이용 문제는 여전히 남지만, 개별 결과물의 책임을 묻는 법정에서는 이제 ‘무엇을 학습했는가’ 못지않게 ‘무엇이 실제 출력의 원인이었는가’가 핵심 질문으로 부상할 전망이다.