[뉴스스페이스=이승원 기자] 팔란티어 최고경영자(CEO) 알렉스 카프가 프런티어 인공지능(AI) 연구소의 미래를 두고 “국유화” 가능성까지 언급한 것은 단순한 규제 강화론이 아니다. 초거대 AI가 낳을 수 있는 피해와 지식재산권 침해, 영업비밀 유출에 대한 민·형사상 책임을 민간 기업이 끝까지 떠안을 수 있느냐는 질문이다. AI 경쟁의 핵심 변수가 모델 성능과 컴퓨팅 자원에서 이제는 책임을 누가, 어디까지 부담할 것인가로 이동하고 있다는 신호다.

카프 CEO는 9월 17일 CNBC ‘스쿼크 온 더 스트리트’ 인터뷰에서 "AI 기업에 집행 가능한 합리적 가이드라인이 필요하다"고 말하면서도, "규제만으로는 충분하지 않다"고 주장했다. 그는 “첫 번째 방어선은 자신의 행동에 대해 책임을 지는 것”이라며, 위험한 기술을 만든 기업과 경영진이 민사상·형사상 책임을 져야 한다고 강조했다. 이어 “내가 보기에는 이들 기업이 국유화돼야 한다. 국유화하지 않으면 내 고객들이 모두 소송을 제기할 것”이라고 말했다. 카프가 말한 국유화는 정부가 AI 연구소의 리스크를 떠안는 대신 지분·통제권을 확보하는 구조를 뜻하는 것으로 해석된다.

카프의 논지는 AI 안전론 자체에 대한 부정이라기보다, 안전 담론의 이면에 있는 ‘책임 제한’ 요구를 겨냥한 것이다. 그는 팔란티어 고객사들이 자사의 독점적 사업 아이디어와 데이터가 AI 학습에 사용되고, 그 결과 경쟁사도 유사한 산출물을 얻게 될 수 있다는 우려를 제기한다고 전했다. 기업 내부 지식이 모델 학습·추론 과정에서 어떤 방식으로 흡수되고 재현됐는지 입증하기 어려운 상황에서, 피해 기업의 손해배상 청구가 누적될 경우 프런티어 모델 개발사의 우발채무는 사실상 상한을 설정하기 어렵다는 주장이다.

특히 카프는 프런티어 AI 기업의 상장 가능성에도 회의적인 시각을 보였다. CNBC 진행자가 상장신청서인 S-1에 이러한 잠재 책임을 어떻게 공시하겠느냐고 묻자, 그는 “S-1이 있을 것이라고 가정하고 있다. 글쎄, 있을 수도 있다”고 답했다. 이는 AI 기업의 기업가치가 기술력과 매출 전망만으로 평가되기 어려우며, 향후 사고·보안 침해·저작권 및 영업비밀 침해 소송의 규모와 책임 배분이 IPO의 핵심 위험요인이 될 수 있다는 지적이다. 

안전·상장·소송이 한꺼번에 얽힌 프런티어 AI

카프의 발언은 주요 AI 기업들이 안전 문제를 경영·자본시장 의제로 끌어올리는 시점에 나왔다. 샘 올트먼 오픈AI CEO는 12일 포천 인터뷰에서 2026년 IPO는 하지 않겠다고 밝혔다. 그는 현재의 AI 안전 환경에서 상장은 “현명하지 못한 순간(ill-advised moment)”이라며, 안전·정렬(alignment)과 정부·산업계 협력에 더 많은 과제가 남아 있다고 말했다. 로이터는 오픈AI가 AI로 인한 인류 멸종 위험이 10%에 이르는 상황조차 용인할 수 없다는 취지의 입장을 보였다고 보도했다.

앤트로픽의 다리오 아모데이 CEO도 같은 날 최첨단 모델의 능력 고도화 속도를 의도적으로 조절해야 한다고 주장했다. 아모데이는 외부 평가자에게 임직원 수준의 접근권을 주어 안전 관행과 사고를 검증하게 하고, 민주주의 국가의 주요 AI 기업들이 공동 안전 기준을 만들며, 이후 정부 간 공조로 범위를 확장하는 3단계 방안을 제시했다. 그는 개발 중단이 아니라, 정렬·안전장치 검증을 위해 충분한 시간을 확보하자는 취지라고 설명했다.

그러나 안전 속도 조절이 곧 사업 속도 조절을 의미하지는 않는다. 로이터는 앤트로픽이 이르면 10월 중순 IPO 마케팅을 시작하고, 11월 미국 중간선거 직전 상장을 마치는 방안을 검토하고 있다고 보도했다. 반면 오픈AI는 2026년 상장 계획을 접었다. 안전 리스크가 이미 자본조달 시점과 투자자 설득 논리, 기업가치 산정에 영향을 주기 시작했다는 뜻이다. 다만 앤트로픽의 구체적인 공모 시점·공모가·기업가치는 회사가 공식 발표한 사항이 아니며, 보도 단계의 정보로 구분할 필요가 있다.

규제 논쟁에서 ‘사후 배상’ 논쟁으로

오픈AI 역시 21일 미국이 프런티어 AI의 국제 기술표준 수립을 주도해야 한다고 촉구했다. 특히 모델 능력과 위험의 공통 측정 방식, 사고 보고 프로토콜, 국가별·국제적 기준을 연계할 장치가 필요하다고 제안했다. 이는 AI 기업이 자율규제만으로 신뢰를 얻기 어려워졌고, 표준화된 평가와 사고보고 체계가 시장 접근의 전제가 되고 있음을 보여준다.

카프의 메시지는 이 논쟁의 빈틈을 찌른다. 사전 안전평가와 기술표준이 중요하더라도, 사고가 발생했을 때 피해 기업·소비자·사회에 대한 최종 배상책임을 누가 부담할지는 별도 문제라는 것이다. 정부가 직접 소유하거나 지분을 보유할 경우, 국가는 감독자이면서 위험 공동부담자가 될 수 있다. 반대로 이는 도덕적 해이와 정치적 개입, 민간 혁신 위축, 정부의 손실 보전 논란을 낳을 수 있다. 카프 자신도 정부가 기업 이사회와 경영에 깊숙이 개입할 경우 기업가치와 시장 전반에 충격이 생길 수 있다고 경고했다.

결국 ‘AI 국유화론’은 당장 실행 가능한 정책 제안이라기보다, 프런티어 AI의 사업모델이 맞닥뜨린 구조적 모순을 과장된 방식으로 드러낸 발언에 가깝다. 기업은 초고도 AI의 경제적 이익을 민간에 귀속시키면서도, 통제 실패·데이터 침해·대규모 손해의 비용까지 감당할 수 있는가. 투자자는 미래 매출뿐 아니라 잠재 소송비용을 어떤 방식으로 가치에 반영할 것인가. 카프의 발언은 AI 산업이 ‘누가 더 강한 모델을 만드는가’의 경쟁을 넘어, ‘누가 최종 책임을 질 수 있는가’의 시험대에 올랐음을 보여준다.