[뉴스스페이스=김정영 기자] 오픈AI가 엔비디아의 최신 AI 칩 성능에 불만을 드러내며 추론 작업용 대체 GPU를 적극 확보하고 있다.

로이터 통신은 2026년 2월 2일(현지시간) 복수 소식통을 인용해 오픈AI가 지난해부터 코딩과 AI-소프트웨어 통신 등 특정 영역에서 엔비디아 GPU 기반 챗GPT 응답 속도에 불만족했다고 보도했다. 이에 오픈AI는 향후 전체 추론 컴퓨팅 수요의 약 10%를 대체 칩으로 대체할 계획이다.

추론 지연 원인: HBM-SRAM 전환 전략

reuters, tradingview, investinglive, binance, techcrunch, theverge, engadget, moneycontrol에 따르면, 오픈AI의 불만은 GPU와 외장 고대역폭 메모리(HBM) 간 통신 과정에서 발생하는 지연으로 분석된다. 이에 따라 칩 내부에 SRAM을 집적해 메모리 접근 속도를 높인 솔루션을 대안으로 검토 중이며, 이는 엔비디아의 범용 GPU 대비 추론 최적화된 접근이다. 경쟁사인 앤트로픽의 클로드나 구글의 제미니는 구글 자체 TPU를 활용해 유사한 성능 우위를 점하고 있다.

세레브라스 100억 달러 공급 계약: 750MW 컴퓨트 확보

오픈AI는 SRAM 집적 웨이퍼 스케일 칩 전문 스타트업 세레브라스(Cerebras)와 지난 1월 14일 100억 달러(약 14조원) 규모 공급 계약을 체결했다. 이 계약으로 세레브라스는 올해 말부터 2028년까지 750메가와트(MW) 컴퓨팅 파워를 제공하며, 챗GPT의 실시간 추론 속도를 가속화할 전망이다. 세레브라스 CEO 앤드루 펠드먼은 "광대역이 인터넷을 변화시켰듯, 실시간 추론이 AI를 혁신할 것"이라고 강조했다.

그록 협상 중단, 브로드컴 자체 칩 개발 가속

오픈AI는 SRAM 기반 칩 업체 그록(Groq)과도 공급 협상을 벌였으나, 엔비디아가 지난해 12월 그록과 200억 달러 규모 라이선스 계약을 체결한 후 중단됐다. 별도로 미국 반도체 기업 브로드컴과 협력해 엔비디아 의존을 줄이는 자체 칩 생산을 추진 중이며, 2025년 10월 발표된 이 파트너십은 2026년 하반기부터 10기가와트(GW) 규모 커스텀 AI 가속기를 배포한다. 이는 AMD와의 6GW, 엔비디아와의 10GW 계약과 맞물려 오픈AI의 다각화 전략을 뒷받침한다.

양사 불화 부인: 올트먼 "엔비디아 최고 칩", 황 "대규모 투자 지속"

엔비디아는 "고객들이 대규모 환경에서 최고 성능과 총소유비용(TCO)을 위해 우리를 선택한다"고 반박했다. 샘 올트먼 오픈AI CEO는 "엔비디아와 일하는 걸 사랑하며, 그들은 세계 최고 AI 칩 제조사"라며 "앞으로도 거대 고객이 되길 바란다"고 불화설을 일축했다.

젠슨 황 엔비디아 CEO도 WSJ 보도(지난해 9월 1000억 달러 투자 보류)를 "터무니없다"고 부인하며, 오픈AI 자금 조달 라운드에 "사상 최대 투자"를 약속했다.

이러한 움직임은 AI 칩 시장의 공급망 다각화 추세를 가속화하며, 엔비디아의 독주에 균열을 내는 신호탄으로 풀이된다. 오픈AI의 포트폴리오 전략은 "워크로드별 최적 시스템 배분"으로 요약되며, 향후 실시간 AI 상용화에 핵심 동력이 될 전망이다.