[뉴스스페이스=김정영 기자] 오픈AI의 최고운영책임자(COO) 브래드 라이트캡은 3월 24일(현지시간) 메모리 칩 부족 심화가 현재 AI 인프라 확장의 가장 시급한 병목 현상으로 부상하여, 지난 2년간 업계의 주요 우려였던 전력 제약을 넘어섰다고 경고했다.

bloomberg, TechRadar, MacTech, phemex에 따르면, 워싱턴에서 열린 힐 앤 밸리 포럼에서 라이트캡은 단도직입적으로 “지금 병목은 메모리이고, 과거에는 전력이었다”고 못 박으면서, AI 인프라 확장의 최대 변수로 메모리 칩 부족이 공식 부상했다. 불과 2년 전까지만 해도 업계의 모든 화두는 전력망과 전기요금이었지만, 이제는 HBM(고대역폭 메모리)과 DRAM 확보전이 AI 패권 경쟁의 승패를 가르는 결정적 변수가 되고 있다.

이 발언은 오픈AI를 포함한 기업들이 엔비디아 가속기에 자원을 쏟아부으면서 AI 공급망의 구조적 변화를 강조한다. 각 가속기에는 메모리 칩이 탑재되어 있으며, 이는 전 세계 생산 능력에서 점점 더 큰 비중을 차지하고 있다.

메모리 공급난은 2025년 말부터 본격화됐다. 로이터와 여러 업계 조사에 따르면 마이크로소프트, 알파벳, 바이트댄스 등 빅테크가 삼성전자·SK하이닉스·마이크론 등 3대 제조사를 상대로 물량 선점전에 나서면서, 사실상 글로벌 DRAM과 HBM 시장의 90% 이상이 AI·클라우드용으로 잠식되고 있다.

리서치 기관 IDC와 트렌드포스, 그리고 이를 인용한 주요 매체 보도에 따르면 2026년 생산될 ‘고급 메모리 칩’ 중 70% 이상을 데이터센터(특히 AI 데이터센터)가 흡수할 것이라는 전망이 지배적이다. IDC는 이를 “AI를 향한 생산 능력의 영구적 재분배(permanent reallocation)”라고 규정하며, PC·스마트폰·게임기 등 나머지 수요처는 구조적으로 ‘후순위’로 밀려나는 국면이 됐다고 진단했다.

가격 신호는 이미 극단적으로 나타나고 있다. 2026년 1분기 서버 DRAM 가격은 분기 대비 60% 이상, 일부 범용 RAM은 40~50% 추가 상승이 거론될 만큼 급등세를 이어가고 있으며, 한국 매체와 분석 리포트는 특정 고성능 메모리 모듈이 석 달 새 2.5배(약 156%)까지 뛰었다고 전한다. 시차를 두고 SSD·그래픽카드·게임콘솔까지 연쇄적인 가격 인상과 공급 타이트닝이 뒤따르는 전형적인 ‘반도체 슈퍼 사이클형 병목’이 재현되고 있는 셈이다.

SK하이닉스 측은 업계 행사에서 “웨이퍼 공급 부족이 20%를 상회하며 메모리 타이트 상황이 2030년까지 이어질 수 있다”고 경고했다. 설비투자를 통해 증설에 나서더라도 신규 팹이 실질 가동에 들어오기까지는 최소 2년 이상 소요되기 때문에, 수급 불균형은 중장기 구조 요인으로 굳어질 가능성이 크다.

라이트캡의 발언은 이 같은 구조 변화를 상징적으로 압축한다. 그는 워싱턴 힐 앤 밸리 포럼에서 “지금 병목은 메모리이고, 과거에는 전력이었다”면서, 미국 내 에너지 공급 제약과 HBM·DRAM 수급 불안이 동시에 AI 인프라 확장의 속도를 제약하고 있다고 공개적으로 인정했다.

오픈AI를 비롯해 주요 AI 업체들이 엔비디아 가속기를 대량으로 매입하는 과정에서, 가속기 한 개당 수십~수백GB의 HBM이 필수적으로 탑재되다 보니, 메모리 업체 입장에서는 자연스럽게 AI·데이터센터향 제품에 생산 캡파를 몰아줄 수밖에 없는 구조가 된다.

문제는 이 과정이 단순한 ‘일시적 쏠림’이 아니라는 점이다. 트렌드포스와 IDC, 그리고 이를 인용한 다수 매체는 이번 사이클을 “이번에는 정말 다르다(this time really is different)”고 규정한다. 스마트폰이나 PC 교체 수요처럼 경기와 교체주기에 연동되는 일회성 업그레이드가 아니라, AI 모델 규모와 파라미터 수가 기하급수적으로 늘어나는 구조적 수요이기 때문이다.

메모리뿐 아니라 서버용 CPU도 새 병목으로 떠오르고 있다. 쿼츠와 로이터 보도에 따르면 인텔과 AMD는 중국 고객사들에게 일부 서버 CPU 납기(리드타임)가 최대 6개월까지 늘어났다고 통보했고, 중국 내 인텔 서버 CPU 가격은 평균 10% 이상 인상된 것으로 알려졌다.

AI가 챗봇 수준을 넘어 ‘에이전틱(Agentic) AI’로 진화하면서, GPU·NPU가 연산을 담당하는 동안 이를 오케스트레이션하고 I/O·전처리·후처리 등을 수행하는 범용 CPU 수요가 급증한 탓이다.

AMD 리사 수 CEO는 모건스탠리 컨퍼런스에서 “CPU 비즈니스 수요가 제 예상치를 훨씬 상회했다”고 말하며, inference(추론) 수요 증가가 CPU 판매를 예상보다 빠르게 끌어올리고 있다고 설명했다. 인텔 역시 CFO 데이비드 진스너를 통해 “AI 에이전트 확산으로 전통적인 ‘CPU 컴퓨트’가 다시 중요해졌다”며, 고객들이 장기 공급 계약을 요구할 정도로 CPU 공급이 타이트해졌다고 인정했다.

결국 AI 인프라의 병목은 ‘GPU 한 가지 부품’이 아니라, HBM·DRAM과 서버 CPU, 그리고 전력·냉각·네트워크를 포함한 전체 시스템으로 확장되고 있다. 메모리와 CPU를 동시에 확충하지 못할 경우, 비싼 GPU를 데이터센터에 쌓아두고도 제대로 활용하지 못하는 이른바 ‘유휴 GPU 비용’이 커지는 구조적 비효율이 불가피하다.

AI 편중의 그늘은 소비자 IT 시장에서 가장 먼저 드러난다. IDC는 최근 보고서에서 2026년 글로벌 PC 출하량 전망을 전년 대비 11.3% 감소로 대폭 하향 조정했다. 불과 2025년 11월까지만 해도 -2.4% 감소를 예상했지만, 메모리 공급 차질과 부품 가격 상승, 지정학적 리스크까지 겹치면서 한 해 만에 전망을 9%포인트 가까이 낮춘 셈이다.

태블릿 역시 2026년 7%대 중반(-7.6%) 역성장이 예고됐고, 스마트폰도 5% 안팎의 판매 감소 가능성이 여러 리포트를 통해 거론되고 있다.

칩 설계 자동화(EDA) 업체 시놉시스의 사신 가지 CEO는 CNBC 인터뷰에서 “AI 데이터센터 건설 붐이 메모리 시장 대부분을 빨아들이고 있어, 이 칩 부족 ‘크런치’는 최소 2027년까지 이어질 것”이라고 전망했다. 그는 대형 메모리 업체들이 증설에 나섰지만, 신규 라인이 양산에 들어가기까지 최소 2년 이상 걸린다는 점을 들어 단기적 해법은 사실상 없다고 잘라 말했다.

퀄컴 역시 2026년 2월 실적 전망을 하향 조정하면서, 크리스티아노 아몬 CEO가 “메모리 문제로 인해 업계 전체가 영향을 받고 있다”고 인정했다. 스마트폰 AP 업체 입장에서도, 메모리 모듈 가격 급등과 수급 불확실성이 원가·공급 전략의 최대 리스크로 부상했다는 뜻이다.

현재 전개되는 메모리·CPU 공급난은 단기 쇼크를 넘어 AI 인프라 투자 구조를 재편하는 ‘패러다임 전환’의 성격을 띠고 있다. 우선, 데이터센터는 한정된 투자 예산 안에서 GPU뿐 아니라 메모리·CPU·전력 인프라까지 동시 확충해야 하는 압박을 받게 되며, 이는 결과적으로 AI 서비스 가격·클라우드 요금 인상으로 전가될 가능성이 크다.

라이트캡의 “이제 병목은 메모리”라는 짧은 한 문장은, GPU가 아니라 메모리·CPU·전력까지 포함한 ‘풀 스택 인프라’ 확보 경쟁이 AI 패권의 진짜 승부처로 부상했음을 알리는 신호탄이다. 앞으로 3~5년은 “누가 더 많은 AI 칩을 샀느냐”가 아니라 “누가 더 안정적인 메모리·CPU·전력 공급망을 구축했느냐”로 승부가 가려질 가능성이 크다.