젠슨 황 엔비디아 최고경영자(CEO)가 미국 캘리포니아주 새너제이에서 개최된 'GTC 2026' 둘째 날인 17일(현지시간) '젠슨 황 CEO 프레스 & 크리에이터 Q&A'에서 발언하고 있다. [사진=조성준 기자]

"우리는 TSMC는 물론 삼성과도 함께 일하고 있다. 메모리를 워낙 많이 쓰기 때문에 모든 메모리 업체와 협력하게 될 것이다."

젠슨 황 엔비디아 최고경영자(CEO)는 미국 새너제이에서 열린 'GTC 2026' 이튿날인 17일(현지시간) 프레스 & 크리에이터 질의응답 세션에서 이같이 말하며 향후 AI 시대의 핵심 변수로 '제조 역량'과 '메모리 공급망'을 동시에 짚었다. 현장에 대만계 기자들이 대거 참석한 가운데 TSMC와 함께 삼성전자를 메모리 파트너로 직접 언급해 눈길을 끈다. 뒤이어 SK하이닉스를 염두한 '모든 메모리 업체'라는 표현을 써 인공지능(AI) 인프라 확대 국면에서 국내 반도체 기업의 역할이 커질 것이란 분석이 나온다.

이날 황 CEO는 "우리는 GPU를 만드는 것이 아니라 팩토리(Factory)를 만들고 있다"고 강조했다. AI를 더 이상 '칩 성능 경쟁'이 아니라 '토큰을 생산하는 공장'의 개념으로 바라봐야 한다는 것이다. AI 산업 구조 자체가 바뀌고 있다는 문제의식에 대한 그의 해답인 셈이다.

실제 그는 AI 산업의 중심축이 이미 학습(Training)에서 추론(Inference)으로 이동했다고 진단했다. "우리는 2024년 말부터 AI 추론에 엄청난 자원을 투입했고, NVLink 72, NVFP4, Dynamo를 통해 오늘날 가장 낮은 비용과 가장 높은 처리량을 구현했다"며 "토큰 생산 단가와 처리량에서 우리가 가장 앞서 있다"고 자신했다.

특히 그는 "모든 토큰은 동일하지 않다"고 강조했다. 모델 크기, 입력 컨텍스트, 요구 지연시간이 모두 다른 만큼 AI 인프라도 다층 구조로 진화해야 한다는 설명이다. 이러한 변화 속에서 등장한 해법이 차세대 플랫폼 '베라 루빈'과 새로운 연산 구조의 결합이다. 황 CEO는 "모델은 더 커지고, 컨텍스트도 커지며, 동시에 속도는 더 빨라져야 한다"며 "이 세 가지를 동시에 만족시키는 구조를 만들고 있다"고 말했다.

이 과정에서 메모리의 중요성도 반복적으로 언급됐다. 그는 "AI가 작동하려면 단기, 작업, 장기 메모리가 모두 필요하다"며 "메모리는 AI의 매우 큰 부분"이라고 했다. 이어 "우리는 HBM, LPDDR 등 다양한 메모리 기술 전반에 최적화된 아키텍처를 갖춘 유일한 회사"라고 덧붙였다. 단순히 용량 확대가 아니라, 다양한 메모리 기술을 동시에 활용하는 방향으로 AI 인프라가 진화하고 있다는 설명이다.

엔비디아의 사업 구조 역시 이러한 변화에 맞춰 재편되고 있다. 황 CEO는 "우리는 더 이상 칩 회사가 아니라 풀스택 기업"이라며 "AI 공장을 구축할 수 있는 회사"라고 말했다. 실제로 그는 전체 사업의 약 40%가 클라우드 외 영역에서 발생하고 있으며, 이들 고객은 칩이 아닌 '플랫폼'을 구매한다고 강조했다. CPU, GPU, 네트워크, 스토리지, 소프트웨어를 통합해 하나의 시스템으로 제공하는 구조가 핵심 경쟁력이라는 의미다.

AI 추론 경쟁력에 대해서도 강한 자신감을 드러냈다. 그는 "우리는 추론용 AI칩에서 업계 최고"라며 "그 이유는 극단적인 공동 설계(Co-Design)"라고 설명했다. CPU, GPU, 메모리, 네트워크, 스토리지가 동시에 최적화돼야 추론 성능이 극대화된다는 것이다. 이는 개별 칩 성능이 아니라 전체 시스템 효율로 경쟁하겠다는 전략으로 해석된다.

전문가들은 이날 황 CEO가 AI 시대는 '칩'이 아니라 '공장'의 시대이며, 이를 구현하기 위해서는 막대한 제조 역량과 메모리, 그리고 이를 통합하는 플랫폼이 필요하다는 것을 선언했다고 보고 있다.

한편, 업계에선 이 같은 맥락에서 삼성전자와는 단순 협력 수준을 넘는 파트너십 재설정이 진행될 것이란 전망이 나온다. 파운드리와 메모리를 동시에 보유한 IDM(종합반도체기업) 구조가 엔비디아가 지향하는 'AI 팩토리' 전략과 맞닿아 있기 때문이다.
아주경제=새너제이(미국)=조성준 기자 critic@ajunews.com

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -