GTC 2026에서 뭐가 발표됐나

2026년 3월 16일부터 19일, 캘리포니아 산호세 SAP 센터. NVIDIA GTC 2026은 190개국 약 3만 9천 명이 참석한 행사였고, 젠슨 황은 그 자리에서 Vera Rubin 플랫폼을 전면 공개했습니다. 1월 CES에서 맛보기로 보여줬던 것을 이번에 완전히 펼쳐놓은 겁니다.

발표 핵심은 칩 7개, 랙 5종을 하나의 AI 팩토리 시스템으로 통합한다는 것이었습니다. Rubin GPU, Vera CPU, ConnectX-9, BlueField-4, Spectrum-6까지는 이미 예고됐던 것들이지만, 이번에 처음 등장한 이름이 있었습니다. NVIDIA Groq 3 LPX — 엔비디아 최초의 비GPU 랙스케일 AI 가속기입니다.

발표 직후 “LPU가 GPU를 대체한다”는 말이 다시 돌기 시작했습니다. 하지만 공식 키노트 PDF(2026.03.16 발표자료)를 직접 열어보면, 이 칩이 어떤 조건에서 35배 성능을 내는지가 훨씬 구체적으로 나옵니다.

▲ 목차로 돌아가기

Groq 3 LPX, 그게 정확히 뭔가요

LPX는 Language Processing eXtended의 약자로, Groq의 LPU(언어 처리 장치) 256개를 하나의 랙에 집적한 추론 전용 가속기입니다. 핵심 칩은 LP30으로, 삼성 4nm 공정에서 제조됩니다(출처: Tom’s Hardware, 2026.03.17).

LP30의 스펙을 공식 키노트 슬라이드 42~45페이지에서 직접 확인하면 이렇습니다.

여기서 눈에 띄는 숫자는 SRAM 대역폭입니다. LP30 칩 하나의 SRAM 대역폭이 Rubin GPU HBM4 대역폭의 약 6.8배입니다. 토큰을 하나씩 순차 생성하는 decode 단계에서 이 차이가 그대로 속도 차이로 나타납니다.

▲ 목차로 돌아가기

“GPU 대체”가 아닌 이유 — 숫자로 확인

LLM 추론에는 두 단계가 있습니다. Prefill(프롬프트를 처리해 첫 번째 토큰을 만드는 과정)과 Decode(이후 토큰을 하나씩 생성하는 과정)입니다. NVIDIA 공식 뉴스룸(2026.03.16)에 이렇게 나와 있습니다.

Groq 3 LPX는 decode만 담당합니다. Prefill은 무조건 Rubin GPU가 처리해야 합니다. LPX 단독으로는 추론 한 사이클도 완결할 수 없습니다.

GPU vs LPU 구도로 보는 시각 자체가 어긋났습니다. NVIDIA가 GTC 2026에서 보여준 건 GPU를 버리는 게 아니라, GPU가 못하는 영역을 LPU로 채우는 이종 칩 협력 구조입니다.

▲ 목차로 돌아가기

35배가 가능한 구체적 조건

35배라는 숫자가 성립하려면 세 가지 조건이 동시에 맞아야 합니다. NVIDIA GTC 2026 키노트 PDF p.40~41 슬라이드에서 직접 확인한 내용입니다.

세 조건 모두 충족 시, 기가와트 단위 AI 팩토리에서 연간 수익 기회가 Blackwell 기준 $150B에서 $300B으로 2배 확장된다는 계산이 나옵니다(출처: NVIDIA GTC 2026 Keynote PDF p.41). 일반 기업 서버에 LPX 한 장 꽂아서 35배 성능이 나온다는 얘기가 아닙니다.

▲ 목차로 돌아가기

놓치기 쉬운 함정 — Rubin CPX 실종

GTC 2026 키노트를 꼼꼼히 본 사람들 사이에서 한 가지 이름이 화제가 됐습니다. Rubin CPX입니다. 2025년 9월 Vera Rubin 플랫폼 발표 때 GDDR7 기반 추론 가속기로 로드맵에 등록됐던 칩인데, GTC 2026 키노트 슬라이드 어디에도 등장하지 않았습니다.

이것이 단순한 제품 변경이 아닌 이유가 있습니다. CPX가 사용하려 했던 GDDR7은 HBM4보다 공급이 풍부하고 저렴합니다. 그 자리를 SRAM 중심의 Groq LPX가 대신 채운다는 건, HBM 수급 압박이 지속되는 상황에서 NVIDIA가 아예 다른 메모리 아키텍처로 방향을 틀었다는 신호로 읽힙니다.

기존에 CPX 소프트웨어 최적화에 투자한 기업들에게는 호환 여부가 불명확한 상황입니다. NVIDIA의 공식 입장 발표를 기다려야 하는 부분입니다.

▲ 목차로 돌아가기

Groq라는 회사는 어떻게 됐나

여기서 잠깐 배경을 짚어야 합니다. GTC에서 발표된 Groq 3 LPX는 2016년 설립된 AI 칩 스타트업 Groq Inc.의 기술을 기반으로 합니다. NVIDIA는 지난 크리스마스 이브(2025년 12월 24일)에 Groq와 $20B 규모의 IP 라이선스 계약을 체결했고, 핵심 직원 대부분을 흡수했습니다(출처: Tom’s Hardware, 2026.03.17).

Groq는 원래 2025년 회계연도 매출 목표를 $500M으로 잡고 있었지만, 그것도 독립 유지에는 부족했습니다. CUDA 생태계 밖에서 경쟁하는 경제성이 한계에 달했다는 분석이 나옵니다. Bernstein 애널리스트 Stacy Rasgon은 “비독점 라이선스 구조가 경쟁의 외양을 유지하면서 사실상 경쟁자를 무력화한다”고 평했습니다.

이 구도는 단순히 “좋은 칩이 나왔다”는 이야기가 아닙니다. Cerebras, Untether AI(AMD에 흡수), SambaNova(Intel 투자)까지, 독립 추론 칩 스타트업들이 모두 대형 플랫폼에 편입되고 있습니다. LPX가 CUDA 생태계의 새로운 레이어가 된다는 건, 나중에 교체할 선택지가 줄어든다는 뜻이기도 합니다.

▲ 목차로 돌아가기

Q&A

▲ 목차로 돌아가기

마치며

Groq 3 LPX를 한 줄로 요약하면 이렇습니다. GPU의 약점을 채우는 파트너 칩이지, GPU를 대체하는 칩이 아닙니다. 150 TB/s SRAM 대역폭은 인상적이지만, 그게 작동하려면 옆에 Rubin GPU가 반드시 있어야 합니다.

35배라는 숫자는 실제이지만, 조 단위 파라미터 모델 + 초고가 워크로드 + MW당 효율 기준이라는 조건이 붙습니다. 그 조건 밖에서는 2~3배 수준입니다. Rubin CPX가 로드맵에서 사라진 것도 놓치면 안 되는 대목입니다. 아무런 공식 발표 없이 조용히 빠진 것이기 때문입니다.

Groq라는 회사가 $20B에 기술을 넘긴 배경도 한번 생각해볼 만합니다. 연매출 목표 $500M도 독립 유지에 부족했던 스타트업의 기술이, NVIDIA 플랫폼 안에 들어와서 영구적인 아키텍처 레이어가 됩니다. Mellanox가 그랬던 것처럼요. 나중에 교체하기 어려운 구조가 된다는 뜻입니다.

2026년 하반기 실제 출하가 시작되면 더 많은 수치가 나올 것입니다. 지금은 공식 발표 수치를 기준으로, 조건을 정확히 파악하고 보는 시점입니다.

▲ 목차로 돌아가기

1. NVIDIA Vera Rubin Platform 공식 발표 — NVIDIA Newsroom (2026.03.16)
2. NVIDIA GTC 2026 Keynote 공식 슬라이드 PDF (2026.03.16)
3. The Decoder — GTC 2026: With Groq 3 LPX, Nvidia adds dedicated inference hardware (2026.03.17)
4. NetworkWorld — Nvidia targets inference as AI’s next battleground with Groq 3 LPX (2026.03.17)
5. Tom’s Hardware — Nvidia’s $20 billion Groq deal produces its first chip (2026.03.17)
6. NVIDIA 공식 블로그 — GTC 2026 Live Updates (2026.03.16~19)