① 네모트론3 슈퍼가 뭔데 이렇게 난리인가?

엔비디아 네모트론3 슈퍼(NVIDIA Nemotron-3 Super)는 2026년 3월 12일 오늘 공식 출시된
120B(총 1,200억) 파라미터 오픈소스 AI 모델입니다. 한국 시각으로 오늘 새벽 엔비디아가 공식 블로그를 통해 발표했으며,
동시에 Hugging Face·NVIDIA build·OpenRouter·Perplexity 등 주요 플랫폼에 즉시 배포됐습니다.

핵심 포인트는 크게 세 가지입니다. 첫째, 총 파라미터가 120B이지만 추론 시 실제로 활성화되는 파라미터는 단 12B에 불과해
비용과 속도 면에서 압도적입니다. 둘째, 최대 100만 토큰(1M-token) 컨텍스트 윈도우를 지원해
방대한 코드베이스나 수천 페이지의 문서를 한 번에 처리할 수 있습니다.
셋째, 완전 오픈 라이선스(NVIDIA Nemotron Open Model License)로 기업들이 자체 인프라에 배포·커스터마이징할 수 있습니다.

이 모델이 특별한 이유는 단순히 ‘크기’가 아닙니다. Perplexity, CodeRabbit, Factory 등 이미 실제 서비스에 통합됐고,
Palantir·Siemens·Cadence 같은 글로벌 엔터프라이즈가 즉시 채택하겠다고 발표했다는 점에서
‘연구용 모델’이 아니라 ‘즉시 실무 투입형 모델’임을 알 수 있습니다.

▲ 목차로 돌아가기

② 120B인데 실제로 쓰는 파라미터는 12B — MoE 구조 해부

하이브리드 맘바-트랜스포머 MoE 아키텍처

네모트론3 슈퍼의 핵심 구조는 맘바(Mamba-2) + 트랜스포머 어텐션 + MoE(Mixture-of-Experts)를
하나의 백본으로 통합한 하이브리드 아키텍처입니다. 세 가지 레이어 유형이 교차 배치되어 있으며,
각 레이어가 서로 다른 역할을 담당합니다. Mamba 레이어는 100만 토큰 길이의 시퀀스를
메모리 폭발 없이 처리하는 역할을 하고, Transformer 어텐션 레이어는 긴 문맥 속에서
특정 사실을 정밀하게 검색하는 역할을 합니다. MoE 레이어는 토큰당 활성화되는 전문가(Expert)를
동적으로 선택하여 실제 연산량을 12B 수준으로 유지합니다.

레이턴트 MoE(Latent MoE): 같은 비용으로 4배 더 많은 전문가

네모트론3 슈퍼가 전작 대비 2배 높은 정확도를 달성한 핵심 기술이 바로 레이턴트 MoE입니다.
기존 표준 MoE는 전체 히든 차원에서 바로 전문가로 토큰을 라우팅하는데,
레이턴트 MoE는 먼저 토큰 임베딩을 저차원 잠재 공간으로 압축(down-projection)한 뒤 전문가 연산을 수행합니다.
이렇게 하면 같은 연산 비용으로 4배 더 많은 전문가를 활성화할 수 있어,
Python 문법 전문가·SQL 로직 전문가·다단계 추론 전문가 등 더 세밀한 전문화가 가능합니다.

멀티 토큰 예측(MTP): 한 번의 포워드 패스로 여러 토큰 생성

멀티 토큰 예측(Multi-Token Prediction)은 하나의 포워드 패스에서 다음 여러 토큰을 동시에 예측하는 기술로,
코드 생성이나 툴 콜(tool call) 같은 구조화된 출력에서 최대 3배 빠른 추론 속도를 실현합니다.
특히 별도의 드래프트 모델이 필요 없이 투기적 디코딩(speculative decoding)을 내장 지원해,
실제 배포 비용을 크게 낮출 수 있습니다.

▲ 목차로 돌아가기

③ 1M 토큰 컨텍스트: AI가 드디어 ‘기억력’을 갖다

일반적인 AI 모델이 가진 가장 큰 한계 중 하나는 컨텍스트 폭발(Context Explosion)입니다.
멀티 에이전트 시스템은 표준 채팅보다 최대 15배 많은 토큰을 생성합니다.
대화 히스토리, 툴 출력 결과, 중간 추론 과정을 매 턴마다 다시 전송해야 하기 때문입니다.
긴 작업에서는 이 컨텍스트 폭발이 ‘목표 표류(Goal Drift)’를 유발하는데,
에이전트가 원래 목표를 잃고 엉뚱한 방향으로 흘러가는 현상입니다.

네모트론3 슈퍼의 100만 토큰 컨텍스트 윈도우는 이 문제를 근본적으로 해결합니다.
대규모 코드베이스 전체를 한 번에 올려 단편화 없이 엔드투엔드 코드 생성 및 디버깅이 가능합니다.
수천 페이지에 달하는 금융 리포트를 모두 메모리에 올려 재추론 없이 분석할 수 있습니다.
컴플라이언스 분석, 멀티시간 에이전트 세션, 단일 저장소 전체 이해 같은 엔터프라이즈 시나리오에서
이전 모델들이 불가능했던 작업을 현실화합니다.

이 긴 컨텍스트가 실용적으로 작동할 수 있는 이유는 Mamba 레이어의 선형 시간 복잡도 덕분입니다.
트랜스포머의 어텐션은 시퀀스 길이의 제곱에 비례해 메모리가 늘어나지만,
Mamba의 상태 공간 모델(SSM)은 선형적으로 처리하므로 수십만 토큰에서도
메모리가 폭증하지 않습니다. 이론적 스펙이 아니라 실제 배포에서 작동하는 구조입니다.

▲ 목차로 돌아가기

④ 성능 벤치마크: GPT·Qwen·Llama와 비교하면?

엔비디아가 공개한 벤치마크 데이터에 따르면, 네모트론3 슈퍼는 동급 크기의 오픈소스 모델 중
효율성과 개방성에서 Artificial Analysis 1위를 기록했습니다.
특히 에이전틱 AI 성능을 측정하는 DeepResearch Bench와
DeepResearch Bench II 리더보드에서 1위를 차지했는데,
이 벤치마크는 AI가 대량의 문서를 탐색하면서 다단계 추론 일관성을 유지하는 능력을 측정합니다.

OpenClaw 에이전트의 브레인으로 활용될 때의 성능을 측정하는 PinchBench에서는
전체 테스트 스위트 중 85.6%를 달성해 동급 최고의 오픈 모델로 인정받았습니다.
다만 정직하게 짚어야 할 부분도 있습니다. The New Stack 등 해외 매체는
“전반적인 지능 벤치마크에서는 최전선 모델(프론티어 모델)보다 뒤처진다”고 평가했습니다.
즉 GPT-4.5, Claude Opus 4.6 같은 최고급 폐쇄형 모델과 순수 정확도 대결에서는 격차가 있습니다.
그러나 ‘처리 속도 대비 정확도’와 ‘비용 대비 성능’ 기준에서는 압도적입니다.

▲ 목차로 돌아가기

⑤ 지금 바로 무료로 써보는 방법 (3가지 경로)

▲ 목차로 돌아가기

⑥ Nano + Super 조합 전략: 에이전틱 AI 실무 활용법

엔비디아가 공식적으로 권장하는 배포 패턴이 있습니다. 바로 “Super + Nano 이중 계층 전략”입니다.
단순 반복 업무나 개별 스텝 실행에는 더 빠르고 저렴한 Nano(30B total, 3B active)를 사용하고,
복잡한 다단계 계획, 깊은 코드베이스 분석, 장기 에이전트 메모리가 필요한 오케스트레이션에는
Super를 사용하는 방식입니다.

소프트웨어 개발 에이전트를 예로 들면, 간단한 PR(Pull Request) 리뷰나 단순 버그 수정은 Nano가 처리하고,
레포지토리 전체를 이해하며 아키텍처 수준의 리팩토링을 수행할 때는 Super가 담당합니다.
전문가 수준의 복잡한 시스템 설계나 최고 정밀도가 필요한 작업에는

이 구조의 실용적 의미는 비용 최적화에 있습니다. 모든 작업에 최고급 모델을 사용하면
API 비용이 폭증합니다. 작업 복잡도에 따라 모델을 자동 선택하는 라우팅 레이어를 두면
동일한 품질을 유지하면서 추론 비용을 최대 70% 이상 절감할 수 있다고 보고됩니다.

▲ 목차로 돌아가기

⑦ 내 솔직한 의견: 엔비디아가 진짜 노리는 것

솔직히 말씀드리겠습니다. 엔비디아는 AI 모델 회사가 아닙니다. GPU 하드웨어 기업입니다.
그런데 왜 이토록 공들여 오픈소스 LLM을 공개하는 걸까요? 답은 하나입니다.
블랙웰(Blackwell) GPU 판매입니다.

네모트론3 슈퍼는 NVFP4라는 엔비디아 전용 4비트 부동소수점 포맷으로 사전학습됩니다.
이 포맷은 Blackwell 아키텍처 GPU(B200 등)에 최적화되어 있어,
FP8 대비 최대 4배 빠른 추론 속도를 냅니다. 즉, 네모트론3 슈퍼를 제대로 활용하려면
자연스럽게 Blackwell GPU를 구매하게 되는 구조입니다.

그렇다고 이 모델의 가치가 줄어드는 것은 아닙니다. 사용자 입장에서는
무료로 공개된 120B 오픈소스 모델을 받아 쓸 수 있고,
OpenRouter처럼 클라우드 기반으로 무료 접근도 가능합니다. 엔비디아의 속셈이 어떻든 간에,
결과적으로 개발자와 기업은 이전에 없던 강력한 오픈 도구를 얻게 되었습니다.
Meta Llama 시리즈와 함께 2026년 오픈소스 AI 생태계를 이끌 핵심 모델이 될 것이라고 예상합니다.

▲ 목차로 돌아가기