nvidia/nemotron-3-ultra-550b-a55b:free — 무료로 만나는 5500억 파라미터급 초대형 오픈 모델

한 줄 요약: 5500억 개 파라미터 중 토큰당 550억 개만 활성화하는 MoE 구조로, 100만 토큰 컨텍스트를 무료로 쓸 수 있는 NVIDIA의 플래그십 오픈 웨이트 모델입니다.

NVIDIA라는 회사

NVIDIA는 1993년 설립된 그래픽 칩 회사에서 출발해, 지금은 전 세계 AI 인프라를 사실상 장악한 기업입니다. 젠슨 황(Jensen Huang) CEO가 이끄는 이 회사는 데이터센터용 GPU(H100, B200, GB200 시리즈)와 CUDA 소프트웨어 생태계를 무기로 AI 학습·추론 시장의 표준을 쥐고 있습니다.

그런 NVIDIA가 왜 거대한 모델의 가중치를 무료로 공개할까요? 답은 생태계 전략입니다. 오픈 웨이트 모델(Nemotron 패밀리)을 공개하면 개발자들이 그 모델을 쓰고, 그 모델이 가장 잘 돌아가는 하드웨어는 당연히 NVIDIA GPU가 됩니다. 모델 공개는 곧 자사 칩 수요로 이어지는 선순환입니다. Nemotron 3 Ultra는 이 전략의 정점에 있는 모델입니다.

모델 스펙

100만 토큰이 어느 정도냐면, A4 수백 페이지 분량의 문서나 대형 코드베이스 전체를 한 번에 입력창에 넣고도 남는 수준입니다. 책 수십 권을 통째로 읽히는 셈입니다.

주요 특징

1. MoE의 경제학 — 550B의 지능을 55B의 비용으로

이 모델의 핵심은 MoE(Mixture of Experts, 전문가 혼합) 구조입니다. 5500억 개 파라미터를 전부 매번 쓰는 게 아니라, 입력 토큰마다 가장 관련 있는 "전문가" 22개만 골라 활성화합니다. 실제 연산에 쓰이는 건 550억 개 수준이라, 밀집(dense) 모델 대비 훨씬 적은 비용으로 초대형 모델의 성능을 냅니다. 이 덕분에 무료 티어로 제공하는 것이 경제적으로 가능해진 것입니다.

여기에 LatentMoE라는 NVIDIA 고유 기법이 더해졌습니다. 토큰을 작은 잠재 공간에 압축한 뒤 라우팅해서, 같은 연산 비용으로 4배 많은 전문가를 둘 수 있게 한 설계입니다.

2. 100만 토큰 컨텍스트가 실용적인 이유

보통 트랜스포머는 입력이 길어질수록 연산량이 제곱으로 늘어납니다. Nemotron 3 Ultra는 Mamba-2 레이어를 섞어 넣어 시퀀스 길이에 대해 선형 복잡도를 달성했고, 덕분에 100만 토큰 컨텍스트가 실제 워크로드에서 쓸 만해졌습니다. 긴 문서 이해 능력을 재는 RULER 1M 벤치마크에서 94.7%를 기록했습니다.

3. 에이전트 워크로드에 최적화

NVIDIA는 이 모델을 "복잡한 AI 에이전트 시스템"용으로 포지셔닝합니다. 장기 계획 수립, 여러 단계를 거치는 도구 사용, 대화가 길게 이어지며 맥락이 쌓이는 작업이 주 타깃입니다. 추론 모드(생각 과정 출력)를 켜고 끌 수 있어, 필요에 따라 속도/정확도를 조절할 수 있습니다.

4. 공개된 성능 지표

• Artificial Analysis Intelligence Index 48 — 미국산 오픈 웨이트 모델 중 1위 (참고: Claude Opus 4.8은 61, GPT-5.5는 60)
• MMLU 89.1 / MMLU Pro 약 86 — 종합 지식 평가 상위권
• GPQA Diamond 약 86~87 — 박사급 과학 추론
• SWE-Bench Verified 65~70% — 실제 소프트웨어 공학 과제 해결률
• 처리 속도 초당 300 토큰 이상 — 동급 모델 대비 약 5배 빠른 처리량

완벽한 1등은 아닙니다. 중국의 Kimi K2.6이 같은 지능 지수에서 54점으로 앞서 있습니다. 다만 Nemotron 3 Ultra는 5~6배 빠른 속도와 미국산 오픈 웨이트라는 강점으로 맞서는 구도입니다.

무료로 사용하는 방법

OpenCode에서 /models를 입력하거나 Ctrl → X → M을 순서대로 눌러 모델 선택 화면을 엽니다.

모델 목록에서 NVIDIA: Nemotron 3 Ultra (free) (Kilo)를 선택합니다. 선택하면 즉시 적용됩니다.

CLI로 직접 호출할 수도 있습니다:

opencode run -m kilo/nvidia/nemotron-3-ultra-550b-a55b:free "한 단어로 대답: PONG"

주의: 모델 ID 끝의 :free를 반드시 포함하세요. :free가 없는 nvidia/nemotron-3-ultra-550b-a55b는 유료 항목(cost.input=0.5)으로 과금됩니다. OpenRouter에도 같은 모델이 등록되어 있지만 과금 경로가 다르므로 Kilo의 것을 선택하세요.

2026-10-15 실측: 위 명령으로 호출 성공, 응답 PONG 확인.

이런 분께 추천합니다

• 대용량 문서 분석: 수백 페이지 보고서, 논문 묶음, 대형 코드베이스를 통째로 넣고 질의응답하고 싶은 분
• 복잡한 추론 작업: 여러 단계를 거쳐야 하는 조사·분석·코딩 에이전트를 실험하는 분
• 긴 대화 맥락 유지: 대화가 길어져도 앞 내용을 잊지 않는 어시스턴트가 필요한 분
• 상업적 이용: OpenMDW-1.1 라이선스로 상업 프로젝트에도 쓸 수 있는 오픈 웨이트가 필요한 분
• 코딩: LiveCodeBench에서 오픈 웨이트 3위권의 코딩 성능 — 코드 리뷰·리팩토링 보조용으로 적합

마무리

Nemotron 3 Ultra는 "무료"라는 단어와 어울리지 않는 스펙의 모델입니다. 5500억 파라미터, 100만 토큰 컨텍스트, 미국산 오픈 웨이트 1위의 지능 지수 — 이 모든 걸 API 한 줄로 쓸 수 있다는 것 자체가 2026년 AI 인프라의 현주소를 보여줍니다. 다만 무료 티어의 한계는 분명하니, 가벼운 실험과 프로토타이핑에 먼저 써보고 본인의 워크로드에 맞는지 확인해 보시길 권합니다.

참고 링크:

• Hugging Face 모델 페이지
• NVIDIA 공식 API 문서

AIK24 실측 결과

솔직한 한계: 550B라 개인이 직접 구동하는 건 불가능하고 API에 의존해야 합니다. 무료 티어는 사용량 제한·대기 시간이 있습니다. Artificial Analysis 지능 지수 48로 Kimi K2.6(54)에 밀립니다.

이 글은 AIK24 무료 모델 리스트의 일부입니다. 전체 목록은 [무료 AI 모델 페이지](https://emdash.aikorea24.kr/posts/free-models)에서 확인하세요.