Favicon de nvidia

NVIDIA: Llama 3.1 Nemotron Nano 8B v1

nvidia/llama-3.1-nemotron-nano-8b-v1

Pesos do modelo

Llama-3.1-Nemotron-Nano-8B-v1 is a compact large language model (LLM) derived from Meta's Llama-3.1-8B-Instruct, specifically optimized for reasoning tasks, conversational interactions, retrieval-augmented generation (RAG), and tool-calling applications. It balances accuracy and efficiency, fitting comfortably onto a single consumer-grade RTX GPU for local deployment. The model supports extended context lengths of up to 128K tokens.

Note: you must include detailed thinking on in the system prompt to enable reasoning. Please see Usage Recommendations for more.

Modalidades
Contexto
131K
Lançado
8 de abr. de 2025
Data de corte do conhecimento
dez. de 2023

Atividade

Volume de tokens e tráfego de requisições para este modelo ao longo do tempo.

Atualmente indisponível por meio do roteamento intrarregional da UE. Documentação de roteamento na região

Perguntas frequentes