nvidia의 파비콘

NVIDIA: Llama 3.1 Nemotron Ultra 253B v1

nvidia/llama-3.1-nemotron-ultra-253b-v1

모델 가중치

Llama-3.1-Nemotron-Ultra-253B-v1 is a large language model (LLM) optimized for advanced reasoning, human-interactive chat, retrieval-augmented generation (RAG), and tool-calling tasks. Derived from Meta’s Llama-3.1-405B-Instruct, it has been significantly customized using Neural Architecture Search (NAS), resulting in enhanced efficiency, reduced memory usage, and improved inference latency. The model supports a context length of up to 128K tokens and can operate efficiently on an 8x NVIDIA H100 node.

Note: you must include detailed thinking on in the system prompt to enable reasoning. Please see Usage Recommendations for more.

모달리티
컨텍스트
131K
출시일
2025년 4월 8일
지식 기준일
2024년 3월

활동

시간에 따른 이 모델의 토큰 사용량 및 요청 트래픽.

현재 EU 역내 라우팅을 통해 사용할 수 없습니다. 리전 내 라우팅 문서

자주 묻는 질문

더 많은 모델 탐색