
Meta: Llama 3.1 70B Instruct
meta-llama/llama-3.1-70b-instruct
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases.
It has demonstrated strong performance compared to leading closed-source models in human evaluations.
To read more about the model release, click hereOpens in new tab. Usage of this model is subject to Meta's Acceptable Use PolicyOpens in new tab.
Provedores
Este modelo é hospedado por um provedor. O OpenRouter encaminha todas as solicitações sem roteamento.
| US$ 0,72 | US$ 0,72 | 0,43s | 62 tok/s |
- Entrada US$ 0,72 / Saída US$ 0,7262 tok/s100,00% de disponibilidade
Preços
O preço médio que os clientes realmente pagam por este modelo, ao lado dos preços publicados pelos provedores. O cache e os descontos fazem com que o preço efetivamente pago seja frequentemente bem inferior ao preço anunciado.
Média ponderada
Llama 3.1 70B Instruct — Histórico de preços
| US$ 0,719 | US$ 0,716 | 0,0% | 100,0% |
- Em vigor em US$ 0,719 / Saída efetiva US$ 0,716Participação em tokens100,0%
Desempenho
A vazão indica a velocidade com que o modelo escreve (tokens por segundo — quanto maior, melhor). A latência é o tempo total de ida e volta (quanto menor, melhor). TTFT é o tempo até o primeiro token — quanto tempo leva para você ver algo aparecer (quanto menor, melhor).
P50, melhor entre os provedores
P50, melhor provedor
Disponibilidade
A disponibilidade é a porcentagem dos últimos 3 dias em que pelo menos um provedor estava respondendo às solicitações. A disponibilidade é a porcentagem de tempo em que a inferência foi realizada com sucesso. O OpenRouter monitora continuamente e usa o próximo melhor provedor quando um deles retorna um erro.
Disponibilidade nos últimos 3 dias
Últimas 72 horasDisponibilidade nas últimas 24 horas
Quando ocorre um erro em um provedor upstream, podemos nos recuperar roteando para outro provedor saudável, se os filtros da sua solicitação permitirem. Você pode acessar os dados de disponibilidade por provedor de forma programática pela API de endpoints. Saiba mais sobre nossas opções de balanceamento de carga e roteamento de provedores.
Avaliações de desempenho
Pontuações em avaliações padronizadas e as próprias saídas deste modelo para prompts compartilhados de testes de desempenho. Porcentagens maiores são melhores — e cada posição mostra onde este modelo fica entre os modelos avaliados naquela fonte.
| Fonte | Avaliação comparativa | Pontuação |
|---|---|---|
| Artificial Analysis | Llama 3.1 Instruct 70B GPQA Diamond | 40.9% |
| Artificial Analysis | Llama 3.1 Instruct 70B HLE | 4.5% |
| Artificial Analysis | Llama 3.1 Instruct 70B IFBench | 34.4% |
| Artificial Analysis | Llama 3.1 Instruct 70B τ²-Bench Telecom | 15.2% |
| Artificial Analysis | Llama 3.1 Instruct 70B CritPt | 0.0% |
| Artificial Analysis | Llama 3.1 Instruct 70B LiveCodeBench | 23.2% |
| Artificial Analysis | Llama 3.1 Instruct 70B Terminal-Bench Hard | 3.0% |
| Artificial Analysis | Llama 3.1 Instruct 70B MMLU-Pro | 67.6% |
| Artificial Analysis | Llama 3.1 Instruct 70B AIME 2025 | 4.0% |
| Artificial Analysis | Llama 3.1 Instruct 70B AIME | 17.3% |
| Artificial Analysis | Llama 3.1 Instruct 70B MATH-500 | 64.9% |
Aplicativos
Aplicativos públicos que enviam mais tráfego para este modelo. Um bom indicador de como são as cargas de trabalho reais em produção — e uma pista sobre os casos de uso para os quais este modelo é mais adequado.
Atividade
Volume de tokens e tráfego de requisições para este modelo ao longo do tempo.
API
Código pronto para chamar este modelo. A API do OpenRouter é compatível com a OpenAI — a maioria dos SDKs funciona apenas trocando a URL base. A única coisa que muda entre os modelos é o slug do modelo abaixo.
Atualmente indisponível por meio do roteamento intrarregional da UE. Documentação de roteamento na região
Perguntas frequentes
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, click here. Usage of this model is subject to Meta's Acceptable Use Policy.
Llama 3.1 70B Instruct custa US$ 0,72/M de tokens de entrada e US$ 0,72/M de tokens de saída.
Llama 3.1 70B Instruct tem uma janela de contexto de 131.072 tokens. Ele aceita até 8.192 tokens de conclusão.
Sim. Llama 3.1 70B Instruct aceita tools e tool_choice para chamadas de função. Não oferece suporte a response_format, portanto a saída em JSON não é garantida.
Llama 3.1 70B Instruct é servido por 1 provedor no OpenRouter: Amazon Bedrock.
Llama Guard 4 12B, Llama 4 Maverick, Llama 4 Scout e mais 4 são outros modelos de texto de Meta Llama.
Llama 3.1 70B Instruct foi lançado em 23 de julho de 2024. Seu conhecimento vai até 31 de dezembro de 2023.