Favicon de qwen

Qwen2.5 72B Instruct

qwen/qwen-2.5-72b-instruct

Pesos do modelo

Qwen2.5 72B is the latest series of Qwen large language models. Qwen2.5 brings the following improvements upon Qwen2:

  • Significantly more knowledge and has greatly improved capabilities in coding and mathematics, thanks to our specialized expert models in these domains.

  • Significant improvements in instruction following, generating long texts (over 8K tokens), understanding structured data (e.g, tables), and generating structured outputs especially JSON. More resilient to the diversity of system prompts, enhancing role-play implementation and condition-setting for chatbots.

  • Long-context Support up to 128K tokens and can generate up to 8K tokens.

  • Multilingual support for over 29 languages, including Chinese, English, French, Spanish, Portuguese, German, Italian, Russian, Japanese, Korean, Vietnamese, Thai, Arabic, and more.

Usage of this model is subject to Tongyi Qianwen LICENSE AGREEMENT.

Modalidades
Preço de entrada / saída
US$ 0,36 / US$ 0,40por 1M
Contexto
33K
Lançado
19 de set. de 2024
Data de corte do conhecimento
jun. de 2024

Provedores

Diferentes empresas hospedam o mesmo modelo. O OpenRouter roteia sua solicitação para uma delas com base no modo de roteamento escolhido: Balanced (preço + velocidade), Nitro (mais rápido) ou Floor (mais barato).

  • Não utilizado no roteamento Standard:Por que estes endpoints não são usados

Preços

O preço médio que os clientes realmente pagam por este modelo, ao lado dos preços publicados pelos provedores. O cache e os descontos fazem com que o preço efetivamente pago seja frequentemente bem inferior ao preço anunciado.

Média ponderada

Entrada
US$ 0,3597/M tokens
Saída
US$ 0,3978/M tokens
Histórico de preços
Nenhum dado de preço efetivo para esta seleção
  • Não utilizado no roteamento Standard:Por que estes endpoints não são usados

Desempenho

A vazão indica a velocidade com que o modelo escreve (tokens por segundo — quanto maior, melhor). A latência é o tempo total de ida e volta (quanto menor, melhor). TTFT é o tempo até o primeiro token — quanto tempo leva para você ver algo aparecer (quanto menor, melhor).

Taxa de transferência
31tok/s

P50, melhor entre os provedores

Latência
0,30s

P50, melhor provedor

Disponibilidade

A disponibilidade é a porcentagem dos últimos 3 dias em que pelo menos um provedor estava respondendo às solicitações. A disponibilidade é a porcentagem de tempo em que a inferência foi realizada com sucesso. O OpenRouter monitora continuamente e usa o próximo melhor provedor quando um deles retorna um erro.

Disponibilidade (3d)O modelo estava acessível. Requisição roteada para um provedor.
100,00%
Disponibilidade (3d)O modelo retornou inferência de qualquer provedor. Erros e respostas vazias contam negativamente para essa métrica.
99,95%

Disponibilidade nos últimos 3 dias

Últimas 72 horas
Disponibilidade 99,95%
Há 3 diasHá 2 diasOntemAgora

Disponibilidade nas últimas 24 horas

OpenRouter Availability
99,96%

Quando ocorre um erro em um provedor upstream, podemos nos recuperar roteando para outro provedor saudável, se os filtros da sua solicitação permitirem. Você pode acessar os dados de disponibilidade por provedor de forma programática pela API de endpoints. Saiba mais sobre nossas opções de balanceamento de carga e roteamento de provedores.

Avaliações de desempenho

Pontuações em avaliações padronizadas e as próprias saídas deste modelo para prompts compartilhados de testes de desempenho. Porcentagens maiores são melhores — e cada posição mostra onde este modelo fica entre os modelos avaliados naquela fonte.

Resumo das pontuações de avaliações comparativas para Qwen2.5 72B Instruct (Artificial Analysis)
FonteAvaliação comparativaPontuação
Artificial AnalysisQwen2.5 Instruct 72B GPQA Diamond49.1%
Artificial AnalysisQwen2.5 Instruct 72B HLE3.6%
Artificial AnalysisQwen2.5 Instruct 72B IFBench36.9%
Artificial AnalysisQwen2.5 Instruct 72B τ²-Bench Telecom34.5%
Artificial AnalysisQwen2.5 Instruct 72B CritPt0.0%
Artificial AnalysisQwen2.5 Instruct 72B LiveCodeBench27.6%
Artificial AnalysisQwen2.5 Instruct 72B Terminal-Bench Hard4.5%
Artificial AnalysisQwen2.5 Instruct 72B MMLU-Pro72.0%
Artificial AnalysisQwen2.5 Instruct 72B AIME 202514.0%
Artificial AnalysisQwen2.5 Instruct 72B AIME16.0%
Artificial AnalysisQwen2.5 Instruct 72B MATH-50085.8%

Aplicativos

Aplicativos públicos que enviam mais tráfego para este modelo. Um bom indicador de como são as cargas de trabalho reais em produção — e uma pista sobre os casos de uso para os quais este modelo é mais adequado.

2.
Favicon de https://dapp.fractionai.xyz/
Fraction AI
168Mtokens
3.
108Mtokens
4.
98,3Mtokens
5.
Favicon de https://openclaw.ai/
OpenClaw
77,7Mtokens
Restante do OpenRouter
250M
5 principais aplicativos
20,6M

Atividade

Volume de tokens e tráfego de requisições para este modelo ao longo do tempo.

API

Código pronto para chamar este modelo. A API do OpenRouter é compatível com a OpenAI — a maioria dos SDKs funciona apenas trocando a URL base. A única coisa que muda entre os modelos é o slug do modelo abaixo.

Atualmente indisponível por meio do roteamento intrarregional da UE. Documentação de roteamento na região

Perguntas frequentes