Favicon de qwen

Qwen2.5 72B Instruct

qwen/qwen-2.5-72b-instruct

Pesos del modelo

Qwen2.5 72B is the latest series of Qwen large language models. Qwen2.5 brings the following improvements upon Qwen2:

  • Significantly more knowledge and has greatly improved capabilities in coding and mathematics, thanks to our specialized expert models in these domains.

  • Significant improvements in instruction following, generating long texts (over 8K tokens), understanding structured data (e.g, tables), and generating structured outputs especially JSON. More resilient to the diversity of system prompts, enhancing role-play implementation and condition-setting for chatbots.

  • Long-context Support up to 128K tokens and can generate up to 8K tokens.

  • Multilingual support for over 29 languages, including Chinese, English, French, Spanish, Portuguese, German, Italian, Russian, Japanese, Korean, Vietnamese, Thai, Arabic, and more.

Usage of this model is subject to Tongyi Qianwen LICENSE AGREEMENT.

Modalidades
Precio de entrada / salida
0,36 US$ / 0,40 US$por 1M
Contexto
33K
Publicado
19 sept 2024
Fecha límite de conocimiento
jun 2024

Proveedores

Distintas empresas alojan el mismo modelo. OpenRouter enruta su solicitud a una de ellas según el modo de enrutamiento que elija: Balanced (precio + velocidad), Nitro (el más rápido) o Floor (el más económico).

  • No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints

Precios

El precio medio que los clientes pagan realmente por este modelo, junto a los precios que publican los proveedores. El uso de caché y los descuentos hacen que el precio realmente pagado a menudo sea muy inferior al publicado.

Media ponderada

Entrada
0,3598 US$/M tokens
Salida
0,3978 US$/M tokens
Historial de precios
No hay datos de precios efectivos para esta selección
  • No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints

Rendimiento

La velocidad de generación indica lo rápido que escribe el modelo (tokens por segundo: cuanto mayor, mejor). La latencia es el tiempo total de ida y vuelta (cuanto menor, mejor). TTFT es el tiempo hasta el primer token: cuánto tarda en aparecer algo en pantalla (cuanto menor, mejor).

Rendimiento
32tok/s

P50, el mejor entre los proveedores

Latencia
0,32s

P50, mejor proveedor

Tiempo de actividad

El tiempo de actividad es el porcentaje de los últimos 3 días en que al menos un proveedor respondía a las solicitudes. La disponibilidad es el porcentaje de tiempo en que la inferencia se sirvió correctamente. OpenRouter supervisa continuamente y utiliza el siguiente mejor proveedor cuando uno devuelve un error.

Tiempo de actividad (3 d)El modelo estaba accesible. Solicitud enrutada a un proveedor.
100,00 %
Disponibilidad (3 d)El modelo devolvió una inferencia de cualquier proveedor. Los errores y las respuestas vacías cuentan en su contra.
99,95 %

Disponibilidad durante los últimos 3 días

Últimas 72 horas
Disponibilidad 99,95 %
Hace 3 díasHace 2 díasAyerAhora

Disponibilidad en las últimas 24 horas

OpenRouter Availability
99,96 %

Cuando se produce un error en un proveedor ascendente, podemos recuperarnos enrutando la solicitud a otro proveedor que funcione correctamente, si los filtros de su solicitud lo permiten. Puede acceder mediante programación a los datos de tiempo de actividad de cada proveedor a través de la API de endpoints. Obtenga más información sobre nuestras opciones de equilibrio de carga y enrutamiento de proveedores.

Pruebas de rendimiento

Puntuaciones en evaluaciones estandarizadas y respuestas de este modelo a instrucciones compartidas de las pruebas de referencia. Los porcentajes más altos son mejores, y cada posición indica dónde se sitúa este modelo entre los modelos evaluados en esa fuente.

Resumen de puntuaciones en pruebas de rendimiento de Qwen2.5 72B Instruct (Artificial Analysis)
FuentePrueba de rendimientoPuntuación
Artificial AnalysisQwen2.5 Instruct 72B GPQA Diamond49.1%
Artificial AnalysisQwen2.5 Instruct 72B HLE3.6%
Artificial AnalysisQwen2.5 Instruct 72B IFBench36.9%
Artificial AnalysisQwen2.5 Instruct 72B τ²-Bench Telecom34.5%
Artificial AnalysisQwen2.5 Instruct 72B CritPt0.0%
Artificial AnalysisQwen2.5 Instruct 72B LiveCodeBench27.6%
Artificial AnalysisQwen2.5 Instruct 72B Terminal-Bench Hard4.5%
Artificial AnalysisQwen2.5 Instruct 72B MMLU-Pro72.0%
Artificial AnalysisQwen2.5 Instruct 72B AIME 202514.0%
Artificial AnalysisQwen2.5 Instruct 72B AIME16.0%
Artificial AnalysisQwen2.5 Instruct 72B MATH-50085.8%

Aplicaciones

Aplicaciones públicas que envían más tráfico a este modelo. Una buena señal de cómo son las cargas de trabajo reales en producción, y una pista sobre los casos de uso para los que este modelo es más adecuado.

1.
424Mtókenes
2.
Favicon de https://dapp.fractionai.xyz/
Fraction AI
168Mtókenes
3.
106Mtókenes
4.
96,6Mtókenes
5.
Favicon de https://openclaw.ai/
OpenClaw
77,6Mtókenes
Resto de OpenRouter
203M
Las 5 aplicaciones principales
17,1M

Actividad

Volumen de tokens y tráfico de solicitudes a este modelo a lo largo del tiempo.

API

Código listo para usar para llamar a este modelo. La API de OpenRouter es compatible con OpenAI: la mayoría de los SDK funcionan con solo cambiar la URL base. Lo único que cambia entre modelos es el identificador del modelo que aparece a continuación.

Actualmente no está disponible mediante el enrutamiento dentro de la región de la UE. Documentación de enrutamiento dentro de la región

Preguntas frecuentes