Favicon de meta-llama

Meta: Llama 3.2 3B Instruct

meta-llama/llama-3.2-3b-instruct

Pesos del modelo

Llama 3.2 3B is a 3-billion-parameter multilingual large language model, optimized for advanced natural language processing tasks like dialogue generation, reasoning, and summarization. Designed with the latest transformer architecture, it supports eight languages, including English, Spanish, and Hindi, and is adaptable for additional languages.

Trained on 9 trillion tokens, the Llama 3.2 3B model excels in instruction-following, complex reasoning, and tool use. Its balanced performance makes it ideal for applications needing accuracy and efficiency in text generation across multilingual settings.

Click here for the original model card.

Usage of this model is subject to Meta's Acceptable Use Policy.

Modalidades
Precio de entrada / salida
0,05 US$ / 0,33 US$por 1M
Contexto
131K
Publicado
25 sept 2024
Fecha límite de conocimiento
dic 2023

Proveedores

Distintas empresas alojan el mismo modelo. OpenRouter enruta su solicitud a una de ellas según el modo de enrutamiento que elija: Balanced (precio + velocidad), Nitro (el más rápido) o Floor (el más económico).

Precios

El precio medio que los clientes pagan realmente por este modelo, junto a los precios que publican los proveedores. El uso de caché y los descuentos hacen que el precio realmente pagado a menudo sea muy inferior al publicado.

Media ponderada

Entrada
0,04968 US$/M tokens
Salida
0,3243 US$/M tokens
Historial de precios
No hay datos de precios efectivos para esta selección

Rendimiento

La velocidad de generación indica lo rápido que escribe el modelo (tokens por segundo: cuanto mayor, mejor). La latencia es el tiempo total de ida y vuelta (cuanto menor, mejor). TTFT es el tiempo hasta el primer token: cuánto tarda en aparecer algo en pantalla (cuanto menor, mejor).

Rendimiento
210tok/s

P50, el mejor entre los proveedores

Latencia
0,19s

P50, mejor proveedor

Tiempo de actividad

El tiempo de actividad es el porcentaje de los últimos 3 días en que al menos un proveedor respondía a las solicitudes. La disponibilidad es el porcentaje de tiempo en que la inferencia se sirvió correctamente. OpenRouter supervisa continuamente y utiliza el siguiente mejor proveedor cuando uno devuelve un error.

Tiempo de actividad (3 d)El modelo estaba accesible. Solicitud enrutada a un proveedor.
100,00 %
Disponibilidad (3 d)El modelo devolvió una inferencia de cualquier proveedor. Los errores y las respuestas vacías cuentan en su contra.
99,99 %

Disponibilidad durante los últimos 3 días

Últimas 72 horas
Disponibilidad 99,99 %
Hace 3 díasHace 2 díasAyerAhora

Disponibilidad en las últimas 24 horas

OpenRouter Availability
99,98 %
Without Routing
81,32 %

Cuando se produce un error en un proveedor ascendente, podemos recuperarnos enrutando la solicitud a otro proveedor que funcione correctamente, si los filtros de su solicitud lo permiten. Puede acceder mediante programación a los datos de tiempo de actividad de cada proveedor a través de la API de endpoints. Obtenga más información sobre nuestras opciones de equilibrio de carga y enrutamiento de proveedores.

Pruebas de rendimiento

Puntuaciones en evaluaciones estandarizadas y respuestas de este modelo a instrucciones compartidas de las pruebas de referencia. Los porcentajes más altos son mejores, y cada posición indica dónde se sitúa este modelo entre los modelos evaluados en esa fuente.

Resumen de puntuaciones en pruebas de rendimiento de Meta: Llama 3.2 3B Instruct (Artificial Analysis)
FuentePrueba de rendimientoPuntuación
Artificial AnalysisLlama 3.2 Instruct 3B GPQA Diamond25.5%
Artificial AnalysisLlama 3.2 Instruct 3B HLE5.3%
Artificial AnalysisLlama 3.2 Instruct 3B IFBench26.2%
Artificial AnalysisLlama 3.2 Instruct 3B τ²-Bench Telecom21.1%
Artificial AnalysisLlama 3.2 Instruct 3B AA-LCR4.3%
Artificial AnalysisLlama 3.2 Instruct 3B LiveCodeBench8.3%
Artificial AnalysisLlama 3.2 Instruct 3B MMLU-Pro34.7%
Artificial AnalysisLlama 3.2 Instruct 3B AIME 20253.3%
Artificial AnalysisLlama 3.2 Instruct 3B AIME6.7%
Artificial AnalysisLlama 3.2 Instruct 3B MATH-50048.9%

Aplicaciones

Aplicaciones públicas que envían más tráfico a este modelo. Una buena señal de cómo son las cargas de trabajo reales en producción, y una pista sobre los casos de uso para los que este modelo es más adecuado.

1.
171Mtókenes
2.
31,5Mtókenes
4.
24,3Mtókenes
5.
Favicon de https://api.spin.inductionlabs.com/
Spin
nuevo
19,1Mtókenes
Resto de OpenRouter
62,7M
Las 5 aplicaciones principales
3,84M

Actividad

Volumen de tokens y tráfico de solicitudes a este modelo a lo largo del tiempo.

API

Código listo para usar para llamar a este modelo. La API de OpenRouter es compatible con OpenAI: la mayoría de los SDK funcionan con solo cambiar la URL base. Lo único que cambia entre modelos es el identificador del modelo que aparece a continuación.

Actualmente no está disponible mediante el enrutamiento dentro de la región de la UE. Documentación de enrutamiento dentro de la región

Preguntas frecuentes