Favicon de openai

OpenAI: GPT-4o-mini

openai/gpt-4o-mini

GPT-4o mini is OpenAI's newest model after GPT-4 Omni, supporting both text and image inputs with text outputs.

As their most advanced small model, it is many multiples more affordable than other recent frontier models, and more than 60% cheaper than GPT-3.5 Turbo. It maintains SOTA intelligence, while being significantly more cost-effective.

GPT-4o mini achieves an 82% score on MMLU and presently ranks higher than GPT-4 on chat preferences common leaderboards.

Check out the launch announcement to learn more.

#multimodal

Modalidades
Precio de entrada / salida
0,15 US$ / 0,60 US$por 1M
Contexto
128K
Publicado
18 jul 2024
Fecha límite de conocimiento
oct 2023

Proveedores

Distintas empresas alojan el mismo modelo. OpenRouter enruta su solicitud a una de ellas según el modo de enrutamiento que elija: Balanced (precio + velocidad), Nitro (el más rápido) o Floor (el más económico).

  • No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints

Precios

El precio medio que los clientes pagan realmente por este modelo, junto a los precios que publican los proveedores. El uso de caché y los descuentos hacen que el precio realmente pagado a menudo sea muy inferior al publicado.

Media ponderada

Entrada
0,1312 US$/M tokens
Salida
0,5971 US$/M tokens
Historial de precios
No hay datos de precios efectivos para esta selección
  • No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints

Rendimiento

La velocidad de generación indica lo rápido que escribe el modelo (tokens por segundo: cuanto mayor, mejor). La latencia es el tiempo total de ida y vuelta (cuanto menor, mejor). TTFT es el tiempo hasta el primer token: cuánto tarda en aparecer algo en pantalla (cuanto menor, mejor).

Rendimiento
91tok/s

P50, el mejor entre los proveedores

Latencia
0,58s

P50, mejor proveedor

Tiempo de actividad

El tiempo de actividad es el porcentaje de los últimos 3 días en que al menos un proveedor respondía a las solicitudes. La disponibilidad es el porcentaje de tiempo en que la inferencia se sirvió correctamente. OpenRouter supervisa continuamente y utiliza el siguiente mejor proveedor cuando uno devuelve un error.

Tiempo de actividad (3 d)El modelo estaba accesible. Solicitud enrutada a un proveedor.
100,00 %
Disponibilidad (3 d)El modelo devolvió una inferencia de cualquier proveedor. Los errores y las respuestas vacías cuentan en su contra.
99,98 %

Disponibilidad durante los últimos 3 días

Últimas 72 horas
Disponibilidad 99,98 %
Hace 3 díasHace 2 díasAyerAhora

Disponibilidad en las últimas 24 horas

OpenRouter Availability
99,98 %
Without Routing
98,47 %

Cuando se produce un error en un proveedor ascendente, podemos recuperarnos enrutando la solicitud a otro proveedor que funcione correctamente, si los filtros de su solicitud lo permiten. Puede acceder mediante programación a los datos de tiempo de actividad de cada proveedor a través de la API de endpoints. Obtenga más información sobre nuestras opciones de equilibrio de carga y enrutamiento de proveedores.

Pruebas de rendimiento

Puntuaciones en evaluaciones estandarizadas y respuestas de este modelo a instrucciones compartidas de las pruebas de referencia. Los porcentajes más altos son mejores, y cada posición indica dónde se sitúa este modelo entre los modelos evaluados en esa fuente.

Resumen de puntuaciones en pruebas de rendimiento de OpenAI: GPT-4o-mini (Artificial Analysis)
FuentePrueba de rendimientoPuntuación
Artificial AnalysisGPT-4o mini Coding Index11,4
Artificial AnalysisGPT-4o mini GPQA Diamond42.6%
Artificial AnalysisGPT-4o mini HLE4.2%
Artificial AnalysisGPT-4o mini IFBench31.0%
Artificial AnalysisGPT-4o mini τ-Bench Banking2.9%
Artificial AnalysisGPT-4o mini GDPval-AA0.0%
Artificial AnalysisGPT-4o mini LiveCodeBench23.4%
Artificial AnalysisGPT-4o mini Terminal-Bench 2.15.6%
Artificial AnalysisGPT-4o mini MMLU-Pro64.8%
Artificial AnalysisGPT-4o mini AIME 202514.7%
Artificial AnalysisGPT-4o mini AIME11.7%
Artificial AnalysisGPT-4o mini MATH-50078.9%

Aplicaciones

Aplicaciones públicas que envían más tráfico a este modelo. Una buena señal de cómo son las cargas de trabajo reales en producción, y una pista sobre los casos de uso para los que este modelo es más adecuado.

1.
13,9Btókenes
2.
7,17Btókenes
3.
Favicon de https://hub.mpk.marketing/
MPKHub
nuevo
6,24Btókenes
4.
Favicon de https://nousresearch.com
Hermes Agent
5,4Btókenes
5.
4,16Btókenes
Resto de OpenRouter
4,93B
Las 5 aplicaciones principales
458M

Actividad

Volumen de tokens y tráfico de solicitudes a este modelo a lo largo del tiempo.

API

Código listo para usar para llamar a este modelo. La API de OpenRouter es compatible con OpenAI: la mayoría de los SDK funcionan con solo cambiar la URL base. Lo único que cambia entre modelos es el identificador del modelo que aparece a continuación.

Disponible mediante enrutamiento dentro de la región de la UE

OpenAI: GPT-4o-mini está disponible mediante el enrutamiento dentro de la región de la UE. Las solicitudes enviadas a eu.dynamicsinfo.com se descifran en la UE y se enrutan únicamente a endpoints compartidos de proveedores en Europa (la UE/el EEE, el Reino Unido y Suiza).

Proveedores en Europa
Azure
Precios en Europa
  • Azure: 0,165 US$/M tokens de entrada, 0,66 US$/M tokens de salida
URL base
https://eu.dynamicsinfo.com/api/v1
Plan
Requiere Business o Enterprise. Autoservicio en Business: sin contrato ni mínimo mensual. OpenRouter Business para el enrutamiento dentro de la UE

Falla de forma cerrada: si no hay ningún endpoint de proveedor compartido disponible en Europa, la solicitud devuelve un error en lugar de salir de la región. Las solicitudes atendidas con su propia clave BYOK se dirigen a la región de su despliegue, que usted controla. Documentación de enrutamiento dentro de la región

Preguntas frecuentes