Favicon de openai

OpenAI: GPT-4o-mini

openai/gpt-4o-mini

GPT-4o mini is OpenAI's newest model after GPT-4 Omni, supporting both text and image inputs with text outputs.

As their most advanced small model, it is many multiples more affordable than other recent frontier models, and more than 60% cheaper than GPT-3.5 Turbo. It maintains SOTA intelligence, while being significantly more cost-effective.

GPT-4o mini achieves an 82% score on MMLU and presently ranks higher than GPT-4 on chat preferences common leaderboards.

Check out the launch announcement to learn more.

#multimodal

Modalités
Prix d’entrée / de sortie
0,15 $US / 0,60 $USpar 1M
Contexte
128K
Publié
18 juil. 2024
Date limite des connaissances
oct. 2023

Fournisseurs

Différentes entreprises hébergent le même modèle. OpenRouter achemine votre requête vers l’une d’elles selon le mode de routage que vous choisissez : Équilibré (prix + vitesse), Nitro (le plus rapide) ou Floor (le moins cher).

  • Non utilisé pour le routage Standard :Pourquoi ces points de terminaison ne sont pas utilisés

Tarification

Le prix moyen que les clients paient réellement pour ce modèle, à côté des prix affichés par les fournisseurs. Grâce à la mise en cache et aux remises, le prix réellement payé est souvent bien inférieur au prix affiché.

Moyenne pondérée

Entrée
0,1321 $US/M de jetons
Sortie
0,5971 $US/M de jetons
Historique des prix
Aucune donnée de prix effectif pour cette sélection
  • Non utilisé pour le routage Standard :Pourquoi ces points de terminaison ne sont pas utilisés

Performances

Le débit est la vitesse à laquelle le modèle écrit (jetons par seconde — plus il est élevé, mieux c’est). La latence est le temps total d’aller-retour (plus il est faible, mieux c’est). Le TTFT est le délai avant le premier jeton — le temps avant de voir quelque chose apparaître (plus il est faible, mieux c’est).

Débit
93jetons/s

P50, meilleur résultat tous fournisseurs confondus

Latence
0,28s

P50, meilleur fournisseur

Disponibilité

La disponibilité correspond au pourcentage des 3 derniers jours pendant lequel au moins un fournisseur répondait aux requêtes. La disponibilité du service correspond au pourcentage de temps pendant lequel l’inférence a été assurée avec succès. OpenRouter surveille en continu les fournisseurs et utilise le meilleur fournisseur suivant lorsque l’un d’eux renvoie une erreur.

Disponibilité (3 j)Le modèle était joignable. Requête acheminée vers un fournisseur.
100,00 %
Disponibilité (3 j)Le modèle a renvoyé un résultat d’inférence, quel que soit le fournisseur. Les erreurs et les réponses vides sont comptabilisées à son détriment.
99,98 %

Disponibilité au cours des 3 derniers jours

72 dernières heures
Disponibilité 99,98 %
Il y a 3 joursIl y a 2 joursHierMaintenant

Disponibilité au cours des dernières 24 heures

OpenRouter Availability
99,98 %
Without Routing
98,44 %

Lorsqu’une erreur survient chez un fournisseur en amont, nous pouvons rétablir le service en routant la requête vers un autre fournisseur opérationnel, si les filtres de votre requête le permettent. Vous pouvez accéder par programmation aux données de disponibilité de chaque fournisseur via l’ API des points de terminaison. Découvrez nos options d’ équilibrage de charge et de routage des fournisseurs.

Évaluations comparatives

Scores aux évaluations standardisées et réponses de ce modèle aux prompts communs des tests de référence. Des pourcentages plus élevés sont meilleurs — et chaque rang indique la position de ce modèle parmi les modèles évalués sur cette source.

Résumé des scores aux tests de performance pour OpenAI: GPT-4o-mini (Artificial Analysis)
SourceTest de performanceScore
Artificial AnalysisGPT-4o mini Coding Index11,4
Artificial AnalysisGPT-4o mini GPQA Diamond42.6%
Artificial AnalysisGPT-4o mini HLE4.2%
Artificial AnalysisGPT-4o mini IFBench31.0%
Artificial AnalysisGPT-4o mini τ-Bench Banking2.9%
Artificial AnalysisGPT-4o mini GDPval-AA0.0%
Artificial AnalysisGPT-4o mini LiveCodeBench23.4%
Artificial AnalysisGPT-4o mini Terminal-Bench 2.15.6%
Artificial AnalysisGPT-4o mini MMLU-Pro64.8%
Artificial AnalysisGPT-4o mini AIME 202514.7%
Artificial AnalysisGPT-4o mini AIME11.7%
Artificial AnalysisGPT-4o mini MATH-50078.9%

Applications

Applications publiques qui envoient le plus de trafic à ce modèle. Un bon indicateur des charges de travail réelles en production — et un aperçu des cas d’usage auxquels ce modèle convient le mieux.

1.
13,8Bjetons
2.
7,17Bjetons
3.
Favicon de https://hub.mpk.marketing/
MPKHub
nouveau
6,21Bjetons
4.
Favicon de https://nousresearch.com
Hermes Agent
5,39Bjetons
5.
4,16Bjetons
Reste d’OpenRouter
3,11B
Top 5 des applications
344M

Activité

Volume de jetons et trafic des requêtes vers ce modèle au fil du temps.

API

Code prêt à l’emploi pour appeler ce modèle. L’API d’OpenRouter est compatible avec OpenAI — la plupart des SDK fonctionnent en remplaçant simplement l’URL de base. Seul le slug du modèle ci-dessous change d’un modèle à l’autre.

Disponible via le routage au sein de la région UE

OpenAI: GPT-4o-mini est disponible via le routage intrarégional dans l’UE. Les requêtes envoyées à eu.dynamicsinfo.com sont déchiffrées dans l’UE et acheminées uniquement vers des points de terminaison partagés de fournisseurs en Europe (UE/EEE, Royaume-Uni et Suisse).

Fournisseurs en Europe
Azure
Tarifs en Europe
  • Azure : 0,165 $US/M tokens en entrée, 0,66 $US/M tokens en sortie
URL de base
https://eu.dynamicsinfo.com/api/v1
Offre
Nécessite Business ou Enterprise. En libre-service avec Business : sans contrat ni minimum mensuel. OpenRouter Business pour le routage au sein de l’UE

Blocage en cas d’échec : si aucun point de terminaison de fournisseur partagé en Europe n’est disponible, la requête renvoie une erreur au lieu de quitter la région. Les requêtes traitées avec votre propre clé BYOK sont acheminées vers la région de votre déploiement, que vous contrôlez. Documentation sur le routage intrarégional

Questions fréquentes