
Meta: Llama 3.1 8B Instruct
meta-llama/llama-3.1-8b-instruct
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.
It has demonstrated strong performance compared to leading closed-source models in human evaluations.
To read more about the model release, click hereOpens in new tab. Usage of this model is subject to Meta's Acceptable Use PolicyOpens in new tab.
Fournisseurs
Différentes entreprises hébergent le même modèle. OpenRouter achemine votre requête vers l’une d’elles selon le mode de routage que vous choisissez : Équilibré (prix + vitesse), Nitro (le plus rapide) ou Floor (le moins cher).
| 0,020 $US | 0,040 $US | -- | 1,03s | 35 tok/s | ||
| 0,050 $US | 0,080 $US | 0,025 $US | 0,34s | 422 tok/s | ||
| 0,220 $US | 0,220 $US | 0,220 $US | 0,23s | 125 tok/s | ||
| 0,152 $US | 0,287 $US | -- | 0,54s | 17 tok/s |
Entrée 0,02 $US / Sortie 0,04 $US35 tok/s100,00 % de disponibilité- Entrée 0,05 $US / Sortie 0,08 $US422 tok/s98,94 % de disponibilité
- Entrée 0,22 $US / Sortie 0,22 $US125 tok/s98,11 % de disponibilité
- Entrée 0,152 $US / Sortie 0,287 $US17 tok/s98,81 % de disponibilité
Tarification
Le prix moyen que les clients paient réellement pour ce modèle, à côté des prix affichés par les fournisseurs. Grâce à la mise en cache et aux remises, le prix réellement payé est souvent bien inférieur au prix affiché.
Moyenne pondérée
Llama 3.1 8B Instruct — Historique des prix
| 0,0196 $US | 0,0383 $US | 0,0 % | 66,4 % | ||
| 0,0443 $US | 0,0789 $US | 22,1 % | 24,2 % | ||
| 0,1513 $US | 0,2829 $US | 0,0 % | 2,2 % | ||
| 0,2194 $US | 0,2189 $US | 37,9 % | 7,2 % |
- Prix effectif en entrée 0,0196 $US / Sortie effective 0,0383 $USPart des jetons66,4 %
- Prix effectif en entrée 0,0443 $US / Sortie effective 0,0789 $USPart des jetons24,2 %
- Prix effectif en entrée 0,1513 $US / Sortie effective 0,2829 $USPart des jetons2,2 %
- Prix effectif en entrée 0,2194 $US / Sortie effective 0,2189 $USPart des jetons7,2 %
Performances
Le débit est la vitesse à laquelle le modèle écrit (jetons par seconde — plus il est élevé, mieux c’est). La latence est le temps total d’aller-retour (plus il est faible, mieux c’est). Le TTFT est le délai avant le premier jeton — le temps avant de voir quelque chose apparaître (plus il est faible, mieux c’est).
P50, meilleur résultat tous fournisseurs confondus
P50, meilleur fournisseur
Disponibilité
La disponibilité correspond au pourcentage des 3 derniers jours pendant lequel au moins un fournisseur répondait aux requêtes. La disponibilité du service correspond au pourcentage de temps pendant lequel l’inférence a été assurée avec succès. OpenRouter surveille en continu les fournisseurs et utilise le meilleur fournisseur suivant lorsque l’un d’eux renvoie une erreur.
Disponibilité au cours des 3 derniers jours
72 dernières heuresDisponibilité au cours des dernières 24 heures
Lorsqu’une erreur survient chez un fournisseur en amont, nous pouvons rétablir le service en routant la requête vers un autre fournisseur opérationnel, si les filtres de votre requête le permettent. Vous pouvez accéder par programmation aux données de disponibilité de chaque fournisseur via l’ API des points de terminaison. Découvrez nos options d’ équilibrage de charge et de routage des fournisseurs.
Évaluations comparatives
Scores aux évaluations standardisées et réponses de ce modèle aux prompts communs des tests de référence. Des pourcentages plus élevés sont meilleurs — et chaque rang indique la position de ce modèle parmi les modèles évalués sur cette source.
| Source | Test de performance | Score |
|---|---|---|
| Artificial Analysis | Llama 3.1 Instruct 8B Coding Index | 5,4 |
| Artificial Analysis | Llama 3.1 Instruct 8B GPQA Diamond | 25.9% |
| Artificial Analysis | Llama 3.1 Instruct 8B HLE | 5.3% |
| Artificial Analysis | Llama 3.1 Instruct 8B IFBench | 28.6% |
| Artificial Analysis | Llama 3.1 Instruct 8B τ²-Bench Telecom | 16.4% |
| Artificial Analysis | Llama 3.1 Instruct 8B AA-LCR | 18.0% |
| Artificial Analysis | Llama 3.1 Instruct 8B GDPval-AA | 0.0% |
| Artificial Analysis | Llama 3.1 Instruct 8B CritPt | 0.0% |
| Artificial Analysis | Llama 3.1 Instruct 8B LiveCodeBench | 11.6% |
| Artificial Analysis | Llama 3.1 Instruct 8B Terminal-Bench Hard | 0.8% |
| Artificial Analysis | Llama 3.1 Instruct 8B Terminal-Bench 2.1 | 1.5% |
| Artificial Analysis | Llama 3.1 Instruct 8B MMLU-Pro | 47.6% |
| Artificial Analysis | Llama 3.1 Instruct 8B AIME 2025 | 4.3% |
| Artificial Analysis | Llama 3.1 Instruct 8B AIME | 7.7% |
| Artificial Analysis | Llama 3.1 Instruct 8B MATH-500 | 51.9% |
Applications
Applications publiques qui envoient le plus de trafic à ce modèle. Un bon indicateur des charges de travail réelles en production — et un aperçu des cas d’usage auxquels ce modèle convient le mieux.
Activité
Volume de jetons et trafic des requêtes vers ce modèle au fil du temps.
API
Code prêt à l’emploi pour appeler ce modèle. L’API d’OpenRouter est compatible avec OpenAI — la plupart des SDK fonctionnent en remplaçant simplement l’URL de base. Seul le slug du modèle ci-dessous change d’un modèle à l’autre.
Actuellement indisponible via le routage dans la région UE. Documentation sur le routage intrarégional
Questions fréquentes
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, click here. Usage of this model is subject to Meta's Acceptable Use Policy.
Llama 3.1 8B Instruct coûte 0,02 $US/M de jetons d’entrée et 0,04 $US/M de jetons de sortie.
Llama 3.1 8B Instruct dispose d’une fenêtre de contexte de 131 072 jetons. Il prend en charge jusqu’à 16 384 jetons de complétion.
Oui. Llama 3.1 8B Instruct accepte tools et tool_choice pour les appels de fonctions chez 2 des 4 fournisseurs qui le proposent, et les requêtes qui envoient des outils sont acheminées vers ces fournisseurs. Il prend également en charge les sorties structurées via un schéma JSON dans response_format.
Llama 3.1 8B Instruct est servi par 4 fournisseurs sur OpenRouter : DeepInfra, Groq, Cloudflare et CoreWeave. Les requêtes sont acheminées vers le meilleur fournisseur disponible, avec un basculement automatique vers les autres, et vous pouvez épingler ou exclure des fournisseurs grâce au routage des fournisseurs.
Llama 3.1 8B Instruct est sorti le 23 juillet 2024. Ses connaissances s’arrêtent au 31 décembre 2023.