Favicon de meta-llama

Meta: Llama 3.3 70B Instruct

meta-llama/llama-3.3-70b-instruct

Poids du modèle

The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.

Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.

Model Card

Modalités
Prix d’entrée / de sortie
0,10 $US / 0,32 $USpar 1M
Contexte
131K
Publié
6 déc. 2024
Date limite des connaissances
déc. 2023

Fournisseurs

Différentes entreprises hébergent le même modèle. OpenRouter achemine votre requête vers l’une d’elles selon le mode de routage que vous choisissez : Équilibré (prix + vitesse), Nitro (le plus rapide) ou Floor (le moins cher).

Tarification

Le prix moyen que les clients paient réellement pour ce modèle, à côté des prix affichés par les fournisseurs. Grâce à la mise en cache et aux remises, le prix réellement payé est souvent bien inférieur au prix affiché.

Moyenne pondérée

Entrée
0,441 $US/M de jetons
Sortie
0,7046 $US/M de jetons
Historique des prix
Aucune donnée de prix effectif pour cette sélection

Performances

Le débit est la vitesse à laquelle le modèle écrit (jetons par seconde — plus il est élevé, mieux c’est). La latence est le temps total d’aller-retour (plus il est faible, mieux c’est). Le TTFT est le délai avant le premier jeton — le temps avant de voir quelque chose apparaître (plus il est faible, mieux c’est).

Débit
174jetons/s

P50, meilleur résultat tous fournisseurs confondus

Latence
0,16s

P50, meilleur fournisseur

Évaluations comparatives AutoExacto
GPQA DiamondTAU-BenchCloudflare50,5 %--Groq49,9 %--Parasail47,9 %--Novita47,4 %--SambaNova Turbo47,4 %--
+5 fournisseurs supplémentaires

Disponibilité

La disponibilité correspond au pourcentage des 3 derniers jours pendant lequel au moins un fournisseur répondait aux requêtes. La disponibilité du service correspond au pourcentage de temps pendant lequel l’inférence a été assurée avec succès. OpenRouter surveille en continu les fournisseurs et utilise le meilleur fournisseur suivant lorsque l’un d’eux renvoie une erreur.

Disponibilité (3 j)Le modèle était joignable. Requête acheminée vers un fournisseur.
100,00 %
Disponibilité (3 j)Le modèle a renvoyé un résultat d’inférence, quel que soit le fournisseur. Les erreurs et les réponses vides sont comptabilisées à son détriment.
99,35 %

Disponibilité au cours des 3 derniers jours

72 dernières heures
Disponibilité 99,35 %
Il y a 3 joursIl y a 2 joursHierMaintenant

Disponibilité au cours des dernières 24 heures

OpenRouter Availability
98,82 %
Without Routing
94,12 %

Lorsqu’une erreur survient chez un fournisseur en amont, nous pouvons rétablir le service en routant la requête vers un autre fournisseur opérationnel, si les filtres de votre requête le permettent. Vous pouvez accéder par programmation aux données de disponibilité de chaque fournisseur via l’ API des points de terminaison. Découvrez nos options d’ équilibrage de charge et de routage des fournisseurs.

Évaluations comparatives

Scores aux évaluations standardisées et réponses de ce modèle aux prompts communs des tests de référence. Des pourcentages plus élevés sont meilleurs — et chaque rang indique la position de ce modèle parmi les modèles évalués sur cette source.

Résumé des scores aux tests de performance pour Meta: Llama 3.3 70B Instruct (Artificial Analysis)
SourceTest de performanceScore
Artificial AnalysisLlama 3.3 Instruct 70B Coding Index11,9
Artificial AnalysisLlama 3.3 Instruct 70B GPQA Diamond49.8%
Artificial AnalysisLlama 3.3 Instruct 70B HLE3.6%
Artificial AnalysisLlama 3.3 Instruct 70B IFBench47.1%
Artificial AnalysisLlama 3.3 Instruct 70B τ²-Bench Telecom26.6%
Artificial AnalysisLlama 3.3 Instruct 70B AA-LCR15.7%
Artificial AnalysisLlama 3.3 Instruct 70B GDPval-AA0.0%
Artificial AnalysisLlama 3.3 Instruct 70B CritPt0.0%
Artificial AnalysisLlama 3.3 Instruct 70B LiveCodeBench28.8%
Artificial AnalysisLlama 3.3 Instruct 70B Terminal-Bench Hard3.0%
Artificial AnalysisLlama 3.3 Instruct 70B Terminal-Bench 2.14.9%
Artificial AnalysisLlama 3.3 Instruct 70B MMLU-Pro71.3%
Artificial AnalysisLlama 3.3 Instruct 70B AIME 20257.7%
Artificial AnalysisLlama 3.3 Instruct 70B AIME30.0%
Artificial AnalysisLlama 3.3 Instruct 70B MATH-50077.3%

Applications

Applications publiques qui envoient le plus de trafic à ce modèle. Un bon indicateur des charges de travail réelles en production — et un aperçu des cas d’usage auxquels ce modèle convient le mieux.

1.
3,61Bjetons
2.
1,52Bjetons
3.
Favicon de https://router.systemsx.cloud/
Router
nouveau
1,07Bjetons
4.
Favicon de https://www.juicychat.ai/
JuicyChat
nouveau
1,02Bjetons
5.
Favicon de https://openclaw.ai/
OpenClaw
942Mjetons
Reste d’OpenRouter
2,54B
Top 5 des applications
107M

Activité

Volume de jetons et trafic des requêtes vers ce modèle au fil du temps.

API

Code prêt à l’emploi pour appeler ce modèle. L’API d’OpenRouter est compatible avec OpenAI — la plupart des SDK fonctionnent en remplaçant simplement l’URL de base. Seul le slug du modèle ci-dessous change d’un modèle à l’autre.

Actuellement indisponible via le routage dans la région UE. Documentation sur le routage intrarégional

Documentation

Guides, recueils de recettes, articles de blog et outils pour développer avec Meta: Llama 3.3 70B Instruct sur OpenRouter.

Questions fréquentes

Explorer d’autres modèles