Favicon für meta-llama

Meta: Llama 3.3 70B Instruct

meta-llama/llama-3.3-70b-instruct

Modellgewichte

The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.

Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.

Model Card

Modalitäten
Eingabe- / Ausgabepreis
0,10 $ / 0,32 $pro 1 Mio.
Kontext
131K
Veröffentlicht
6. Dez. 2024
Wissensstand
Dez. 2023

Anbieter

Verschiedene Unternehmen hosten dasselbe Modell. OpenRouter leitet Ihre Anfrage je nach gewähltem Routing-Modus an eines davon weiter: Ausgewogen (Preis + Geschwindigkeit), Nitro (am schnellsten) oder Floor (am günstigsten).

Preise

Der durchschnittliche Preis, den Kunden tatsächlich für dieses Modell zahlen, neben den von Anbietern veröffentlichten Preisen. Durch Caching und Rabatte liegt der tatsächlich gezahlte Preis oft deutlich unter dem Listenpreis.

Gewichteter Durchschnitt

Eingabe
0,4535 $/Mio. Token
Ausgabe
0,7176 $/Mio. Token
Preisverlauf
Keine effektiven Preisdaten für diese Auswahl

Leistung

Der Durchsatz gibt an, wie schnell das Modell schreibt (Token pro Sekunde – höher ist besser). Die Latenz ist die gesamte Umlaufzeit (niedriger ist besser). TTFT ist die Zeit bis zum ersten Token – also die Wartezeit, bis etwas angezeigt wird (niedriger ist besser).

Durchsatz
225Token/s

P50, bester Wert über alle Anbieter hinweg

Latenz
0,20s

P50, bester Anbieter

AutoExacto-Leistungsvergleiche
GPQA DiamondTAU-BenchCloudflare50,5 %--Groq49,9 %--Parasail47,9 %--Novita47,4 %--SambaNova Turbo47,4 %--
+5 weitere Anbieter

Verfügbarkeit

Verfügbarkeit ist der prozentuale Anteil der letzten 3 Tage, in dem mindestens ein Anbieter auf Anfragen reagiert hat. Die Verfügbarkeit der Inferenz ist der prozentuale Anteil der Zeit, in der Inferenz erfolgreich bereitgestellt wurde. OpenRouter überwacht dies kontinuierlich und verwendet den nächstbesten Anbieter, wenn ein Anbieter einen Fehler zurückgibt.

Verfügbarkeit (3 Tage)Das Modell war erreichbar. Die Anfrage wurde an einen Anbieter weitergeleitet.
100,00 %
Verfügbarkeit (3 Tage)Das Modell hat über einen beliebigen Anbieter ein Inferenzergebnis zurückgegeben. Fehler und leere Antworten wirken sich negativ darauf aus.
99,35 %

Verfügbarkeit in den letzten 3 Tagen

Letzte 72 Stunden
Verfügbarkeit 99,35 %
Vor 3 TagenVor 2 TagenGesternJetzt

Verfügbarkeit in den letzten 24 Stunden

OpenRouter Availability
98,79 %
Without Routing
94,47 %

Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.

Leistungsvergleiche

Ergebnisse standardisierter Bewertungen und eigene Ausgaben dieses Modells zu gemeinsamen Vergleichstest-Prompts. Höhere Prozentwerte sind besser – und jeder Rang zeigt, wo dieses Modell unter den anhand dieser Quelle bewerteten Modellen liegt.

Zusammenfassung der Benchmark-Ergebnisse für Meta: Llama 3.3 70B Instruct (Artificial Analysis)
QuelleBenchmarkErgebnis
Artificial AnalysisLlama 3.3 Instruct 70B Coding Index11,9
Artificial AnalysisLlama 3.3 Instruct 70B GPQA Diamond49.8%
Artificial AnalysisLlama 3.3 Instruct 70B HLE3.6%
Artificial AnalysisLlama 3.3 Instruct 70B IFBench47.1%
Artificial AnalysisLlama 3.3 Instruct 70B τ²-Bench Telecom26.6%
Artificial AnalysisLlama 3.3 Instruct 70B AA-LCR15.7%
Artificial AnalysisLlama 3.3 Instruct 70B GDPval-AA0.0%
Artificial AnalysisLlama 3.3 Instruct 70B CritPt0.0%
Artificial AnalysisLlama 3.3 Instruct 70B LiveCodeBench28.8%
Artificial AnalysisLlama 3.3 Instruct 70B Terminal-Bench Hard3.0%
Artificial AnalysisLlama 3.3 Instruct 70B Terminal-Bench 2.14.9%
Artificial AnalysisLlama 3.3 Instruct 70B MMLU-Pro71.3%
Artificial AnalysisLlama 3.3 Instruct 70B AIME 20257.7%
Artificial AnalysisLlama 3.3 Instruct 70B AIME30.0%
Artificial AnalysisLlama 3.3 Instruct 70B MATH-50077.3%

Apps

Öffentliche Apps, die den meisten Datenverkehr an dieses Modell senden. Ein guter Anhaltspunkt dafür, wie echte Produktionsworkloads aussehen – und ein Hinweis darauf, für welche Anwendungsfälle dieses Modell am besten geeignet ist.

2.
1,52BToken
3.
1,04BToken
4.
1,01BToken
5.
Favicon für https://openclaw.ai/
OpenClaw
939MToken
Rest von OpenRouter
1,63B
Top 5 Apps
32,2M

Aktivität

Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.

API

Direkt einsetzbarer Code zum Aufrufen dieses Modells. Die API von OpenRouter ist OpenAI-kompatibel – bei den meisten SDKs genügt es, die Basis-URL auszutauschen. Zwischen den Modellen ändert sich nur der unten stehende Modell-Slug.

Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing

Dokumentation

Anleitungen, Rezeptsammlungen, Blogbeiträge und Tools für die Entwicklung mit Meta: Llama 3.3 70B Instruct auf OpenRouter.

Häufig gestellte Fragen

Weitere Modelle entdecken