
Meta: Llama 3.3 70B Instruct
meta-llama/llama-3.3-70b-instruct
ModellgewichteThe Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.
Anbieter
Verschiedene Unternehmen hosten dasselbe Modell. OpenRouter leitet Ihre Anfrage je nach gewähltem Routing-Modus an eines davon weiter: Ausgewogen (Preis + Geschwindigkeit), Nitro (am schnellsten) oder Floor (am günstigsten).
| 0,710 $ | 0,710 $ | 0,710 $ | 0,20s | 84 tok/s | ||
| 0,600 $ | 1,200 $ | -- | 0,65s | 115 tok/s | ||
| 0,220 $ | 0,500 $ | 0,110 $ | 1,31s | 31 tok/s | ||
Nur BYOK | 0,720 $ | 0,720 $ | -- | -- | -- | |
Nur BYOK | 0,720 $ | 0,720 $ | -- | -- | -- | |
| 0,200 $ | 0,520 $ | 0,100 $ | 0,75s | 37 tok/s | ||
| 0,590 $ | 0,790 $ | 0,295 $ | 0,42s | 225 tok/s | ||
| 0,100 $ | 0,320 $ | -- | 0,58s | 16 tok/s | ||
| 0,293 $ | 2,253 $ | -- | 1,05s | 34 tok/s |
- Eingabe 0,71 $ / Ausgabe 0,71 $84 tok/s97,38 % Verfügbarkeit
- Eingabe 0,60 $ / Ausgabe 1,20 $115 tok/s99,80 % Verfügbarkeit
- Eingabe 0,22 $ / Ausgabe 0,50 $31 tok/s99,37 % Verfügbarkeit
- Eingabe 0,72 $ / Ausgabe 0,72 $-- tok/s-- VerfügbarkeitNur BYOK
- Eingabe 0,72 $ / Ausgabe 0,72 $-- tok/s-- VerfügbarkeitNur BYOK
- Eingabe 0,20 $ / Ausgabe 0,52 $37 tok/s100,00 % Verfügbarkeit
- Eingabe 0,59 $ / Ausgabe 0,79 $225 tok/s100,00 % Verfügbarkeit
Eingabe 0,10 $ / Ausgabe 0,32 $16 tok/s98,72 % Verfügbarkeit- Eingabe 0,293 $ / Ausgabe 2,253 $34 tok/s96,93 % Verfügbarkeit
Preise
Der durchschnittliche Preis, den Kunden tatsächlich für dieses Modell zahlen, neben den von Anbietern veröffentlichten Preisen. Durch Caching und Rabatte liegt der tatsächlich gezahlte Preis oft deutlich unter dem Listenpreis.
Gewichteter Durchschnitt
Llama 3.3 70B Instruct — Preisverlauf
| 0,0997 $ | 0,316 $ | 0,0 % | 7,5 % | ||
| 0,1526 $ | 0,516 $ | 47,1 % | 9,4 % | ||
| 0,1840 $ | 0,498 $ | 32,4 % | 19,7 % | ||
| 0,2927 $ | 2,248 $ | 0,0 % | 4,4 % | ||
| 0,5897 $ | 0,786 $ | 0,0 % | 18,3 % | ||
| 0,5996 $ | 1,194 $ | 0,0 % | 10,4 % | ||
| 0,7094 $ | 0,705 $ | 46,8 % | 30,3 % | ||
| — | — | — | — | ||
| — | — | — | — |
- Wirksam in 0,0997 $ / Effektive Ausgabekosten 0,316 $Token-Anteil7,5 %
- Wirksam in 0,1526 $ / Effektive Ausgabekosten 0,516 $Token-Anteil9,4 %
- Wirksam in 0,1840 $ / Effektive Ausgabekosten 0,498 $Token-Anteil19,7 %
- Wirksam in 0,2927 $ / Effektive Ausgabekosten 2,248 $Token-Anteil4,4 %
- Wirksam in 0,5897 $ / Effektive Ausgabekosten 0,786 $Token-Anteil18,3 %
- Wirksam in 0,5996 $ / Effektive Ausgabekosten 1,194 $Token-Anteil10,4 %
- Wirksam in 0,7094 $ / Effektive Ausgabekosten 0,705 $Token-Anteil30,3 %
- Wirksam in — / Effektive Ausgabekosten —Token-Anteil —
- Wirksam in — / Effektive Ausgabekosten —Token-Anteil —
Leistung
Der Durchsatz gibt an, wie schnell das Modell schreibt (Token pro Sekunde – höher ist besser). Die Latenz ist die gesamte Umlaufzeit (niedriger ist besser). TTFT ist die Zeit bis zum ersten Token – also die Wartezeit, bis etwas angezeigt wird (niedriger ist besser).
P50, bester Wert über alle Anbieter hinweg
P50, bester Anbieter
Verfügbarkeit
Verfügbarkeit ist der prozentuale Anteil der letzten 3 Tage, in dem mindestens ein Anbieter auf Anfragen reagiert hat. Die Verfügbarkeit der Inferenz ist der prozentuale Anteil der Zeit, in der Inferenz erfolgreich bereitgestellt wurde. OpenRouter überwacht dies kontinuierlich und verwendet den nächstbesten Anbieter, wenn ein Anbieter einen Fehler zurückgibt.
Verfügbarkeit in den letzten 3 Tagen
Letzte 72 StundenVerfügbarkeit in den letzten 24 Stunden
Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.
Leistungsvergleiche
Ergebnisse standardisierter Bewertungen und eigene Ausgaben dieses Modells zu gemeinsamen Vergleichstest-Prompts. Höhere Prozentwerte sind besser – und jeder Rang zeigt, wo dieses Modell unter den anhand dieser Quelle bewerteten Modellen liegt.
| Quelle | Benchmark | Ergebnis |
|---|---|---|
| Artificial Analysis | Llama 3.3 Instruct 70B Coding Index | 11,9 |
| Artificial Analysis | Llama 3.3 Instruct 70B GPQA Diamond | 49.8% |
| Artificial Analysis | Llama 3.3 Instruct 70B HLE | 3.6% |
| Artificial Analysis | Llama 3.3 Instruct 70B IFBench | 47.1% |
| Artificial Analysis | Llama 3.3 Instruct 70B τ²-Bench Telecom | 26.6% |
| Artificial Analysis | Llama 3.3 Instruct 70B AA-LCR | 15.7% |
| Artificial Analysis | Llama 3.3 Instruct 70B GDPval-AA | 0.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B CritPt | 0.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B LiveCodeBench | 28.8% |
| Artificial Analysis | Llama 3.3 Instruct 70B Terminal-Bench Hard | 3.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B Terminal-Bench 2.1 | 4.9% |
| Artificial Analysis | Llama 3.3 Instruct 70B MMLU-Pro | 71.3% |
| Artificial Analysis | Llama 3.3 Instruct 70B AIME 2025 | 7.7% |
| Artificial Analysis | Llama 3.3 Instruct 70B AIME | 30.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B MATH-500 | 77.3% |
Apps
Öffentliche Apps, die den meisten Datenverkehr an dieses Modell senden. Ein guter Anhaltspunkt dafür, wie echte Produktionsworkloads aussehen – und ein Hinweis darauf, für welche Anwendungsfälle dieses Modell am besten geeignet ist.
Aktivität
Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.
API
Direkt einsetzbarer Code zum Aufrufen dieses Modells. Die API von OpenRouter ist OpenAI-kompatibel – bei den meisten SDKs genügt es, die Basis-URL auszutauschen. Zwischen den Modellen ändert sich nur der unten stehende Modell-Slug.
Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing
Dokumentation
Anleitungen, Rezeptsammlungen, Blogbeiträge und Tools für die Entwicklung mit Meta: Llama 3.3 70B Instruct auf OpenRouter.
Häufig gestellte Fragen
The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
Die Dokumentation zu Llama 3.3 70B Instruct auf OpenRouter umfasst der Blogbeitrag Price Drops and Llama 3.3 70b . Der Schnellstart behandelt API-Schlüssel und Ihre erste Anfrage, und die API-Referenz listet alle Parameter auf.
Llama 3.3 70B Instruct kostet 0,10 $/M Eingabe-Token und 0,32 $/M Ausgabe-Token.
Llama 3.3 70B Instruct hat ein Kontextfenster von 131.072 Token. Es unterstützt bis zu 16.384 Completion-Token.
Ja. Llama 3.3 70B Instruct akzeptiert tools und tool_choice für Funktionsaufrufe bei 5 der 8 Anbieter, die es bereitstellen, und Anfragen, die Tools senden, werden an diese Anbieter weitergeleitet. Es unterstützt auch strukturierte Ausgaben über ein JSON-Schema in response_format.
Llama 3.3 70B Instruct wird auf OpenRouter von 8 Anbietern bereitgestellt: DeepInfra (Turbo), AkashML, Parasail, Cloudflare, Groq, SambaNova Turbo, CoreWeave und Google Vertex. Anfragen werden an den besten verfügbaren Anbieter weitergeleitet, mit automatischem Failover zu den anderen Anbietern, und Sie können Anbieter über Anbieter-Routing festlegen oder ausschließen.
Llama 3.3 70B Instruct wurde am 6. Dezember 2024 veröffentlicht. Der Wissensstand reicht bis zum 31. Dezember 2023.