meta-llama のファビコン

Meta: Llama 3.3 70B Instruct

meta-llama/llama-3.3-70b-instruct

モデルの重み

The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.

Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.

Model Card

モダリティ
入力 / 出力料金
$0.10 / $0.321M あたり
コンテキスト
131K
公開日
2024年12月6日
知識のカットオフ
2023年12月

プロバイダー

同じモデルを複数の企業がホストしています。OpenRouter は、選択したルーティングモードである Balanced(価格 + 速度)、Nitro(最速)、Floor(最安)に基づいて、そのうちの一社にリクエストをルーティングします。

料金

プロバイダーが提示する価格と並べて、このモデルに対して顧客が実際に支払う平均価格を表示しています。キャッシュと割引により、実際の支払価格は表示価格を大幅に下回ることがよくあります。

加重平均

入力
$0.4373/百万トークン
出力
$0.7071/百万トークン
料金の推移
この選択に対応する実効価格データはありません

パフォーマンス

スループットはモデルが出力する速さです(毎秒のトークン数で、数値が高いほど優れています)。レイテンシは往復にかかる合計時間です(短いほど優れています)。TTFT は最初のトークンが出力されるまでの時間、つまり何かが表示され始めるまでの時間です(短いほど優れています)。

スループット
211トークン/秒

P50、プロバイダー全体での最良値

レイテンシ
0.14秒

P50、最適なプロバイダー

AutoExacto ベンチマーク
GPQA DiamondTAU-BenchCloudflare50.5%--Groq49.9%--Parasail47.9%--Novita47.4%--SambaNova Turbo47.4%--
+5 社のプロバイダー

稼働率

稼働率は、過去 3 日間に少なくとも一社のプロバイダーがリクエストに応答していた時間の割合です。可用性は、推論が正常に提供された時間の割合です。OpenRouter は継続的に監視し、プロバイダーがエラーを返すと、次に最適なプロバイダーを使用します。

稼働率(3 日間)モデルに接続できました。リクエストはプロバイダーにルーティングされました。
100.00%
可用性(3 日間)モデルがいずれかのプロバイダーから推論結果を返しました。エラーと空のレスポンスはマイナスとして集計されます。
99.36%

過去 3 日間の可用性

過去 72 時間
可用性 99.36%
3 日前2 日前昨日現在

過去 24 時間の可用性

OpenRouter Availability
98.83%
Without Routing
94.56%

上流のプロバイダーでエラーが発生した場合、リクエストフィルターが許可していれば、別の正常なプロバイダーにルーティングして復旧できます。プロバイダーごとの稼働率データにプログラムでアクセスするには Endpoints APIを利用できます。詳しくは、 負荷分散とプロバイダールーティングのオプションをご覧ください。

ベンチマーク

標準化された評価のスコアと、共通のベンチマークプロンプトに対するこのモデル自身の出力です。パーセンテージが高いほど優れており、各順位は、その情報源で評価されたモデルの中でのこのモデルの位置を示します。

ベンチマークスコアの概要: Meta: Llama 3.3 70B Instruct (Artificial Analysis)
出典ベンチマークスコア
Artificial AnalysisLlama 3.3 Instruct 70B Coding Index11.9
Artificial AnalysisLlama 3.3 Instruct 70B GPQA Diamond49.8%
Artificial AnalysisLlama 3.3 Instruct 70B HLE3.6%
Artificial AnalysisLlama 3.3 Instruct 70B IFBench47.1%
Artificial AnalysisLlama 3.3 Instruct 70B τ²-Bench Telecom26.6%
Artificial AnalysisLlama 3.3 Instruct 70B AA-LCR15.7%
Artificial AnalysisLlama 3.3 Instruct 70B GDPval-AA0.0%
Artificial AnalysisLlama 3.3 Instruct 70B CritPt0.0%
Artificial AnalysisLlama 3.3 Instruct 70B LiveCodeBench28.8%
Artificial AnalysisLlama 3.3 Instruct 70B Terminal-Bench Hard3.0%
Artificial AnalysisLlama 3.3 Instruct 70B Terminal-Bench 2.14.9%
Artificial AnalysisLlama 3.3 Instruct 70B MMLU-Pro71.3%
Artificial AnalysisLlama 3.3 Instruct 70B AIME 20257.7%
Artificial AnalysisLlama 3.3 Instruct 70B AIME30.0%
Artificial AnalysisLlama 3.3 Instruct 70B MATH-50077.3%

アプリ

このモデルに最も多くのトラフィックを送信している公開アプリです。実際の本番ワークロードを把握するための有力な指標であり、このモデルに最も適したユースケースを知る手がかりにもなります。

1.
3.57Bトークン
2.
1.52Bトークン
3.
https://router.systemsx.cloud/ のファビコン
Router
新着
1.05Bトークン
4.
1.01Bトークン
5.
https://openclaw.ai/ のファビコン
OpenClaw
940Mトークン
OpenRouter のその他のアプリ
2.01B
上位 5 アプリ
45.4M

アクティビティ

このモデルのトークン量とリクエストトラフィックの経時変化です。

API

このモデルを呼び出すために、そのまま使えるコードです。OpenRouter の API は OpenAI 互換のため、ほとんどの SDK はベース URL を変更するだけで動作します。モデル間で変わるのは、下記のモデルスラッグだけです。

現在、EU 域内ルーティングでは利用できません。 リージョン内ルーティングのドキュメント

ドキュメント

OpenRouter で Meta: Llama 3.3 70B Instruct を使った開発に役立つガイド、クックブック、ブログ記事、ツールです。

よくある質問