meta-llama のファビコン

Meta: Llama 3.2 3B Instruct

meta-llama/llama-3.2-3b-instruct

モデルの重み

Llama 3.2 3B is a 3-billion-parameter multilingual large language model, optimized for advanced natural language processing tasks like dialogue generation, reasoning, and summarization. Designed with the latest transformer architecture, it supports eight languages, including English, Spanish, and Hindi, and is adaptable for additional languages.

Trained on 9 trillion tokens, the Llama 3.2 3B model excels in instruction-following, complex reasoning, and tool use. Its balanced performance makes it ideal for applications needing accuracy and efficiency in text generation across multilingual settings.

Click here for the original model card.

Usage of this model is subject to Meta's Acceptable Use Policy.

モダリティ
入力 / 出力料金
$0.05 / $0.331M あたり
コンテキスト
131K
公開日
2024年9月25日
知識のカットオフ
2023年12月

プロバイダー

同じモデルを複数の企業がホストしています。OpenRouter は、選択したルーティングモードである Balanced(価格 + 速度)、Nitro(最速)、Floor(最安)に基づいて、そのうちの一社にリクエストをルーティングします。

料金

プロバイダーが提示する価格と並べて、このモデルに対して顧客が実際に支払う平均価格を表示しています。キャッシュと割引により、実際の支払価格は表示価格を大幅に下回ることがよくあります。

加重平均

入力
$0.04968/百万トークン
出力
$0.3243/百万トークン
料金の推移
この選択に対応する実効価格データはありません

パフォーマンス

スループットはモデルが出力する速さです(毎秒のトークン数で、数値が高いほど優れています)。レイテンシは往復にかかる合計時間です(短いほど優れています)。TTFT は最初のトークンが出力されるまでの時間、つまり何かが表示され始めるまでの時間です(短いほど優れています)。

スループット
210トークン/秒

P50、プロバイダー全体での最良値

レイテンシ
0.19秒

P50、最適なプロバイダー

稼働率

稼働率は、過去 3 日間に少なくとも一社のプロバイダーがリクエストに応答していた時間の割合です。可用性は、推論が正常に提供された時間の割合です。OpenRouter は継続的に監視し、プロバイダーがエラーを返すと、次に最適なプロバイダーを使用します。

稼働率(3 日間)モデルに接続できました。リクエストはプロバイダーにルーティングされました。
100.00%
可用性(3 日間)モデルがいずれかのプロバイダーから推論結果を返しました。エラーと空のレスポンスはマイナスとして集計されます。
99.99%

過去 3 日間の可用性

過去 72 時間
可用性 99.99%
3 日前2 日前昨日現在

過去 24 時間の可用性

OpenRouter Availability
99.98%
Without Routing
81.32%

上流のプロバイダーでエラーが発生した場合、リクエストフィルターが許可していれば、別の正常なプロバイダーにルーティングして復旧できます。プロバイダーごとの稼働率データにプログラムでアクセスするには Endpoints APIを利用できます。詳しくは、 負荷分散とプロバイダールーティングのオプションをご覧ください。

ベンチマーク

標準化された評価のスコアと、共通のベンチマークプロンプトに対するこのモデル自身の出力です。パーセンテージが高いほど優れており、各順位は、その情報源で評価されたモデルの中でのこのモデルの位置を示します。

ベンチマークスコアの概要: Meta: Llama 3.2 3B Instruct (Artificial Analysis)
出典ベンチマークスコア
Artificial AnalysisLlama 3.2 Instruct 3B GPQA Diamond25.5%
Artificial AnalysisLlama 3.2 Instruct 3B HLE5.3%
Artificial AnalysisLlama 3.2 Instruct 3B IFBench26.2%
Artificial AnalysisLlama 3.2 Instruct 3B τ²-Bench Telecom21.1%
Artificial AnalysisLlama 3.2 Instruct 3B AA-LCR4.3%
Artificial AnalysisLlama 3.2 Instruct 3B LiveCodeBench8.3%
Artificial AnalysisLlama 3.2 Instruct 3B MMLU-Pro34.7%
Artificial AnalysisLlama 3.2 Instruct 3B AIME 20253.3%
Artificial AnalysisLlama 3.2 Instruct 3B AIME6.7%
Artificial AnalysisLlama 3.2 Instruct 3B MATH-50048.9%

アプリ

このモデルに最も多くのトラフィックを送信している公開アプリです。実際の本番ワークロードを把握するための有力な指標であり、このモデルに最も適したユースケースを知る手がかりにもなります。

1.
171Mトークン
2.
31.5Mトークン
3.
24.7Mトークン
4.
24.3Mトークン
5.
https://api.spin.inductionlabs.com/ のファビコン
Spin
新着
19.1Mトークン
OpenRouter のその他のアプリ
62.7M
上位 5 アプリ
3.84M

アクティビティ

このモデルのトークン量とリクエストトラフィックの経時変化です。

API

このモデルを呼び出すために、そのまま使えるコードです。OpenRouter の API は OpenAI 互換のため、ほとんどの SDK はベース URL を変更するだけで動作します。モデル間で変わるのは、下記のモデルスラッグだけです。

現在、EU 域内ルーティングでは利用できません。 リージョン内ルーティングのドキュメント

よくある質問