
Meta: Llama 3.3 70B Instruct
meta-llama/llama-3.3-70b-instruct
The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.
提供商
不同公司托管同一模型。OpenRouter 根据您选择的路由模式将请求路由到其中一家公司:Balanced(价格 + 速度)、Nitro(速度最快)或 Floor(价格最低)。
| US$0.710 | US$0.710 | US$0.710 | 0.14s | 85 tok/s | ||
| US$0.600 | US$1.200 | -- | 0.59s | 123 tok/s | ||
| US$0.200 | US$0.520 | US$0.100 | 0.93s | 30 tok/s | ||
| US$0.220 | US$0.500 | US$0.110 | 1.02s | 35 tok/s | ||
仅限 BYOK | US$0.720 | US$0.720 | -- | -- | -- | |
仅限 BYOK | US$0.720 | US$0.720 | -- | -- | -- | |
| US$0.293 | US$2.253 | -- | 0.97s | 36 tok/s | ||
| US$0.590 | US$0.790 | US$0.295 | 0.39s | 215 tok/s | ||
| US$0.100 | US$0.320 | -- | 0.49s | 24 tok/s |
- 输入 US$0.71 / 输出 US$0.7185 tok/s97.81% 正常运行时间
- 输入 US$0.60 / 输出 US$1.20123 tok/s99.80% 正常运行时间
- 输入 US$0.20 / 输出 US$0.5230 tok/s100.00% 正常运行时间
- 输入 US$0.22 / 输出 US$0.5035 tok/s98.67% 正常运行时间
- 输入 US$0.72 / 输出 US$0.72-- tok/s-- 正常运行时间仅限 BYOK
- 输入 US$0.72 / 输出 US$0.72-- tok/s-- 正常运行时间仅限 BYOK
- 输入 US$0.293 / 输出 US$2.25336 tok/s97.22% 正常运行时间
- 输入 US$0.59 / 输出 US$0.79215 tok/s100.00% 正常运行时间
输入 US$0.10 / 输出 US$0.3224 tok/s98.79% 正常运行时间
定价
客户为此模型实际支付的平均价格,与提供商公布的价格并列展示。由于缓存和折扣,实际支付的价格往往远低于标价。
加权平均值
Llama 3.3 70B Instruct — 价格历史
| US$0.0998 | US$0.317 | 0.0% | 6.9% | ||
| US$0.1473 | US$0.517 | 52.5% | 16.1% | ||
| US$0.1810 | US$0.498 | 35.2% | 14.2% | ||
| US$0.2928 | US$2.248 | 0.0% | 3.4% | ||
| US$0.5897 | US$0.785 | 0.0% | 20.5% | ||
| US$0.5997 | US$1.196 | 0.0% | 7.5% | ||
| US$0.7097 | US$0.707 | 49.4% | 31.4% | ||
| — | — | — | — | ||
| — | — | — | — |
- 有效输入价格 US$0.0998 / 实际输出 US$0.317token 占比6.9%
- 有效输入价格 US$0.1473 / 实际输出 US$0.517token 占比16.1%
- 有效输入价格 US$0.1810 / 实际输出 US$0.498token 占比14.2%
- 有效输入价格 US$0.2928 / 实际输出 US$2.248token 占比3.4%
- 有效输入价格 US$0.5897 / 实际输出 US$0.785token 占比20.5%
- 有效输入价格 US$0.5997 / 实际输出 US$1.196token 占比7.5%
- 有效输入价格 US$0.7097 / 实际输出 US$0.707token 占比31.4%
- 有效输入价格 — / 实际输出 —token 占比 —
- 有效输入价格 — / 实际输出 —token 占比 —
性能
吞吐量是模型生成内容的速度(每秒 token 数,越高越好)。延迟是完整的往返时间(越低越好)。TTFT 是首个 token 的响应时间,即您看到内容出现前需要等待的时间(越低越好)。
P50,所有提供商中最佳
P50,最佳提供商
正常运行时间
正常运行时间是指过去 3 天中至少有一家提供商响应请求的时间百分比。可用性是指成功提供推理服务的时间百分比。OpenRouter 会持续监控,并在某家提供商返回错误时使用次优提供商。
过去 3 天的可用性
最近 72 小时过去 24 小时的可用性
当上游提供商发生错误时,如果您的请求筛选条件允许,我们可以通过路由到另一家健康的提供商来恢复服务。您可以通过以下接口以编程方式访问各提供商的正常运行时间数据: 端点 API。了解更多有关我们的 负载均衡和提供商路由选项。
基准测试
标准化评测得分,以及此模型针对共用基准测试提示词的实际输出。百分比越高越好,每项排名显示此模型在该来源所评测的模型中的位置。
| 来源 | 基准测试 | 得分 |
|---|---|---|
| Artificial Analysis | Llama 3.3 Instruct 70B Coding Index | 11.9 |
| Artificial Analysis | Llama 3.3 Instruct 70B GPQA Diamond | 49.8% |
| Artificial Analysis | Llama 3.3 Instruct 70B HLE | 3.6% |
| Artificial Analysis | Llama 3.3 Instruct 70B IFBench | 47.1% |
| Artificial Analysis | Llama 3.3 Instruct 70B τ²-Bench Telecom | 26.6% |
| Artificial Analysis | Llama 3.3 Instruct 70B AA-LCR | 15.7% |
| Artificial Analysis | Llama 3.3 Instruct 70B GDPval-AA | 0.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B CritPt | 0.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B LiveCodeBench | 28.8% |
| Artificial Analysis | Llama 3.3 Instruct 70B Terminal-Bench Hard | 3.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B Terminal-Bench 2.1 | 4.9% |
| Artificial Analysis | Llama 3.3 Instruct 70B MMLU-Pro | 71.3% |
| Artificial Analysis | Llama 3.3 Instruct 70B AIME 2025 | 7.7% |
| Artificial Analysis | Llama 3.3 Instruct 70B AIME | 30.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B MATH-500 | 77.3% |
应用
向此模型发送最多流量的公开应用。这能很好地反映实际生产工作负载的情况,也能提示此模型最适合哪些用例。
活动
此模型的 token 用量和请求流量随时间的变化。
API
可直接用于调用此模型的代码。OpenRouter 的 API 与 OpenAI 兼容——大多数 SDK 只需替换基础 URL 即可使用。切换模型时,唯一需要更改的是下方的模型标识符。
目前无法通过 EU 区域内路由使用。 区域内路由文档
文档
在 OpenRouter 上使用 Meta: Llama 3.3 70B Instruct 构建应用的指南、实用教程、博客文章和工具。
常见问题
The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
OpenRouter 上的 Llama 3.3 70B Instruct 文档包括 Price Drops and Llama 3.3 70b 博客文章。快速入门介绍了 API 密钥和您的首次请求,API 参考列出了所有参数。
Llama 3.3 70B Instruct 的费用为 US$0.10/百万输入 token 和 US$0.32/百万输出 token。
Llama 3.3 70B Instruct 的上下文窗口为 131,072 个 token。它最多支持 16,384 个补全 token。
支持。在提供 Llama 3.3 70B Instruct 的 8 家提供商中,有 5 家支持该模型通过 tools 和 tool_choice 进行函数调用,包含工具的请求会被路由到这些提供商。 它还支持通过 response_format 中的 JSON schema 实现结构化输出。
在 OpenRouter 上,Llama 3.3 70B Instruct 由 8 家提供商提供服务:DeepInfra (Turbo)、AkashML、Parasail、Cloudflare、Groq、SambaNova Turbo、CoreWeave和Google Vertex。 请求会路由至最佳的可用提供商,并在故障时自动切换至其他提供商,您也可以通过提供商路由固定或排除提供商。
Llama 3.3 70B Instruct 于 2024年12月6日 发布。其知识截止日期为 2023年12月31日。