meta-llama 的网站图标

Meta: Llama 3.3 70B Instruct

meta-llama/llama-3.3-70b-instruct

模型权重

The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.

Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.

Model Card

模态
输入/输出价格
US$0.10 / US$0.32每 1M
上下文
131K
发布时间
2024年12月6日
知识截止日期
2023年12月

提供商

不同公司托管同一模型。OpenRouter 根据您选择的路由模式将请求路由到其中一家公司:Balanced(价格 + 速度)、Nitro(速度最快)或 Floor(价格最低)。

定价

客户为此模型实际支付的平均价格,与提供商公布的价格并列展示。由于缓存和折扣,实际支付的价格往往远低于标价。

加权平均值

输入
US$0.454/百万 token
输出
US$0.7009/百万 token
价格历史
当前选择无实际价格数据

性能

吞吐量是模型生成内容的速度(每秒 token 数,越高越好)。延迟是完整的往返时间(越低越好)。TTFT 是首个 token 的响应时间,即您看到内容出现前需要等待的时间(越低越好)。

吞吐量
215token/秒

P50,所有提供商中最佳

延迟
0.14秒

P50,最佳提供商

AutoExacto 基准测试
GPQA DiamondTAU-BenchCloudflare50.5%--Groq49.9%--Parasail47.9%--Novita47.4%--SambaNova Turbo47.4%--
+5 家其他提供商

正常运行时间

正常运行时间是指过去 3 天中至少有一家提供商响应请求的时间百分比。可用性是指成功提供推理服务的时间百分比。OpenRouter 会持续监控,并在某家提供商返回错误时使用次优提供商。

正常运行时间(3 天)模型可访问。请求已路由至提供商。
100.00%
可用性(3 天)模型通过任意提供商返回了推理结果。错误和空响应均计为失败。
99.36%

过去 3 天的可用性

最近 72 小时
可用性 99.36%
3 天前2 天前昨天现在

过去 24 小时的可用性

OpenRouter Availability
99.97%
Without Routing
94.70%

当上游提供商发生错误时,如果您的请求筛选条件允许,我们可以通过路由到另一家健康的提供商来恢复服务。您可以通过以下接口以编程方式访问各提供商的正常运行时间数据: 端点 API。了解更多有关我们的 负载均衡和提供商路由选项。

基准测试

标准化评测得分,以及此模型针对共用基准测试提示词的实际输出。百分比越高越好,每项排名显示此模型在该来源所评测的模型中的位置。

基准测试得分摘要: Meta: Llama 3.3 70B Instruct (Artificial Analysis)
来源基准测试得分
Artificial AnalysisLlama 3.3 Instruct 70B Coding Index11.9
Artificial AnalysisLlama 3.3 Instruct 70B GPQA Diamond49.8%
Artificial AnalysisLlama 3.3 Instruct 70B HLE3.6%
Artificial AnalysisLlama 3.3 Instruct 70B IFBench47.1%
Artificial AnalysisLlama 3.3 Instruct 70B τ²-Bench Telecom26.6%
Artificial AnalysisLlama 3.3 Instruct 70B AA-LCR15.7%
Artificial AnalysisLlama 3.3 Instruct 70B GDPval-AA0.0%
Artificial AnalysisLlama 3.3 Instruct 70B CritPt0.0%
Artificial AnalysisLlama 3.3 Instruct 70B LiveCodeBench28.8%
Artificial AnalysisLlama 3.3 Instruct 70B Terminal-Bench Hard3.0%
Artificial AnalysisLlama 3.3 Instruct 70B Terminal-Bench 2.14.9%
Artificial AnalysisLlama 3.3 Instruct 70B MMLU-Pro71.3%
Artificial AnalysisLlama 3.3 Instruct 70B AIME 20257.7%
Artificial AnalysisLlama 3.3 Instruct 70B AIME30.0%
Artificial AnalysisLlama 3.3 Instruct 70B MATH-50077.3%

应用

向此模型发送最多流量的公开应用。这能很好地反映实际生产工作负载的情况,也能提示此模型最适合哪些用例。

1.
3.75Btoken
2.
1.52Btoken
3.
https://router.systemsx.cloud/ 的网站图标
Router
新增
1.09Btoken
4.
1.03Btoken
5.
https://openclaw.ai/ 的网站图标
OpenClaw
947Mtoken
OpenRouter 的其他部分
3.42B
前 5 大应用
279M

活动

此模型的 token 用量和请求流量随时间的变化。

API

可直接用于调用此模型的代码。OpenRouter 的 API 与 OpenAI 兼容——大多数 SDK 只需替换基础 URL 即可使用。切换模型时,唯一需要更改的是下方的模型标识符。

目前无法通过 EU 区域内路由使用。 区域内路由文档

文档

在 OpenRouter 上使用 Meta: Llama 3.3 70B Instruct 构建应用的指南、实用教程、博客文章和工具。

常见问题

探索更多模型