One of the highest performing and most popular fine-tunes of Llama 2 13B, with rich descriptions and roleplay. #merge
提供商
不同公司托管同一模型。OpenRouter 根据您选择的路由模式将请求路由到其中一家公司:Balanced(价格 + 速度)、Nitro(速度最快)或 Floor(价格最低)。
| US$0.08 | US$0.11 | -- | 0.41s | 71 tok/s | ||
| US$0.30 | US$0.50 | US$0.20 | 22.70s | 20 tok/s |
- 输入 US$0.08 / 输出 US$0.1171 tok/s100.00% 正常运行时间
- 输入 US$0.30 / 输出 US$0.5020 tok/s99.88% 正常运行时间
定价
客户为此模型实际支付的平均价格,与提供商公布的价格并列展示。由于缓存和折扣,实际支付的价格往往远低于标价。
加权平均值
MythoMax 13B — 价格历史
| US$0.0795 | US$0.108 | 44.7% | 54.1% | ||
| US$0.2374 | US$0.496 | 62.1% | 45.9% |
- 有效输入价格 US$0.0795 / 实际输出 US$0.108token 占比54.1%
- 有效输入价格 US$0.2374 / 实际输出 US$0.496token 占比45.9%
性能
吞吐量是模型生成内容的速度(每秒 token 数,越高越好)。延迟是完整的往返时间(越低越好)。TTFT 是首个 token 的响应时间,即您看到内容出现前需要等待的时间(越低越好)。
P50,所有提供商中最佳
P50,最佳提供商
正常运行时间
正常运行时间是指过去 3 天中至少有一家提供商响应请求的时间百分比。可用性是指成功提供推理服务的时间百分比。OpenRouter 会持续监控,并在某家提供商返回错误时使用次优提供商。
过去 3 天的可用性
最近 72 小时过去 24 小时的可用性
当上游提供商发生错误时,如果您的请求筛选条件允许,我们可以通过路由到另一家健康的提供商来恢复服务。您可以通过以下接口以编程方式访问各提供商的正常运行时间数据: 端点 API。了解更多有关我们的 负载均衡和提供商路由选项。
应用
向此模型发送最多流量的公开应用。这能很好地反映实际生产工作负载的情况,也能提示此模型最适合哪些用例。
活动
此模型的 token 用量和请求流量随时间的变化。
API
可直接用于调用此模型的代码。OpenRouter 的 API 与 OpenAI 兼容——大多数 SDK 只需替换基础 URL 即可使用。切换模型时,唯一需要更改的是下方的模型标识符。
目前无法通过 EU 区域内路由使用。 区域内路由文档
常见问题
One of the highest performing and most popular fine-tunes of Llama 2 13B, with rich descriptions and roleplay. #merge
MythoMax 13B 的费用为 US$0.08/百万输入 token 和 US$0.11/百万输出 token。
MythoMax 13B 的上下文窗口为 8,192 个 token。它最多支持 4,096 个补全 token。
不支持。MythoMax 13B 不接受 tools,因此无法使用函数调用。 它还支持通过 response_format 中的 JSON schema 实现结构化输出。
在 OpenRouter 上,MythoMax 13B 由 2 家提供商提供服务:Parasail和Mancer。 请求会路由至最佳的可用提供商,并在故障时自动切换至其他提供商,您也可以通过提供商路由固定或排除提供商。
MythoMax 13B 于 2023年7月2日 发布。其知识截止日期为 2023年6月30日。