Sao10K: Llama 3.1 Euryale 70B v2.2
sao10k/l3.1-euryale-70b
Euryale L3.1 70B v2.2 is a model focused on creative roleplay from Sao10kOpens in new tab. It is the successor of Euryale L3 70B v2.1.
Proveedores
Distintas empresas alojan el mismo modelo. OpenRouter enruta su solicitud a una de ellas según el modo de enrutamiento que elija: Balanced (precio + velocidad), Nitro (el más rápido) o Floor (el más económico).
| 0,85 US$ | 0,85 US$ | 0,26s | 51 tok/s | ||
No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints | |||||
| 0,68 US$ | 0,68 US$ | 1,07s | 43 tok/s | ||
Entrada 0,85 US$ / Salida 0,85 US$51 tok/s100,00 % de tiempo de actividad- No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints
Entrada 0,68 US$ / Salida 0,68 US$43 tok/s-- de tiempo de actividadFlex
Precios
El precio medio que los clientes pagan realmente por este modelo, junto a los precios que publican los proveedores. El uso de caché y los descuentos hacen que el precio realmente pagado a menudo sea muy inferior al publicado.
Media ponderada
Llama 3.1 Euryale 70B v2.2 — Historial de precios
| 0,850 US$ | 0,847 US$ | 0,0 % | 99,9 % | ||
No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints | |||||
| 0,679 US$ | 0,671 US$ | 0,0 % | 0,1 % | ||
- En vigor en 0,850 US$ / Salida efectiva 0,847 US$Proporción de tókenes99,9 %
- No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints
- En vigor en 0,679 US$ / Salida efectiva 0,671 US$FlexProporción de tókenes0,1 %
Rendimiento
La velocidad de generación indica lo rápido que escribe el modelo (tokens por segundo: cuanto mayor, mejor). La latencia es el tiempo total de ida y vuelta (cuanto menor, mejor). TTFT es el tiempo hasta el primer token: cuánto tarda en aparecer algo en pantalla (cuanto menor, mejor).
P50, el mejor entre los proveedores
P50, mejor proveedor
Tiempo de actividad
El tiempo de actividad es el porcentaje de los últimos 3 días en que al menos un proveedor respondía a las solicitudes. La disponibilidad es el porcentaje de tiempo en que la inferencia se sirvió correctamente. OpenRouter supervisa continuamente y utiliza el siguiente mejor proveedor cuando uno devuelve un error.
Disponibilidad durante los últimos 3 días
Últimas 72 horasDisponibilidad en las últimas 24 horas
Cuando se produce un error en un proveedor ascendente, podemos recuperarnos enrutando la solicitud a otro proveedor que funcione correctamente, si los filtros de su solicitud lo permiten. Puede acceder mediante programación a los datos de tiempo de actividad de cada proveedor a través de la API de endpoints. Obtenga más información sobre nuestras opciones de equilibrio de carga y enrutamiento de proveedores.
Aplicaciones
Aplicaciones públicas que envían más tráfico a este modelo. Una buena señal de cómo son las cargas de trabajo reales en producción, y una pista sobre los casos de uso para los que este modelo es más adecuado.
Actividad
Volumen de tokens y tráfico de solicitudes a este modelo a lo largo del tiempo.
API
Código listo para usar para llamar a este modelo. La API de OpenRouter es compatible con OpenAI: la mayoría de los SDK funcionan con solo cambiar la URL base. Lo único que cambia entre modelos es el identificador del modelo que aparece a continuación.
Actualmente no está disponible mediante el enrutamiento dentro de la región de la UE. Documentación de enrutamiento dentro de la región
Preguntas frecuentes
Euryale L3.1 70B v2.2 is a model focused on creative roleplay from Sao10k. It is the successor of Euryale L3 70B v2.1.
Llama 3.1 Euryale 70B v2.2 cuesta 0,85 US$/M de tokens de entrada y 0,85 US$/M de tókenes de salida.
Llama 3.1 Euryale 70B v2.2 tiene una ventana de contexto de 131.072 tókenes. Admite hasta 16.384 tókenes de respuesta.
No. Llama 3.1 Euryale 70B v2.2 no admite tools, por lo que las llamadas a funciones no están disponibles. También admite salidas estructuradas mediante un esquema JSON en response_format.
Llama 3.1 Euryale 70B v2.2 está disponible a través de 1 proveedor en OpenRouter: DeepInfra.
Llama 3 8B Lunaris es otro modelo de texto de Sao10K.
Llama 3.1 Euryale 70B v2.2 se lanzó el 28 de agosto de 2024. Su fecha límite de conocimientos es 31 de diciembre de 2023.