Favicon de sao10k

Sao10K: Llama 3.1 Euryale 70B v2.2

sao10k/l3.1-euryale-70b

Pesos del modelo

Euryale L3.1 70B v2.2 is a model focused on creative roleplay from Sao10k. It is the successor of Euryale L3 70B v2.1.

Modalidades
Precio de entrada / salida
0,85 US$ / 0,85 US$por 1M
Contexto
131K
Publicado
28 ago 2024
Fecha límite de conocimiento
dic 2023

Proveedores

Distintas empresas alojan el mismo modelo. OpenRouter enruta su solicitud a una de ellas según el modo de enrutamiento que elija: Balanced (precio + velocidad), Nitro (el más rápido) o Floor (el más económico).

  • No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints

Precios

El precio medio que los clientes pagan realmente por este modelo, junto a los precios que publican los proveedores. El uso de caché y los descuentos hacen que el precio realmente pagado a menudo sea muy inferior al publicado.

Media ponderada

Entrada
0,8496 US$/M tokens
Salida
0,8463 US$/M tokens
Historial de precios
No hay datos de precios efectivos para esta selección
  • No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints

Rendimiento

La velocidad de generación indica lo rápido que escribe el modelo (tokens por segundo: cuanto mayor, mejor). La latencia es el tiempo total de ida y vuelta (cuanto menor, mejor). TTFT es el tiempo hasta el primer token: cuánto tarda en aparecer algo en pantalla (cuanto menor, mejor).

Rendimiento
51tok/s

P50, el mejor entre los proveedores

Latencia
0,26s

P50, mejor proveedor

Tiempo de actividad

El tiempo de actividad es el porcentaje de los últimos 3 días en que al menos un proveedor respondía a las solicitudes. La disponibilidad es el porcentaje de tiempo en que la inferencia se sirvió correctamente. OpenRouter supervisa continuamente y utiliza el siguiente mejor proveedor cuando uno devuelve un error.

Tiempo de actividad (3 d)El modelo estaba accesible. Solicitud enrutada a un proveedor.
100,00 %
Disponibilidad (3 d)El modelo devolvió una inferencia de cualquier proveedor. Los errores y las respuestas vacías cuentan en su contra.
99,76 %

Disponibilidad durante los últimos 3 días

Últimas 72 horas
Disponibilidad 99,76 %
Hace 3 díasHace 2 díasAyerAhora

Disponibilidad en las últimas 24 horas

OpenRouter Availability
99,80 %

Cuando se produce un error en un proveedor ascendente, podemos recuperarnos enrutando la solicitud a otro proveedor que funcione correctamente, si los filtros de su solicitud lo permiten. Puede acceder mediante programación a los datos de tiempo de actividad de cada proveedor a través de la API de endpoints. Obtenga más información sobre nuestras opciones de equilibrio de carga y enrutamiento de proveedores.

Aplicaciones

Aplicaciones públicas que envían más tráfico a este modelo. Una buena señal de cómo son las cargas de trabajo reales en producción, y una pista sobre los casos de uso para los que este modelo es más adecuado.

1.
Favicon de https://sillytavern.app/
SillyTavern
330Mtókenes
2.
Favicon de https://janitorai.com/
Janitor AI
154Mtókenes
3.
Favicon de https://sloane.world/
Sloane
nuevo
154Mtókenes
4.
Favicon de https://musona.app/
Musona
nuevo
101Mtókenes
5.
Favicon de https://art-from-the-machine.github.io/
Mantella
97,7Mtókenes
Resto de OpenRouter
31,2M
Las 5 aplicaciones principales
20,1M

Actividad

Volumen de tokens y tráfico de solicitudes a este modelo a lo largo del tiempo.

API

Código listo para usar para llamar a este modelo. La API de OpenRouter es compatible con OpenAI: la mayoría de los SDK funcionan con solo cambiar la URL base. Lo único que cambia entre modelos es el identificador del modelo que aparece a continuación.

Actualmente no está disponible mediante el enrutamiento dentro de la región de la UE. Documentación de enrutamiento dentro de la región

Preguntas frecuentes