Sao10K: Llama 3 8B Lunaris
sao10k/l3-lunaris-8b
Lunaris 8B is a versatile generalist and roleplaying model based on Llama 3. It's a strategic merge of multiple models, designed to balance creativity with improved logic and general knowledge.
Created by Sao10kOpens in new tab, this model aims to offer an improved experience over Stheno v3.2, with enhanced creativity and logical reasoning.
For best results, use with Llama 3 Instruct context template, temperature 1.4, and min_p 0.1.
Provedores
Diferentes empresas hospedam o mesmo modelo. O OpenRouter roteia sua solicitação para uma delas com base no modo de roteamento escolhido: Balanced (preço + velocidade), Nitro (mais rápido) ou Floor (mais barato).
| US$ 0,04 | US$ 0,05 | 0,14s | 87 tok/s | ||
| US$ 0,04 | US$ 0,05 | 0,66s | 88 tok/s |
Entrada US$ 0,04 / Saída US$ 0,0587 tok/s100,00% de disponibilidade- Entrada US$ 0,04 / Saída US$ 0,0588 tok/s99,55% de disponibilidade
Preços
O preço médio que os clientes realmente pagam por este modelo, ao lado dos preços publicados pelos provedores. O cache e os descontos fazem com que o preço efetivamente pago seja frequentemente bem inferior ao preço anunciado.
Média ponderada
Llama 3 8B Lunaris — Histórico de preços
| US$ 0,0398 | US$ 0,0472 | 13,6% | 17,1% | ||
| US$ 0,0398 | US$ 0,0478 | 0,0% | 82,9% |
- Em vigor em US$ 0,0398 / Saída efetiva US$ 0,0472Participação em tokens17,1%
- Em vigor em US$ 0,0398 / Saída efetiva US$ 0,0478Participação em tokens82,9%
Desempenho
A vazão indica a velocidade com que o modelo escreve (tokens por segundo — quanto maior, melhor). A latência é o tempo total de ida e volta (quanto menor, melhor). TTFT é o tempo até o primeiro token — quanto tempo leva para você ver algo aparecer (quanto menor, melhor).
P50, melhor entre os provedores
P50, melhor provedor
Disponibilidade
A disponibilidade é a porcentagem dos últimos 3 dias em que pelo menos um provedor estava respondendo às solicitações. A disponibilidade é a porcentagem de tempo em que a inferência foi realizada com sucesso. O OpenRouter monitora continuamente e usa o próximo melhor provedor quando um deles retorna um erro.
Disponibilidade nos últimos 3 dias
Últimas 72 horasDisponibilidade nas últimas 24 horas
Quando ocorre um erro em um provedor upstream, podemos nos recuperar roteando para outro provedor saudável, se os filtros da sua solicitação permitirem. Você pode acessar os dados de disponibilidade por provedor de forma programática pela API de endpoints. Saiba mais sobre nossas opções de balanceamento de carga e roteamento de provedores.
Aplicativos
Aplicativos públicos que enviam mais tráfego para este modelo. Um bom indicador de como são as cargas de trabalho reais em produção — e uma pista sobre os casos de uso para os quais este modelo é mais adequado.
Atividade
Volume de tokens e tráfego de requisições para este modelo ao longo do tempo.
API
Código pronto para chamar este modelo. A API do OpenRouter é compatível com a OpenAI — a maioria dos SDKs funciona apenas trocando a URL base. A única coisa que muda entre os modelos é o slug do modelo abaixo.
Atualmente indisponível por meio do roteamento intrarregional da UE. Documentação de roteamento na região
Perguntas frequentes
Lunaris 8B is a versatile generalist and roleplaying model based on Llama 3. It's a strategic merge of multiple models, designed to balance creativity with improved logic and general knowledge. Created by Sao10k, this model aims to offer an improved experience over Stheno v3.2, with enhanced creativity and logical reasoning.
Llama 3 8B Lunaris custa US$ 0,04/M de tokens de entrada e US$ 0,05/M de tokens de saída.
Llama 3 8B Lunaris tem uma janela de contexto de 8.192 tokens. Ele aceita até 8.192 tokens de conclusão.
Não. Llama 3 8B Lunaris não aceita tools, portanto a chamada de funções não está disponível. Também oferece suporte a saídas estruturadas por meio de um esquema JSON em response_format.
Llama 3 8B Lunaris é servido por 2 provedores no OpenRouter: Parasail e DeepInfra (Turbo). As solicitações são roteadas para o melhor provedor disponível, com failover automático para os demais, e você pode fixar ou excluir provedores com o roteamento de provedores.
Llama 3 8B Lunaris foi lançado em 13 de agosto de 2024. Seu conhecimento vai até 31 de dezembro de 2023.