Favicon de togethercomputer

StripedHyena Nous 7B

This is the chat model variant of the StripedHyena series developed by Together in collaboration with Nous Research.

StripedHyena uses a new architecture that competes with traditional Transformers, particularly in long-context data processing. It combines attention mechanisms with gated convolutions for improved speed, efficiency, and scaling. This model marks a significant advancement in AI architecture for sequence modeling tasks.

Modalidades
Contexto
33K
Publicado
9 dic 2023
Fecha límite de conocimiento
jun 2023

Actividad

Volumen de tokens y tráfico de solicitudes a este modelo a lo largo del tiempo.

Actualmente no está disponible mediante el enrutamiento dentro de la región de la UE. Documentación de enrutamiento dentro de la región

Preguntas frecuentes