Favicon für baidu

Baidu: ERNIE 4.5 21B A3B

baidu/ernie-4.5-21b-a3b

Modellgewichte

A sophisticated text-based Mixture-of-Experts (MoE) model featuring 21B total parameters with 3B activated per token, delivering exceptional multimodal understanding and generation through heterogeneous MoE structures and modality-isolated routing. Supporting an extensive 131K token context length, the model achieves efficient inference via multi-expert parallel collaboration and quantization, while advanced post-training techniques including SFT, DPO, and UPO ensure optimized performance across diverse applications with specialized routing and balancing losses for superior task handling.

Modalitäten
Kontext
131K
Veröffentlicht
12. Aug. 2025
Wissensstand
März 2025

Aktivität

Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.

Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing

Häufig gestellte Fragen

Weitere Modelle entdecken