Baidu: ERNIE 4.5 VL 28B A3B

Мощная мультимодальная модель чата Mixture-of-Experts с общим числом параметров 28 млрд и 3 млрд активируемыми на каждый токен, обеспечивающая исключительное понимание текста и визуального контента благодаря своей инновационной гетерогенной структуре MoE с маршрутизацией, изолированной по модальностям. Построена на инфраструктуре, эффективной для масштабирования, обеспечивающей высокую пропускную способность при обучении и выводе, модель использует передовые техники постобучения, включая SFT, DPO и UPO, для оптимизированной производительности, при этом поддерживая впечатляющую длину контекста 131 K и выравнивание RLVR для превосходных возможностей кросс‑модального рассуждения и генерации.