Sber libera en código abierto GigaChat 3.5 Ultra, con 432 mil millones de parámetros

Sberbank ha liberado en acceso abierto (open source) GigaChat 3.5 Ultra, su nuevo modelo insignia. Cuenta con 432 mil millones de parámetros, casi un 40% menos que su predecesor, GigaChat 3.1 Ultra, que tenía 700 mil millones. Los pesos del modelo están disponibles para que los desarrolladores lo desplieguen por su cuenta, sin necesidad de recurrir a la API cerrada de la compañía.

¿Cuánto más compacto es el modelo?

GigaChat 3.5 Ultra tiene 432 mil millones de parámetros, frente a los 700 mil millones de GigaChat 3.1 Ultra: una reducción de casi el 40%. Los desarrolladores insisten en que no se trata de sacrificar calidad a cambio de abaratar costes. Según explican, los nuevos datos, la receta de entrenamiento actualizada y los cambios en la arquitectura han hecho que el modelo sea a la vez más compacto y más potente.

• GigaChat 3.5 Ultra: 432 mil millones de parámetros, distribuido en open source
• GigaChat 3.1 Ultra (anterior modelo insignia de la familia): 700 mil millones de parámetros
• Reducción del tamaño del modelo: alrededor del 40%, o 268 mil millones de parámetros
• Por primera vez en la familia GigaChat, la arquitectura híbrida propia se escala a cientos de miles de millones de parámetros

¿Qué ha cambiado en la arquitectura?

El equipo de Sber ha escalado por primera vez su propia arquitectura híbrida de GigaChat a cientos de miles de millones de parámetros en un único lanzamiento. En este tipo de modelos, la arquitectura híbrida suele referirse a la combinación de distintos tipos de capas y mecanismos de atención, lo que permite ganar escala sin que el coste computacional crezca en la misma proporción. Según los desarrolladores, este enfoque ha permitido acelerar la inferencia (la generación de respuestas) y, al mismo tiempo, ampliar las capacidades del modelo, sobre todo en programación, escenarios agénticos (en los que el modelo invoca herramientas y ejecuta cadenas de acciones por sí mismo) y dominios complejos.

«No es un compromiso del tipo "más pequeño, pero más barato": gracias

a los nuevos datos, a la receta de entrenamiento actualizada y a los cambios en la arquitectura, el modelo es más potente y también más eficiente en memoria y velocidad de generación», señala el blog oficial de Sber en Habr.

¿Por qué la compañía ha reducido el modelo?

Sber no atribuye la reducción de tamaño al ahorro, sino a una decisión de ingeniería: un modelo más pequeño es más eficiente en memoria y velocidad de generación, y mantiene o incluso mejora la calidad. La diferencia de 268 mil millones de parámetros entre GigaChat 3.1 Ultra y GigaChat 3.5 Ultra tiene un impacto directo en la infraestructura: cuantos menos parámetros tiene un modelo, menos memoria de vídeo necesita para cargarse y más rápido genera tokens con el mismo hardware.

¿Qué significa para los desarrolladores?

Para quienes despliegan modelos open source por su cuenta, pasar de un modelo insignia de 700 mil millones a uno de 432 mil millones de parámetros supone una barrera de entrada más baja en hardware, con una calidad de respuesta comparable o superior. GigaChat 3.5 Ultra está orientada, entre otras cosas, a programación y escenarios agénticos, precisamente las tareas en las que los desarrolladores comparan con más frecuencia los modelos open source con las API cerradas de la competencia.

Qué significa

Sber sigue publicando en abierto sus modelos insignia GigaChat y, al mismo tiempo, se desplaza hacia arquitecturas más compactas y rápidas. Es una tendencia que hoy recorre toda la industria de los grandes modelos de lenguaje, donde los desarrolladores buscan el equilibrio entre el tamaño del modelo, el coste de la infraestructura y su utilidad práctica en programación y escenarios agénticos.