Sber lanzó GigaChat 3.5 Ultra al código abierto con 432 mil millones de parámetros

Sberbank lanzó GigaChat 3.5 Ultra con 432 mil millones de parámetros como código abierto

Sberbank lanzó un nuevo modelo insignia, GigaChat 3.5 Ultra, al dominio público (código abierto) — contiene 432 mil millones de parámetros, casi 40% menos que el anterior insignia GigaChat 3.1 Ultra con 700 mil millones de parámetros. Los pesos del modelo están disponibles para que los desarrolladores los implementen de forma independiente, sin contactar a la API cerrada de la empresa.

Cuán compacto se volvió el modelo

GigaChat 3.5 Ultra pesa 432 mil millones de parámetros frente a 700 mil millones para GigaChat 3.1 Ultra — una reducción de casi 40%. Los desarrolladores enfatizan que esto no es un compromiso de "más pequeño, pero más barato": según ellos, los nuevos datos, la receta de entrenamiento actualizada y los cambios arquitectónicos hicieron que el modelo fuera simultáneamente más compacto y más fuerte.

• GigaChat 3.5 Ultra — 432 mil millones de parámetros, distribuido como código abierto
• GigaChat 3.1 Ultra (anterior insignia de la línea) — 700 mil millones de parámetros
• Reducción del tamaño del modelo — aproximadamente 40%, o 268 mil millones de parámetros
• Primera vez para la línea GigaChat: arquitectura híbrida propietaria escalada a cientos de miles de millones de parámetros

Qué cambió en la arquitectura

El equipo de Sber escaló su arquitectura GigaChat híbrida propietaria a cientos de miles de millones de parámetros por primera vez dentro de un único lanzamiento. La arquitectura híbrida en tales modelos típicamente se refiere a una combinación de diferentes tipos de capas y mecanismos de atención, lo que permite escalar sin crecimiento proporcional en costos computacionales. Los desarrolladores dicen que esto hizo posible acelerar simultáneamente la inferencia (generación de respuestas) y expandir las capacidades del modelo — principalmente en código, escenarios de agentes (cuando el modelo llama a herramientas y realiza cadenas de acciones), y áreas temáticas complejas.

"Esto no es un compromiso de 'más pequeño, pero más barato': debido a

nuevos datos, una receta de entrenamiento actualizada y cambios arquitectónicos, el modelo se volvió más fuerte, así como más eficiente en memoria y velocidad de generación," — de acuerdo con el blog oficial de Sber en Habr.

Por qué la empresa redujo el tamaño del modelo

Sber explica la reducción del tamaño del modelo no como economía, sino como cálculo de ingeniería: un modelo más pequeño es más eficiente en memoria y velocidad de generación mientras mantiene o mejora la calidad. La diferencia de 268 mil millones de parámetros entre GigaChat 3.1 Ultra y GigaChat 3.5 Ultra se refleja directamente en la infraestructura: cuantos menos parámetros tiene un modelo, menos memoria de video se necesita para cargarlo y mayor es la velocidad de generación de tokens con el mismo equipo.

Lo que esto significa para los desarrolladores

Para aquellos que implementan modelos de código abierto de forma independiente, reducir el insignia de 700 mil millones a 432 mil millones de parámetros significa un umbral de entrada de hardware más bajo con calidad de respuesta comparable o superior. GigaChat 3.5 Ultra está orientado, entre otras cosas, al código y escenarios de agentes — exactamente las tareas donde los desarrolladores más frecuentemente comparan modelos de código abierto con APIs cerradas de competidores.

Lo que esto significa

Sber continúa publicando modelos insignia GigaChat en acceso abierto y simultáneamente se desplaza hacia arquitecturas más compactas y rápidas — una tendencia ahora característica de toda la industria de modelos de lenguaje grande, donde los desarrolladores buscan un equilibrio entre el tamaño del modelo, el costo de infraestructura, y su utilidad práctica en código y escenarios de agentes.