ICLR 2026 в Рио: что думают исследователи о масштабировании больших моделей

ICLR 2026 se celebró en Río de Janeiro a finales de abril y confirmó su estatus como el principal encuentro anual de investigadores de IA. Para la comunidad científica, es más que una publicación prestigiosa en revistas: es un lugar donde nacen y se prueban ideas que se convertirán en estándares industriales dentro de un año.

Escalado con Enfoque en Eficiencia

La era de 'más parámetros = mejor modelo' está llegando lenta pero seguramente a su fin. En ICLR, el tema más discutido no era el tamaño de los nuevos modelos, sino el Retorno sobre la Inversión: invertir 100 millones, obtener una mejora del 3% — económicamente, esto ya no tiene sentido. Los investigadores están cansados de fingir que el escalado garantiza progreso. ¿Por qué ha sucedido esto? Los chips se están encareciendo, no abaratando. Duplicar los parámetros ya no produce el doble del rendimiento. Las empresas han comenzado a calcular honestamente el costo del entrenamiento de un modelo base más el ajuste fino para cada tarea específica.

• Contextos largos (200K+ tokens) se están convirtiendo en un estándar, no una exoticidad
• Los ingenieros están optimizando la velocidad de inferencia y la eficiencia energética, no solo el tamaño de los pesos
• Están surgiendo métodos para el escalado dinámico de la computación basados en datos de entrada
• Los modelos de Mezcla de Expertos (MoE) están desplazando las arquitecturas densas clásicas

Hubo un cambio evidente de mentalidad en la conferencia: los investigadores hablan de modelos fundacionales de larga vida — modelos que persisten y mejoran iterativamente. En lugar de reentrenamiento constante desde cero, agregan nuevos datos, adaptadores especializados, nuevas capas. Es más barato, más simple en producción, y se está convirtiendo en la nueva norma.

Seguridad como Prioridad

Aparentemente había más temas sobre seguridad y garantías en la conferencia que un año antes. En ICLR 2025, esto era exótico. En 2026 — corriente principal. Los investigadores hablan del hecho de que los grandes modelos necesitan ser entrenados no solo para el desempeño, sino también para la robustez: resistencia a ejemplos adversariales, cambios de distribución, intentos de manipulación.

"Ya no podemos lanzar un modelo y esperar que nadie lo rompa en

condiciones de combate" — una posición típica en los paneles de discusión de la conferencia.

No se trata solo de regulación (aunque los estados están creando nuevos requisitos). Se trata del hecho de que la comunidad científica se ha dado cuenta: la carrera por resultados SOTA es peligrosa si no se cuentan los costos reales del daño.

Pesos Abiertos a la Sombra de los Sistemas Corporativos

La pregunta más contenciosa de la conferencia: ¿tendrá oportunidad el código abierto en IA si Anthropic, OpenAI y Meta mantienen cerrados los modelos más avanzados? En ICLR, había una opinión dividida. Una parte de la comunidad científica insiste: los modelos abiertos son infraestructura crítica que debe desarrollarse a pesar de los riesgos. La otra ya es realista: las corporaciones tendrán los mejores modelos, tienen recursos para entrenamiento y responsabilidad ante los inversores. La ciencia abierta puede permanecer en un papel de apoyo — desarrollando metodología pero no manteniendo la línea de frente.

Lo Que Esto Significa

ICLR 2026 mostró: la era del escalado exponencial está terminando, pero la IA no se está ralentizando — la dirección está cambiando. Adelante está la era de la optimización sistémica: cómo utilizar recursos de manera más eficiente, cómo hacer que los modelos sean más confiables, cómo la ciencia abierta puede seguir siendo relevante. Para startups e ingenieros, esto significa: la ventaja competitiva ahora no está en entrenar otro modelo grande, sino en implementar los modelos existentes de manera más barata, rápida y segura.

*Meta es reconocida como una organización extremista y prohibida en Rusia.