La regresión de Cox aprende con datos truncados órdenes de magnitud más rápido que con EM

En arXiv ha aparecido el trabajo 2610.12538 sobre el entrenamiento de modelos de supervivencia con datos en los que la inclusión de una observación en la muestra depende de su resultado (truncamiento) y en los que una parte de los eventos aún no ha ocurrido (censura por la derecha). Los autores demuestran que, si el riesgo basal es conocido, la regresión de Cox se puede entrenar con métodos de gradiente de primer orden, a pesar de que el problema no es convexo. Si el riesgo basal se aprende junto con el modelo, la función de pérdida presenta mínimos locales subóptimos estrictos. En cuatro conjuntos de datos, tener en cuenta el truncamiento reduce el sesgo de la regresión de Cox convencional, y la aceleración frente a EM alcanza órdenes de magnitud. • Se demuestra que Cox es entrenable de forma eficiente cuando el riesgo basal es conocido. • Con el entrenamiento conjunto del riesgo basal aparecen trampas de mínimos locales. • El método se extiende a redes neuronales.

Procesado por IA desde arXiv cs.LG; editado por Hamidun News
La regresión de Cox aprende con datos truncados órdenes de magnitud más rápido que con EM
Fuente: arXiv cs.LG. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalarXiv cs.LG ↗
Editor jefe
Dato clave #1Se demuestra que Cox es entrenable de forma eficiente cuando el riesgo basal es conocido.
Dato clave #2Con el entrenamiento conjunto del riesgo basal aparecen trampas de mínimos locales.
Dato clave #3El método se extiende a redes neuronales.

Un grupo de investigadores ha publicado en arXiv el preprint 2610.12538 sobre modelos de supervivencia que se entrenan con datos filtrados según el propio resultado. En cuatro conjuntos de datos, tener en cuenta el truncamiento reduce el sesgo de las predicciones de la regresión de Cox convencional, y en velocidad el nuevo enfoque supera en órdenes de magnitud al algoritmo estándar de esperanza-maximización (EM). El principal resultado teórico: si el riesgo basal es conocido, el modelo de Cox se entrena con una optimización de primer orden corriente, aunque la función de pérdida no sea convexa.

Una muestra que distorsiona el panorama

La mayoría de los modelos se entrenan bajo el supuesto de que los datos de entrenamiento se parecen a los que el modelo encontrará en la práctica. Los conjuntos reales a menudo no cumplen esta condición. Los autores abordan un caso particular: una observación entra en el conjunto de datos en función de su etiqueta. Es lo que se conoce como outcome-dependent truncation, truncamiento dependiente del resultado. Un ejemplo ilustrativo: en la cohorte solo entran quienes han sobrevivido hasta el momento de su inclusión en el estudio. Las trayectorias cortas sencillamente no figuran en los datos.

Al truncamiento se suma la censura por la derecha. Para una parte de los objetos, el evento no ha ocurrido al terminar la observación, y solo se sabe que sucederá después de cierto punto. El análisis de supervivencia sabe manejar la censura desde hace tiempo. La literatura sobre el aprendizaje eficiente con truncamiento, en cambio, se ha desarrollado por separado. Este trabajo reúne ambas líneas.

Qué está demostrado y dónde se esconde la trampa

Los métodos existentes para la supervivencia truncada no describían la geometría del problema de optimización. Se apoyaban en procedimientos iterativos como EM, que funcionan, pero lentamente y sin garantías sobre el paisaje de la función de pérdida. Los autores cubren ese hueco.

Resultado para el riesgo basal conocido: la regresión de Cox con datos truncados y censurados por la derecha se puede aprender de forma eficiente con métodos de primer orden. La no linealidad no supone aquí un obstáculo, aunque el problema no es convexo.

Si, en cambio, el riesgo basal se estima junto con el resto de los parámetros, el panorama cambia. Los investigadores construyen modelos identificables y correctamente especificados, pero cuyo logaritmo de la verosimilitud negativo contiene mínimos locales subóptimos estrictos. Un método de gradiente se detendrá en uno de esos puntos, aunque la solución verdadera esté en otro lugar. La conclusión práctica: plantear bien el problema no garantiza por sí solo que el optimizador llegue a la respuesta.

Qué mostraron los experimentos

La evaluación se realizó en cuatro conjuntos de datos de supervivencia. Los autores compararon la regresión de Cox ingenua, que ignora el truncamiento, con una variante que sí lo tiene en cuenta.

  • La regresión de Cox ingenua produce predicciones sesgadas cuando los datos están truncados por el resultado.
  • Tener en cuenta el truncamiento reduce ese sesgo en los cuatro conjuntos de datos.
  • El enfoque se traslada del modelo lineal a las redes neuronales.
  • Frente al EM estándar se declara una aceleración de órdenes de magnitud.
  • Las garantías de convergencia están demostradas para el riesgo basal conocido; para el entrenamiento conjunto se muestran contraejemplos con mínimos locales.

Dónde puede resultar útil

El preprint todavía no ha pasado por revisión por pares, y el resumen no incluye los nombres de los conjuntos de datos ni las magnitudes exactas del sesgo. Por ello, conviene comprobar la escala del efecto en el texto completo y en el código publicado, si llega a aparecer.

Para los profesionales, la conclusión es la siguiente. Si su muestra se forma según una condición ligada al resultado, por ejemplo en registros médicos, datos de seguros, abandono de clientes o estimación de la vida útil de equipos, un modelo de Cox ingenuo se equivocará de forma sistemática. Cuando la forma del riesgo basal pueda tomarse de fuentes externas, conviene fijarla y recurrir a la optimización por gradiente con garantías.

Si el riesgo basal hay que aprenderlo junto con el modelo, es necesario lanzar la optimización desde varios puntos iniciales y contrastar los resultados. Para los equipos en los que EM era el cuello de botella con muestras grandes, una aceleración de órdenes de magnitud significa poder reentrenar los modelos con más frecuencia y probar más arquitecturas.

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Una muestra que distorsiona el panorama?

La mayoría de los modelos se entrenan bajo el supuesto de que los datos de entrenamiento se parecen a los que el modelo encontrará en la práctica. Los conjuntos reales a menudo no cumplen esta condición. Los autores abordan un caso particular: una observación entra en el conjunto de datos en función de su etiqueta. Es lo que se conoce como outcome-dependent truncation, truncamiento dependiente del resultado. Un ejemplo ilustrativo: en la cohorte solo entran quienes han sobrevivido hasta el momento de su inclusión en el estudio. Las trayectorias cortas sencillamente no figur

¿Qué se sabe sobre Qué está demostrado y dónde se esconde la trampa?

Los métodos existentes para la supervivencia truncada no describían la geometría del problema de optimización. Se apoyaban en procedimientos iterativos como EM, que funcionan, pero lentamente y sin garantías sobre el paisaje de la función de pérdida. Los autores cubren ese hueco. Resultado para el riesgo basal conocido: la regresión de Cox con datos truncados y censurados por la derecha se puede aprender de forma eficiente con métodos de primer orden. La no linealidad no supone aquí un obstáculo, aunque el problema no es convexo. Si, en cambio, el riesgo basal se estima jun

¿Qué se sabe sobre Qué mostraron los experimentos?

La evaluación se realizó en cuatro conjuntos de datos de supervivencia. Los autores compararon la regresión de Cox ingenua, que ignora el truncamiento, con una variante que sí lo tiene en cuenta. La regresión de Cox ingenua produce predicciones sesgadas cuando los datos están truncados por el resultado. Tener en cuenta el truncamiento reduce ese sesgo en los cuatro conjuntos de datos. El enfoque se traslada del modelo lineal a las redes neuronales. Frente al EM estándar se declara una aceleración de órdenes de magnitud. Las garantías de convergencia están demostradas para e

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace

Access Frontier LLMs & Multimodal AI in One Workspace

Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.

Try NomadNet AI →Launch NomadNet Agent
¿Qué te parece?
Cargando comentarios…