La régression de Cox apprend sur des données tronquées des ordres de grandeur plus vite que l'EM

Une équipe de chercheurs a publié sur arXiv le preprint 2610.12538, consacré aux modèles de survie entraînés sur des données filtrées selon leur propre issue. Sur quatre jeux de données, la prise en compte de la troncature réduit le biais des prédictions de la régression de Cox classique, et la nouvelle approche devance de plusieurs ordres de grandeur l'algorithme standard d'espérance-maximisation (EM) en vitesse. Le principal résultat théorique : lorsque le risque de base est connu, le modèle de Cox s'entraîne par une simple optimisation du premier ordre, bien que la fonction de perte soit non convexe.

Un échantillon qui fausse le tableau

La plupart des modèles sont entraînés en supposant que les données d'entraînement ressemblent à celles que le modèle rencontrera en pratique. Les jeux de données réels ne remplissent souvent pas cette condition. Les auteurs étudient un cas particulier : une observation entre dans le jeu de données en fonction de son étiquette. C'est ce que l'on appelle outcome-dependent truncation, la troncature dépendant de l'issue. Exemple tiré de considérations générales : la cohorte n'inclut que les personnes ayant survécu jusqu'au moment de leur inclusion dans l'étude. Les trajectoires courtes sont tout simplement absentes des données.

À la troncature s'ajoute la censure à droite. Pour une partie des individus, l'événement ne s'est pas produit à la fin de l'observation : on sait seulement qu'il surviendra après un certain point. L'analyse de survie sait traiter la censure depuis longtemps. La littérature sur l'apprentissage efficace en présence de troncature s'est développée séparément. Ce travail rapproche ces deux axes.

Ce qui est démontré, et où se cache le piège

Les méthodes existantes pour la survie tronquée ne décrivaient pas la géométrie du problème d'optimisation. Elles s'appuyaient sur des procédures itératives de type EM, qui fonctionnent, mais lentement et sans garanties sur le paysage de la fonction de perte. Les auteurs comblent cette lacune.

Résultat pour un risque de base connu : la régression de Cox sur données tronquées et censurées à droite peut être apprise efficacement par des méthodes du premier ordre. La non-linéarité ne pose pas de difficulté ici, bien que le problème soit non convexe.

Si, en revanche, le risque de base est estimé conjointement avec les autres paramètres, la situation change. Les chercheurs construisent des modèles identifiables et correctement spécifiés, mais dont la log-vraisemblance négative présente des minima locaux strictement sous-optimaux. Une méthode de gradient s'arrêtera à un tel point, alors que la vraie solution se trouve ailleurs. Conséquence pratique : une formulation correcte du problème ne garantit pas, à elle seule, que l'optimiseur atteindra la bonne réponse.

Ce que montrent les expériences

La validation a porté sur quatre jeux de données de survie. Les auteurs ont comparé une régression de Cox naïve, qui ignore la troncature, à une variante qui la prend en compte.

• La régression de Cox naïve produit des prédictions biaisées lorsque les données sont tronquées selon l'issue.
• La prise en compte de la troncature réduit ce biais sur les quatre jeux de données.
• L'approche se transpose du modèle linéaire aux réseaux de neurones.
• Face à l'EM standard, les auteurs annoncent une accélération de plusieurs ordres de grandeur.
• Les garanties de convergence sont démontrées pour un risque de base connu ; pour l'apprentissage conjoint, des contre-exemples avec minima locaux sont présentés.

À quoi cela peut servir

Le preprint n'a pas encore été évalué par des pairs, et le résumé ne mentionne ni les noms des jeux de données ni les valeurs exactes du biais. Il vaut donc mieux vérifier l'ampleur de l'effet dans le texte intégral et dans le code publié, s'il apparaît.

Pour les praticiens, la conclusion est la suivante. Si votre échantillon est constitué selon une condition liée à l'issue, par exemple dans les registres médicaux, les données d'assurance, l'attrition client ou l'estimation de la durée de vie d'équipements, un modèle de Cox naïf se trompera de façon systématique. Lorsque la forme du risque de base peut être tirée de sources externes, il est judicieux de la fixer et d'utiliser l'optimisation par gradient, avec ses garanties.

Si le risque de base doit être appris avec le modèle, il faut lancer l'optimisation depuis plusieurs points de départ et comparer les résultats. Pour les équipes dont l'EM constituait un goulot d'étranglement sur de grands échantillons, un gain de plusieurs ordres de grandeur permet de réentraîner les modèles plus souvent et de tester davantage d'architectures.