Tadpole propose un modèle de fondation pour la physique : de la prévision à la compréhension

Tadpole propose de transposer la logique des foundation models, née avec le texte et l'image, à la physique. Au lieu d'un réseau de neurones distinct par tâche, ses auteurs veulent un seul modèle pré-entraîné pour la météo, les écoulements d'air, la déformation des matériaux et les champs électromagnétiques. L'idée est ambitieuse. L'extrait disponible de l'article de Jiqizhixin ne donne pour l'instant aucun chiffre public : ni taille du modèle, ni volume des données d'entraînement, ni résultats sur des benchmarks. Nous examinons donc l'approche elle-même et les questions qu'il faut lui poser.

Une tâche, un modèle

Le scientific ML classique est simple dans son principe, et coûteux. On entraîne un réseau de neurones sur les données d'un système précis, avec une équation, une géométrie, une résolution de maillage et un jeu de variables donnés. Si le type de physique change, si l'échelle spatiale évolue ou si plusieurs variables s'ajoutent, il faut réentraîner le modèle. Le passage tronqué du texte décrit précisément cela : face à de tels changements, le modèle perd son applicabilité.

Pour les modèles de langage, ce problème a été résolu par un pré-entraînement sur un corpus massif, suivi d'une adaptation. Les auteurs de Tadpole se demandent s'il est possible d'en faire autant pour le monde physique. La météo, l'aérodynamique, la mécanique des solides et l'électromagnétisme obéissent à des équations différentes, mais partagent des structures communes : des champs spatiaux, des interactions locales, des lois de conservation.

De la prévision à la compréhension

Le titre de l'article oppose la « prédiction du futur » à la « compréhension du monde ». La plupart des modèles de substitution (surrogate models) en science apprennent une seule chose : prendre l'état actuel d'un champ et produire le suivant. La qualité se mesure par l'erreur sur l'horizon de prévision. Un tel modèle peut très bien calculer un cas précis tout en ne « sachant » rien du cas voisin.

D'après la formulation, Tadpole vise un autre but : obtenir une représentation qui capte les régularités communes à différents systèmes et qui se transfère de l'un à l'autre. La piste n'est pas nouvelle. Polymathic AI a présenté Multiple Physics Pretraining en 2023, un groupe de l'ETH Zürich a publié Poseidon pour les équations aux dérivées partielles, et Microsoft a entraîné Aurora pour l'atmosphère. Tadpole s'inscrit dans cette lignée, mais les données publiques ne permettent pas de dire jusqu'où il est allé.

Ce que l'on sait aujourd'hui

• Domaine annoncé : météo, mouvement de l'air, déformation des matériaux, phénomènes électromagnétiques
• Idée centrale : un modèle pré-entraîné unique à la place d'un ensemble de modèles spécialisés
• Changement de focalisation : de la prévision de l'état suivant à une compréhension généralisée de la physique
• Taille du modèle, données, coûts de calcul : non divulgués dans le texte disponible
• Métriques et comparaison avec Fourier Neural Operator et d'autres solutions de référence : non fournies dans le texte disponible

Les questions à poser

La principale concerne la généralisation. Un modèle de fondation scientifique se justifie s'il fonctionne bien sur une physique absente de l'entraînement, ou après un fine-tuning peu coûteux. Si chaque nouveau système réclame autant de données qu'avant, le gain est nul.

La deuxième question porte sur la cohérence physique. Un modèle qui se trompe de quelques pour cent mais viole la conservation de l'énergie ou de la masse est dangereux dans les calculs d'ingénierie. La troisième concerne le coût. Les solveurs numériques sont lents, mais prévisibles et éprouvés depuis des décennies. Un réseau de neurones doit être nettement plus rapide à précision comparable, faute de quoi il ne les remplacera pas.

Comment lire ce type d'annonce

Pour les chercheurs et les ingénieurs qui font de la CFD, de la météo ou de la mécanique, la marche à suivre est pratique. Il faut attendre le rapport technique ou l'article scientifique et y chercher trois éléments : des tests sur des systèmes absents de l'entraînement, le coût du fine-tuning sur une nouvelle tâche, et une comparaison avec des modèles hautement spécialisés sur les mêmes données. Si tout cela est publié, et si le code ou les poids sont ouverts, le modèle mérite d'être testé sur votre propre problème avant de modifier votre processus de travail. Tant que ces données manquent, Tadpole reste une façon intéressante de poser la question, et non un outil prêt à l'emploi.