Arbre de pensée

L'Arbre de pensée est un cadre de résolution de problèmes introduit par Yao et al. dans un article de 2023 de Princeton et Google qui étend l'incitation en chaîne de pensée. Au lieu de générer une seule trace de raisonnement séquentielle, ToT structure la délibération du modèle sous forme d'arbre : chaque nœud représente une solution partielle ou une pensée intermédiaire, et le modèle génère plusieurs continuations candidates à chaque nœud, puis évalue et sélectionne les branches à explorer davantage. Cela permet au modèle de considérer, comparer et abandonner des chemins de raisonnement de la même manière qu'un humain pourrait esquisser et écarter des solutions partielles.

Le cadre applique des algorithmes classiques de recherche d'arbre — parcours en largeur d'abord (BFS) ou en profondeur d'abord (DFS) — sur un espace d'étapes de raisonnement. À chaque expansion, le modèle génère plusieurs pensées candidates, puis une invite d'évaluation distincte demande au modèle d'évaluer chaque état intermédiaire comme prometteur, incertain ou peu prometteur, permettant un élagage informé. Le processus se termine lorsqu'une réponse satisfaisante est trouvée ou lorsque le budget de recherche est épuisé.

ToT traite les problèmes qui nécessitent l'exploration et la planification — énigmes combinatoires, preuves mathématiques multi-étapes, écriture créative structurée — où le raisonnement glouton à chemin unique échoue fréquemment. L'article original a démontré des gains substantiels sur le Jeu de 24 (une tâche de raisonnement mathématique) et la complétion de mots croisés par rapport à la chaîne de pensée standard. L'idée clé est que l'évaluation et la recherche, pas seulement la génération, sont intégrales à la résolution délibérée de problèmes.

D'ici 2026, l'influence de ToT est plus visible dans les modèles de raisonnement tels que o3 d'OpenAI et Claude d'Anthropic avec pensée étendue, qui effectuent une exploration interne analogue nativement lors de l'inférence plutôt que de nécessiter une orchestration externe. Les extensions académiques incluent des variantes graphe-de-pensée et forêt-de-pensée. L'orchestration explicite de ToT via l'incitation reste utile dans les paramètres contraints ou axés sur l'interprétabilité, mais le paradigme a été en grande partie absorbé dans les systèmes de raisonnement end-to-end entraînés.

Exemple

“Lors de la résolution d'une énigme logique multi-étapes, une implémentation ToT génère trois mouvements suivants candidats à chaque étape, évalue chacun pour sa faisabilité et revient en arrière à partir des impasses — finalement trouvant une solution qu'un seul passage de chaîne de pensée avait manquée.