Un réseau de neurones de détection qui se passe des transformers

Habr AI a conçu un réseau de neurones de détection qui fonctionne sans transformers, avec une architecture plus légère et des coûts de calcul réduits. Le modèle a renoncé aux liens globaux entre fragments visuels au profit de liens locaux, et cette simplification a eu un effet secondaire inattendu : les premiers signes d'une segmentation de la peau et des vêtements sans annotation séparée.

Pourquoi le réseau de neurones a-t-il abandonné les transformers ?

Parce que les transformers coûtent cher en nombre de paramètres et en calcul. À leur place, l'équipe a utilisé des liens locaux entre patchs, ce qui a nettement réduit les besoins en ressources de calcul.

Qu'a donné l'optimisation du réseau de neurones ?

Simplifier le modèle n'a pas seulement réduit sa taille et ses besoins en calcul : cela a aussi eu un effet secondaire, puisque le modèle a commencé à reconnaître la segmentation de la peau et des vêtements sans annotation séparée des données.

Pourquoi un réseau de neurones d'images compte-t-il pour les entreprises ?

Il reconnaît des objets et segmente des régions d'images, mais il coûte moins cher à faire tourner grâce au remplacement des transformers par des liens locaux entre patchs.

Qu'a-t-on pu segmenter sans annotation ?

Le réseau de neurones a commencé à distinguer la peau des vêtements sur les images, comme effet secondaire de la simplification de l'architecture.

Pourquoi retire-t-on les transformers du réseau de neurones ?

Les transformers exigent beaucoup de paramètres et de calcul. Habr AI est passé à des liens locaux entre patchs pour réduire la taille du système et les coûts de calcul.

Quel effet secondaire l'architecture simplifiée du réseau de neurones

a-t-elle produit ? La simplification a fait apparaître les premiers signes d'une segmentation de la peau et des vêtements sans annotation séparée.