Piloter le comportement d'un réseau de neurones sans le réentraîner : la méthode CNA

Nous Research a présenté une façon de piloter le comportement des réseaux de neurones sans réentraînement : Contrastive Neuron Attribution (CNA), une approche présentée comme une avancée majeure, qui permet de repérer et de désactiver des circuits neuronaux précis dans les couches MLP. Elle n'exige pas de réentraîner le modèle et ne modifie pas ses poids.

Qu'est-ce que CNA ?

CNA (Contrastive Neuron Attribution) est une méthode de pilotage du comportement des réseaux de neurones. Elle permet de repérer et de désactiver des circuits neuronaux précis dans les couches MLP, sans réentraîner le modèle ni modifier ses poids.

Peut-on modifier le comportement d'un réseau de neurones sans le réentraîner ?

Oui. La méthode CNA permet de désactiver des circuits neuronaux précis dans les couches MLP sans réentraîner le modèle ni modifier ses poids.