Une nouvelle mémoire RRAM franchit le mur qui bride les performances de l'IA

L'intelligence artificielle se heurte à un problème persistant, le « mur de la mémoire ». Même les modèles les plus rapides butent sur les limites imposées par le temps et l'énergie nécessaires pour transférer les données entre le processeur et la mémoire. Une piste prometteuse est la mémoire résistive (RRAM), qui permet de calculer directement dans les cellules de mémoire et d'éviter les goulets d'étranglement habituels.

Mais la plupart des types de RRAM sont instables et difficiles à contrôler. Heureusement, des chercheurs de l'Université de Californie à San Diego ont peut-être trouvé une solution. Lors de la conférence IEEE International Electron Device Meeting (IEDM), ils ont présenté un nouveau type de RRAM capable d'exécuter des algorithmes d'apprentissage automatique.

« Nous avons entièrement repensé la RRAM en revoyant le principe de commutation », explique Duygu Kuzum, ingénieure électricienne à l'Université de Californie à San Diego, qui a dirigé le projet. La RRAM traditionnelle stocke les données à l'aide de filaments à faible résistance dans un matériau diélectrique. La formation de ces filaments exige une tension élevée, ce qui complique l'intégration avec les circuits CMOS. Le processus de formation est en outre aléatoire et bruité, ce qui nuit au stockage des données, surtout dans les réseaux de neurones, où les poids doivent rester stables.

La nouvelle conception, baptisée « bulk RRAM », fait basculer une couche entière de matériau entre résistance élevée et résistance faible. Elle évite ainsi la formation de filaments sous haute tension et supprime le transistor sélecteur qui limite la géométrie. Le groupe de San Diego n'est pas le premier à fabriquer des dispositifs bulk RRAM, mais il a réalisé des progrès significatifs pour en réduire la taille et construire des circuits tridimensionnels.

Les chercheurs ont réduit la RRAM à l'échelle nanométrique (40 nm) et créé des empilements de huit couches. Chaque couche peut prendre 64 valeurs de résistance, ce qui est difficile à obtenir avec la RRAM filamentaire traditionnelle. La résistance de l'empilement se situe dans la gamme des mégaohms, ce qui, selon Kuzum, convient mieux aux opérations parallèles. Le nombre accru de niveaux de résistance et la résistance plus élevée permettent à la bulk RRAM d'effectuer des opérations plus complexes que la RRAM traditionnelle.

L'équipe de San Diego a testé une matrice de 1 kilooctet composée d'empilements de huit couches, avec un algorithme d'apprentissage continu. La puce a classé des données issues de capteurs portables, en déterminant si l'utilisateur était assis, en train de marcher, de monter des escaliers ou d'effectuer une autre activité. La précision a atteint 90 %, un niveau comparable à celui d'un réseau de neurones implémenté de façon numérique. Selon Kuzum, la bulk RRAM est particulièrement utile pour les modèles de réseaux de neurones sur les appareils en périphérie, qui doivent apprendre de leur environnement sans accès au cloud.

Albert Talin, spécialiste des matériaux aux laboratoires nationaux Sandia, souligne que la capacité d'intégrer la RRAM dans une matrice est une avancée importante. Il prévient toutefois que la conservation des données sur de longues périodes pourrait poser problème, surtout aux températures élevées auxquelles fonctionnent les ordinateurs. Si les ingénieurs parviennent à prouver la fiabilité de cette technologie, elle pourrait profiter à tous les types de modèles. Le « mur de la mémoire » ne cesse de s'élever, car la mémoire traditionnelle ne suit pas les besoins croissants des grands modèles. Toute solution permettant aux modèles de travailler directement avec la mémoire pourrait constituer la percée tant attendue.