Les LLM peinent avec le Rust unsafe : six mois de tests révèlent des erreurs critiques

L'auteur a fait écrire du code Rust unsafe à des LLM pendant six mois dans des projets en production, et a vérifié chaque bloc avec Miri et des sanitizers. Le résultat est décevant : les modèles commettent les mêmes erreurs, de façon prévisible et constante.

Sept catégories d'erreurs des LLM en Rust unsafe

Les modèles se trompent sans cesse aux mêmes endroits :

• Aliasing — violation de la règle sur les références qui ne se chevauchent pas
• Provenance — tentatives d'utiliser des pointeurs obtenus de manière incorrecte
• Layout dans alloc/dealloc — incohérence de taille et d'alignement entre l'allocation et la libération
• ManuallyDrop — oubli d'appeler drop, ou utilisation de l'objet après drop
• Courses dans les callbacks FFI — race conditions lors d'appels de fonctions C depuis des threads
• Send/Sync manuels — implémentation incorrecte des traits de sûreté entre threads
• Mémoire non initialisée — traitement de données non initialisées comme si elles l'étaient

Pourquoi Miri a mis les problèmes au jour

Miri est un interpréteur Rust qui traque les comportements indéfinis. Quand un LLM génère du code contenant des violations peu visibles au premier regard (par exemple, un pointeur temporaire à la provenance incorrecte), le compilateur ordinaire le laisse passer, alors que Miri l'attrape. Sous les sanitizers (AddressSanitizer, ThreadSanitizer), des courses et des use-after-free sont apparus, qui peuvent ne pas se manifester dans des tests ordinaires.

«

Chaque catégorie est accompagnée d'un exemple minimal et d'un correctif » — l'auteur montre qu'il ne s'agit pas de simples observations, mais de schémas d'erreurs reproductibles.

Ce que cela signifie

Les LLM ne sont pas encore prêts à écrire du Rust unsafe sans contrôle humain. Ils génèrent bien la syntaxe et la logique générale, mais se trompent systématiquement dès qu'il s'agit de mémoire et de multithreading. Pour le code critique (logiciels système, bibliothèques système), le Rust unsafe produit par des modèles doit impérativement être vérifié sous Miri.