LiteLLM rompt avec la controversée start-up Delve après une attaque par malware

LiteLLM, l'un des outils les plus prisés pour acheminer des requêtes vers des modèles de langage, a annoncé la fin de sa collaboration avec la start-up Delve, sur fond de grave incident de sécurité et de pression de la communauté.

LiteLLM avait recours à Delve pour obtenir deux certificats de conformité en matière de sécurité. Ces certificats comptent pour les clients d'entreprise : ils signalent la maturité des processus et le respect de normes comme SOC 2 ou ISO. Or, la semaine dernière, LiteLLM a été victime d'une attaque par malware voleur d'identifiants, l'un des types de menace les plus dangereux, car il offre aux attaquants un accès direct aux systèmes et aux secrets.

Delve, start-up spécialisée dans l'accélération des audits de sécurité, suscite depuis longtemps la controverse dans la communauté technologique. Ses détracteurs pointent des pratiques marketing agressives et la rigueur douteuse des certifications délivrées. L'incident de LiteLLM a renforcé ces inquiétudes : une entreprise censée aider ses clients à paraître sûrs s'est retrouvée liée à un partenaire au moment d'une grave compromission.

LiteLLM est largement utilisé dans l'industrie comme couche proxy entre les applications et des dizaines de modèles de langage, d'OpenAI et Anthropic aux solutions open source. Les requêtes de clients d'entreprise, de start-up et de développeurs du monde entier y transitent, ce qui fait de toute faille dans son infrastructure un problème potentiellement massif.

L'équipe de LiteLLM n'a pas révélé de détails sur l'ampleur de la fuite de données ni précisé si des utilisateurs finaux ont été touchés. Mais la décision de rompre publiquement avec Delve montre que la direction considère ce choix de partenaire comme un risque de réputation et opérationnel.

Cette affaire illustre à quel point la chaîne d'approvisionnement de l'infrastructure d'IA est vulnérable. Les outils intermédiaires, comme les passerelles d'IA, deviennent des nœuds critiques, et toute faiblesse dans leur écosystème de partenaires se transforme aussitôt en risque pour tous ceux qui s'y fient.