Des pirates ont volé des conversations avec une IA via Fireworks : Notion évoque un risque pour moins de 1 % des espaces de travail

Votre utilisateur colle dans un chat d'IA un extrait de contrat et demande qu'on lui explique une clause litigieuse. Pour lui, tout se passe au sein d'une seule application. En coulisses, la requête peut partir chez un fournisseur de modèles, et la conversation atterrir dans un système d'analyse distinct. Le piratage de Fireworks AI montre pourquoi développeurs et responsables produit doivent comprendre tout ce parcours : une fuite chez un sous-traitant devient un problème pour votre produit et vos clients.

Selon TechCrunch, les assaillants ont obtenu l'accès au système de développement de Fireworks via son fournisseur cloud. L'entreprise a confirmé l'accès à une partie des données clients, notamment des informations de paiement et certains jeux de données. Notion figure parmi les clients dont l'impact est confirmé. Une question pratique très concrète se pose : quelles copies de la conversation de l'utilisateur apparaissent après le clic sur « Envoyer », et qui peut y accéder ?

Ce que contenaient les conversations

Dans l'avis officiel de Notion, il est indiqué que l'incident pourrait avoir touché moins de 1 % des espaces de travail. C'est une précision importante par rapport à l'information initiale : la part des espaces de travail n'est pas la part des utilisateurs. L'ensemble de données découvert contenait des conversations de Notion AI utilisées pour la fonction Insights.

Notion indique que, dans la plupart des espaces concernés, les chats n'étaient accompagnés d'aucune information sur l'auteur ou l'espace de travail. Les résultats des appels d'outils ne figuraient pas dans ces enregistrements. Pour autant, le contenu de la conversation elle-même garde son importance : l'absence d'un champ distinct avec le nom de l'entreprise ne rend pas le texte inoffensif.

Imaginons une requête ordinaire : « Prépare une réponse au client concernant ce contrat ». L'utilisateur insère ensuite le nom de l'entreprise, le montant et les conditions de l'accord. Même sans signature associée à l'enregistrement, un tel texte peut révéler des informations commerciales. Il s'agit d'un exemple de risque possible, et non de la description du contenu confirmé des chats volés.

Comment le sous-traitant élargit les frontières du produit

D'après Notion, Fireworks servait à la classification dans Insights et à la fourniture de modèles ouverts. Au matin du 3 novembre, Notion a désactivé l'intégration et supprimé les données dans le système du sous-traitant. Plus tard, l'enquête a mis au jour un ensemble contenant des conversations de clients. La fonction Insights est suspendue ; la fourniture de modèles ouverts via Fireworks a été arrêtée.

Pour une équipe qui construit un produit d'IA, il est utile de distinguer plusieurs opérations. Le modèle reçoit la requête pour produire une réponse. L'analytique peut ensuite traiter la conversation pour évaluer l'usage du service. Les systèmes de débogage peuvent conserver certains exemples pour repérer des erreurs. Chacune de ces opérations appelle ses propres réponses sur l'accès, la durée de conservation et la suppression.

La description publiée ne permet pas de reconstituer toutes les conditions techniques de la fuite. Affirmer que la cause était une règle de conservation précise ou un réglage d'accès particulier serait donc prématuré. Mais l'équipe peut vérifier dès maintenant ses propres paramètres : cartographier le transfert des données, repérer les copies de requêtes conservées et désigner un responsable pour chaque intégration.

Un test d'ingénierie utile consiste à prendre une conversation fictive et à suivre son trajet à travers l'application, le fournisseur du modèle, les journaux d'erreurs et l'analytique. Où le texte intégral subsiste-t-il ? Où un événement anonymisé ou un compteur suffit-il ? Peut-on supprimer la conversation dans tous ces endroits ? Les réponses en disent bien plus qu'une promesse générale de protéger les données.

Que faire pour les clients et les fondateurs

Notion recommande aux clients concernés de considérer leurs données comme exposées et de consulter les éléments de l'incident mis à leur disposition. Si des mots de passe, des clés d'API ou d'autres identifiants figuraient dans les conversations concernées, il faut les remplacer. L'entreprise indique qu'elle prévient directement les victimes identifiées ; l'enquête se poursuit.

Le fondateur devrait vérifier qui, dans l'équipe, peut désactiver rapidement un fournisseur et quelles fonctions cesseront alors de fonctionner. Le responsable produit doit s'assurer que l'explication du traitement des données couvre l'analytique et les fonctions auxiliaires. Le développeur doit réduire la conservation du texte intégral là où les métadonnées suffisent à la tâche. La responsabilité envers l'utilisateur commence par la compréhension du nombre de systèmes qui reçoivent sa conversation et de la raison pour laquelle chacun a besoin d'une copie.