Après une attaque via un fournisseur cloud externe, Fireworks AI a perdu de nouvelles données clients. Des transcriptions de chats IA de Notion ont ainsi également fuité.
Fireworks AI, un fournisseur d’infrastructure d’IA, confirme que des pirates ont accédé à ses machines de développement le 24 octobre via un fournisseur cloud externe. C’est déjà la deuxième intrusion chez l’entreprise en peu de temps. Début octobre, des attaquants avaient déjà mis la main sur des secrets tels que des clés API et des jetons d’un nombre limité de comptes.
Notion, la plateforme de prise de notes et de gestion de projets, a indiqué le 11 novembre que l’intrusion touchait aussi ses utilisateurs. Notion utilise Fireworks pour faire tourner une partie des modèles open-weight à la base de Notion AI.
Quelles données ont été dérobées
Selon Fireworks, les attaquants ont eu accès à des métadonnées de ressources, comme des numéros d’identification, des noms, des descriptions et des horodatages de création. Des données de facturation figuraient aussi dans l’application interne touchée : adresses de facturation et de livraison, historique des paiements, solde du compte et consommation de crédits. Fireworks ne conserve pas les numéros de carte de paiement, ceux-ci n’ont donc pas fuité.
Chez un groupe restreint de clients, des secrets, des jeux de données et des poids de modèles incomplets ont en outre été consultés. Fireworks ne constate aucun impact sur Inference, Training SDK et Nexus, car ces services ne conservent aucune donnée par défaut (zero data retention). L’entreprise souligne que l’enquête est toujours en cours.
D’après Fireworks, les éléments de preuve pointent vers un groupe cybercriminel à motivation financière qui veut revendre l’accès à des modèles de langage à des passerelles de routage illégales. Cette pratique s’appelle le LLMJacking. Google Threat Intelligence Group et Mandiant ont publié le 2 novembre un article de blog sur sa montée en puissance.
Notion coupe Fireworks
Le 2 novembre, Notion a reçu de Fireworks une notification concernant un jeu de données exposé qui ne contiendrait que des données de test synthétiques. L’entreprise a alors coupé le trafic vers Fireworks, supprimé toutes les données chez le fournisseur et arrêté les exécutions d’entraînement le 3 novembre. Le 8 novembre, Fireworks a confirmé que des données clients avaient bel et bien été consultées, y compris celles d’utilisateurs de Notion.
Il s’agit de transcriptions de chats de Notion AI qui servaient à Insights, une fonction qui permet aux administrateurs d’espaces de travail de voir comment les équipes utilisent l’IA. Notion a désactivé ce jeu de données. Selon Notion, pour la plupart des espaces de travail touchés, les transcriptions ne sont pas attribuables : elles ne contiennent ni le nom de l’auteur ou de l’espace de travail, ni les résultats d’appels d’outils. Fireworks s’était engagé contractuellement à appliquer la zero data retention aux données de Notion.
Selon Notion, moins de 1 % de ses utilisateurs sont touchés. Les propriétaires d’espaces de travail potentiellement touchés peuvent consulter les données via Security incident review dans l’interface web sur ordinateur et partager un lien permettant aux membres de télécharger leurs propres transcriptions. Ceux qui n’ont reçu aucune notification, ni directement ni via le propriétaire de l’espace de travail, n’ont pour l’instant rien à faire.
Mesures prises et suite
Fireworks mène l’enquête forensique avec l’Unit 42 de Palo Alto Networks et a alerté la police. L’entreprise a remplacé les identifiants et les comptes de service, supprimé les privilèges élevés inutiles et isolé les systèmes touchés. La journalisation et la surveillance ont également été renforcées.
Les chargements et téléchargements en libre-service de jeux de données pour Batch Inference et l’entraînement à partir de jeux de données sont temporairement désactivés. Training SDK reste disponible sans stockage des données d’entraînement, et l’entraînement via Fireworks Lab s’exécute dans un environnement isolé. Depuis le 25 octobre, Fireworks ne constate plus de nouvel accès réussi à la plateforme que les clients utilisent.
Notion recommande aux utilisateurs touchés de remplacer leurs mots de passe, clés API et autres identifiants s’ils les ont saisis dans un chat avec Notion AI. Fireworks avertit directement les clients touchés et promet d’autres mises à jour sur l’enquête.