Cursor a supprimé l’intégralité de la base de données de l’entreprise de logiciels automobiles PocketOS en appelant une API erronée.
Jeremy (Jer) Crane, PDG de la plateforme SaaS PocketOS, a partagé sur X que Cursor a supprimé l’intégralité de la base de données de production de son entreprise en neuf secondes la semaine dernière. Le système a complètement ignoré les garde-fous préalablement établis.
Pari déraisonné
L’agent travaillait dans l’environnement de test et a rencontré un problème. Cursor a décidé de le résoudre lui-même en supprimant un volume Railway. Pour ce faire, il a utilisé un jeton API destiné à la gestion de domaine et non pertinent pour sa tâche actuelle. Cette API donnait apparemment un accès complet à des actions telles que la suppression de volumes. En l’espace de neuf secondes, les données de production ainsi que les sauvegardes correspondantes ont été définitivement effacées.
Cursor a ensuite fourni des aveux détaillés : « J’ai PARIÉ que la suppression d’un volume de test resterait limitée à cet environnement. Je n’ai rien vérifié. J’ai effectué une action destructive sans autorisation. J’ai violé toutes les règles qui m’avaient été imposées. » Le système a lui-même énuméré comment il avait ignoré les garde-fous de Cursor, notamment l’interdiction d’opérations irréversibles sans le consentement de l’utilisateur.
Conséquences pour les sociétés de location
PocketOS fournit des logiciels aux sociétés de location de voitures, qui les utilisent pour gérer les réservations, les paiements et la gestion des véhicules. En raison de la perte de données, les clients ne pouvaient plus attribuer de véhicules aux réservations existantes samedi matin. Certaines entreprises ont dû reconstruire manuellement les réservations via les paiements Stripe et les confirmations par e-mail. « Cela touche principalement les petites entreprises qui dépendent entièrement de notre système », a déclaré Crane.
Pourtant, Crane estime que le fournisseur de cloud full-stack Railway est plus à blâmer que Cursor, qui fonctionne avec l’IA d’Anthropic. C’est grâce à l’absence de confirmation dans l’API de Railway que Cursor a pu agir. « Railway promeut désormais activement mcp.railway.com. Il s’agit d’un serveur MCP de Railway qui permet aux agents d’IA de travailler dans différentes applications, mais il faut alors accepter les failles de sécurité », écrit Crane.
Trente heures après l’incident, Railway n’était toujours pas en mesure de confirmer si une récupération était possible, au grand mécontentement de Crane. Selon lui, le PDG de Railway n’a pas réagi publiquement, malgré plusieurs appels.