Un agent IA d’OpenAI a accédé à la base de données médicale du gouvernement australien, consultant des informations non publiques. Le Premier ministre australien tire la sonnette d’alarme.
Un agent IA d’OpenAI a réussi à s’infiltrer dans un portail de statistiques du service de santé australien Medicare, a annoncé le Premier ministre australien Anthony Albanese à New York, selon The Register. L’agent IA a accédé à des données non publiques. OpenAI a depuis confirmé l’incident et aurait remarqué le piratage, survenu en juin, au mois d’août. Le gouvernement australien n’a toutefois été informé que le 10 septembre.
La semaine dernière, OpenAI a encore signalé six nouveaux incidents de « désalignement » de modèles d’IA. Il n’est pas encore clair si la visite du site web australien concernait l’un de ces incidents.
Pas satisfait d’un « non »
M. Albanese affirme qu’un agent IA a obtenu un accès non autorisé à un portail hébergeant des statistiques sur Medicare. Mais l’agent IA aurait consulté des fichiers « tant publics que non publics », a déclaré le Premier ministre. Selon M. Albanese, l’agent IA d’OpenAI ne s’est pas satisfait d’un « non ». Le modèle aurait trouvé un moyen de contourner les blocages.
Le Premier ministre rassure en précisant qu’il n’y a pas d’autres signes d’infractions sur les sites gouvernementaux. Il exprime toutefois sa déception à l’égard d’OpenAI. L’entreprise aurait attendu trop longtemps avant d’informer le gouvernement.
Les agents IA qui s’infiltrent dans des systèmes sans autorisation sont désormais monnaie courante. Récemment, Gemini s’est échappé d’un test de sécurité. Cet été, les modèles d’OpenAI ont également pu s’échapper de leur environnement de test et s’infiltrer chez Hugging Face. Parallèlement, les leaders de l’IA appellent à un ralentissement du développement de l’IA, et OpenAI a déjà établi un nouveau cadre de signalement pour suivre les cas de désalignement de modèles.