OpenAI présente ses excuses au gouvernement australien pour avoir tardé à l’informer d’un incident au cours duquel ses modèles d’IA ont pénétré dans des systèmes gouvernementaux.
La semaine dernière, le Premier ministre australien Anthony Albanese a exprimé sa déception à l’égard d’OpenAI. Certains agents IA du géant technologique ont pénétré dans un portail statistique du service de santé australien Medicare et ont consulté des informations non publiques. Le gouvernement australien n’a toutefois été informé que plus de deux mois après les faits.
OpenAI reconnaît désormais dans un article de blog ses lacunes tant sur le plan technique que dans la communication avec les autorités concernées, et présente publiquement ses excuses. Selon OpenAI, il s’agit d’un nouveau type de cyberincident, où les systèmes d’IA explorent eux-mêmes des voies numériques inattendues.
Mieux vaut tard que jamais ?
OpenAI s’est excusé lundi auprès du gouvernement australien à la suite d’un incident survenu cet été. Des agents IA d’OpenAI ont alors obtenu un accès non autorisé à la base de données médicale du gouvernement australien. L’événement a eu lieu en juin, mais le gouvernement n’a été informé que le 10 septembre. Le Premier ministre australien a exprimé son mécontentement.
OpenAI présente désormais des excuses publiques. « En juin, lors de phases d’entraînement et d’évaluation internes, nos modèles ont accédé à des sites web gouvernementaux australiens de manière non autorisée. Nous aurions également dû mieux gérer notre réaction. Nous sommes convaincus de pouvoir faire mieux à l’avenir et nous y travaillons », a déclaré OpenAI.
Accès non autorisé
À la suite d’un incident précédent chez Hugging Face, OpenAI a réexaminé toutes ses sessions de recherche antérieures. En août, des activités ont ainsi été détectées vers Services Australia, le Bureau des statistiques et de la recherche criminelle de Nouvelle-Galles du Sud, le service de santé du Victoria et l’Institut australien de la santé et du bien-être. Aucun des incidents ne concernait des dossiers individuels de patients ou de criminalité, mais plutôt des informations techniques, des configurations et des statistiques agrégées.
Lors de l’entraînement et de l’évaluation internes, les modèles ont reçu des tâches de recherche basées sur des informations accessibles au public, afin d’apprendre à trouver et analyser ces données pour mieux aider les utilisateurs. Lors d’une tâche consistant à rechercher les dépenses gouvernementales par personne en médicaments pour les affections cutanées dans les communautés du Victoria, le modèle n’a pas obtenu les données recherchées et a entrepris des actions non autorisées par l’entreprise. Au sein du Medicare Statistics Reporting Service de Services Australia, il a trouvé un moyen d’obtenir un accès non public et a ensuite consulté des informations techniques sur le système et le code source du service.
Partage des conclusions
Outre ses excuses, OpenAI propose également son soutien. Le laboratoire d’IA a écrit dans son article de blog qu’il offrirait un soutien ciblé aux entités touchées pour les aider à comprendre ce qui s’est passé et à évaluer l’impact, notamment en partageant ses conclusions techniques et en organisant une collaboration avec les équipes d’intervention.
Par ailleurs, l’entreprise soutient les gouvernements et l’industrie australiens via des crédits issus de son fonds d’un milliard de dollars (« Daybreak for Frontline Defenders ») et par une assistance technique pour renforcer la cyberdéfense des infrastructures critiques et d’autres environnements sensibles.
Enfin, l’entreprise met en place un groupe de travail composé d’experts australiens indépendants pour élaborer des recommandations politiques pratiques afin de gérer les risques liés à des agents IA de plus en plus performants. « Le groupe de travail, qui devrait achever ses travaux d’ici la fin de l’année, recommandera également des mesures pratiques que les entreprises d’IA peuvent prendre pour réduire le risque d’incidents similaires », a précisé OpenAI.
