Après OpenAI, Anthropic et Meta, il s’avère que le modèle d’IA de Google est également capable de s’échapper d’une sandbox.
Google a reconnu que son modèle d’IA Gemini s’est introduit dans les systèmes informatiques externes de trois entreprises, suite à des informations rapportées par The Wall Street Journal. Le test de sécurité a été réalisé en mai par une entreprise indépendante. Les modèles auraient cessé le piratage d’eux-mêmes. Google a remarqué l’incident en juillet et en a informé les trois entreprises.
Ce n’est pas le premier incident où des modèles d’IA s’échappent de leur environnement sécurisé. Ces différents incidents soulèvent des questions concernant la sécurité et le contrôle de l’IA.
Gemini s’échappe
L’incident de sécurité impliquant le modèle d’IA de Google a eu lieu en mai 2026. Gemini a alors pu s’introduire dans trois entreprises lors de tests de sécurité. Pour ce faire, le modèle a recherché de lui-même des informations publiques afin de deviner les identifiants de connexion des sites web. Il s’est avéré, en outre, que ces trois sites web ne faisaient pas partie de l’environnement de test.
L’IA et la sécurité ?
Un débat fait rage depuis quelques semaines sur la sécurité des modèles d’IA. La cause en est l’accumulation de modèles d’IA qui s’échappent de leur environnement sécurisé. Ainsi, des modèles d’IA d’OpenAI ont pu s’échapper d’une sandbox et s’introduire dans Hugging Face. Des incidents similaires se sont également produits avec les modèles d’IA de Meta et d’Anthropic.
Certains leaders de l’IA appellent à un ralentissement de la course à l’IA. OpenAI a récemment suggéré un nouveau cadre de reporting pour assurer le suivi des cas de désalignement de modèle.