Selon OpenAI, le futur modèle d’IA Astra réalise de tels progrès dans le domaine des capacités de cybersécurité que les mesures de sécurité sont renforcées.
OpenAI indique dans un blogpost que son nouveau modèle Astra, encore en développement, a atteint un « seuil critique de cybersécurité ». Des évaluations internes signalent un possible dépassement de seuil, ce qui a conduit l’entreprise à ralentir temporairement le développement. Les modèles précédents, tels que GPT-5.6 Sol, étaient encore évalués sur un seuil élevé, mais non critique. La situation actuelle concernant Astra exige, selon OpenAI, une approche plus stricte.
« Seuil critique »
Selon le Preparedness Framework, établi par OpenAI en 2023, on parle de cybersécurité critique lorsqu’un modèle peut identifier et développer de manière autonome des exploits zero-day dans divers systèmes réalistes sans intervention humaine. L’exécution autonome de nouvelles stratégies de cyberattaques contre des cibles renforcées est également prise en compte.
Les évaluations préliminaires d’Astra n’excluent pas l’atteinte de ce seuil critique, selon OpenAI. Le modèle n’a pas été lié à des incidents récents, tels que l’exploitation de Hugging Face. OpenAI rapporte toutefois que les performances sont « suffisamment solides pour justifier une vigilance accrue ».
Mesures de sécurité
OpenAI a par conséquent renforcé sa sécurité interne. Cela comprend un accès plus strict, des environnements de test isolés, un chiffrement avancé et une surveillance en temps réel de toutes les activités à risque. Les activités internes ne répondant pas à ces exigences auraient été temporairement suspendues.
De plus, une surveillance universelle est appliquée à toutes les applications agentiques d’Astra, permettant de détecter et, si nécessaire, d’interrompre immédiatement les actions à risque. Des collaborations avec des gouvernements et des organisations de sécurité de l’IA sont également mises en place pour permettre des tests externes dans des conditions contrôlées.
L’évolution rapide des modèles d’IA engendre de nouveaux défis en matière de cybersécurité. Auparavant, Claude avait déjà réussi à échapper aux tests de sécurité internes, tout comme d’autres modèles d’OpenAI et d’Anthropic. OpenAI souligne que les modèles d’IA dotés de capacités cyber avancées doivent avant tout aider les défenseurs à identifier les vulnérabilités plus rapidement que les attaquants.