Une étude de Veeam révèle que les organisations de la zone EMEA sont confrontées aux « shadow agents » et à un manque de supervision des workflows d’IA.
Les organisations de la zone EMEA rencontrent de plus en plus de défis en raison de l’émergence d’agents d’IA fonctionnant de manière autonome au sein de leurs processus métier. Selon une étude de Veeam, c’est surtout le manque de supervision et de contrôle sur ces « shadow agents » qui suscite une inquiétude croissante, tant au sein des départements IT que dans les conseils d’administration. Les entreprises sont confrontées à une approche fragmentée de la gouvernance de l’IA, où la réglementation et la responsabilité personnelle occupent une place centrale.
Agents fantômes
70 % des organisations de la zone EMEA reconnaissent que des workflows d’IA automatisés traitent parfois des données d’entreprise sensibles sans aucune supervision. De plus, 67 % indiquent que les employés mettent eux-mêmes en place des workflows d’IA qui échappent à la visibilité de l’informatique. Une autre étude récente de WatchGuard Technologies démontre par ailleurs que 64 % des employés utilisent des outils d’IA sans supervision.
Ces prétendus « shadow agents » constituent une menace directe pour la protection des données et la compliance, car ils peuvent contourner les mesures de sécurité et laisser des informations sensibles sans protection.
Les problèmes ne sont pas répartis uniformément. En Allemagne notamment, 81 % des dirigeants admettent que des workflows d’IA non gérés interagissent avec des données critiques, tandis qu’au Royaume-Uni, 75 % n’ont pas une visibilité suffisante sur le traitement des données sensibles par les agents d’IA. Malgré les tentatives d’instaurer davantage de contrôle, les shadow agents se propagent plus rapidement que la gouvernance ne peut suivre.
Pression réglementaire
L’introduction de réglementations plus strictes, notamment la nouvelle loi sur l’IA de l’UE, renforce l’attention portée à la gouvernance de l’IA au niveau de la direction. Ainsi, 58 % des organisations sont désormais soumises à une nouvelle législation concernant la responsabilité de l’entreprise. Pourtant, la répartition des rôles reste floue : 12 % des organisations ne savent pas précisément où se situent les responsabilités individuelles.
Cette incertitude génère du stress chez les dirigeants. 40 % s’inquiètent de leur responsabilité personnelle, 39 % notent une surveillance accrue de la part du conseil d’administration et 32 % ressentent des tensions au sein de l’équipe de direction. Parallèlement, on observe un meilleur alignement et une focalisation accrue sur la cyber-résilience, ce qui, selon Veeam, peut contribuer à une meilleure gestion des données.
Différences d’approche
Les entreprises de la région EMEA réagissent différemment face à ces défis. Ainsi, 41 % des organisations développent leurs propres modèles d’IA locaux ou souverains pour mieux maîtriser le « shadow AI ». De plus, 49 % optent pour une approche hybride : des modèles locaux pour les données sensibles et des modèles publics pour les applications moins critiques.
Au Moyen-Orient et en Afrique, 41 % des organisations s’appuient toutefois entièrement sur des fournisseurs d’IA publics. Cette différence est liée à l’impact de la réglementation européenne, qui incite particulièrement les entreprises européennes à un contrôle plus strict. Néanmoins, l’étude montre que la supervision de milliers d’agents autonomes est difficilement scalable, ce qui rend les questions fondamentales de gestion et de sécurité des données de plus en plus cruciales.