Selon un analyste de Gartner, les utilisateurs seraient trop fatigués le vendredi après-midi pour signaler les résultats de mauvaise qualité de Copilot.
Dennis Xu, analyste chez Gartner, a suggéré sur le ton de la plaisanterie d’interdire Copilot de Microsoft après le vendredi midi. Selon lui, les utilisateurs seraient trop fatigués pour vérifier correctement les résultats de mauvaise qualité, rapporte The Register. Il souligne ainsi les risques associés à Copilot.
LIA accentue les risques existants
Selon Xu, un risque existant est renforcé par lIA : le partage involontaire de données. Copilot peut extraire des informations de systèmes tels que SharePoint, ce qui rend les droits daccès mal configurés plus rapidement visibles.
Un employé pourrait, par exemple, accéder à des documents confidentiels via Copilot parce que les droits ont été mal paramétrés. Les entreprises doivent donc miser sur une meilleure surveillance et un contrôle daccès plus strict pour éviter que des informations sensibles ne soient partagées involontairement.
Attaques par prompt et liaisons externes
Xu a également cité plusieurs risques techniques. Ainsi, Copilot peut être vulnérable à linjection de prompts, où des utilisateurs ou des attaquants tentent de tromper lIA pour quelle ignore les règles de sécurité.
Les liaisons avec des applications SaaS externes constituent également un risque. Copilot peut, via de telles intégrations, accéder à des données sensibles en dehors de l’environnement Microsoft propre. C’est pourquoi Xu préconise de n’autoriser ces connexions que si elles sont nécessaires et d’utiliser activement des filtres de contenu et des paramètres de sécurité.
Un autre risque est que Copilot génère des résultats inappropriés dans un contexte professionnel, même lorsque linformation est correcte. Selon Xu, les utilisateurs doivent donc toujours vérifier les résultats de lIA avant quils ne soient partagés.