Itdaily - Près d’un quart des recommandations d’IA au Benelux modifiées ou ignorées

Près d’un quart des recommandations d’IA au Benelux modifiées ou ignorées

Dessin d'un homme renfrogné en cravate à côté d'un robot blanc, devant des ordinateurs portables.

Les employés du Benelux modifient ou ignorent totalement près d’un quart des recommandations de l’IA. Malgré une meilleure gouvernance de l’IA, l’impact commercial reste à la traîne.

Les employés du Benelux s’écartent en moyenne dans 24 % des cas des recommandations formulées par les systèmes d’IA. C’est ce qui ressort du deuxième Data and AI Impact Report: The New Economics of Trust de SAS, élaboré avec les éclairages d’IDC. Les résultats révèlent une tension entre les investissements croissants dans une IA fiable et un impact sur l’entreprise qui progresse à peine.

Selon le rapport, un coût caché apparaît lorsque les employés ne peuvent pas faire confiance aux résultats de l’IA ou les comprendre. Ils doivent alors vérifier les recommandations, les justifier eux-mêmes ou les corriger manuellement, ce qui annule une partie des gains de temps et de productivité attendus.

Explicabilité

Près de la moitié des interventions sur les conseils de l’IA (49,2 %) sont dues au fait que les résultats n’offrent pas suffisamment d’explications ou de transparence pour qu’on puisse s’y fier. Un biais potentiel est la raison dans 21,3 % des interventions, tandis que les erreurs factuelles n’en expliquent que 9,8 %. Les employés se heurtent donc principalement à un manque de contexte, et non nécessairement à des résultats manifestement erronés.

Le Trustworthiness Index des organisations du Benelux est passé en un an de 38,5 à 55,6 points. Cet indice mesure notamment la qualité des données, la gouvernance des modèles, l’explicabilité et la responsabilité. Pourtant, l’Impact Index, qui cartographie l’impact de l’IA sur l’entreprise, est resté pratiquement stable, passant légèrement de 47,5 à 46,9 points. Une meilleure gouvernance ne se traduit donc pas encore automatiquement aujourd’hui par une valeur ajoutée tangible.

La gouvernance progresse, l’impact stagne

Selon le rapport, les organisations du Benelux ont franchi des étapes claires en matière de qualité des données, de surveillance, d’explicabilité et de responsabilité, mais la région reste en dessous des références mondiales. Seuls 4,6 % des organisations imposent l’utilisation d’outils expliquant les résultats de l’IA pour chaque projet. Cela contraste avec le fait que le manque d’explication est la principale raison pour laquelle les recommandations de l’IA sont ignorées.

« Quand l’IA fonctionne, l’impact peut être énorme », déclare Bryan Harris, CTO chez SAS. « Parallèlement, il a été démontré que les agents avancés peuvent présenter des taux d’erreur supérieurs à 25 % pour des tâches complexes. C’est inacceptable pour des décisions importantes. Pour parvenir à la précision et à la répétabilité, les organisations doivent intégrer l’expertise métier dans les flux de travail agentiques et maintenir l’humain au centre de la gouvernance et de la surveillance. Les organisations qui y parviennent peuvent réduire le fossé de la confiance et obtenir un avantage concurrentiel grâce à l’IA. »