Itdaily - La gouvernance comme moteur de l’IA : « Le jugement humain prime »

La gouvernance comme moteur de l’IA : « Le jugement humain prime »

Intervenant sur scène lors de SAS Innovate on Tour 2026, devant l'écran « Will people matter? ».

Les agents d’IA deviennent de plus en plus autonomes, mais le jugement humain reste irremplaçable, surtout lorsque les décisions ont des conséquences. SAS plaide donc pour une gouvernance comme fondement d’une IA fiable.

« Will people matter ? » s’affiche en grand sur l’écran lors du SAS Innovate on tour 2026 à Amsterdam. Cette question n’est pas rhétorique. Alors que les agents d’IA peuvent désormais consulter des données, prendre des décisions et exécuter des actions sans intervention humaine, l’inquiétude grandit quant au contrôle, à la responsabilité et à la confiance.

La réponse de SAS est aussi simple que significative : la gouvernance. Non pas comme un obstacle bureaucratique, mais comme le système qui porte le jugement humain à l’échelle et permet ainsi à l’homme de garder les commandes.

Entre les mains de l’IA

Les agents d’IA deviennent de plus en plus puissants et indépendants, mais jusqu’où cette autonomie peut-elle aller ? C’est une question qui surgit de plus en plus souvent alors que les entreprises déploient l’IA pour des processus qui étaient autrefois exclusivement entre des mains humaines. Selon Véronique Van Vlasselaer, responsable IA & Data Science EMEA chez SAS, il existe des limites aux agents d’IA autonomes. « L’autonomie exige l’automatisation, et l’automatisation exige la standardisation. » Selon elle, nous en sommes actuellement encore à l’étape de la standardisation.

« On ne peut pas automatiser sans standardisation. Les agents doivent être conçus pour solliciter l’intervention humaine, surtout dans des situations incertaines ou ambiguës. C’est la seule façon de construire des agents sûrs. » Des agents totalement autonomes ne constituent donc pas, selon elle, un scénario réaliste, car l’IA n’a appris que dans le contexte de ses données d’entraînement. « Les humains sont plus dynamiques et résilients face à des situations atypiques », explique-t-elle.

Le jugement humain prime

Reggie Townsend, vice-président de l’éthique de l’IA, de la gouvernance et de l’impact social chez SAS, rejoint le point de vue de Van Vlasselaer en y ajoutant une touche philosophique. « Le jugement humain est irremplaçable pour les décisions impliquant de l’ambiguïté et des valeurs concurrentes. » Il met en garde contre un glissement insidieux qui, selon lui, est déjà en cours : « Les systèmes d’IA sont conçus pour étendre les capacités humaines, mais ils supplantent progressivement le jugement humain. »

Intervenant sur scène lors de SAS Innovate on Tour 2026, « Governance » affiché en grand à l'écran
Reggie Townsend, vice-président de l’éthique de l’IA, de la gouvernance et de l’impact social au SAS Innovate à Amsterdam.

Sa réponse à ce glissement est la gouvernance. Pour beaucoup d’entreprises, cela ressemble à un frein à l’innovation, mais Townsend voit les choses différemment : « Mon objectif est de rendre le pilotage de l’IA plus simple, plus pratique et plus intuitif grâce à la governance. » L’importance de la gouvernance pour SAS se traduit concrètement par l’AI Navigator, annoncé lors du SAS Innovate en avril.

AI Act

L’AI Navigator offre une vue d’ensemble pratique de tous les modèles d’IA, de leurs interdépendances et des politiques de soutien au sein de votre entreprise, ce qui peut constituer un atout face aux réglementations à venir.

La mise en œuvre de l’EU AI Act est actuellement prévue pour août 2026, à condition qu’aucun retard ne survienne. « Cela signifie que les entreprises devront établir un inventaire de tous les systèmes d’IA qu’elles utilisent, conformément à la législation », précise Townsend.

Visiteurs de SAS Innovate on Tour 2026 échangeant dans un hall vitré au sol en bois
SAS Innovate on tour à Amsterdam.

« Une simple énumération de modèles ou d’agents, tels que ChatGPT ou Copilot, ne suffit pas. En effet, un même outil peut être utilisé de manière très différente par un marketeur ou par un data scientist. » Le SAS AI Navigator peut, selon lui, aider à cet égard.

« Ce ne sont pas les modèles eux-mêmes qui portent la valeur commerciale et le risque, mais leur application concrète », affirme Townsend. « C’est pourquoi l’AI Navigator place le use case au centre : la manière spécifique dont l’IA est déployée au sein d’un processus métier. »

L’IA dépend des données

SAS croit depuis ses débuts à la puissance des données. La plateforme Viya en est la traduction pratique. Viya est la plateforme d’analyse cloud-native de SAS qui prend en charge l’intégralité du cycle de vie des données et de l’IA, et qui a été conçue dès le départ pour l’IA.

Les modèles et les agents ne valent que ce que valent les données qui les alimentent.

Véronique Van Vlasselaer, Hoofd AI & Data Science EMEA bij SAS

« Les modèles et les agents ne valent que ce que valent les données qui les alimentent », déclare Van Vlasselaer. Selon elle, le principal obstacle à l’IA n’est donc pas le talent ou les outils, mais les données.

La plateforme fonctionne aussi bien sur les clouds publics d’Azure, Amazon et Google que sur des alternatives européennes et des environnements sur site, ce qui la rend également pertinente dans le débat sur la souveraineté.

Souveraineté

Lorsque nous parlons de données et d’IA, cela s’accompagne souvent d’une pointe d’inquiétude concernant la souveraineté. Cette préoccupation va, pour les clients européens, au-delà de la question de savoir où se trouvent leurs données, explique Mathias Coopmans, Country Leader Belgique chez SAS. « Il s’agit aussi de savoir qui y a accès et à quel point ils sont liés à un seul fournisseur. »

« Les grands fournisseurs de cloud américains comme Azure, Amazon et Google proposent un vaste catalogue de services, mais celui qui s’y engage trop profondément a du mal à s’en détacher », explique-t-il. Les alternatives européennes ont aujourd’hui une offre plus limitée, mais elles croissent rapidement selon Coopmans.

Créativité humaine

Le défi pour les organisations ne réside pas dans la technologie elle-même, mais dans la manière de garder le contrôle sur ce que fait la technologie : quelles données se cachent derrière et quelles décisions elle prend. Selon SAS, la gestion ne doit pas être une préoccupation supplémentaire, mais l’un des fondements sur lesquels une IA fiable est bâtie.

La vision de SAS à cet égard n’est pas tout à fait unique. Que le contrôle, la compréhension et la gouvernance jouent un rôle essentiel dans le déploiement d’une IA sûre au niveau de l’entreprise, nous l’entendons désormais chez d’autres grands acteurs technologiques. Pensons à SAP, qui souhaite s’approprier un rôle central dans le déploiement de l’IA du côté de l’ERP, à Snowflake qui suit la même vocation en tant que plateforme de données, ainsi qu’à ServiceNow et Salesforce qui espèrent être le centre de gravité des implémentations d’IA.

L’IA fonctionne très bien pour l’optimisation et la créativité, mais pour les décisions lourdes de conséquences ayant un impact réel, c’est toujours l’humain qui doit avoir le dernier mot.

Reggie Townsend, Vicevoorzitter AI-ethiek, governance en sociale impact bij SAS

À la question posée au début de la présentation, nous pouvons en tout cas répondre par un « oui » retentissant sur la base de la vision de SAS : people will matter. « C’est votre créativité et votre ingéniosité humaines qui dirigent l’IA », conclut Van Vlasselaer.