Les grands modèles de langage d’aujourd’hui ont évolué pour devenir des perroquets statistiques qui semblent très fiables, mais le sont-ils vraiment ?
« L’approche humaine et tangible avec laquelle les grands modèles de langage (LLM) formulent aujourd’hui des réponses à nos questions nous fait perdre confiance dans les modèles classiques », commence Matthijs van den Langenberg, AI Adoption Lead Benelux chez Lenovo, lors d’une table ronde organisée par ITdaily.
« Les modèles d’IA sont en réalité des analyses de données avancées capables de convertir des données structurées en langage naturel », explique Véronique Van Vlasselaer, Head of AI & Data Science chez SAS EMEA, qui les compare à des perroquets statistiques.
Trois autres experts sont assis autour de la table : Wilco Zwerus, Client Solutions Sales Director chez Dell Technologies, Joris Dresselaers, Business Area Director chez Visma et Gianni Cooreman, Senior Director Solution Engineering pour Salesforce Benelux. D’où vient cette confiance (parfois injustifiée) dans les modèles d’IA, et comment les entreprises gèrent-elles cela ?
Perroquets statistiques
« Les LLM d’aujourd’hui sont en fait des systèmes d’analyse de données très avancés », explique Mme Van Vlasselaer. « Cela existe depuis bien plus longtemps qu’on ne le pense. Au cours des dernières décennies, les solutions concernaient principalement l’analyse basée sur des données structurées ; aujourd’hui, la technologie a permis d’analyser des données non structurées telles que des textes. »
Les LLM sont des perroquets statistiques.
Véronique Van Vlasselaer, Head of AI & Data Science bij SAS EMEA
C’est pour cette raison que les LLM sont parfois appelés perroquets statistiques, note-t-elle. Selon M. van den Langenberg, cela rend les modèles accessibles à tous, mais présente également un revers de la médaille.
Déterministe versus probabiliste
Selon Mme Van Vlasselaer, il existe un paradoxe frappant dans la manière dont les gens interagissent avec l’IA. « Les modèles classiques et déterministes fonctionnent sur la base d’une logique claire et donnent toujours la même réponse reproductible, mais ils se heurtent souvent à la méfiance : un système qui indique que quelque chose est potentiellement frauduleux doit pouvoir justifier immédiatement son raisonnement. »
« Les LLM, en revanche, ou modèles probabilistes, inspirent beaucoup plus de confiance, précisément parce qu’ils formulent des réponses en langage naturel et sont donc perçus comme un interlocuteur familier. »
Elle trouve cette divergence frappante : « Les gens font plus confiance aux modèles probabilistes, et donc intrinsèquement incertains, qu’aux systèmes déterministes qui sont pourtant conçus pour être fiables et contrôlables. »
L’humanité l’emporte
Tous les participants autour de la table s’accordent sur ce paradoxe. « Les modèles d’IA parlent avec émotion », remarque M. Cooreman. « Ils peuvent énoncer des mensonges avec une assurance totale, mais si vous ne vérifiez pas le résultat, vous tombez dans le panneau. » De plus, la confiance semble s’appliquer principalement aux ChatGPT d’aujourd’hui. Mme Van Vlasselaer ajoute : « Il y a 200 % de confiance en plus dans l’IA générative que dans l’IA traditionnelle. »
M. van den Langenberg reconnaît également que le fait de rendre les outils techniques moins techniques les rend plus accessibles au public. « La plupart des gens ne comprennent pas les outils très techniques, ce qui fait qu’ils leur font moins confiance. »
M. Dresselaers complète : « Il y a un danger à faire aveuglément confiance à l’IA. » Il illustre cela par un exemple du monde de la comptabilité. Si un comptable soumet une déclaration fiscale basée sur des réponses de l’IA, qui pourraient contenir des informations incorrectes, cela peut avoir des conséquences considérables. En résumé, sans un regard critique, on finit souvent par être trompé, avec toutes les conséquences que cela implique.
Les données comme fondation
Outre la confiance dans le modèle d’IA lui-même, il existe une autre étape importante que les entreprises sautent (parfois inconsciemment) : la confiance dans les données elles-mêmes. « Souvent, les modèles contiennent énormément de vieilles données qui ne sont plus du tout pertinentes », explique M. Zwerus. M. van den Langenberg confirme également : « De nombreuses entreprises sont confrontées à des données qui ne sont tout simplement pas bien organisées. Ce ne sont plus des lacs de données (data lakes), mais des marécages de données. »
Les entreprises ne disposent pas de lacs de données, mais de marécages de données.
Matthijs van den Langenberg, AI Adoption Lead Benelux chez Lenovo
Garde-fous
De plus, les participants notent un manque de cadres clairs pour l’IA. « La gouvernance est l’un des facteurs les plus difficiles lors de la mise en œuvre de l’IA », affirme M. van den Langenberg. Selon lui, de nombreuses entreprises n’ont pas encore mis au point de cadre interne. Il compare cela aux voies de circulation sur une autoroute. Vous pouvez changer de voie, mais s’il n’y a pas de garde-fous, vous risquez la sortie de route.
Non seulement le cadre pour l’utilisation interne de l’IA par les employés est important, mais aussi le cadre dans lequel les soi-disant agents d’IA doivent opérer. « Les agents d’IA prennent entièrement le volant pour arriver à destination », ajoute M. Dresselaers.
Un agent d’IA ne devient vraiment performant que grâce aux règles que vous lui donnez.
Matthijs van den Langenberg, AI Adoption Lead Benelux chez Lenovo
« Un agent d’IA ne devient vraiment performant que grâce aux règles que vous lui donnez », remarque M. van den Langenberg. « Nous avons par exemple en interne un agent juridique qui ne consulte que certains documents ou directives, et qui est donc bien encadré. C’est précisément parce qu’il y a des choses qu’il ne peut pas et ne doit pas faire qu’il est meilleur dans ce qu’il peut faire. »
L’IA qui contrôle l’IA
Mme Van Vlasselaer souligne enfin un phénomène qui apparaît de plus en plus souvent : LLM as a judge, ou l’utilisation d’un modèle d’IA pour évaluer la production d’un autre modèle d’IA. « Mais qui juge le juge alors ? », pose M. Dresselaers comme question rhétorique.
Les experts sont unanimes : l’utilisation de l’IA exige un regard humain critique. De plus, il est important de commencer par le début : mes données sont-elles en ordre ? Établissez ensuite un cadre clair, afin que tout le monde reste bien entre les garde-fous de la même autoroute. Enfin, vérifiez toujours les résultats. Un perroquet statistique peut sembler convaincant, mais cela ne le rend pas pour autant fiable.