L’IA générative s’impose à une vitesse fulgurante sur le lieu de travail, mais elle s’accompagne d’un prix de plus en plus élevé. À mesure que les collaborateurs utilisent davantage les assistants d’IA, la consommation de tokens et de capacité cloud augmente également.
Selon Koen Van Beneden, Managing Director de HP Nordics and Benelux, ce développement de la capacité cloud n’est pas viable financièrement à long terme. Déplacer une plus grande partie du traitement de l’IA vers l’ordinateur portable peut aider les entreprises à maîtriser leurs coûts. Pour de nombreuses entreprises, l’IA générative a commencé par un nombre limité d’expérimentations et de licences. Entre-temps, de plus en plus de collaborateurs utilisent la technologie pour rédiger des textes, synthétiser des documents, rechercher des informations ou analyser des données. Par conséquent, l’IA passe progressivement d’un projet d’innovation distinct à un coût opérationnel quotidien.
« De nombreux responsables informatiques voient leur budget IA augmenter très fortement », déclare Van Beneden. « Le nombre de tokens que les utilisateurs consomment pour des tâches plus ou moins utiles est gigantesque. Les entreprises tentent aujourd’hui de trouver des solutions à ce problème. »
Toutes les tâches ne doivent pas nécessairement passer par le cloud
Pour la plupart des applications d’IA générative, une requête est envoyée à un modèle dans le cloud. Cela permet d’accéder à des modèles puissants, mais entraîne également des coûts récurrents. Plus les collaborateurs utilisent l’IA de manière intensive, plus la facture peut s’alourdir. Selon Van Beneden, il n’est pas nécessaire que chaque tâche d’IA soit traitée dans un centre de données. De plus en plus d’ordinateurs portables disposent d’une Neural Processing Unit ou NPU, une puce spécifiquement conçue pour exécuter efficacement les tâches d’IA sur l’appareil.

« Si nous pouvons faire en sorte qu’une partie substantielle de la charge de travail d’IA s’effectue simplement sur l’appareil, cela ne consomme pas de tokens cloud », affirme-t-il. « Le matériel et les logiciels sont déjà là. Seule la partie trop complexe ou nécessitant des données qui ne se trouvent pas sur l’appareil doit encore être envoyée vers le cloud. »
Pensez par exemple à la traduction ou à la synthèse de documents locaux, à l’amélioration de textes, à la recherche dans des fichiers ou à l’exécution d’automatisations personnelles simples. Pour les analyses complexes, les informations actualisées et les applications qui sollicitent de grandes bases de données d’entreprise, le cloud reste toutefois important.
Investir pour économiser plus tard
L’IA sur l’appareil n’élimine pas totalement le coût, mais modifie la manière dont les entreprises le paient. Au lieu de régler des tokens et de la capacité cloud pour chaque requête, elles investissent au préalable dans des ordinateurs portables capables de traiter l’IA localement. L’investissement devient ainsi plus gérable et plus prévisible. Cela impose toutefois un arbitrage difficile. Les PC IA sont plus chers que les ordinateurs portables classiques et les entreprises ne peuvent pas remplacer l’ensemble de leur parc informatique du jour au lendemain. De plus, les prix de la mémoire, du stockage et d’autres composants subissent une pression due à la demande mondiale en infrastructures d’IA.
Les entreprises se retrouvent-elles ainsi dans un Catch-22 ? Elles souhaitent faire tourner davantage d’IA localement pour limiter les coûts du cloud, mais ont besoin pour cela d’un matériel plus puissant et plus coûteux. Si elles reportent cet investissement, les dépenses récurrentes pour l’IA dans le cloud risquent de continuer à augmenter.
La transition ne doit pas nécessairement signifier un remplacement complet du parc informatique. Une grande partie des appareils professionnels que HP vend aujourd’hui au Benelux est déjà prête à faire tourner l’IA localement.
Koen van Beneden, Managing Director de HP Nordics and Benelux
Il compare cette évolution à l’introduction du Wi-Fi. « Au début, il fallait choisir un module Wi-Fi séparé et c’était réservé aux privilégiés. En un rien de temps, le Wi-Fi est devenu standard dans chaque appareil. La nécessité économique est telle que la capacité d’IA deviendra également rapidement une norme. »
Chaque collaborateur n’a pas besoin du même PC IA
Un déploiement progressif peut abaisser la barrière à l’investissement. Les collaborateurs qui travaillent intensivement avec des documents locaux, des traductions, des images ou des informations sensibles peuvent être les premiers à recevoir un PC IA. Pour les employés qui n’utilisent l’IA que sporadiquement, pour des applications d’IA accessibles, un appareil classique combiné à des applications cloud peut encore suffire.
Pour cela, les départements informatiques doivent savoir quelles applications les collaborateurs utilisent et de quelle puissance de calcul ils ont réellement besoin. Grâce à des outils de surveillance et de gestion, les entreprises peuvent déterminer quels utilisateurs bénéficient de l’IA locale et où un remplacement du matériel n’apporte encore que peu de valeur ajoutée. Les organisations évitent ainsi de renouveler l’ensemble de leur flotte en une seule fois. Une capacité d’IA locale plus importante peut être introduite progressivement lorsque les appareils doivent être remplacés, avec des exceptions pour les collaborateurs qui peuvent en tirer un gain de productivité immédiat.
L’IA hybride devient la norme
L’IA locale ne remplacera pas le cloud. Les grands modèles, les analyses complexes et les applications nécessitant des données centralisées ou actualisées resteront dépendants des centres de données. En même temps, il est peu efficace, tant financièrement que techniquement, d’envoyer chaque petite tâche vers le cloud. L’issue la plus logique est donc un modèle hybride. Les tâches courantes, sensibles en matière de confidentialité et relativement légères sont traitées sur l’appareil. Ce n’est que lorsqu’une puissance de calcul accrue ou des données externes sont nécessaires que l’application se tourne vers le cloud.
Pour les départements informatiques, cela crée un nouvel exercice d’optimisation. Ils doivent non seulement déterminer quels outils d’IA les collaborateurs sont autorisés à utiliser, mais aussi où chaque charge de travail est la mieux exécutée. Celui qui ne fait pas cet arbitrage risque de voir sa facture cloud croître avec chaque nouvelle expérimentation d’IA. « La courbe actuelle des dépenses liées à l’IA dans le cloud n’est tout simplement pas viable pour les entreprises », conclut Van Beneden. L’IA sur l’appareil devient ainsi plus qu’un simple gadget technique. Elle peut devenir un moyen nécessaire pour maintenir l’IA générative à un coût abordable à grande échelle.
