Qnap introduit le QAI-h1290FX. Il s’agit d’un NAS pouvant servir de serveur pour les LLM privés, les moteurs de recherche RAG et l’IA générative. L’appareil combine un stockage NVMe all-flash avec un processeur AMD Epyc et des GPU Nvidia RTX en option.
Qnap lance le QAI-h1290FX en tant que serveur de stockage d’IA en périphérie (edge) pour les entreprises qui ne souhaitent pas héberger leurs charges de travail d’IA dans le cloud. Le système est conçu pour l’inférence locale, la souveraineté des données et le contrôle total de l’environnement.
Matériel et capacités d’IA
Le QAI-h1290FX est équipé d’un processeur AMD Epyc 7302P avec seize cœurs et 32 threads. Pour le stockage, douze emplacements SSD U.2 NVMe/SATA sont présents. Qnap opte donc pour une architecture all-flash devant offrir des performances d’E/S élevées. C’est un choix logique, compte tenu de l’accent mis sur les modèles d’IA et les flux de données associés.
Qnap prévoit 128 Go de mémoire vive intégrée mais choisit, de manière surprenante, la DDR4. Cela est probablement lié au processeur : la puce a en effet été lancée dès 2019. Ce choix est étonnant, au vu de l’orientation de l’appareil.
Le serveur prend en charge l’accélération GPU via, au maximum, un Nvidia RTX Pro 6000 Blackwell Max-Q Workstation GPU. Cette carte dispose de jusqu’à 96 Go de mémoire GPU et supporte notamment CUDA, TensorRT et Transformer Engine. Le GPU est en adéquation avec ce que l’on retrouve dans un serveur d’IA plus traditionnel. L’intégration doit accélérer l’inférence LLM locale, la génération d’images et d’autres charges de travail de deep learning.
Côté réseau, le QAI-h1290FX dispose de deux ports 25 GbE et de deux ports 2,5 GbE. Des mises à niveau jusqu’à 100 GbE sont possibles via PCIe. Le système est également compatible avec les boîtiers d’extension JBOD de Qnap pour une capacité de stockage supplémentaire.
QuTS Hero
QuTS Hero, basé sur ZFS, est le système d’exploitation utilisé. Il apporte des fonctionnalités telles que l’intégrité des données, les instantanés (snapshots) et la déduplication en ligne. Pour les environnements d’IA, le système prend également en charge l’accès natif au GPU dans les conteneurs via Container Station et le passthrough GPU pour les machines virtuelles via Virtualization Station.
De plus, Qnap préinstalle déjà divers outils d’IA, dont AnythingLLM, OpenWebUI et Ollama. Des intégrations avec Stable Diffusion, ComfyUI, n8n et vLLM sont également prévues.
Un véritable NAS pour l’IA
Qnap souhaite, avec cet appareil, abaisser la barrière à l’entrée pour les organisations voulant construire une plateforme d’IA sur site. L’intégration de véritables capacités d’IA dans un NAS est remarquable. Les fabricants aiment abuser du terme IA : dès qu’un petit NPU répond présent, un produit est soi-disant déjà optimisé pour l’IA. Cependant, la possibilité d’installer un véritable GPU permet à cet appareil de jouer dans une autre catégorie.
Avec cet appareil, Qnap répond aux besoins des organisations souhaitant se lancer dans l’IA locale, tout en préférant un environnement NAS relativement accessible comme base. Le prix est conséquent : le serveur d’IA coûte 17 655 € (hors TVA), auxquels il faut encore ajouter l’achat des SSD et du GPU.