Asus lance l’UGen300 USB AI Accelerator. Cet appareil apporte un NPU à votre PC via USB, bien que la puissance de calcul de l’engin ne soit pas particulièrement spectaculaire.
Pour ceux qui possèdent un ordinateur portable ou de bureau sans NPU et qui envient les personnes affirmant avoir un « PC IA », Asus lance l’Ugen300 USB AI Accelerator. Il s’agit d’un petit boîtier contenant un accélérateur Hailo-10H. La puce Hailo est un NPU doté d’une puissance de calcul de 40 TOPS. Hailo est une entreprise israélienne spécialisée dans ce type de puces, avec laquelle Asus collabore désormais.
RAM propre
L’accélérateur externe mesure 10,5 cm x 5 cm x 1,8 cm et consomme 2,5 watts, fournis via USB-C. L’appareil dispose de 8 Go de RAM (LPDDR4) intégrés. Asus ne mâche pas ses mots et parle de « performances Gen AI edge inégalées ». Nous soupçonnons que cette affirmation provient des marketeurs et non des ingénieurs, car en matière de performances d’IA, l’Asus Ugen300 USB AI Accelerator apporte surtout une légère mise à niveau.
Les performances d’IA externes sont comparables à celles d’un NPU intégré dans les ordinateurs portables Windows récents. 40 TOPS suffisent pour alimenter efficacement des fonctionnalités d’IA ciblées : pensez au floutage d’arrière-plan dans Teams, à la reconnaissance d’images ou à une fonction spécifique dans une application de retouche photo. 8 Go de RAM et 40 TOPS sont loin d’être suffisants pour faire tourner des modèles d’IA avec des capacités rappelant ce qui est disponible aujourd’hui via le cloud.
Produit de niche
Cela fait de l’Asus Ugen300 USB AI Accelerator un produit avant tout de niche. Le principal avantage d’un NPU intégré est la prise en charge efficace des charges de travail d’IA légères. En règle générale, le CPU et le GPU peuvent également gérer ces charges de travail, bien que de manière moins efficace. Les 40 TOPS supplémentaires peuvent certainement offrir une valeur ajoutée, mais cela nécessite un matériel supplémentaire. Nous ne pouvons pas imaginer beaucoup de scénarios où cela en vaut la peine.
Si vous souhaitez doter un ordinateur portable sur votre bureau d’une puissance de calcul supplémentaire pour l’IA, il existe également des options plus puissantes comme un GPU externe. Celui-ci prend alors immédiatement en charge des charges de travail plus lourdes. Bien qu’Asus ne communique pas de prix, on peut supposer que l’Asus Ugen300 USB AI Accelerator est beaucoup moins cher qu’un eGPU.
Version M.2
Le produit n’est peut-être pas pertinent pour le grand public, mais il reste intéressant. Avec l’Ugen300 USB AI Accelerator, Asus commercialise en effet un matériel accessible permettant à n’importe quel ordinateur de bénéficier d’une certaine accélération matérielle des charges de travail d’IA.
La version M.2 du Hailo-10H est peut-être encore plus pertinente. Asus indique qu’elle proposera également la puce de Hailo sous cette forme. Dans les systèmes disposant d’un emplacement M.2 libre, vous pouvez ainsi intégrer des TOPS supplémentaires à l’intérieur.
L’Asus Ugen300 USB AI Accelerator est compatible avec Windows, Linux et Android. La puce prend en charge des frameworks tels que PyTorch, TensorFlow et ONNX. Asus indique qu’un utilitaire UGen Utility apparaîtra bientôt, permettant aux utilisateurs d’accéder rapidement à des modèles pré-entraînés et compatibles. L’accélérateur lui-même sera commercialisé ce trimestre.