Cartes de visite pour les modèles d’IA : AWS veut accroître la transparence

AWS reinvent

Avec l’introduction des AI Service Cards, AWS souhaite contribuer au développement d’une IA responsable. La carte de visite contient des informations sur les systèmes et des directives pour les utiliser en toute sécurité.

L’intelligence artificielle est le thème commun d’AWS re:Invent 2022. C’est logique, car le développement des systèmes d’IA progresse à la vitesse de l’éclair. Si l’IA peut apporter beaucoup de bien à notre société, sa mise en œuvre à grande échelle soulève également des questions éthiques. Cela s’explique en partie par le fait qu’il existe encore peu de directives éthiques contraignantes pour les développeurs d’algorithmes.

AWS souhaite contribuer largement au développement de l’IA dite responsable avec les AI Service Cards. Il peut être considéré comme une carte de visite contenant des informations importantes sur le modèle et accessible au public. La carte de visite comprend des informations sur la partialité, la confidentialité et la sécurité, la robustesse, la gestion des données et l’explicabilité des résultats.

Carte de visite pour les algorithmes

Plus précisément, une AI Service Card sera divisée en quatre sections. Une première section contient les caractéristiques de base du système et un aperçu de ses fonctionnalités. Dans une deuxième section, AWS décrit les cas d’utilisation potentiels du modèle ainsi que ses limites.

La troisième section sert à interpréter les considérations faites lors de la conception du modèle. Il s’agit peut-être de la section la plus importante, car les considérations prises en compte affectent la fiabilité de l’IA et c’est un aspect que les utilisateurs ignorent souvent. Enfin, la quatrième section contient des directives sur la manière d’utiliser le modèle en toute sécurité.

Avec le lancement des AI Service Cards, des cartes de visite seront disponibles pour Transcribe Batch, Textract Analyze ID et le logiciel controversé de reconnaissance faciale Rekognition. Pour la plate-forme d’apprentissage automatique SageMaker, AWS introduit un système similaire avec Model Cards, un outil qui permet aux développeurs de gérer facilement les données relatives à leurs modèles.

newsletter

Abonnez-vous gratuitement à ITdaily !
Category(Required)
Consent(Required)
This field is for validation purposes and should be left unchanged.
retour à la maison