Mistral introduit Shieldstral, un modèle multimodal à poids ouverts 3B pour la modération de contenu. Le modèle surpasserait des modèles sept fois plus grands.
Mistral a lancé Shieldstral, un modèle ouvert qui effectue des évaluations de sécurité basées sur des règles de politique définies par l’utilisateur. Le modèle, disponible sous licence Apache 2.0, peut évaluer aussi bien du texte que des images via une interface uniforme.
Shieldstral considère la modération comme une tâche binaire de question-réponse. Les utilisateurs spécifient une politique sous forme de question claire, telle que « Ce contenu encourage-t-il la violence contre un groupe protégé ? », après quoi le modèle renvoie un score de sécurité calibré.
Performances et flexibilité
Selon Mistral, Shieldstral égale ou surpasse les modèles de garde ouverts jusqu’à sept fois plus grands sur divers benchmarks, notamment la sécurité textuelle, la détection de refus et l’évaluation multimodale. Le modèle est entraîné sur des sources de données hétérogènes, tant réelles que synthétisées, et peut fonctionner sur un seul GPU Nvidia de 16 Go.
Puisque les règles de politique sont fournies sous forme de questions en langage naturel, Shieldstral peut s’adapter à de nouveaux contextes sans réentraînement. Cela rend le modèle particulièrement adapté aux applications où les définitions de sécurité varient, comme dans différents secteurs ou pour différents publics cibles.
Avenir et collaboration
Mistral est l’un des membres fondateurs de l’Open Secure AI Alliance, aux côtés de Nvidia et d’autres organisations. L’entreprise continue de travailler sur des améliorations en matière de couverture multilingue, de robustesse pour les documents plus longs et de sécurité multimodale élargie.