WhatsApp teste Scam Alert, une fonction optionnelle qui reconnaît les messages suspects grâce à un modèle d’IA sur l’appareil.
WhatsApp lance une nouvelle fonction pour protéger les utilisateurs contre les messages d’arnaque. L’application de messagerie est régulièrement confrontée à des campagnes de logiciels malveillants et les outils d’IA rendent les messages frauduleux beaucoup plus crédibles. La fonction est actuellement déployée de manière limitée en version bêta. WhatsApp partage simultanément des informations techniques sur son fonctionnement, afin que les utilisateurs et les chercheurs en sécurité puissent vérifier les garanties de confidentialité.
Avertissement sur l’appareil
Scam Alert analyse les messages entrants provenant de personnes ne figurant pas dans votre liste de contacts. Le modèle recherche des schémas dans les conversations et le langage qui correspondent à des techniques d’arnaque connues. L’analyse s’effectue entièrement sur l’appareil avec un modèle d’IA fonctionnant localement.
En cas de tentative présumée, un avertissement apparaît dans la discussion. Cet avertissement n’est pas visible par l’autre personne. L’utilisateur peut bloquer, signaler ou poursuivre la conversation.
Données de mesure limitées
WhatsApp souligne qu’il n’a jamais accès au contenu de vos messages. Pour mesurer si Scam Alert fonctionne correctement, il collecte des données agrégées telles que les actions des utilisateurs. Le contenu des messages, les signaux de conversation et les données par utilisateur ne quittent pas l’appareil.
Les décomptes locaux sont envoyés à des moments aléatoires via un relais, sans identification de l’appareil. Des machines virtuelles confidentielles fusionnent les données et appliquent une confidentialité différentielle. WhatsApp ne reçoit ainsi que des statistiques approximatives sur des groupes plus importants.
Le choix du modèle se fait sur l’appareil lui-même. Les utilisateurs peuvent en outre activer les journaux d’activité via Compte, Demander les infos et Activité Scam Alert. On y trouve les messages analysés, les avertissements et la version du modèle utilisée.
Bêta limitée
Pendant la phase bêta, Meta a laissé des chercheurs vérifier l’architecture de confidentialité et les poids du modèle. Le programme de bug bounty est étendu pour tester également le modèle et le pipeline de données. La disponibilité générale ne suivra qu’après une évaluation plus approfondie.
Scam Alert combine l’analyse locale avec des versions de modèles contrôlables et des données de mesure limitées. La fonction reste optionnelle, tandis que WhatsApp souhaite adapter davantage la protection aux nouvelles techniques d’arnaque pendant la phase bêta.