Google introduit un nouveau portail de vérification, SynthID Detector, pour identifier le texte, l’audio, la vidéo et les images générés par l’IA.
SynthID Detector offre aux utilisateurs un point central pour analyser le contenu généré par l’IA. Les personnes qui téléchargent du contenu créé avec les modèles d’IA de Google, tels que Gemini, Imagen, Lyria ou Veo, verront immédiatement si ce contenu contient un filigrane SynthID. Le système marque les parties spécifiques du texte, de l’audio ou des images où le filigrane est probablement présent.
Le nouvel outil est actuellement disponible pour un groupe sélectionné de testeurs, comprenant des journalistes, des professionnels des médias et des chercheurs. Ils peuvent s’inscrire sur une liste d’attente pour y accéder. Un déploiement plus large suivra ultérieurement.
Filigranes invisibles
SynthID fonctionne avec des filigranes invisibles qui, selon Google, restent détectables même après des modifications ou des transformations. Initialement, la technologie n’était appliquée qu’aux images générées par l’IA, mais le système a depuis été étendu au contenu texte, audio et vidéo. Google rapporte que plus de 10 milliards d’éléments ont déjà été dotés d’un filigrane SynthID.
Source ouverte
Pour stimuler l’utilisation de la technologie, Google a également rendu open source le mécanisme de filigrane pour le texte. Ainsi, les développeurs peuvent intégrer le système dans leurs propres modèles d’IA. En outre, il existe une collaboration avec NVIDIA. Les vidéo « s générées avec l’aperçu Cosmos de NVIDIA » seront désormais automatiquement munies d’un filigrane SynthID.
De plus, Google annonce une collaboration avec GetReal Security, une plateforme de vérification de contenu. Cette collaboration vise à permettre à des parties externes de reconnaître également les filigranes SynthID.