Les « deepfakes » générés par l’IA dans Dall-E 3 seront démasqués plus rapidement grâce au nouvel outil de détection d’OpenAI.
OpenAI lance un outil de détection d’images pour déterminer si une image a été générée par DALL-E 3. L’entreprise révèle son projet dans un billet de blog. Les deepfakes sont des images de photos ou de vidéos existantes manipulées par l’IA et souvent générées dans un but abusif. OpenAI souhaite résoudre ce problème et rejoint la Coalition for Content Provenance and Authenticity (C2PA), qui établit des normes techniques pour la provenance des contenus numériques, en collaboration avec d’autres grandes entreprises de la tech.
Outil de détection d’images
Les deepfakes ont envahi l’internet et peuvent causer des conséquences néfastes pour les personnes impliquées. OpenAI souhaite remédier à cette situation grâce à un nouvel outil de détection des images générées par l’IA. Pour l’instant, le nouvel outil ne fonctionne que sur les images générées par le propre générateur d’images d’IA de l’entreprise, DALL-E.
L’outil de détection d’images peut identifier une image générée par DALL-E dans environ 98 % des cas, selon OpenAI. Moins de 0,5 % des images non générées par l’IA ont été incorrectement marquées en tant qu’images générées par DALL-E 3. La classification de détection d’images d’OpenAI est actuellement accessible à un premier groupe de testeurs, y compris des laboratoires de recherche et des organisations journalistiques à but non lucratif axées sur la recherche.
Normes d’authenticité
OpenAI annonce aussi dans son billet de blog qu’elle fait partie de la Coalition for Content Provenance and Authenticity, ou C2PA. C’est une norme de certification de contenu numérique largement utilisée qui a été développée et adoptée par beaucoup de parties, y compris des éditeurs de logiciels, des fabricants d’appareils photo et des plateformes en ligne. Quelques de ces parties : Google, Adobe, Meta et Microsoft.