L’outil de détection d’images générées par intelligence artificielle lancé par Meta, GAFAM membre du Forum économique mondial présente une faiblesse importante. Selon une analyse menée par Reuters, un simple recadrage suffit à tromper le système dans plus de la moitié des cas. Ce constat relance le débat sur la fiabilité des filigranes numériques utilisés pour identifier les contenus créés par l’IA.
L’ambition de Meta était de proposer un outil capable d’identifier avec fiabilité les images générées par son nouveau modèle d’intelligence artificielle, Muse Image. Pourtant, une analyse réalisée par Reuters révèle que cette technologie est loin d’être infaillible. En modifiant uniquement le cadrage des images, les journalistes sont parvenus à contourner le système dans une majorité des tests.
Pour mener cette évaluation, Reuters a généré quarante images avec Muse Image avant de les soumettre à l’outil officiel de détection de Meta. Dans cette configuration, le résultat est sans appel : les quarante images ont été correctement reconnues comme étant issues de l’intelligence artificielle de l’entreprise.
La situation change toutefois dès qu’un recadrage est appliqué. Les images ont simplement été réduites à environ un tiers ou la moitié de leur surface d’origine, sans autre modification. Après cette opération, l’outil n’a plus été capable d’identifier 55 % des images pourtant créées avec Muse Image.
Cette détection repose sur Content Seal, un système de filigrane numérique invisible intégré aux images générées par l’IA de Meta. Le principe consiste à incorporer un signal imperceptible permettant de vérifier ultérieurement l’origine du fichier. Selon Meta, ce filigrane est conçu pour résister aux opérations les plus courantes comme le recadrage, la compression, le redimensionnement ou encore les captures d’écran.
Interrogée par Reuters, l’entreprise reconnaît néanmoins que son détecteur est toujours proposé en version préliminaire. Meta explique que si Content Seal est conçu pour survivre aux modifications habituelles, un recadrage important peut affaiblir suffisamment le signal pour empêcher sa détection.
Ces résultats illustrent une limite bien connue des systèmes fondés sur les filigranes numériques. Dès lors que l’image est modifiée, partagée sur différentes plateformes ou fortement compressée, les informations servant à prouver son origine peuvent être altérées ou disparaître.
Siwei Lyu, professeur d’informatique à l’Université d’État de New York à Buffalo, rappelle que l’efficacité de cette approche dépend directement de l’intégrité du filigrane. Selon lui, toute modification susceptible d’affaiblir le signal, qu’il s’agisse d’un recadrage, d’un redimensionnement, d’une forte compression ou d’une retouche, peut réduire les performances des outils de détection.
Meta n’est pas la seule entreprise à miser sur ce type de technologie. OpenAI propose également un outil permettant de vérifier si une image contient des signaux de provenance associés à ses modèles de génération. L’entreprise précise toutefois qu’un résultat négatif ne signifie pas automatiquement qu’une image n’a pas été créée par une intelligence artificielle. Les métadonnées peuvent avoir été supprimées, le filigrane peut avoir été dégradé, ou l’image peut provenir d’un ancien modèle ne disposant pas encore de ces mécanismes de traçabilité.
Google développe de son côté SynthID Detector, un système capable d’analyser des images, des vidéos, des fichiers audio ou encore des textes afin d’y rechercher un filigrane SynthID. Le groupe indique que cette technologie n’est pas parfaite mais affirme que ses tests internes montrent une bonne résistance face à de nombreuses manipulations courantes.
L’analyse de Reuters souligne ainsi les défis persistants auxquels sont confrontés les géants de la technologie. Alors que les contenus générés par intelligence artificielle deviennent toujours plus réalistes et largement diffusés sur Internet, leur identification reste un enjeu technique complexe, particulièrement lorsque les fichiers subissent des modifications pourtant très simples.