DeepMind dévoile SynthID, un outil permettant d'identifier les images générées par Google Imagen

Face à la prolifération d'outils d'intelligence artificielle générative, nombreux sont ceux qui cherchent à créer des moyens de distinguer les créations humaines des autres. Google a dévoilé le 29 août des un outil capable d'apposer un tatouage numérique (watermark) aux images générées par son modèle Imagen, afin de pouvoir facilement connaître leur provenance par la suite. SynthID est accessible en beta à un nombre restreint d'utilisateurs de la plateforme d'IA Vertex AI, laquelle vient d'être mise à jour par la filiale d'Alphabet.

Entraîné sur des images variées, l'outil est double : il permet, d'une part, de placer un "watermark" directement dans les pixels de l'image et, d'autre part, de le lire, celui-ci étant invisible à l'œil nu. Surtout, précise Google DeepMind dans un communiqué, "nous avons conçu SynthID de manière à ce qu'il ne compromette pas la qualité de l'image et permette au filigrane de rester détectable, même après des modifications telles que l'ajout de filtres, la modification des couleurs et l'enregistrement avec différents systèmes de compression […]".

Un outil encore imparfait

Objectif annoncé : lutter contre les possibilités de désinformation et de manipulation que peuvent fournir les générateurs d'images par leur "énorme potentiel créatif". Google offre ainsi sa première réponse à une exigence de transparence portée par plusieurs de ses détracteurs. Artistes, régulateurs du monde entier, journalistes ont en effet demandé des garanties en matière d'IA générative ces derniers mois, notamment des techniques pour repérer les contenus créés de toutes pièces par les modèles d'OpenAI, Google, Meta...

SynthID ne résout toutefois qu'une infime partie du problème mis en lumière par les voix critiques. L'outil de Google ne peut filigraner et identifier que les images générées par son propre outil Imagen, lequel est accessible uniquement via la plateforme payante Vertex AI. Si DeepMind espère que SynthID puisse être "étendu à d'autres modèles d'IA" à l'avenir, les outils concurrents d'Imagen (DALL-E, Midjourney, Stable Diffusion…) ne sont à ce stade pas concernés.

En atteste son lancement en version beta, SynthID n'est pas non plus infaillible. Lorsqu'on lui fait scanner une image, SynthID peut donner trois réponses : watermark détecté, watermark non-détecté, watermark possiblement détecté. "SynthID n'est pas à l'épreuve des manipulations extrêmes d'images […]", reconnaît DeepMind. Google promet des améliorations futures et dit vouloir travailler sur l'application de ce concept à d'autres types de contenus "tels que l'audio, la vidéo et le texte."