Google DeepMind dévoile son nouvel outil pour détecter les images générées par IA : SynthID, qui intègre des filigranes imperceptibles dans les images.
Ce qu’il faut retenir :
- SynthID, le nouvel outil de Google DeepMind, sert à identifier les images générées par IA ;
- Il intègre des filigranes imperceptibles pour marquer celles générées par IA et les différencier des vraies images.
- SynthID est uniquement utilisé sur Imagen mais devrait être disponible sur d’autres générateurs d’images à l’avenir.
SynthID, la nouvelle arme de Google DeepMind
On trouve de plus en plus d’images générées par intelligence artificielle sur le web, sans forcément d’indications concernant leur création. Le problème : ces images deviennent de plus en plus réalistes et donc, difficiles à différencier des véritables images par le commun des mortels. Faites le test, ce n’est pas si facile !
C’est pourquoi Google DeepMind, en partenariat avec Google Cloud, a lancé une version bêta d’un nouvel outil : SynthID. Il s’agit d’un outil d’identification des images générées par IA au moyen d’un filigrane numérique directement intégré dans les pixels d’une image. Cela rend le filigrane imperceptible à l'œil nu, mais détectable par l’outil et ce même après un recadrage ou un changement de couleur. Une nouvelle étape vers l’identification du contenu généré par IA !
Selon eux, ne pas savoir qu’une image est “synthétique” risque de favoriser la diffusion de fake news. Pouvoir identifier qu’un contenu a été généré automatiquement par IA permettra aux utilisateurs de savoir que cette image n’est pas réelle, et qu’elle doit donc être regardée de façon critique. On pense par exemple aux photos de guerre publiées ces derniers mois : toutes n’étaient pas réelles et cela a conduit à de la désinformation.
Un nouveau type de filigrane numérique
Les filigranes sont des motifs superposés aux images pour les identifier. Malheureusement, les filigranes traditionnels ne suffisent plus pour identifier les images générées par IA, car ils peuvent être facilement supprimés. D’autres sont trop visibles et ne conviennent pas pour des utilisations commerciales.
SynthID a été conçu de sorte à ne pas compromettre la qualité de l’image, tout en permettant au filigrane de rester détectable même après des modifications : ajout de filtre, changement de couleurs, compression, rognage, etc.
L’outil utilise 2 modèles d’apprentissage, pour le filigrane et pour l’identification. Ils ont été formés ensemble sur de nombreuses images variées. Il évalue la probabilité qu’une image soit générée par Imagen via 3 niveaux de confiance.
SynthID n’est pas infaillible
Google DeepMind le précise, SynthID n’est pas infaillible contre les manipulations extrêmes d’images, d’autant qu’il n’est encore qu’en version bêta.
Néanmoins, les tests internes montrent qu’il résiste à de nombreuses manipulations d’images courantes et semble prometteur.
L’outil devrait connaître des évolutions, notamment dans les domaines audio, vidéo et textuels.
Actuellement, SynthID est limité à Imagen, mais sera certainement disponible pour d’autres générateurs d’images à l’avenir.
Que pensez-vous de SynthID ? Une bonne évolution pour différencier plus facilement les images synthétiques des vraies images ? Une façon de renforcer la confiance des utilisateurs ? Un outil qui ne vous sera d’aucune utilité ?
Articles complémentaires :
Google DeepMind : la fusion entre Google Brain et DeepMind
About this image et balisage des images générées par IA : nouvelles fonctionnalités Google
Utiliser l’IA conversationnelle pour répondre aux exigences de Google
