SynthID de Google: des filigranes invisibles pour les contenus générés par IA

Google continue d’innover dans le domaine de l’intelligence artificielle avec SynthID, une technologie permettant d’ajouter des filigranes invisibles aux contenus créés par IA. Initialement utilisée pour marquer les images et les vidéos, SynthID est désormais capable de marquer également les textes générés par intelligence artificielle. Cette nouvelle fonctionnalité est disponible en open source à travers le Google Responsible Generative AI Toolkit.

Une solution innovante contre la désinformation et les deepfakes

SynthID est conçu pour répondre aux préoccupations croissantes liées à la désinformation, aux deepfakes, et aux tentatives d’escroquerie en ligne. En intégrant des filigranes invisibles dans les contenus générés par IA, Google propose une solution qui permet d’identifier facilement les créations générées par ses modèles d’IA, tout en étant imperceptible pour les utilisateurs humains.

La technologie fonctionne en ajustant les scores de probabilité des sélections de jetons (éléments de texte comme des lettres, mots ou phrases) lors de la génération de contenu. Chaque jeton est évalué selon sa probabilité d’être sélectionné, permettant à SynthID de déterminer si le texte final a été généré par un modèle d’IA. Cette méthode fonctionne même avec un minimum de trois phrases, garantissant une identification efficace dans un large éventail de cas.

Filigranes invisibles dans les images, sons et vidéos

En plus des textes, SynthID est capable de marquer d’autres types de contenus générés par IA. Pour les fichiers audio, produits par l’IA génératrice de musique Lyria, SynthID intègre des filigranes dans les spectrogrammes, rendant ces marquages résistants à la compression MP3 et aux modifications de vitesse.

Pour les images et vidéos, les filigranes sont directement intégrés aux pixels de chaque image ou image vidéo, ce qui les rend résistants aux recadrages ou à la compression. Cela garantit que les contenus visuels créés par IA restent traçables, même après des modifications ou une utilisation dans différents formats.

Un déploiement en open source pour le marquage des textes

Google a rendu la version texte de SynthID accessible en open source via son Responsible Generative AI Toolkit. En plus des textes, SynthID marque les contenus audio de Lyria en insérant des filigranes dans les spectrogrammes, et pour les images et vidéos, les filigranes sont intégrés directement dans les pixels, résistant ainsi aux compressions et modifications.

Articles connexes

Quel est l’avenir de l’intelligence artificielle en 2024 ?

Act-One de Runway révolutionne le cinéma avec L’IA

Claude AI pourra bientôt contrôler votre ordinateur pour effectuer des tâches