En réponse à l'augmentation du contenu généré par l'IA, Google met à jour ses outils pour améliorer la transparence concernant l'origine et la modification des images dans les résultats de recherche.
Le géant technologique collabore avec la Coalition pour la Provenance et l'Authenticité du Contenu (C2PA) pour développer une norme mondiale visant à identifier et certifier le contenu généré par l'IA.
Ce partenariat a conduit à la publication de la version 2.1 des credentials de contenu de C2PA, conçue pour améliorer la sécurité et prévenir la manipulation des métadonnées pour les images, vidéos et fichiers audio.
Ces credentials permettront aux utilisateurs de déterminer si un fichier numérique a été créé par un appareil photo, édité avec un logiciel ou entièrement généré par l'IA.
Google a intégré les credentials de contenu de C2PA dans des produits clés, y compris Google Search et bientôt Google Ads. Les utilisateurs peuvent accéder à des informations détaillées sur l'origine en cliquant sur les trois points verticaux au-dessus d'une image dans les résultats de recherche.
Si le contenu contient des métadonnées C2PA, les utilisateurs verront des informations sur l'appareil ou le logiciel utilisé pour capturer ou modifier l'image. Par exemple, si une photo a été prise avec un modèle d'appareil photo spécifique, cela sera vérifié via une 'Liste de confiance' pour garantir l'exactitude.
Selon Laurie Richardson, Vice-présidente de la confiance et de la sécurité chez Google, l'utilisation de ces signaux d'authenticité s'étendra à d'autres produits, influençant les politiques publicitaires pour lutter contre la désinformation.
YouTube, également propriété de Google, suivra l'exemple de TikTok en mettant en œuvre des credentials de contenu pour étiqueter automatiquement les vidéos générées par l'IA, fournissant aux utilisateurs des informations sur la nature du contenu qu'ils visionnent.
Cette initiative fait partie d'une stratégie plus large de Google pour combattre la désinformation en ligne, y compris le lancement de SynthID en 2023, un outil de marquage numérique développé par Google DeepMind qui détecte et suit le contenu généré par l'IA.