Google améliore la vérification des images d'IA avec cette nouvelle norme

Dans un billet de blog, Google explique qu'il commencera à étiqueter les images dans Google Search en fonction de leur origine, en signalant par exemple celles qui ont été modifiées ou manipulées par l'IA.

Ces informations seront disponibles dans l'onglet "À propos de cette image" sur toutes les plateformes, à l'instar de la fonctionnalité déjà utilisée avec Circle to Search sur les Pixels et Samsung Galaxy. Cette fonctionnalité devrait bientôt être disponible sur d'autres appareils Android.

Google a également indiqué que cette fonctionnalité fonctionnerait avec les images contenant des métadonnées C2PA. C2PA est l'acronyme de Coalition for Content Provenance and Authenticity, une nouvelle norme qui promeut l'utilisation responsable de l'IA, Google jouant un rôle clé.

Les différents types de médias, tels que les images, les vidéos et les fichiers audio, qui contiennent ces métadonnées afficheront des détails sur leur origine et sur les modifications apportées. Il peut s'agir d'informations sur l'appareil ou l'application utilisée pour les créer.

La norme CP2A peut compléter la norme SynthID de Google

La nouvelle norme C2PA travaille en étroite collaboration avec SynthID de Google, une technologie de filigrane développée par Google DeepMind qui permet de marquer et d'identifier les contenus générés par l'intelligence artificielle. La norme C2PA, quant à elle, fournit un cadre plus large ou un ensemble de règles sur la manière dont ces technologies, comme SynthID, doivent être utilisées pour garantir l'authenticité du contenu.

Alors que SynthID se concentre sur l'intégration de filigranes invisibles pour détecter les contenus générés par l'IA, C2PA aide à organiser et à gérer ces types de technologies, créant ainsi un système plus solide lorsqu'elles sont utilisées ensemble pour vérifier si un contenu est réel ou généré par l'IA.

Outre l'amélioration des résultats de recherche d'images, Google prévoit d'intégrer C2PA dans ses systèmes publicitaires. Il travaille également à l'introduction de la C2PA sur YouTube, où les vidéos afficheront ces métadonnées.

Toutefois, l'adoption généralisée de la C2PA se heurte à certains obstacles. À l'heure actuelle, seuls quelques entreprises et services d'intelligence artificielle prennent en charge la norme, et le nombre d'appareils utilisant la technologie du filigrane est encore limité.

Il y a également des problèmes à résoudre, comme la facilité avec laquelle les gens peuvent supprimer ou modifier les métadonnées des images. Malgré ces obstacles, les avantages de cette initiative pourraient l'emporter sur les difficultés au fil du temps.

Que pensez-vous de l'utilisation éthique et transparente de l'intelligence artificielle?

Source : Google