Cette application inquiétante crée des deepfake en temps réel lors d'appels vidéo

Un nouveau projet d'IA appelé Deep-Live-Cam a récemment fait parler de lui en raison de sa fonction d'application de deepfakes sur les webcams. Parallèlement, ce projet a suscité des discussions sur les risques éventuels pour la sécurité et les implications éthiques qu'il pose.

En quoi Deep-Live-Cam diffère-t-il des autres programmes de deepfake?

Deep-Live-Cam utilise essentiellement des algorithmes d'IA avancés capables de prendre une seule photo source et d'appliquer le visage à une cible lors d'appels vidéo en direct, par exemple sur des webcams. Bien que le projet soit encore en cours de développement, les premiers tests montrent déjà des résultats à la fois inquiétants et impressionnants.

Comme le décrit Ars Technica, l'application commence par lire et détecter les visages d'une source et d'un sujet cible. Elle utilise ensuite un modèle d'insertion pour échanger les visages en temps réel, tandis qu'un autre modèle améliore la qualité des visages et ajoute des effets qui s'adaptent aux conditions d'éclairage changeantes et aux expressions faciales. Ce processus sophistiqué garantit que le produit final est très réaliste et qu'il n'est pas facilement reconnaissable comme un faux.

Par exemple, l'un des clips partagés par un développeur montre une fusion réaliste du visage d'Elon Musk, PDG de Tesla, sur un sujet. Le deepfake comprenait même une superposition de lunettes de vue et des cheveux du sujet, ce qui le rendait incroyablement convaincant. Un autre exemple a été montré avec le visage du candidat à la vice-présidence des États-Unis, JD Vance, et celui de Mark Zuckerberg de Meta.

Faut-il vraiment s'inquiéter?

L'utilisation de Deel-Live-Cam et d'autres applications de simulation d'IA en temps réel soulève de sérieuses inquiétudes en matière de protection de la vie privée et de sécurité. Imaginez qu'une photo de vous puisse être prise sur Internet et utilisée à des fins de fraude, de tromperie et d'autres activités malveillantes sans votre autorisation.

À l'heure actuelle, il est possible de remédier à ces lacunes de plusieurs manières, notamment en incluant des filigranes lors de l'utilisation de l'application et en mettant en place des méthodes de détection robustes. La solution peut également être appliquée à d'autres programmes et applications deepfake.

Que pensez-vous des applications de simulation d'IA en temps réel? Avez-vous des pratiques à partager pour vous protéger de ces risques potentiels?