Pour lutter contre la prolifération des deepfakes et de la désinformation plus largement, des chercheurs ont mis au point un algorithme d’intelligence artificielle capable d’identifier les vidéos générées artificiellement. L’outil a affiché un taux d’efficacité de 93% lors des expérimentations.
Pour lutter contre la prolifération des Deepfakes, ces vidéos générées artificiellement qui permettent notamment de superposer les traits d’une personne sur le corps d’une autre, des scientifiques s’appuient sur l’usage de l’intelligence artificielle. Une technique qui alimentent de nombreuses inquiétudes quant à la montée en puissance de la désinformation en ligne et sur les réseaux sociaux notamment.
De quoi pousser par exemple le groupe Meta à développer des fonctionnalités permettant d’identifier sur ses plateformes sociales les contenus générés par IA. Plus largement et en Europe, c’est l’AI Act qui doit notamment permettre d’encadrer les pratiques qui découlent de l’utilisation des intelligences artificielles génératives.
Deepfake : comment distinguer le vrai du faux ?
Pour être en mesure de prévenir un internaute lorsqu'il est face à un contenu généré artificiellement, encore faut-il être capable de l’identifier. “Avec l’IA générative, nous nous dirigeons vers une vision tridimensionnelle et nous allons avoir de plus en plus de mal à différencier le vrai du faux”, nous expliquait Ronan de la Paquerie, cofondateur de Skreenplay.
Un sujet sur lequel travaille le laboratoire de sécurité multimédia et de l'information (MISL) du collège d'ingénierie de Drexel depuis plus de dix ans. Mais à mesure que les IA génératives prennent de la bouteille, les solutions de détection d'images synthétiques perdent en efficacité. "C'est pourquoi nous nous efforçons de les devancer en développant une technologie permettant d'identifier les vidéos synthétiques à partir de modèles et de caractéristiques spécifiques aux médias", confie Matthew Stamm, PhD, professeur associé au Collège d'ingénierie de Drexel, à Cybernews.
IA contre IA
Les chercheurs ont donc décidé de combattre le mal par le mal en se tournant vers les performances de l’intelligence artificielle pour identifier la méthodologie des IA génératives comme Fliki, HeyGen, Pika ou bien encore Sora pour transformer du texte en contenu vidéo.
Une approche qui a porté ses fruits et permis à l’équipe de former un algorithme d'apprentissage automatique appelé réseau neuronal contraint doté d’un haut niveau de précision dans l’identification de contenus vidéos synthétiques. Lors des tests, l’algorithme a affiché un taux d’efficacité de 93% dans l’identification de vidéos générées artificiellement.
Photo d'ouverture : © Jossuha Théophile
