Les deepfake font aujourd’hui partie des principaux fléaux d’internet. Et malgré les efforts des plateformes en ligne pour lutter contre ce phénomène, force est de constater que pour le moment, aucune technologie infaillible n’a été trouvée pour détecter ces vidéos et trouver les coupables. Néanmoins, Facebook espère renforcer sa lutte contre les deepfake grâce à une nouvelle technologie, basée sur le reverse engineering, qu’il a développé avec des chercheurs de l’Université d’Etat du Michigan.
Comme l’explique le réseau social dans un billet, les techniques actuelles consistent à déterminer si une image est réelle ou s’il s’agit d’un deepfake, et de comparer les vidéos en utilisant les modèles de génération de deepfake connus. Mais avec la nouvelle méthode développée par Facebook, il sera également possible d’obtenir des informations sur les deepfake générés en utilisant des modèles qui n’étaient pas encore connus.
« Notre méthode d’ingénierie inverse repose sur la découverte des schémas uniques derrière le modèle d’IA utilisé pour générer une seule image deepfake », indique Facebook. Et cela est important pour lutter contre ce phénomène.
Avec cette méthode, Facebook a une nouvelle arme contre les deepfake
Cité par The Verge, Tal Hassner, chercheur chez Facebook, explique que parfois, les mauvais acteurs qui génèrent des deepfake peuvent brouiller les pistes en utilisant des modèles inconnus.
« Supposons qu’un mauvais acteur génère de nombreux deepfake différents et les télécharge sur différentes plates-formes pour différents utilisateurs », déclare Hassner. « S’il s’agit d’un nouveau modèle d’IA que personne n’a vu auparavant, alors nous aurions pu en dire très peu dans le passé. Maintenant, nous pouvons dire : « Regardez, la photo qui a été téléchargée ici, la photo qui a été téléchargée là-bas, toutes proviennent du même modèle. » Et si nous pouvions saisir l’ordinateur [utilisé pour générer le contenu], nous pourrons dire : « C’est le coupable. » »
En substance, cet outil, en plus de renforcer la détection des deepfake, peut également aider Facebook à identifier des campagnes de désinformation coordonnées utilisant des modèles qui n’étaient pas encore connus par les chercheurs. Mais pour le moment, il ne s’agit encore que de recherches. Et nous ne savons pas quand Facebook pourrait commencer à utiliser cette nouvelle technique basée sur le reverse engineering pour lutter contre la prolifération des deepfake sur ses plateformes.
