Les scientifiques de Facebook disent qu’ils peuvent découvrir la source des deepfakes

Les chercheurs en intelligence artificielle en Site de réseautage social Facebook et la Michigan State University affirment avoir développé un nouveau logiciel capable de détecter la source de ce que l’on appelle les deepfakes.

Les deepfakes sont des vidéos qui ont été modifiées numériquement d’une manière ou d’une autre à l’aide de l’intelligence artificielle. Ils sont devenus de plus en plus réaliste Ces dernières années, cela a rendu difficile pour les humains de déterminer ce qui est réel sur Internet, et en fait Facebook, et ce qui ne l’est pas.

Les chercheurs de Facebook affirment que leur logiciel d’IA – annoncé mercredi – peut être formé pour déterminer si un média est faux ou non à partir d’une seule image fixe ou d’une seule image vidéo. Non seulement cela, mais ils disent que le logiciel peut également déterminer quelle IA a été utilisée pour créer le deepfake en premier lieu, quelle que soit la nouveauté de la technologie.

Tal Hasner, responsable de la recherche appliquée chez Facebook, a déclaré à CNBC qu’il était possible de former un programme d’IA « pour regarder une image et vous dire avec une précision raisonnable quelle conception de modèle d’IA a produit cette image ».

Puis vient la recherche Michigan State University a réalisé l’année dernière Qu’il soit possible de déterminer quel modèle d’appareil photo a été utilisé pour prendre une photo particulière – Hasner a déclaré que le travail de Facebook avec MSU en dépendait.

Deepfakes est une mauvaise nouvelle pour Facebook, qui lutte constamment pour éloigner le faux contenu de sa plate-forme principale, ainsi que Messenger, Instagram et WhatsApp. entreprise Deepfake interdit en janvier 2020 Mais il a du mal à tous les supprimer rapidement de sa plate-forme.

La détection des deepfakes est un « jeu du chat et de la souris », a déclaré Hasner, ajoutant qu’il devient de plus en plus facile à produire et plus difficile à détecter.

L’une des principales applications des deepfakes à ce jour a été dans la pornographie où le visage d’une personne est échangé contre le corps de quelqu’un d’autre, mais il a également été utilisé pour faire apparaître des célébrités comme si elles faisaient ou disaient quelque chose qu’elles ne sont pas.

En fait, un Un ensemble de deepfakes réalistes bizarres pour Tom Cruise Sur TikTok, il a maintenant été visionné plus de 50 millions de fois, et beaucoup ont du mal à comprendre en quoi ils ne sont pas réels.

Aujourd’hui, il est possible pour n’importe qui de créer son propre deep fake en utilisant des applications gratuites comme FakeApp ou Faceswap.

L’experte Deepfake Nina Schick, qui a conseillé le président américain Joe Biden et le président français Emmanuel Macron, a déclaré lundi lors de la conférence CogX AI que la détection des deepfakes n’est pas facile.

Dans un e-mail de suivi, elle a déclaré à CNBC que le travail de Facebook et de MSU « ressemblait à un gros problème en termes de détection », mais a souligné qu’il est important de savoir à quel point les modèles de détection de deepfake fonctionnent dans la nature.

« Tout est bel et bien testé sur un ensemble de données d’entraînement dans un environnement contrôlé », a-t-elle déclaré, ajoutant que « l’un des grands défis semble être qu’il existe des moyens faciles de tricher les modèles de détection – c’est-à-dire en compressant une image ou une vidéo.

Tasner a admis qu’il pourrait être possible pour un mauvais acteur de contourner le détecteur. « Sera-t-il capable de vaincre notre système? Je suppose qu’il le fera », a-t-il déclaré.

En général, il existe deux types de deepfakes. Ceux qui sont entièrement générés par l’intelligence artificielle, comme les faux visages humains sur www.cettepersonneneexistepas.com, et d’autres qui utilisent des éléments d’IA pour manipuler les médias d’origine.

Shake s’est demandé si l’outil Facebook fonctionnerait sur ce dernier, ajoutant qu' »il ne peut jamais y avoir de détecteur unique ». Mais Xiaoming Liu, un collaborateur de Facebook dans le Michigan, a déclaré que le travail « a été évalué et validé dans les deux cas de deepfake ». Liu a ajouté que « les performances peuvent être inférieures » dans les cas où la manipulation ne se produit que dans une très petite zone.

Chris Ohm, l’artiste des médias synthétiques derrière le deepfake de Tom Cruise, a déclaré lundi à CogX que la technologie des deepfakes évolue rapidement.

« Il existe de nombreux outils d’IA différents, et pour Tom Cruise, par exemple, je combine de nombreux outils différents pour obtenir la qualité que vous voyez sur ma chaîne », a-t-il déclaré.

On ne sait pas comment, ni même si Facebook cherchera à implémenter Tassner sur ses plateformes. « Nous ne sommes pas sur le point d’avoir une discussion sur le produit », a déclaré Tasner, ajoutant qu’il existe de nombreux cas d’utilisation potentiels, y compris la découverte d’attaques deepfake coordonnées.

« Si quelqu’un veut l’offenser (modèles génératifs) et effectuer une attaque coordonnée en chargeant des éléments provenant de différentes sources, nous pouvons en fait détecter cela simplement en disant que toutes ces choses proviennent du même moule que nous n’avons jamais vu auparavant, mais que possède ces éléments et propriétés spécifiques et ses caractéristiques.

Dans le cadre de ce travail, Facebook a déclaré avoir collecté et indexé 100 modèles différents de deepfakes existants.