Des escrocs publient des arnaques publicitaires sur YouTube avec des deepfakes de célébrités

Ces dernières semaines, une nouvelle vague d’arnaques a atteint la plateforme YouTube. Des internautes ont en effet remarqué la présence de publicités frauduleuses mettant en avant une subvention du gouvernement états-unien à destinations des moins de 65 ans. Jusqu’ici, rien de nouveau sous le soleil, les utilisateurs de YouTube étant relativement habitués à se voir proposer avant ou pendant des vidéos des spots douteux renvoyant vers des escroqueries.

Mais ce récent arrivage de vidéos promotionnelles, dont s’est fait l’écho le site d’information indépendant 404 Media, a une particularité : celle de s’appuyer sur des deepfakes (ou hypertrucages) plus ou moins réussis de stars bien réelles, sans que celles-ci n’y soient volontairement impliquées. On peut ainsi retrouver la chanteuse Taylor Swift, l’acteur Dwayne Johnson, l’animatrice de télévision Oprah Winfrey et même la célébrité conspirationniste Joe Rogan, inciter face caméra leurs spectateurs à cliquer sur un lien afin de recevoir un chèque de plusieurs milliers de dollars.

Une arnaque aux données bancaires

Ces vidéos, qui reproduisent la voix et les traits de chaque personnalité sans leur consentement grâce à des outils d’intelligence artificielle, sont créées et diffusées par une poignée d’entreprises peu connues, d’après un listing établi par un étudiant américain. Parmi elles, Mantilla Marketing, domiciliée en Colombie. Lorsqu’on consulte la page de cette dernière sur le centre de transparence publicitaire de Google, on constate qu’elle a mis en ligne des dizaines de vidéos du genre, profitant de manière assumée du contexte d’inflation pour tendre un piège aux internautes.

Objectif : les inviter à renseigner leurs données personnelles et bancaires sur des faux sites gouvernementaux. Le ministère états-unien de la santé et des services sociaux en est conscient et a d’ailleurs récemment repartagé un message d’alerte à ce sujet publié en février dernier. "Les escrocs peuvent proposer de fausses subventions du ministère en échange d'informations personnelles ou financières, telles que votre numéro de sécurité sociale, votre date de naissance, votre adresse, votre numéro de compte bancaire, vos informations de connexion ou des copies de vos pièces d'identité personnelles", y lit-on.

Le gouvernement américain rappelait aussi l’an dernier que "ces escrocs peuvent se faire passer pour un ami ou une personne du ministère de la santé et des services sociaux". Mais il semblerait que les agents publics n’avaient pas anticipé le recours aux deepfakes de célébrités, pensé justement dans l’objectif de donner aux victimes un sentiment de fiabilité.

La modération défaillante de Google en cause

Bien qu’elle soit de plus en plus employée par les arnaqueurs en ligne, cette technique n’est pas complètement nouvelle. D’autres plateformes sociales comme TikTok et X y sont également confrontées et certaines personnalités, dont le très populaire youtubeur MrBeast, l’ont déjà pointée du doigt. Ce qui donne à s’interroger sur l’attitude permissive de YouTube, qui n’a pour le moment supprimé que certaines publicités, alors que la totalité d’entre elles ont été visionnées plusieurs dizaines de millions de fois malgré des signalements communautaires.

YouTube, Google et leur maison-mère Alphabet avaient d’ailleurs été alertés dès mai dernier par la Federal Trade Commission concernant les risques accrus d’escroqueries permises par l’IA générative. L’organisme promettait alors de surveiller de près les géants de la technologie qui rendaient possibles ces pratiques trompeuses. De quoi inquiéter Google, à la lumière de ce récent aveu de faiblesse ou de laxisme de sa modération ?

Une chose est certaine, l’année 2024, marquée par une élection présidentielle majeure aux États-Unis, constituera un tournant en matière de régulation des publicités générées par intelligence artificielle. Google avait d’ailleurs pris les devants et promis, en septembre dernier, des règles spécifiques aux contenus promotionnels politiques créés à l’aide de l’IA, lesquels doivent être labellisés comme tels. Mais la dernière campagne d’arnaques à grande échelle menée sur YouTube montre que l’entreprise américaine doit encore faire ses preuves en la matière.