Deepfakes : Des entreprises texanes étaient derrière les faux appels téléphoniques du président américain

Mise à jour le 7 février 2024 : L'enquête a révélé qu'il s'agissait de deux entreprises texanes, Lingo Telecom et Life Corporation, à l'origine d'appels automatisés exhortant les résidents du New Hampshire à ne pas voter, selon le procureur général de l'État. Les autorités ont émis des ordonnances de cessation et d'abstention ainsi que des assignations à comparaître aux deux sociétés ; elles sont notamment accusées d'avoir "créé un trafic d'appels automatisés illégaux".

Entre 5 000 et 25 000 appels ont été passés, estime le service de surveillance des appels Nomorobo. Détail intéressant dans cette affaire : la start-up ElevenLabs connue pour ses logiciels de synthèse vocale utilisant l'IA pourrait être impliquée indirectement. Son logiciel a probablement été utilisé pour créer le clone vocal de Joe Biden même si l'enquête n'a pas pu le déterminer. Bloomberg a rapporté plus tôt que la start-up avait suspendu le compte du créateur de ces faux appels d'IA.

Article original : Toute technologie est un compromis entre ses bons et ses mauvais côtés. C'est le constat fait par Yann LeCun, Chief AI Scientist chez Meta, en décembre dernier, à l'occasion du lancement de l'institut IA et société, qui regroupe un certain nombre d'acteurs de l'écosystème. Aujourd'hui, il semble que nous apercevions les contours des mauvais côtés de l'IA.

Le camp démocrate visé

Lundi 22 janvier, le bureau du procureur général du New Hampshire a déclaré qu'il enquêtait sur des rapports faisant état d'un "robocall" (appel téléphonique automatisé) apparent qui utilisait une technologie d'intelligence artificielle pour imiter la voix du président Joe Biden et décourager les électeurs de l'État de voter lors de la primaire démocrate de mardi.

Le procureur général John Formella a déclaré que le message enregistré, qui a été envoyé à plusieurs électeurs dimanche, semble être une tentative illégale de perturber et de supprimer le vote. Il a déclaré que les électeurs "ne doivent absolument pas tenir compte du contenu de ce message", comme le rapporte Associated Press.

Un enregistrement de l'appel fait apparaître une voix semblable à celle du président Joe Biden et emploie sa phrase souvent utilisée : "Quel tas d'âneries". Il demande ensuite à l'auditeur de "garder son vote pour les élections de novembre". "Voter ce mardi ne fait que permettre aux Républicains d'élire à nouveau Donald Trump", dit la voix qui imite le président des Etats-Unis. "Votre vote fera la différence en novembre, pas ce mardi".

Objectif : saper les élections

Si cette déclaration est bien évidemment fausse, le fait est que les appels passés ont été présentés aux destinataires comme provenant d'un soutien de Joe Biden, Kathy Sullivan, une ancienne présidente du Parti démocrate de l'État qui aide à diriger un comité d'action politique soutenant la campagne de candidature de l'actuel président. Pour l'heure, aucune information n'a été donnée concernant la ou les personnes à l'origine de ces appels. Les forces de l'ordre ont été alertées et une plainte a été déposée auprès du procureur général après que plusieurs électeurs de l'État eurent signalé avoir reçu l'appel dimanche soir.

La secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, a confirmé lundi que l'appel "était effectivement faux et n'avait pas été enregistré par le président". La directrice de campagne de Joe Biden, Julie Chavez Rodriguez, a déclaré de son côté que "diffuser de la désinformation pour supprimer des votes et saper délibérément des élections libres et équitables ne sera pas toléré, et la lutte contre toute tentative de saper notre démocratie continuera d'être une priorité absolue pour cette campagne".

2024, une année propice à la désinformation

Au-delà des risques que cela engendre pour la campagne présidentielle des Etats-Unis et l'élection de son futur président le 5 novembre 2024, ce recours à l'intelligence artificielle et plus particulièrement à l'IA générative pour dissuader les électeurs de voter ou de les influencer s'avère être un exemple concret des risques engendrés par cette technologie. Selon plusieurs experts de l'économie mondiale, 2024 pourrait être particulièrement touchée par le problème de la désinformation.

Et l'usage de telles technologies s'avère être un bon moyen de parvenir à ses fins. Rappelons en effet que cette année est une année électorale importante pour la moitié de la population mondiale. Le 13 janvier dernier a eu lieu l'élection présidentielle à Taïwan, et d'autres pays doivent emboîter le pas, à l'instar du Pakistan, du Sénégal et du Mexique notamment.

France Info rapporte également qu'"il y aura des scrutins déterminants dans l’équilibre géopolitique mondial, en Inde, en Grande-Bretagne, en Russie, aux États-Unis... En comptant les élections européennes de juin, 77 pays au total sont concernés, et plus de 3 milliards de personnes seront appelés à se rendre aux urnes cette année".