Deepfake de Joe Biden : Un opérateur télécoms condamné à payer 1 million de dollars d'amende

La Federal Communications Commission (FCC), agence américaine chargée de la régulation des télécoms, a annoncé le 21 août qu’elle allait infliger une amende d’un million de dollars (897 000 euros) à l’opérateur texan Lingo Telecom. L’autorité explique dans un communiqué que Lingo a “transmis des appels automatisés falsifiés utilisant une technologie de clonage vocal génératif par intelligence artificielle pour diffuser de fausses informations”sur la primaire démocrate américaine.

Le consultant politique aurait payé 500 dollars à l’opérateur télécom

En début d’année, plus de 5000 électeurs du New Hampshire ont reçu un message préenregistré leur recommandant de ne pas aller se déplacer pour voter aux primaires démocrates. “Votre vote fera la différence en novembre, pas ce mardi […]. Voter ce mardi ne fera qu’aider les Républicains à faire réélire Donald Trump”, édictait la voix, qui reproduisait à la perfection celle du président actuel Joe Biden.

Les appels ont été orchestrés par Steve Kramer, consultant politique d’un rival de Joe Biden, sans même consulter son équipe. Steve Kramer a été inculpé par le bureau du procureur général du New Hampshire, et risque de recevoir une amende de 6 millions de dollars de la part de la FCC. Au moment où son identité a été révélée, le consultant politique affirmait avoir payé 500 dollars pour que les appels soient transmis aux électeurs.

Lingo Telecom devra en outre mettre en œuvre un plan de conformité, exigence demandée par la FCC pour la première fois. Ceci comprend le strict respect des règles d’authentification de l’identifiant de l’appelant, notamment la suite de protocoles STIR/SHAKEN et le processus “Know your customer” (KYC).

Inquiétudes grandissantes à l’aube des élections présidentielles

La FCC multiplie les initiatives pour limiter les risques inhérents au clonage vocal par IA. Le mois dernier, elle a soutenu une proposition visant à ce que les messages politiques diffusés à la radio ou à la télévision précisent si leur contenu est généré, ou non, à partir d’outils d’IA. L’autorité a aussi adopté une décision déclaratoire rendant illégale toute technologie de clonage vocal utilisée lors d’appels automatisés vers les consommateurs (sauf consentement de ces derniers).

À quelques mois des élections présidentielles américaines, les inquiétudes sur de possibles deepfakes politiques se renforcent. En février, plusieurs grandes entreprises de la tech, dont Google, OpenAI et Meta, ont signé un texte où elles s’engagent à “aider à empêcher les contenus trompeurs générés par IA d’interférer dans les élections prévues cette année dans le monde”.