Meta a généré des avatars de stars à leur insu et les a fait flirter avec des internautes

Et si vous pouviez échanger des messages avec Taylor Swift, Selena Gomez ou Anne Hathaway, lesquelles seraient à votre entière disposition 24 heures sur 24 et 7 jours sur 7 ? C'est ce que propose la firme américaine Meta, qui a implanté son système d'avatars générés par intelligence artificielle (IA) directement au sein de ses applications phares, Instagram, Facebook et WhatsApp. Sauf que ces célébrités, comme de nombreuses autres, n'ont manifestement pas consenti à un tel usage de leurs images, lesquelles se voient d'autant plus abîmées que certains chatbots se montrent particulièrement séducteurs, voire érotiques, comme a pu le constater l'agence de presse britannique Reuters.

Des photos dénudées générées

Ces robots conversationnels personnalisables peuvent être créés par les utilisateurs des plateformes de Meta puis être mis à la disposition du public. Certes, la firme de Mark Zuckerberg assure qu'elle vérifie automatiquement la conformité de ces outils avant d'autoriser leur partage. Mais cette vérification est manifestement loin d'être infaillible. Toujours selon Reuters, les avatars d'IA aguicheurs, représentant surtout des femmes, sont légions. Et peuvent même dépeindre des célébrités mineures. Walker Scobell, pépite hollywoodienne de 16 ans, est ainsi mimé par un avatar de Meta, qui génère sans autorisation des images de lui sans t-shirt.

Déjà décrite au mois d'août par le quotidien français Le Monde, cette capacité de la technologie à générer sur demande des images pouvant être considérées comme "intimes" est particulièrement embarrassante. Car en plus de faire régulièrement des avances d'ordre sexuel et d'évoquer des rencontres réelles auprès de leurs interlocuteurs, ces chatbots ont plusieurs fois produit sans détour des images photoréalistes des stars en question, ainsi représentées en train de poser dans des baignoires ou vêtues de lingerie, les jambes écartées.

Meta admet son erreur

Sollicité par Reuters à ce sujet, un porte-parole de Meta, Andy Stone, a admis que de telles images n'auraient jamais dû être générées et que les tests effectués par l'agence de presse ont simplement permis de mettre en lumière des défaillances du système. "Comme d'autres, nous autorisons la génération d'images contenant des personnalités publiques, mais nos politiques interdisent les images nues, intimes ou sexuellement suggestives", a-t-il déclaré. Concernant le fait que les robots conversationnels insistent sur le fait qu'ils sont les véritables stars qu'ils dépeignent, Andy Stone a affirmé qu'il s'agissait de "parodies" – ce qui n'est pas systématiquement indiqué dans la description des outils – et non d'usurpation d'identité.

Reste que Meta a supprimé plus d'une dizaine de ces chatbots après la parution de l'article et que les célébrités concernées pourraient vraisemblablement poursuivre l'entreprise. Une porte-parole de l'actrice américaine Anne Hathaway a ainsi affirmé que cette dernière avait été informée du fait qu'une IA utilisant son image et la présentant comme une "mannequin sexy de [la marque de lingerie] Victoria's Secret" généraient des images "intimes". La comédienne réfléchit désormais quant à d'éventuelles suites à donner à cette affaire.