Amazon confirme que des interactions avec Alexa pourront être utilisées pour entraîner son modèle d'IA

Les récentes annonces du géant du e-commerce en matière d'intelligence artificielle, d'abord l'arrivée d'une Alexa boostée à l'IA générative puis l'investissement de 4 milliards de dollars dans la start-up Anthropic, soulèvent de nombreuses interrogations. La télévision américaine, par la voix de deux journalistes de Bloomberg TV, s'est empressée d'interroger Dave Limp, vice-président des appareils et des services d'Amazon, au sujet du respect de la vie privée que suppose l'intégration d'une IA générative dans des appareils domestiques.

"L'une des choses sur lesquelles nous insistons aujourd'hui est que la protection de la vie privée est fondamentale pour ce que nous faisons ici", a avancé le cadre d'Amazon, alors qu'il était interrogé sur la possibilité pour son entreprise d'entraîner son grand modèle de langage AlexaLLM sur les interactions orales ayant lieu entre ses clients et leurs objets connectés. Et de poursuivre, dans la même respiration : "Si vous souhaitez un scénario plus personnalisé et des types de choses personnalisées qui vous reconnaissent et qui personnalisent les éléments de votre écran, nous utilisons ces informations pour entraîner le modèle."

Un système d'opt-in probable à venir

Dave Limp précise toutefois que "si un client ne souhaite pas cette personnalisation, s'il veut une version plus restreinte d'Alexa, c'est très bien aussi et nous lui donnons le contrôle". Alors que les détenteurs américains d'objets connectés Amazon pourront bientôt tester cette fonctionnalité d'IA générative, on peut imaginer un système d'opt-in pour les clients acceptant de voir le contenu de leurs conversations aspirées et utilisées pour améliorer la performance d'un grand modèle de langage.

Zoom, qui s'était récemment octroyé un droit quasi identique d'entraîner ses modèles d'IA sur les conversations en visioconférence de ses clients, avait fini par rétropédaler. Mais Amazon semble déterminé. Face à la réaction sarcastique en direct d'une journaliste de Bloomberg TV, laquelle ne souhaite pas qu'Alexa écoute ses enfants, David Limp a tenu à rassurer les inquiets : "Nous ne construirons jamais de produits qui enfreignent les lois mais, lorsqu'il s'agit d'IA, la chose la plus importante est de construire une IA responsable, sûre et en laquelle le client a confiance."

Une position sur laquelle se sont accordés la plupart des mastodontes du numérique depuis des mois, alors que des interrogations demeurent sur la régulation des systèmes d'intelligence artificielle générative. Mais qui sonne particulièrement faux dans la bouche de responsables d'Amazon et d'Alexa. Cette année encore, la Federal Trade Commission a entamé des poursuites contre le géant américain du e-commerce, l'accusant de collecter via son assistant vocal des données personnelles d'individus mineurs.