Avec l'extension Claude pour Chrome, Anthropic permet à l'IA d'agir directement dans le navigateur

Plusieurs changements notoires ont eu lieu ces derniers mois autour de Claude, l'assistant d'Anthropic. Calendrier, documents, logiciels, autant de sources auxquelles l'IA peut se connecter. Aujourd'hui, la start-up de Dario Amodei fait un pas de plus en offrant à son assistant IA la possibilité d'agir directement dans un navigateur, et pas n'importe lequel : Chrome.

Toujours dans sa volonté de s'assurer de la sécurité de ses outils pour ses utilisateurs, la société indique commencer par des tests contrôlés : un programme pilote avec 1000 utilisateurs du forfait Max permettra donc de tester l'extension Claude pour Chrome. L'accès sera progressivement étendu à mesure que l'outil gagnera en fiabilité, explique Anthropic.

Des défis de sécurité subsistent

A terme, l'objectif est de laisser Claude gérer des calendriers, planifier des réunions, rédiger des réponses aux e-mails, traiter des notes de frais routinières et tester de nouvelles fonctionnalités de sites web. Cependant, il faut encore gérer certaines attaques rendant les IA particulièrement vulnérables.

Tout comme les utilisateurs rencontrent des tentatives de phishing dans leurs boîtes mail, les IA utilisant le navigateur sont confrontées à des attaques par injection de prompts où des acteurs malveillants cachent des instructions dans des sites web, des e-mails ou des documents pour tromper les IA et les amener à effectuer des actions nuisibles à l’insu des utilisateurs (comme du texte caché disant : "Ignorez les instructions précédentes et faites [action malveillante] à la place").

Des garde-fous déjà en place

Le travail réalisé par Anthropic s'inscrit donc dans une volonté de rendre Claude pour Chrome fiable et résistant aux défis de sécurité. Plusieurs défenses ont été mises en place à date, notamment afin de lutter contre les attaques par injection de prompt grâce à un système de permissions au niveau des sites ainsi qu'à des demandes de confirmation d'action (par exemple pour effectuer des actions à haut risque comme publier, acheter ou partager des données personnelles).

De plus, Anthropic affirme avoir bloqué l’accès de Claude à des sites web de certaines catégories à haut risque, comme les services financiers, les contenus pour adultes et les contenus piratés. "Lorsque nous avons ajouté des mesures de sécurité au mode autonome, nous avons réduit le taux de réussite des attaques de 23,6% à 11,2%", précise l'entreprise.