Avec Cisco AI Defense, la firme américaine veut protéger les systèmes d'IA

A peine un an plus tôt, Cisco dévoilait un assistant IA dédié à la sécurité pour rationaliser la gestion du pare-feu. Seulement voilà, la menace ne tarit pas. Dans son indice 2024 AI Readiness Index, Cisco révélait que seulement 29% des personnes concernées par les risques liés à l'IA se disent entièrement équipées pour détecter et prévenir toute manipulation non autorisée de l'IA. Partant de ce chiffre, le spécialiste du matériel réseau a donc décidé de s'attaquer au problème et a donc introduit une solution complète pour sécuriser le développement et l'utilisation des applications d'IA à l'occasion de son "AI Summit" à Palo Alto. 

"Les dirigeants d’entreprise et les responsables informatique ne peuvent pas se permettre de sacrifier la sécurité au profit de la rapidité lorsqu'ils adoptent l'IA, a exposé Jeetu Patel, vice-président exécutif et responsable des produits chez Cisco. Dans un paysage dynamique où la concurrence est féroce, c'est la vitesse qui prime. Intégrée au cœur du réseau, Cisco AI Defense offre une  capacité unique de détection et de protection contre les menaces liées au développement et à l’utilisation des applications d'IA, sans compromis, assure-t-il.

Aux côtés de DJ Sampath, responsable de l'IA au sein de l'ensemble de la branche produits chez Cisco, Jeetu Patel a donc donné un aperçu de cette solution qui sera disponible auprès des utilisateurs courant mars.

La sécurité embarquée, du développement à l'exploitation des applications

Dans le détail, AI Defense offre une protection robuste dans deux domaines critiques : l'accès aux applications IA et la création et l'exploitation de ces dernières. Il est évident que les applications IA présentent de nombreux risques comme les fuites de données ou les téléchargements malveillants. Avec AI Defense, Cisco assure une visibilité totale sur l'utilisation de ces apps et propose d'appliquer des politiques garantissant un accès sûr et sécurisé avec sa solution Secure Access.

Côté développeurs, Cisco veut rendre le travail des développeurs plus facile : AI Defense est donc capable de valider les modèles d'IA, d'identifier les vulnérabilités, d'appliquer des garde-fous si besoin et de les faire respecter en temps réel que ce soit dans un cloud public ou privé.

La validation continue des modèles

Pour assurer ce travail, Cisco a travaillé avec une autre entreprise, Scale AI, et a monté sur pied une red team qui analyse les algorithmes d'IA. "C'est l'une des grandes raisons pour lesquelles Cisco a acquis Robust Intelligence l’été dernier. Ils sont une équipe de pionniers de la sécurité IA", précise Cisco. Cette red team est donc chargée de soumettre une série successive de variantes de requêtes à un modèle pour essayer d'obtenir des réponses qu'il ne devrait pas fournir.

Un travail réalisé en quelques secondes. Une fois les vulnérabilités identifiées, des garde-fous sont recommandés et appliqués. Et cela se fait en continu. Ainsi, à chaque modification d'un modèle ou face à une nouvelle menace, ledit modèle est revalidé et des garde-fous mis à jour sont appliqués. Mis en place, ce système de validation continue doit permettre de se prémunir contre les menaces telles que l’injection rapide, les dénis de service ou les fuites de données sensibles.

La solution, qui s'intègre facilement dans le portefeuille sécurité de Cisco, a notamment l'avantage de se greffer à Splunk - acquis en mars dernier pour 28 milliards de dollars - comme l'indique DJ Sampath. "Les données d'AI Defense seront intégrées à Splunk, de sorte que tous les éléments présentés se retrouveront dans Splunk via le module complémentaire Cisco pour enrichir les alertes que vous voyez dans Splunk". Un bon moyen de rentabiliser cet achat gargantuesque.