Le centre de commande AI de Netskope relève les lacunes de visibilité de l'IA dans les entreprises

Un pourcentage étonnant de 94 % des équipes de sécurité n'ont pas une visibilité complète sur les déploiements d'IA au sein de leurs organisations, selon une étude de Netskope. Cette lacune de visibilité est particulièrement préoccupante compte tenu de l'adoption rapide des outils d'IA dans les environnements d'entreprise, avec une augmentation cinq fois supérieure des applications d'IA et une triplication de la base d'utilisateurs d'IA au cours de l'année dernière. Les chiffres sont éloquents : 37 agents d'IA déployés et 223 violations mensuelles de politiques de données d'IA par organisation. Il est clair que le manque de visibilité sur l'activité d'IA pose des risques de sécurité importants, ce qui rend difficile pour les équipes de sécurité de distinguer le bruit de bas niveau des problèmes qui nécessitent une attention immédiate.

La crise de visibilité de l'IA dans les environnements d'entreprise

La crise de visibilité de l'IA dans les environnements d'entreprise est une préoccupation pressante. La prolifération rapide des outils d'IA, approuvés et non approuvés, a créé un environnement où les équipes de sécurité ont du mal à suivre. L'utilisation de logiciels d'IA au sein des grandes organisations a explosé, avec une forte augmentation des applications d'IA, de l'expansion de la base d'utilisateurs d'IA et des violations de politiques de données d'IA. Cela a entraîné une lacune de visibilité généralisée pour les équipes de sécurité, ce qui rend difficile la corrélation des risques entre les actifs d'IA gérés et non gérés, les identités des utilisateurs et les magasins de données. Dans mon analyse, cette lacune de visibilité est une vulnérabilité importante qui peut être exploitée par des acteurs malveillants, ce qui souligne la nécessité d'une plateforme globale qui relie la découverte d'IA aux opérations de sécurité.

Décomposition technique : eBPF et interception TLS pour la découverte de serveurs

D'un point de vue technique, le centre de commande AI de Netskope utilise l'interception TLS au niveau du noyau eBPF pour la découverte de serveurs, fournissant une méthode plus complète pour détecter l'infrastructure d'IA par rapport aux méthodes traditionnelles de surveillance du réseau. L'agent eBPF intercepte le trafic d'IA chiffré TLS au niveau du noyau sur les machines virtuelles d'entreprise et les nœuds Kubernetes, offrant un niveau de visibilité plus profond sur l'infrastructure d'IA fonctionnant dans le périmètre d'entreprise. Cette approche permet aux équipes de sécurité de découvrir les actifs d'IA dans l'organisation et de connecter ces informations au contexte de sécurité existant, y compris les identités des utilisateurs, les magasins de données et les évaluations de confiance des applications. Par exemple, l'agent eBPF peut identifier le trafic d'IA chiffré ou fonctionnant au niveau du noyau, fournissant aux équipes de sécurité une image plus précise de leur paysage d'IA.

L'utilisation de l'interception TLS au niveau du noyau eBPF est une innovation importante dans la découverte d'IA, fournissant aux équipes de sécurité la visibilité dont elles ont besoin pour gérer efficacement les risques d'IA. En tirant parti de cette technologie, les organisations peuvent mieux comprendre leur infrastructure d'IA et prendre des mesures proactives pour atténuer les menaces de sécurité potentielles.

Changement opérationnel : de la gestion réactive à proactive des risques d'IA

Le lancement du centre de commande AI marque un changement important dans l'approche de la gestion des risques d'IA, passant de la réactivité à la proactivité. En fournissant une vue opérationnelle unifiée de tous les actifs d'IA dans l'environnement, les équipes de sécurité peuvent désormais anticiper et éliminer les menaces alimentées par l'IA à la vitesse que le paysage exige. La capacité de la plateforme à mettre en évidence les risques et à suggérer des actions, y compris des changements de politique, des workflows de remédiation ou des enquêtes, permet aux équipes de sécurité de prendre une approche proactive de la gestion des risques d'IA. Ceci est particulièrement important compte tenu de l'évolution rapide des menaces d'IA, qui peuvent rapidement exploiter les vulnérabilités des services d'IA non approuvés. Par exemple, l'agent AISecOps pour la gestion des risques d'IA peut autonomément hiérarchiser, enquêter et répondre aux incidents liés à l'IA, réduisant ainsi la charge de travail des équipes de sécurité et leur permettant de se concentrer sur les menaces à haute priorité.

Perspective d'AI Loop : Pourquoi la gouvernance unifiée de l'IA est indispensable maintenant

Selon mon évaluation, le manque de visibilité sur l'activité d'IA est une vulnérabilité importante qui peut être exploitée par des acteurs malveillants. L'utilisation de logiciels d'IA au sein des grandes organisations a créé un environnement où les équipes de sécurité ont du mal à suivre, ce qui rend difficile la distinction entre le bruit de bas niveau et les problèmes qui nécessitent une attention immédiate. Le partenariat entre Netskope et le projet Glasswing d'Anthropic, qui fournit un accès à Mythos, est un développement important dans cet espace. Bien que les capacités exactes de Mythos ne soient pas spécifiées, on peut déduire qu'il peut améliorer la visibilité de l'IA de Netskope, comblant éventuellement les lacunes en matière de gouvernance et de surveillance de l'IA. À mesure que le paysage de l'IA continue d'évoluer, il est clair que la gouvernance unifiée de l'IA est indispensable. Les organisations doivent donner la priorité à la visibilité sur l'activité d'IA, en tirant parti de plateformes comme le centre de commande AI pour gérer efficacement les risques d'IA et assurer l'adoption sécurisée des outils d'IA.

L'analyse de la surface d'attaque révèle que le manque de visibilité sur l'activité d'IA est une vulnérabilité importante qui peut être exploitée par des acteurs malveillants. Par conséquent, il est essentiel que les organisations donnent la priorité à la gouvernance unifiée de l'IA, en tirant parti de plateformes comme le centre de commande AI pour gérer efficacement les risques d'IA. En fournissant une vue complète des actifs d'IA et en connectant ces informations au contexte de sécurité existant, le centre de commande AI permet aux équipes de sécurité de prendre une approche proactive de la gestion des risques d'IA. Si cette tendance se maintient — et les données suggèrent que c'est le cas — nous sommes confrontés à un avenir où la gestion des risques d'IA est une priorité absolue pour les équipes de sécurité. La véritable innovation n'est pas l'utilisation de l'IA elle-même, mais la capacité à gérer efficacement les risques d'IA, et cela change tout.

---

— Alice Petrovna, Cheffe Analyste Cybersécurité et Experte DevSecOps chez AI Loop