Gestion de la posture de sécurité IA (AI-SPM) ?

• L'AI-SPM découvre en continu les modèles d'IA, les services, les pipelines et les données d'entraînement à travers les environnements multi-cloud, y compris le Shadow AI. 
• Il indique quelles identités humaines et non humaines peuvent accéder à vos modèles d'IA et à vos données d'entraînement, signale les accès dotés d'autorisations excessives et recense les mauvaises configurations susceptibles de se transformer en chemins d'attaque. 
• L'AI-SPM établit un lien entre les vulnérabilités et la sensibilité des ressources d'IA, leur exploitabilité et leur impact sur l'entreprise, afin que vos équipes puissent concentrer leurs efforts de remédiation sur les risques réels. 
• Utilisés conjointement, l'AI-SPM et le DSPM relient une exposition de données à la ressource d'IA qu'elle alimente et à l'identité qui pourrait exploiter les deux.

La gestion de la posture de sécurité IA (AI-SPM) identifie et réduit les risques pesant sur les ressources et les données liées à l'IA exploitées dans vos environnements cloud.

Une solution AI-SPM : 

• Découvre les modèles d'IA, les services, les pipelines et les données d'entraînement 
• Classifie ce qu'il trouve
• Cartographie comment les ressources d'IA se connectent aux identités et à l'infrastructure
• Signale les mauvaises configurations, les autorisations excessives et les données exposées qui mettent ces ressources en danger

L'AI-SPM se concentre sur les risques cloud-native et spécifiques à l'IA. Il tient compte de la complexité des environnements modernes : multicloud, multi-identités, identités non humaines à grande échelle et adoption en pleine expansion de l'IA.

Les plateformes AI-SPM aident vos équipes de sécurité à répondre à quatre questions essentielles :

1. Où sont nos modèles d'IA, services et données d'entraînement ?
2. Quelles identités humaines et non humaines peuvent y accéder ?
3. Cet accès est-il nécessaire ou s'agit-il d'une autorisation excessive ?
4. Les mauvaises configurations ou l'exposition des données d'entraînement constituent-elles un chemin d'attaque ?

Bien menée, l'AI-SPM vous offre une vision continue du risque lié à l'IA dans son contexte, et non de simples instantanés ponctuels. Il partage le même fondement que la gestion de la posture de sécurité des données (DSPM), étendant la découverte des données sensibles aux ressources d'IA qui consomment et génèrent de plus en plus ces données.

L'adoption de l'IA est désormais monnaie courante et constitue un élément incontournable du monde du travail dans de nombreux secteurs. L'adoption rapide de l'IA accélère les opérations, mais elle élargit votre surface d'attaque et augmente le risque cyber. Les équipes peuvent mettre en place un point d'accès de modèle, connecter un pipeline d'entraînement ou intégrer un service d'IA tiers en quelques minutes. Cette flexibilité fait qu'il est facile de perdre la trace de l'endroit où résident les ressources d'IA, des données qu'elles touchent et de qui peut y avoir accès.

L'AI-SPM comble cette lacune en offrant une visibilité sur les ressources d'IA, leurs configurations, leurs chemins d'accès et les identités qui les sous-tendent. 

Tenable One Cloud Exposure, par exemple, détecte les ressources et les logiciels d'IA chez différents fournisseurs, notamment AWS Bedrock, Amazon SageMaker, Foundry Tools (anciennement Azure AI Services) et Gemini Enterprise Agent Platform (anciennement Vertex AI), afin que le Shadow AI et les modèles non gérés ne passent pas inaperçus.

AI-SPM renforce également la gouvernance et la conformité en associant les contrôles de configuration de l'IA et les droits d'accès aux données d'entraînement sensibles. À mesure que la maturité de la sécurité du cloud évolue, l'AI-SPM intègre les risques spécifiques à l'IA dans un cadre plus large de programmes de gestion de l'exposition tout en intégrant directement des contrôles spécifiques à l'IA dans les plateformes de protection des applications cloud natives (CNAPP).

1. Découvrir et classifier automatiquement les ressources d'IA

AI-SPM détecte en continu les modèles, services, charges de travail et composants logiciels d'IA sur AWS, Azure et GCP. La détection et l'étiquetage automatiques permettent d'identifier chaque ressource d'IA, afin qu'aucune ne fonctionne sans surveillance.

2. Identifier et protéger les données d'entraînement sensibles

AI-SPM classe les données d'entraînement sensibles, telles que les secrets d'entreprise et les informations personnellement identifiables (PII), et applique des politiques de configuration IA intégrées afin de les protéger. Cela va de pair avec DSPM, qui découvre et classifie les données sensibles où qu'elles se trouvent.

3. Appliquer le principe du moindre privilège aux droits d'accès accordés à l'IA

En étendant la gestion de l'infrastructure cloud et des droits d'accès (CIEM) à l'IA, l'AI-SPM garantit que seules les identités dotées de politiques d'accès appropriées peuvent accéder aux modèles d'IA propriétaires. Des visualisations d'accès intuitives révèlent les utilisateurs aux privilèges excessifs et les identités non humaines afin que vous puissiez appliquer le principe du moindre privilège.

4. Prioriser le risque lié à l'IA dans son contexte

Au lieu de vous inonder d'alertes, AI-SPM lie l'exposition à la sensibilité des ressources d'IA, à leur exploitabilité et à l'impact sur l'entreprise, afin que les équipes se concentrent sur les risques qui comptent réellement.

5. Remédier en toute confiance

AI-SPM fournit des recommandations de remédiation contextuelles : révoquer les accès excessifs, renforcer la configuration d'un modèle ou sécuriser les données d'entraînement exposées. L'intégration avec la gestion de la posture de sécurité du cloud (CSPM) et le CIEM simplifie l'application sur l'ensemble de l'infrastructure cloud.

L’AI-SPM suit un cycle continu en six phases :

1. Découverte

Scanne les environnements cloud à la recherche de modèles d'IA, de services d'IA gérés, de pipelines d'entraînement et des workloads qui les prennent en charge, y compris les systèmes de Shadow AI fonctionnant en dehors de la gouvernance de l'IA approuvée.

2. Classification

Étiquette automatiquement les ressources d'IA et les données d'entraînement sensibles qu'elles utilisent, en fonction des cadres réglementaires et de la logique métier, tout en prenant en charge la classification personnalisée des modèles propriétaires et de la propriété intellectuelle.

3. Analyse de l'accès

Évalue qui et quoi peut accéder aux ressources d'IA, notamment les utilisateurs humains, les identités machine, les comptes de service et les intégrations tierces, et s'aligne sur les capacités CIEM afin de détecter les droits d'accès à l'IA excessifs.

4. Évaluation de la posture

Vérifie la conformité des configurations d'IA et d'apprentissage automatique aux bonnes pratiques, signale les paramètres par défaut non sécurisés, la désactivation de la journalisation, l'exposition publique et les données d'entraînement non chiffrées, et relie directement les risques aux ressources d'IA concernées.

5. Modélisation des risques

Utilise des graphes d'exposition pour cartographier les combinaisons toxiques entre les ressources mal configurées, les identités non humaines disposant d'autorisations excessives et les données d'IA sensibles, aidant les équipes à visualiser les chemins d'attaque et à prioriser les risques à fort impact.

6. Remédiation et réponse

Priorise et corrige les expositions majeures grâce à une remédiation guidée et à l'automatisation des politiques sur l'ensemble de votre CNAPP.

L'AI-SPM apporte une réelle valeur ajoutée grâce à des cas d'utilisation concrets et à fort impact qui traitent les principaux risques émergents liés à l'IA. Voici six façons dont votre entreprise peut l'utiliser pour réduire les risques :

1. Découvrir chaque modèle et service d'IA, y compris le Shadow AI qui échappe à la gouvernance de l'IA.
2. Protéger les données d'entraînement sensibles contre l'exposition, l'utilisation abusive ou l'empoisonnement.
3. Appliquer le principe du moindre privilège aux modèles d'IA propriétaires, tant pour les identités humaines que non humaines.
4. Bloquer les vecteurs d'attaque là où des ressources mal configurées et des identités sur-privilégiées exposent les workloads d'IA.
5. Démontrer les meilleures pratiques de configuration d'IA pour la gouvernance de l'IA et les cadres de conformité de l'IA.
6. Détecter les packages et composants d'IA risqués tôt dans le pipeline.

L'AI-SPM intègre des informations sur les ressources d'IA dans votre cycle de vie DevSecOps, ce qui permet à vos équipes d'adopter l'approche « Shift-Left » et d'identifier les risques liés à l'utilisation de l'IA avant la mise en production. Intégré aux pipelines CI/CD, AI-SPM signale les problèmes tels que des point d'accès (endpoints) de modèles non sécurisés, des données d'entraînement exposées dans des environnements de test ou des accès excessifs des comptes de service aux ressources d'IA.

Grâce à cette visibilité, les développeurs peuvent renforcer les configurations, ressérer les autorisations d'accès à l'IA et sécuriser les données d'entraînement avant que les problèmes ne se propagent à d'autres environnements. L'AI-SPM identifie les combinaisons toxiques, telles que l'accès public à un modèle avec des identifiants sur-privilégiés, et fournit des étapes de remédiation claires pour concilier sécurité, conformité et rapidité de développement.

Le Shadow AI désigne tout modèle, service ou outil basé sur l'IA mis en place en dehors de votre cadre de gouvernance de l'IA, des applications d'IA SaaS non approuvée aux processus d'entraînement oubliés. Il s'agit d'une surface non surveillée que les attaquants sont désireux d'exploiter. Pour une analyse plus approfondie de ces risques, consultez les défis liés à la sécurisation de l'IA.

L'AI-SPM lutte contre le Shadow AI en étendant la couverture du scan au-delà des environnements approuvés. Il effectue un scan des comptes et services connectés pour identifier les ressources d'IA où qu'elles se trouvent, les associe aux données d'entraînement et aux identités auxquelles elles ont accès, puis met en évidence les expositions des données sensibles. 

La remédiation guidée vous aide ensuite à reprendre le contrôle du Shadow AI : sécuriser les configurations, révoquer les accès risqués ou mettre hors service les modèles non gérés. En retrouvant de la visibilité sur ces inconnues, l'AI-SPM réduit votre surface d'attaque et élimine une source en pleine croissance de risque d'IA non suivi.

Les réglementations émergentes en matière d'IA et la gouvernance interne exigent un contrôle strict sur la manière dont votre entreprise configure les ressources d'IA et qui peut y accéder, avec des preuves à l'appui. L'AI-SPM automatise les workflows qui permettent de gérer cela. 

La gestion de la posture de sécurité de l'IA découvre et classe en continu les ressources d'IA et leurs données d'entraînement, vérifie les configurations et les droits d'accès par rapport à la politique, et signale les dérives dans des dashboards classés par risque. Lorsque les auditeurs ou les examens de gouvernance arrivent, vous avez des preuves qui associent les ressources d'IA aux contrôles et aux étapes de remédiation, de sorte que votre posture d'IA est prête pour l'audit même lorsque les environnements évoluent.

Fondamentalement, AI-SPM réduit les risques liés au cloud de manière ciblée et mesurable : 

• Ajoute un contexte d'IA à la visibilité de votre infrastructure et de votre identité.
• Crée des graphes d'exposition qui montrent comment les identités, les configurations, les chemins réseau et les ressources d'IA interagissent.
• Révèle les véritables chemins d'attaque.

Le score de risque priorise le risque réel : un modèle de « sandbox » utilisant des données synthétiques obtient un score inférieur à celui d'un modèle de production exposant des données d'entraînement propriétaires. La surveillance étant continue, la réduction des risques n'est pas un effort ponctuel. Pour avoir une vision plus globale de la place de l'IA dans un programme de sécurité, voir les principes de cybersécurité IA.

L'AI-SPM et le DSPM sont étroitement complémentaires :

• Le DSPM découvre, classifie et sécurise les données sensibles dans les environnements cloud et SaaS. Il répond à la question suivante : « Où se trouvent nos données sensibles, et qui y a accès ? »
• L'AI-SPM étend cette approche aux ressources d'IA qui consomment et produisent des données : modèles, pipelines et services d'IA. Il répond à la question suivante : 
  • « Quelles ressources d'IA exploitent ces données ? » 
  • « Les ressources sont-elles configurées de manière sécurisée ? » 
  • « Qui ou quoi peut accéder au modèle lui-même ? » 

 Utilisés conjointement au sein de Tenable One Cloud Exposure, DSPM et AI-SPM vous offrent une visibilité stratifiée, connectant une exposition de données à la ressource d'IA qu'elle alimente et à l'identité qui peut exploiter les deux.

Vous renforcez votre niveau de sécurité en intégrant l'AI-SPM à votre stratégie de gestion de l'exposition. En associant AI-SPM à DSPM, CSPM et CIEM au sein d'une plateforme unifiée de gestion de l'exposition, vous bénéficiez d'une vue d'ensemble des risques liés aux données, à l'infrastructure, aux identités et à l'IA.

• Le CSPM détecte la ressource mal configurée.
• Le CIEM met en avant cette identité sur-privilégiée.
• Le DSPM établit un lien entre les détections et les données sensibles exposées à des risques.
• L'AI-SPM relie le tout au modèle ou au service d'IA susceptible d'être compromis.

Ensemble, ils révèlent des combinaisons toxiques, telle qu'une identité non humaine aux privilèges excessifs accédant à un modèle exposé publiquement et entraîné sur des données sensibles. Pris individuellement, ces problèmes paraître sembler mineurs ; combinés, ils forment un chemin d'attaque exploitable. Pour les équipes gérant une utilisation plus large de l'IA, ceci s'associe à Tenable AI Exposure dans Tenable One.

Pour réduire le risque lié à l'IA, recherchez une solution d'AI-SPM qui va au-delà de la simple découverte et fournit une intelligence contextuelle. Priorisez une plateforme d'IA-SPM qui :

• Prend en charge les environnements multicloud, assurant une visibilité cohérente sur l'ensemble des services d'IA d'AWS, Azure et GCP.
• Utilise le scan sans agent, basé sur une API pour éviter les angles morts et réduire la surcharge opérationnelle.
• Détecte et identifie automatiquement les ressources d'IA, y compris Shadow AI.
• Classifie et protège les données de formation sensibles grâce à des politiques de configuration basées sur l'IA intégrées.
• Étend le modèle CIEM afin d'appliquer le principe du moindre privilège aux droits d'accès de l'IA, tant pour les identités humaines que non humaines.
• Met en correspondance les mauvaises configurations, les identités et les données avec de véritables chemins d'attaque, et non des alertes isolées.
• S'intègre à DSPM, CSPM, CIEM et CNAPP pour une vision unifiée des risques.
• Fournit un score de risques et une remédiation guidée pour corriger en priorité les expositions les plus critiques.

Les capacités AI-SPM de Tenable font partie de Tenable One Cloud Exposure, une plateforme unifiée de sécurité du cloud qui intègre l'AI-SPM, le DSPM, le CSPM, le CIEM et la gestion des vulnérabilités. Avec Tenable, vous bénéficiez d'une visibilité approfondie sur :

• Chaque modèle d'IA, service et pipeline dans votre environnement multicloud
• Les données d'entraînement sensibles que ces ressources consomment
• Les identités, humaines et non humaines, qui peuvent y accéder
• Les chemins d'exposition qui présentent un risque réel et exploitable

En associant les ressources d'IA aux mauvaises configurations du cloud, aux droits d'accès sur-provisionnés et aux données exposées, Tenable vous aide à détecter et à combler les failles les plus critiques. Vous pouvez également rechercher, expliquer et agir de manière conversationnelle sur les risques liés à l'IA avec Tenable Hexa AI dans Tenable One.

Découvrez comment Tenable One Cloud Exposure facilite la gestion de la posture de sécurité IA.