7 pratiques exemplaires incontournables en matière de sécurité de l'IA pour gouverner votre nouvelle surface d'attaque.

• Vos équipes adoptent l'IA plus rapidement que vous ne pouvez la sécuriser.
• Shadow AI crée des cyber-risques et des chemins d'attaque que les outils de cyber-sécurité traditionnels ne peuvent pas voir.
• La gestion de l'exposition pilotée par l'IA découvre et régit l'utilisation de l'IA sur l'ensemble de votre surface d'attaque.
• L'IA générative traduit un anglais simple en recherches sur les menaces afin de réduire le temps d'attente.

Lorsque des employés utilisent des outils d'IA sans vous le dire, que des développeurs ouvrent accidentellement des chemins d'attaque cachés à travers votre cloud, ou qu'une simple invite d'IA provoque une fuite de données sensibles, c'est là que se situe votre lacune en matière de gestion de l'exposition à l'IA. Il s'agit d'un angle mort considérable qui laisse votre équipe de sécurité dans l'ignorance du fonctionnement de l'IA et de son interconnexion.

Pendant ce temps, ces mêmes équipes de sécurité sont sous pression pour utiliser des outils de sécurité IA afin de suivre l'évolution rapide du paysage des menaces.

Lorsque ces problèmes se combinent, votre organisation est confrontée à deux défis :

1. Les risques introduits par l'IA
2. L'IA, une opportunité pour renforcer vos cyberdéfenses

Visualisez l'ensemble de votre surface d'attaque IA et tous ses chemins d'attaque avec Tenable One.

Pour trouver tous vos assets IA connus et inconnus, vous avez besoin d'une stratégie de sécurité IA qui prenne en compte les caractéristiques uniques des systèmes d'IA. Ces sept bonnes pratiques s'inspirent de principes de gestion de l'exposition au cyber-risque pour vous aider à sécuriser la mise en œuvre de l'IA.

1. Utiliser un contexte tenant compte des risques pour justifier les décisions en matière de sécurité

Lorsque vous sélectionnez des outils d'IA pour votre pile, donnez la priorité à ceux qui offrent une transparence claire en matière de prise de décision. Vous devez comprendre exactement sur quelles données les modèles s'appuient et comment ils évaluent le risque. 

Si un outil ne peut pas expliquer pourquoi il a signalé une vulnérabilité ou comment il a priorisé une action de remédiation, il introduit de l'incertitude dans votre posture de cyber-sécurité de l'IA. Exigez une transparence totale sur le raisonnement en matière d'exposition et la logique de priorisation afin de pouvoir instaurer la confiance et justifier vos décisions en matière de sécurité auprès des dirigeants. 

Le cadre de gestion des risques liés à l'IA du NIST met l'accent sur l'explicabilité en tant que pilier central de la confiance.

2. Appliquer le principe du moindre privilège aux agents d'intelligence artificielle

Les développeurs forment souvent des modèles d'IA en leur accordant des autorisations étendues et surprivilégiées pour ingérer de grandes quantités de données. Une erreur critique que votre organisation peut commettre est de ne pas révoquer l'accès après le déploiement du modèle d'IA.

En tant que meilleure pratique, appliquez les protocoles d'accès au moindre privilège afin que les identités non humaines et les agents d'IA ne conservent des autorisations élevées que pour les moments exacts où ils en ont besoin. Auditez rigoureusement vos comptes de service et supprimez tout accès permanent qui n'est pas strictement nécessaire à la fonction runtime du modèle d'IA.

3. Prévenir l'exposition à l'intelligence artificielle liée à l'identité.

Les systèmes d'IA hébergés dans le cloud sont connus pour générer des rôles surprivilégiés et inaperçus. Vous pourriez accorder à un seul agent d'IA un accès en lecture-écriture à un bucket S3, puis l'oublier, ce qui crée un chemin d'attaque caché.

Pour délimiter étroitement l'accès, vous devez associer la gestion de la posture sécurité des ressources IA (AI-SPM) à la gestion des droits d'accès à l'infrastructure cloud (CIEM). Cette intégration permet de détecter les identités surprivilégiées sur l'ensemble de votre surface d'attaque afin que les identités non humaines ne deviennent pas le maillon faible de votre chaîne.

Arrêter l'exposition à l'IA axée sur l'identité avant qu'elle ne commence. Découvrez comment avec Tenable One.

4. Se défendre contre les attaques de l'IA adverse

Les modèles d'IA sont confrontés à des menaces qui échappent aux pare-feu traditionnels, comme l'injection rapide, le jailbreaking et l'empoisonnement des données. 

Les attaquants utilisent ces méthodes pour inciter les modèles à révéler des données sensibles ou à exécuter des instructions malveillantes. 

Pour garder une longueur d'avance sur les attaquants, mettez en place des garde-fous basés sur des politiques spécifiques aux applications LLM, comme le Top 10 de l'OWASP pour les applications LLM. Ces cadres peuvent aider vos équipes à mieux comprendre ces menaces distinctes, et à surveiller activement les utilisations abusives pour contenir l'exposition à l'IA dès qu'elle apparaît.

5. Maintenir un inventaire unifié de l'IA

Si votre équipe utilise des modèles d'IA open-source ou des bibliothèques tierces, votre organisation hérite de leur posture de sécurité. C'est pourquoi vous devez valider l'intégrité de ces assets externes avant qu'ils ne pénètrent dans votre environnement.

Tenez un inventaire unifié de tous les logiciels-as-a-Service de l'AI pour vous assurer qu'aucun asset ne fonctionne en dehors de votre connaissance. Suivez exactement l'origine de vos modèles d'IA et vérifiez s'il existe des vulnérabilités connues. Traitez les composants d'IA de tiers avec la même attention que celle que vous portez aux logiciels standard.

6. Visualiser les chemins d'attaque pour anticiper les menaces

Les attaquants utilisent l'IA générative pour rédiger des campagnes de phishing convaincantes et des malwares polymorphes. Vous ne pouvez pas lutter contre ces attaques à la vitesse de la machine avec des processus manuels.

Utilisez la gestion de l'exposition à l'IA(Sécurité par l'IA) pour devancer cette courbe. Au lieu de réagir à des alertes isolées, tirez parti de Tenable One for AI Exposure pour obtenir des informations sur le chemin d'attaque. Découvrez comment les faiblesses de l'identité et les failles de l'infrastructure se combinent pour exposer vos ressources critiques en matière d'IA, afin de briser la chaîne d'exposition avant qu'un attaquant ne l'exploite.

7. Unifier la Sécurité par l'IA au sein de la gestion de l'exposition.

Enfin, évitez de considérer la Sécurité par l'IA comme un silo. Une équipe de cyber-sécurité de l'IA isolée manque souvent de contexte pour voir comment un modèle d'IA compromis affecte le reste de vos opérations.

Éliminez les outils et données de sécurité fragmentés en consolidant la sécurité par l'IA dans une vue unifiée. En corrélant les risques liés à l'IA avec votre gestion complète des expositions, vous donnez à votre équipe de sécurité les moyens d'avoir une vue d'ensemble, comme la façon dont les assets, les identités et les vulnérabilités sont connectés, et de hiérarchiser les expositions au cyber-risque qui posent le plus de risques à votre métier.

Pour les responsables de la sécurité, l'adoption rapide de l'IA et l'innovation créent un double défi. Vous devez combler votre gap de gestion de l'exposition IA pour prévenir les fuites de données et le Shadow IT, tout en adoptant simultanément des outils d'IA pour rester en phase avec le paysage des menaces.

Vous ne pouvez pas résoudre ce problème avec des outils à point isolé. Tenable One met en corrélation l'IA, l'infrastructure, les agents et l'exposition des données dans une vue unifiée pour une remédiation priorisée sur l'ensemble de votre surface d'attaque.

Prêt à rendre opérationnelle votre stratégie de sécurité de l'IA ? Demandez une démonstration de Tenable One.

Répondons à certaines des questions les plus courantes en ce moment concernant les meilleures pratiques lorsqu'il s'agit de l'IA en cybersécurité, et son impact sur la surface d'attaque. 

Qu'est-ce que l'AI-SPM ?

AI-SPM est un cadre de sécurité qui découvre, hiérarchise et remédie aux risques au sein des environnements IA. Contrairement aux outils de sécurité traditionnels, AI-SPM cible spécifiquement les vulnérabilités uniques de l'IA, comme les mauvaises configurations des modèles, l'exposition des données d'entraînement sensibles et les autorisations excessives qui donnent accès à des identités non humaines.

Comment sécuriser les modèles d'IA générative ?

La sécurisation de l'IA générative nécessite une approche multicouche allant au-delà des pare-feu traditionnels. Vous devez mettre en œuvre des garde-fous basés sur des politiques pour empêcher l'injection prompte et le jailbreaking, appliquer le principe du moindre privilège pour limiter l'accès aux données sensibles, et maintenir un inventaire unifié de tous les modèles et bibliothèques d'IA tiers pour vous assurer qu'aucun asset n'opère en dehors de votre connaissance.

Pourquoi la sécurité des identités est-elle critique pour l'IA ?

Les modèles d'IA ont besoin d'identités non humaines (comme les comptes de service) pour fonctionner. Les comptes surprivilégiés créent des chemins d'attaque cachés que les attaquants peuvent exploiter pour passer latéralement d'un agent compromis à une infrastructure cloud sensible. Les équipes de sécurité doivent appliquer le principe du moindre privilège pour briser ces chaînes d'exposition.

Learn more about how to secure all your known and unknown AI assets in a single exposure management platform.