Guide d'implémentation des recommandations pour un système d'IA générative
L'objectif de ce document est de traduire les principes de sécurité recommandés par l’ANSSI (dans le document "Recommandations de sécurité pour un système d'IA générative, publié en avril 2024) en actions concrètes, mesures et méthodes pour implémenter les recommandations du guide.
Catégorie : Commun Statut : Production 1 : Idée - 2 : Prototype - 3 : Validation - 4 : Production
Description
L’Agence Nationale de la Sécurité des Systèmes d’Information (ANSSI) a publié le 29 avril 2024 un guide concernant la sécurisation des systèmes d’IA génératifs : Recommandations de sécurité pour un système d’IA Générative. L’essor de l’intelligence artificielle nécessite d’engager des réflexions sur la manière de sécuriser ces systèmes, ce qui a motivé la rédaction de ce guide. Il s’adresse, au sein d’entités publiques et privées, aux administrateurs et utilisateurs de systèmes d’IA, RSSI, DSI, Data Scientists et Data Engineers. Il est important de noter que ce guide ne traite pas des sujets d’agentique.
Le but de ce document est de traduire les principes de sécurité recommandés par l’ANSSI en actions concrètes, mesures et méthodes pour implémenter les recommandations du guide. Ce document aborde l’ensemble des recommandations du guide de l’ANSSI. Ces mesures doivent être appliquées en tenant compte des spécificités techniques et organisationnelles propres à chaque organisation. Ce guide a été élaboré en s’appuyant sur : • Le guide Recommandations de sécurité pour un système d’IA générative de l’ANSSI (ANSSI, 2024) ; • Le retour d’expérience et les recherches du Groupe de Travail sur le Sécurité de l’IA du Campus Cyber ; • La veille technologique sur les évolutions des technologies d’IA, les dernières recommandations de sécurité émises par les organismes internationaux (NIST, OWASP…) et par les autorités compétentes (ANSSI, ENISA…), tel que le guide Recommandations de sécurité concernant les assistants de programmation basés sur l’IA de l’ANSSI et la BSI (ANSSI - BSI, 2024).
Contexte
Ce livrable a été produit par le groupe de travail "Sécurité de l'IA".
