GT Security by design des systèmes d'IA

De Wiki Campus Cyber
Révision datée du 8 juillet 2024 à 16:24 par Juliette (discussion | contributions)
(diff) ← Version précédente | Voir la version actuelle (diff) | Version suivante → (diff)
Aller à :navigation, rechercher

Le premier livrable du GT sera de s’approprier la première version du guide de recommandations de sécurité pour un système d'IA générative publié par l'ANSSI en avril 2024.

Catégorie : Groupe de travail

Statut : En cours




Date de début : juin 2024


Contexte[modifier | modifier le wikicode]

Afin de renforcer la sécurité dès la conception des systèmes à base d’IA, la communauté cybersécurité (Campus Cyber) et la communauté IA en France (Hub France IA) souhaite partager un cadre commun d’exigences.

L’ANSSI a publié en avril 2024 un guide sur la sécurité des systèmes à base d’IA générative. 35 Exigences de cybersécurité y sont identifiées : https://cyber.gouv.fr/publications/recommandations-de-securite-pour-un-systeme-dia-generative

Objectif[modifier | modifier le wikicode]

Le premier livrable du GT sera de s’approprier la première version du guide de l’ANSSI, d’identifier les sources d’incompréhension pour des experts non avertis IA et les difficultés à anticiper pour la mise en œuvre ainsi que les éventuelles exigences à compléter.

Méthodologie[modifier | modifier le wikicode]

Après une courte introduction (ou rappel) sur les IA prédictives et génératives, le cycle de vie d’un projet IA, lancement du premier atelier sur les exigences génériques. Puis série d’atelier sur les exigences par section du guide. Il faudra 1 à 2 ateliers en fonction de la richesse des débats. Tout le travail sera réalisé en séance mais nécessitera de se poser des questions en amont dans le contexte d’utilisation de chaque organisation contributrice.

Porté par la communauté

CI IA et Cybersécurité (Analyser les domaines de la cybersécurité où l’Intelligence Artificielle permet des avancées)