GT Security by design des systèmes d'IA

Le premier livrable du GT sera de s’approprier la première version du guide de recommandations de sécurité pour un système d'IA générative publié par l'ANSSI en avril 2024.

Catégorie : Groupe de travail

Statut : En cours

Date de début : juin 2024

Contexte

Afin de renforcer la sécurité dès la conception des systèmes à base d’IA, la communauté cybersécurité (Campus Cyber) et la communauté IA en France (Hub France IA) souhaite partager un cadre commun d’exigences.

L’ANSSI a publié en avril 2024 un guide sur la sécurité des systèmes à base d’IA générative. 35 Exigences de cybersécurité y sont identifiées : https://cyber.gouv.fr/publications/recommandations-de-securite-pour-un-systeme-dia-generative

Objectif

Le premier livrable du GT sera de s’approprier la première version du guide de l’ANSSI, d’identifier les sources d’incompréhension pour des experts non avertis IA et les difficultés à anticiper pour la mise en œuvre ainsi que les éventuelles exigences à compléter.

Méthodologie

Après une courte introduction (ou rappel) sur les IA prédictives et génératives, le cycle de vie d’un projet IA, lancement du premier atelier sur les exigences génériques. Puis série d’atelier sur les exigences par section du guide. Il faudra 1 à 2 ateliers en fonction de la richesse des débats. Tout le travail sera réalisé en séance mais nécessitera de se poser des questions en amont dans le contexte d’utilisation de chaque organisation contributrice.

Porté par la communauté

CI IA et Cybersécurité (Analyser les domaines de la cybersécurité où l’Intelligence Artificielle permet des avancées)