« GT Security by design des systèmes d'IA » : différence entre les versions
(Page créée avec « {{Groupe de travail |StartDate=juin 2024 |Status=En cours }} >:translate> == Contexte== Afin de renforcer la sécurité dès la conception des systèmes à base d’IA, la communauté cybersécurité (Campus Cyber) et la communauté IA en France (Hub France IA) souhaite partager un cadre commun d’exigences. L’ANSSI a publié en avril 2024 un guide sur la sécurité des systèmes à base d’IA générative. 35 Exigences de cybersécurité y sont identi... ») |
Aucun résumé des modifications |
||
| (3 versions intermédiaires par le même utilisateur non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
{{Groupe de travail | {{Groupe de travail | ||
|ShortDescription FR=Le premier livrable du GT sera de s’approprier la première version du guide de recommandations de sécurité pour un système d'IA générative publié par l'ANSSI en avril 2024. | |||
|ImageStr=DALL·E-2024-07-WIKI.png | |||
|StartDate=juin 2024 | |StartDate=juin 2024 | ||
|Status=En cours | |Status=En cours | ||
}} | }} | ||
== Contexte== | == Contexte== | ||
Afin de renforcer la sécurité dès la conception des systèmes à base d’IA, la communauté cybersécurité (Campus Cyber) et la communauté IA en France (Hub France IA) souhaite partager un cadre commun d’exigences. | Afin de renforcer la sécurité dès la conception des systèmes à base d’IA, la communauté cybersécurité (Campus Cyber) et la communauté IA en France (Hub France IA) souhaite partager un cadre commun d’exigences. | ||
L’ANSSI a publié en avril 2024 un guide sur la sécurité des systèmes à base d’IA générative. 35 Exigences de cybersécurité y sont identifiées : https://cyber.gouv.fr/publications/recommandations-de-securite-pour-un-systeme-dia-generative | L’ANSSI a publié en avril 2024 un guide sur la sécurité des systèmes à base d’IA générative. 35 Exigences de cybersécurité y sont identifiées : https://cyber.gouv.fr/publications/recommandations-de-securite-pour-un-systeme-dia-generative | ||
| Ligne 14 : | Ligne 15 : | ||
== Méthodologie== | == Méthodologie== | ||
Après une courte introduction (ou rappel) sur les IA prédictives et génératives, le cycle de vie d’un projet IA, lancement du premier atelier sur les exigences génériques. Puis série d’atelier sur les exigences par section du guide. Il faudra 1 à 2 ateliers en fonction de la richesse des débats. Tout le travail sera réalisé en séance mais nécessitera de se poser des questions en amont dans le contexte d’utilisation de chaque organisation contributrice. | Après une courte introduction (ou rappel) sur les IA prédictives et génératives, le cycle de vie d’un projet IA, lancement du premier atelier sur les exigences génériques. Puis série d’atelier sur les exigences par section du guide. Il faudra 1 à 2 ateliers en fonction de la richesse des débats. Tout le travail sera réalisé en séance mais nécessitera de se poser des questions en amont dans le contexte d’utilisation de chaque organisation contributrice. | ||
{{PageSubHeader Groupe de travail | |||
{{PageSubHeader Groupe de travail}} | |Communauté d'intérêt=CI IA et Cybersécurité | ||
}} | |||
Dernière version du 8 juillet 2024 à 16:24
Le premier livrable du GT sera de s’approprier la première version du guide de recommandations de sécurité pour un système d'IA générative publié par l'ANSSI en avril 2024.
Catégorie : Groupe de travail
Statut : En cours
Date de début : juin 2024
Contexte[modifier | modifier le wikicode]
Afin de renforcer la sécurité dès la conception des systèmes à base d’IA, la communauté cybersécurité (Campus Cyber) et la communauté IA en France (Hub France IA) souhaite partager un cadre commun d’exigences.
L’ANSSI a publié en avril 2024 un guide sur la sécurité des systèmes à base d’IA générative. 35 Exigences de cybersécurité y sont identifiées : https://cyber.gouv.fr/publications/recommandations-de-securite-pour-un-systeme-dia-generative
Objectif[modifier | modifier le wikicode]
Le premier livrable du GT sera de s’approprier la première version du guide de l’ANSSI, d’identifier les sources d’incompréhension pour des experts non avertis IA et les difficultés à anticiper pour la mise en œuvre ainsi que les éventuelles exigences à compléter.
Méthodologie[modifier | modifier le wikicode]
Après une courte introduction (ou rappel) sur les IA prédictives et génératives, le cycle de vie d’un projet IA, lancement du premier atelier sur les exigences génériques. Puis série d’atelier sur les exigences par section du guide. Il faudra 1 à 2 ateliers en fonction de la richesse des débats. Tout le travail sera réalisé en séance mais nécessitera de se poser des questions en amont dans le contexte d’utilisation de chaque organisation contributrice.
Porté par la communauté
CI IA et Cybersécurité (Analyser les domaines de la cybersécurité où l’Intelligence Artificielle permet des avancées)
