CI IA et Cybersécurité
Analyser les domaines de la cybersécurité où l’Intelligence Artificielle permet des avancées
Catégorie : Communauté d'intérêt
Statut : En cours
Journal de bord de la CI IA et cybersécurité[modifier | modifier le wikicode]
Le 28/06/2024 : lancement de 2 groupes de travail sur la Sécurité de l'IA :
- Groupe de travail 1 : « Security by Design pour les systèmes d'IA ». Groupe piloté par HeadMind Partners et la BNP Paribas.
Prochaines réunions : le 12/07 de 11h à 12h et le 19/07 de 11h à 12h
- Groupe de travail 2 : « Analyse des attaques sur les systèmes d’IA ». Groupe piloté par le Hub France IA.
Prochaines réunions : le 12/07 de 12h à 13h et le 26/07 de 11h à 12h
Le 29/03/2024 : lancement de la phase de réflexion sur les sujets à traiter dans les prochains groupes de travail :
- Etat de l'art des LLM pour la cybersécurité
- Sécurisation de l'IA
- IA Act
Le 24/03/2023, la CI IA a organisé une session plénière :
- Présentation des sujets IA et Cyber du BSI en session plénière avec l'ensemble de la communauté d'intérêt
- Travaux et réflexions sur de nouveaux cas d'usages IA et Cyber avec les membres du GT
Il est à noter que la prochaine session plénière aura lieu le 28 avril.
'Le 24/02/2023, le GT IA a travaillé en 2 sessions :
- Présentation de la plateforme CYLVIA en session plénière avec l'ensemble de la communauté d'intérêt
- Travaux et réflexions sur de nouveaux cas d'usages IA et Cyber dans le cadre du GT
Il est à noter que la prochaine session plénière aura lieu le 24 mars.
Le 27/01/2023, le GT IA a travaillé sur :
- La nouvelle feuille de route 2023 et l'organisation des sessions jusqu'en juin 2023.
Il a pris les décisions de :
- Organiser une réunion mensuelle pour explorer des sujets d’intérêt IA & cyber avec des interventions extérieures et faire le point sur les travaux en cours
- Mettre en place des mini équipes pour finaliser les travaux en cours : documents ETSI, EBIOS RM appliqué à l’IA et développer de nouveaux cas d’usage CYLVIA
- Ouvrir les sessions et travaux à la communauté d’intérêt IA
Il est à noter que le planning prévisionnel des interventions des prochaines sessions est en cours de validation.
Groupes de travail
Status | Description | |
---|---|---|
GT Security by design des systèmes d'IA | En cours | Le premier livrable du GT sera de s’approprier la première version du guide de recommandations de sécurité pour un système d'IA générative publié par l'ANSSI en avril 2024. |
IA et cybersécurité | Terminé | Analyser les domaines de la cybersécurité où l’Intelligence Artificielle permet des avancées |