CI IA et Cybersécurité

Analyser les domaines de la cybersécurité où l’Intelligence Artificielle permet des avancées

Catégorie : Communauté d'intérêt

Statut : En cours

Journal de bord de la CI IA et cybersécurité

Le 28/06/2024 : lancement de 2 groupes de travail sur la Sécurité de l'IA :

• Groupe de travail 1 :  « Security by Design pour les systèmes d'IA ». Groupe piloté par Maxime de Jabrun (HeadMind Partners) et Sophie Ravitchandirane (BNPP).

Prochaines réunions : le 12/07 de 11h à 12h et le 19/07 de 11h à 12h

• Groupe de travail 2 : « Analyse des attaques sur les systèmes d’IA ». Groupe piloté par Françoise Soulié (Hub France IA).

Prochaines réunions : le 12/07 de 12h à 13h et le 26/07 de 11h à 12h

Le 29/03/2024 : lancement de la phase de réflexion sur les sujets à traiter dans les prochains groupes de travail :

• Etat de l'art des LLM pour la cybersécurité
• Sécurisation de l'IA
• IA Act

Le 24/03/2023, la CI IA a organisé une session plénière :

• Présentation des sujets IA et Cyber du BSI en session plénière avec l'ensemble de la communauté d'intérêt
• Travaux et réflexions sur de nouveaux cas d'usages IA et Cyber avec les membres du GT

Il est à noter que la prochaine session plénière aura lieu le 28 avril.

'Le 24/02/2023, le GT IA a travaillé en 2 sessions :

• Présentation de la plateforme CYLVIA en session plénière avec l'ensemble de la communauté d'intérêt
• Travaux et réflexions sur de nouveaux cas d'usages IA et Cyber dans le cadre du GT

Il est à noter que la prochaine session plénière aura lieu le 24 mars.

Le 27/01/2023, le GT IA a travaillé sur :

• La nouvelle feuille de route 2023 et l'organisation des sessions jusqu'en juin 2023.

Il a pris les décisions de :

• Organiser une réunion mensuelle pour explorer des sujets d’intérêt IA & cyber avec des interventions extérieures et faire le point sur les travaux en cours
• Mettre en place des mini équipes pour finaliser les travaux en cours : documents ETSI, EBIOS RM appliqué à l’IA et développer de nouveaux cas d’usage CYLVIA
• Ouvrir les sessions et travaux à la communauté d’intérêt IA

Il est à noter que le planning prévisionnel des interventions des prochaines sessions est en cours de validation.

Groupes de travail

	Status	Description
GT Security by design des systèmes d'IA	En cours	Le premier livrable du GT sera de s’approprier la première version du guide de recommandations de sécurité pour un système d'IA générative publié par l'ANSSI en avril 2024.
IA et cybersécurité	En cours	Analyser les domaines de la cybersécurité où l’Intelligence Artificielle permet des avancées