IA et cybersécurité/en - Historique des versions

FuzzyBot : Mise à jour pour être en accord avec la nouvelle version de la source de la page

2025-02-12T15:19:27Z

Mise à jour pour être en accord avec la nouvelle version de la source de la page

← Version précédente		Version du 12 février 2025 à 17:19
Ligne 6 :		Ligne 6 :
	\|EndDate=décembre 2023		\|EndDate=décembre 2023
	\|Cycle=Cycle 2		\|Cycle=Cycle 2
	\|Status=~~En cours~~		\|Status=Terminé
	}}		}}
	== Working Group objectives and deliverables ==		== Working Group objectives and deliverables ==
Ligne 57 :		Ligne 57 :
	* Cyber defense activities, often identified with the work of Blue Teams, ensuring the operational security of organizations' Information Systems.		* Cyber defense activities, often identified with the work of Blue Teams, ensuring the operational security of organizations' Information Systems.

			<div class="mw-translate-fuzzy">
	==== Security objectives ====		==== Security objectives ====
	Security objectives aim to determine the activities to be implemented in order to control cybersecurity risks within organizations. These are divided into 5 types according to the NIST framework:		Security objectives aim to determine the activities to be implemented in order to control cybersecurity risks within organizations. These are divided into 5 types according to the NIST framework:
			</div>

	* IDENTIFY'' with the aim of identifying, evaluating and implementing the appropriate organization to control the information system and deal with risks;		* IDENTIFY'' with the aim of identifying, evaluating and implementing the appropriate organization to control the information system and deal with risks;
Ligne 129 :		Ligne 131 :

	{{PageSubHeader Groupe de travail		{{PageSubHeader Groupe de travail
	\|UseCase=Confidentiality Classification# Contrôler les élévations de privilèges irrégulières# Détection de démissionnaires pressentis# Détection d’intrusions et de man-in-the middle dans les réseaux OT et IoT# Détection d’événements de sécurité# Machine Learning contre DDoS# Protection de la marque, lutte contre le typo-squatting~~# User behavior anomaly detection# WIFI Pwnagotchi~~		\|UseCase=Confidentiality Classification# Contrôler les élévations de privilèges irrégulières# Détection de démissionnaires pressentis# Détection d’intrusions et de man-in-the middle dans les réseaux OT et IoT# Détection d’événements de sécurité# Machine Learning contre DDoS# User behavior anomaly detection# WIFI Pwnagotchi# Protection de la marque, lutte contre le typo-squatting
			\|Communauté d'intérêt=CI IA et Cybersécurité
	}}		}}

Juliette : Page créée avec « * Standardize the anonymization of data collection, storage and transmission encryption. * Implement information leak detection scenarios for the entire data pipeline * Provide a specific, isolated training environment with restricted access to libraries for those handling the data sets. * Regularly validate the security level of open-source libraries and components used in training and validation environments. * Build adversarial datasets with identified risk sc... »

2023-12-05T14:38:49Z

Page créée avec « * Standardize the anonymization of data collection, storage and transmission encryption. * Implement information leak detection scenarios for the entire data pipeline * Provide a specific, isolated training environment with restricted access to libraries for those handling the data sets. * Regularly validate the security level of open-source libraries and components used in training and validation environments. * Build adversarial datasets with identified risk sc... »

← Version précédente		Version du 5 décembre 2023 à 16:38
Ligne 120 :		Ligne 120 :
	Measures specific to development, training, validation and production environments:		Measures specific to development, training, validation and production environments:

	~~<div lang="fr" dir="ltr" class="mw-content-ltr">~~		* Standardize the anonymization of data collection, storage and transmission encryption.
	* ~~Standardiser l’anonymisation de la collecte des données~~, ~~le chiffrement de leur stockage et de leur~~ transmission		* Implement information leak detection scenarios for the entire data pipeline
	* ~~Mettre en œuvre des scénarios de détection des fuites d’information pour l’ensemble du~~ pipeline ~~data~~		* Provide a specific, isolated training environment with restricted access to libraries for those handling the data sets.
	* ~~Prévoir un environnement d’entraînement spécifique et isolé avec un accès restreint aux librairies pour ceux qui manipulent les jeux de données~~		* Regularly validate the security level of open-source libraries and components used in training and validation environments.
	* ~~Valider régulièrement le niveau de sécurité des librairies et composants~~ open-~~sources utilisés dans les environnements d’entraînement et de~~ validation		* Build adversarial datasets with identified risk scenarios to validate model changes
	* ~~Construire des ''~~datasets~~'' adverses avec les scénarios de risques identifiés pour valider les changements sur les modèles~~		* Launch models in production in secure enclaves with limited execution rights.
	* ~~Lancer les modèles en~~ production ~~dans des~~ enclaves ~~sécurisées ayant des droits d’exécution limités~~		* Monitor systems for deviations
	* ~~Surveiller les systèmes pour détecter les déviations~~
	~~</div>~~

	{{PageSubHeader Groupe de travail		{{PageSubHeader Groupe de travail
	\|UseCase=Confidentiality Classification# Contrôler les élévations de privilèges irrégulières# Détection de démissionnaires pressentis# Détection d’intrusions et de man-in-the middle dans les réseaux OT et IoT# Détection d’événements de sécurité# Machine Learning contre DDoS# Protection de la marque, lutte contre le typo-squatting# User behavior anomaly detection# WIFI Pwnagotchi		\|UseCase=Confidentiality Classification# Contrôler les élévations de privilèges irrégulières# Détection de démissionnaires pressentis# Détection d’intrusions et de man-in-the middle dans les réseaux OT et IoT# Détection d’événements de sécurité# Machine Learning contre DDoS# Protection de la marque, lutte contre le typo-squatting# User behavior anomaly detection# WIFI Pwnagotchi
	}}		}}

Juliette : Page créée avec « Measures specific to development, training, validation and production environments: »

2023-12-05T14:38:01Z

Page créée avec « Measures specific to development, training, validation and production environments: »

← Version précédente		Version du 5 décembre 2023 à 16:38
Ligne 118 :		Ligne 118 :
	* Define for each project: data that cannot be transmitted to the system, acceptable system deviation/relevance limits and data theft signals (query volume, targeted queries on critical data, etc.).		* Define for each project: data that cannot be transmitted to the system, acceptable system deviation/relevance limits and data theft signals (query volume, targeted queries on critical data, etc.).

	~~<div lang="fr" dir="ltr" class="mw-content-ltr">~~		Measures specific to development, training, validation and production environments:
	~~Des mesures spécifiques aux environnements de développement~~, ~~d’entraînement~~, de validation ~~et de~~ production :
	~~</div>~~

	<div lang="fr" dir="ltr" class="mw-content-ltr">		<div lang="fr" dir="ltr" class="mw-content-ltr">

Juliette : Page créée avec « * Set up an ethics and risk committee to select the use cases for artificial intelligence that are relevant to the company and the authorized data. * Inform artificial intelligence and data teams of their rights and obligations when handling data, and the associated risks. * Train artificial intelligence and data teams in best practices for secure data handling (anonymization, encryption, etc.), distributed learning techniques and secure development. * Define for... »

2023-12-05T14:37:46Z

Page créée avec « * Set up an ethics and risk committee to select the use cases for artificial intelligence that are relevant to the company and the authorized data. * Inform artificial intelligence and data teams of their rights and obligations when handling data, and the associated risks. * Train artificial intelligence and data teams in best practices for secure data handling (anonymization, encryption, etc.), distributed learning techniques and secure development. * Define for... »

← Version précédente		Version du 5 décembre 2023 à 16:37
Ligne 113 :		Ligne 113 :
	The 4 best practices to put in place to limit the risks associated with AI systems are :		The 4 best practices to put in place to limit the risks associated with AI systems are :

	~~<div lang="fr" dir="ltr" class="mw-content-ltr">~~		* Set up an ethics and risk committee to select the use cases for artificial intelligence that are relevant to the company and the authorized data.
	* ~~Mettre en œuvre un comité éthique et risques pour sélectionner les cas d’usages~~ intelligence ~~artificielle pertinents pour l’entreprise et les données autorisées~~		* Inform artificial intelligence and data teams of their rights and obligations when handling data, and the associated risks.
	* ~~Informer les équipes~~ intelligence ~~artificielle et Data de leurs droits et devoirs pour manipuler les données et les risques associés~~		* Train artificial intelligence and data teams in best practices for secure data handling (anonymization, encryption, etc.), distributed learning techniques and secure development.
	* ~~Former les équipes~~ intelligence ~~artificielle et Data aux bonnes pratiques de manipulation sécurisée de la donnée~~ (~~anonymisation~~, ~~chiffrement…~~), ~~aux~~ techniques ~~d’apprentissage distribué et au développement sécurisé~~		* Define for each project: data that cannot be transmitted to the system, acceptable system deviation/relevance limits and data theft signals (query volume, targeted queries on critical data, etc.).
	* ~~Définir sur chaque projet~~ : ~~les données ne pouvant pas être transmises au système~~, ~~les limites de déviation~~/~~pertinence du système acceptables et les signaux de vol de donnée~~ (volume ~~de requête~~, ~~interrogation ciblée sur une donnée critique…~~)
	~~</div>~~

	<div lang="fr" dir="ltr" class="mw-content-ltr">		<div lang="fr" dir="ltr" class="mw-content-ltr">

Juliette : Page créée avec « ==== Practical solutions to reduce the risk of system compromise ==== The 4 best practices to put in place to limit the risks associated with AI systems are : »

2023-12-05T14:37:29Z

Page créée avec « ==== Practical solutions to reduce the risk of system compromise ==== The 4 best practices to put in place to limit the risks associated with AI systems are : »

← Version précédente		Version du 5 décembre 2023 à 16:37
Ligne 110 :		Ligne 110 :
	* Evasion attack on production model		* Evasion attack on production model

	~~<div lang~~=~~"fr" dir~~=~~"ltr" class~~=~~"mw-content-ltr">~~		==== Practical solutions to reduce the risk of system compromise ====
	=~~=== Des~~ solutions ~~concrètes permettent de réduire les risques de compromission des systèmes~~ ====		The 4 best practices to put in place to limit the risks associated with AI systems are :
	~~Les~~ 4 ~~bonnes pratiques à mettre en~~ place ~~pour limiter les risques liés aux systèmes IA sont~~ :
	~~</div>~~

	<div lang="fr" dir="ltr" class="mw-content-ltr">		<div lang="fr" dir="ltr" class="mw-content-ltr">

Juliette : Page créée avec « * Training data poisoning attack (targeted or untargeted) * Data supply attack * Attack on library supply chain * Oracle attack on production model * Evasion attack on production model »

2023-12-05T14:37:13Z

Page créée avec « * Training data poisoning attack (targeted or untargeted) * Data supply attack * Attack on library supply chain * Oracle attack on production model * Evasion attack on production model »

← Version précédente		Version du 5 décembre 2023 à 16:37
Ligne 104 :		Ligne 104 :
	The working group's research identified 5 different attack patterns applicable to any Artificial Intelligence system:		The working group's research identified 5 different attack patterns applicable to any Artificial Intelligence system:

	~~<div lang="fr" dir="ltr" class="mw-content-ltr">~~		* Training data poisoning attack (targeted or untargeted)
	* ~~Attaque par empoisonnement des données d’entrainement~~ (~~ciblé ou non~~)		* Data supply attack
	* ~~Attaque sur la chaîne d’approvisionnement des données – ''data~~ supply''		* Attack on library supply chain
	* ~~Attaque sur la chaîne d’approvisionnement des bibliothèques – ''~~library supply''		* Oracle attack on production model
	* ~~Attaque par oracle sur le modèle en~~ production		* Evasion attack on production model
	* ~~Attaque par évasion sur le modèle en~~ production
	~~</div>~~

	<div lang="fr" dir="ltr" class="mw-content-ltr">		<div lang="fr" dir="ltr" class="mw-content-ltr">

Juliette : Page créée avec « The working group's research identified 5 different attack patterns applicable to any Artificial Intelligence system: »

2023-12-05T14:36:41Z

Page créée avec « The working group's research identified 5 different attack patterns applicable to any Artificial Intelligence system: »

← Version précédente		Version du 5 décembre 2023 à 16:36
Ligne 102 :		Ligne 102 :
	[[Fichier:Attaques sur un systeme IA.png\|sans_cadre\|1000x1000px]]		[[Fichier:Attaques sur un systeme IA.png\|sans_cadre\|1000x1000px]]

	~~<div lang="fr" dir="ltr" class="mw-content-ltr">~~		The working group's research identified 5 different attack patterns applicable to any Artificial Intelligence system:
	~~Les recherches du groupe de travail ont identifié différents~~ 5 ~~schémas d’attaques~~ applicable ~~à tout système d’Intelligence Artificielle~~ :
	~~</div>~~

	<div lang="fr" dir="ltr" class="mw-content-ltr">		<div lang="fr" dir="ltr" class="mw-content-ltr">

Juliette : Page créée avec « 1000x1000px »

2023-12-05T14:36:25Z

Page créée avec « sans_cadre|1000x1000px »

← Version précédente		Version du 5 décembre 2023 à 16:36
Ligne 98 :		Ligne 98 :
	[[Fichier:GT IA & Cyber - Les questions à se poser.png\|gauche\|vignette\|1000x1000px]]		[[Fichier:GT IA & Cyber - Les questions à se poser.png\|gauche\|vignette\|1000x1000px]]

	~~<div lang="fr" dir="ltr" class="mw-content-ltr">~~		Attacks against ML can be grouped into 3 main families (poisoning, oracle and evasion) and cover the entire lifecycle of an ML-based system.
	~~Les attaques contre le~~ ML ~~peuvent être regroupés en~~ 3 ~~grandes familles~~ (~~empoisonnement~~, oracle ~~et évasion~~) ~~et couvrent l’ensemble de cycle de vie d’un système à base de~~ ML.
	~~</div>~~

	~~<div lang="fr" dir="ltr" class="mw-content-ltr">~~
	[[Fichier:Attaques sur un systeme IA.png\|sans_cadre\|1000x1000px]]		[[Fichier:Attaques sur un systeme IA.png\|sans_cadre\|1000x1000px]]
	~~</div>~~

	<div lang="fr" dir="ltr" class="mw-content-ltr">		<div lang="fr" dir="ltr" class="mw-content-ltr">

Juliette : Page créée avec « ==== Applying EBIOS RM to an Artificial Intelligence system ==== 1000x1000px »

2023-12-05T14:36:01Z

Page créée avec « ==== Applying EBIOS RM to an Artificial Intelligence system ==== gauche|vignette|1000x1000px »

← Version précédente		Version du 5 décembre 2023 à 16:36
Ligne 95 :		Ligne 95 :
	* Production is a set of technical components enabling the model to infer results from production data.		* Production is a set of technical components enabling the model to infer results from production data.

	~~<div lang~~=~~"fr" dir~~=~~"ltr" class~~=~~"mw-content-ltr">~~		==== Applying EBIOS RM to an Artificial Intelligence system ====
	=~~=== Appliquer~~ EBIOS RM ~~à un système d’Intelligence Artificielle~~ ====
	[[Fichier:GT IA & Cyber - Les questions à se poser.png\|gauche\|vignette\|1000x1000px]]		[[Fichier:GT IA & Cyber - Les questions à se poser.png\|gauche\|vignette\|1000x1000px]]
	~~</div>~~

	<div lang="fr" dir="ltr" class="mw-content-ltr">		<div lang="fr" dir="ltr" class="mw-content-ltr">

Juliette : Page créée avec « * Exploration is a set of technical components used to analyze data in order to understand its meaning and determine the axes of analysis for the following phases; * Training is a set of technical components for modeling data and training an AI model; * Evaluation is a set of technical components used to validate the relevance of a trained model in relation to the modeling objectives; * Production is a set of technical components enabling the model to infer resul... »

2023-12-05T14:35:38Z

Page créée avec « * Exploration is a set of technical components used to analyze data in order to understand its meaning and determine the axes of analysis for the following phases; * Training is a set of technical components for modeling data and training an AI model; * Evaluation is a set of technical components used to validate the relevance of a trained model in relation to the modeling objectives; * Production is a set of technical components enabling the model to infer resul... »

← Version précédente		Version du 5 décembre 2023 à 16:35
Ligne 90 :		Ligne 90 :
	[[Fichier:Modélisation d un systeme IA.png\|centré\|vignette\|1000x1000px\|Modélisation d'un pipeline d'Intelligence Artificielle]]		[[Fichier:Modélisation d un systeme IA.png\|centré\|vignette\|1000x1000px\|Modélisation d'un pipeline d'Intelligence Artificielle]]

	~~<div lang="fr" dir="ltr" class="mw-content-ltr">~~		* Exploration is a set of technical components used to analyze data in order to understand its meaning and determine the axes of analysis for the following phases;
	* L'Exploration ~~est un ensemble de composants techniques permettant d'analyser des données pour en comprendre le sens et déterminer les~~ axes ~~d'analyse des~~ phases ~~suivantes~~ ;		* Training is a set of technical components for modeling data and training an AI model;
	* ~~L'Entraînement est un ensemble de composants techniques permettant de réaliser la modélisation des données et la réalisation de l'apprentissage d'un modèle d'IA~~ ;		* Evaluation is a set of technical components used to validate the relevance of a trained model in relation to the modeling objectives;
	* L'Evaluation ~~est un ensemble de composants techniques permettant de valider la pertinence d'un modèle entraîné par rapport aux objectifs visés par la modélisation~~ ;		* Production is a set of technical components enabling the model to infer results from production data.
	* La Production ~~est un ensemble de composants techniques permettant au modèle d'inférer des résultats à partir de données de~~ production.
	~~</div>~~

	<div lang="fr" dir="ltr" class="mw-content-ltr">		<div lang="fr" dir="ltr" class="mw-content-ltr">

IA et cybersécurité/en - Historique des versions

FuzzyBot : Mise à jour pour être en accord avec la nouvelle version de la source de la page

Juliette : Page créée avec « Measures specific to development, training, validation and production environments: »

Juliette : Page créée avec « ==== Practical solutions to reduce the risk of system compromise ==== The 4 best practices to put in place to limit the risks associated with AI systems are : »

Juliette : Page créée avec « * Training data poisoning attack (targeted or untargeted) * Data supply attack * Attack on library supply chain * Oracle attack on production model * Evasion attack on production model »

Juliette : Page créée avec « The working group's research identified 5 different attack patterns applicable to any Artificial Intelligence system: »

Juliette : Page créée avec « 1000x1000px »