Analyse des attaques sur les systèmes de l'IA

Production du livrable "Analyse des attaques sur les systèmes de l'IA" dans le cadre de la Communauté d'Intérêt Sécurité de l'IA co-piloté par le Campus Cyber et le Hub France IA

Catégorie : Commun Statut : Production 1 : Idée - 2 : Prototype - 3 : Validation - 4 : Production

Téléchargement

Téléchargez le livrable.

Contexte

L'intelligence artificielle (IA), qu'elle soit prédictive ou générative, est en train de transformer de nombreux secteurs d'activité. Si ces technologies offrent des opportunités inédites, elles exposent également les organisations à de nouveaux risques en matière de cybersécurité.

Comme les systèmes traditionnels, les systèmes d'IA (SIA) doivent être protégés au regard de la multiplicité des attaques possibles. Mais ces SIA présentent aussi des vulnérabilités spécifiques, propres à leur architecture et à leur fonctionnement, qui reposent sur des algorithmes complexes et des jeux de données volumineux. Il est donc essentiel de mettre en place des mesures de sécurité adaptées à ces spécificités.

Le présent document s’intéresse aux attaques sur l’IA. Ce document a pour objectif d'apporter un éclairage approfondi sur les principales attaques dans le champ cyber ciblant les systèmes d'IA prédictive et d'IA générative. Cependant, pour faire face à ces attaques, il faut l’intervention à la fois d’experts en IA comme en cybersécurité ; il est donc essentiel que ces deux types d’experts comprennent le contexte et les enjeux de ces attaques. Ce document aborde donc, de manière pédagogique, l’enjeu de l’IA en cyber en précisant le contexte et l’enjeu des attaques et en exploitant un langage et des références communs aux deux champs d’expertise.

Groupe de travail

IA et cybersécurité