← Lexique IA

Empoisonnement des données (data poisoning)

Souveraineté & sécurité

L'empoisonnement des données consiste à glisser des contenus malveillants dans les données dont une IA apprend ou se sert pour répondre, afin de fausser son comportement : réponses erronées, désinformation ou « porte dérobée » qui se déclenche sur un mot précis. Il peut viser l'entraînement : dans une étude publiée le 9 octobre 2025 par Anthropic, l'AI Security Institute britannique et l'Alan Turing Institute, 250 documents piégés ont suffi à installer une porte dérobée simple dans des modèles de 600 millions à 13 milliards de paramètres, quelle que soit leur taille. Il peut aussi viser la base documentaire d'un RAG : avec PoisonedRAG, présenté à la conférence USENIX Security 2025, des chercheurs obtiennent la réponse de leur choix dans 90 % des cas en ajoutant cinq textes piégés par question visée dans une base de plusieurs millions de textes. L'OWASP le range parmi les dix risques majeurs des applications LLM, et l'AI Act prévoit, au besoin, des mesures contre l'empoisonnement des données dans les systèmes d'IA à haut risque (article 15), applicables à partir de décembre 2027 ou d'août 2028 selon les systèmes.

En pratique chez Gensai

Dans ses projets RAG, Gensai travaille à partir de sources choisies et validées avec le client, garde la trace de l'origine de chaque document et limite les droits d'écriture sur la base documentaire.

Une base documentaire d'entreprise peut-elle être empoisonnée ?

Oui, dès qu'elle intègre des contenus que l'entreprise ne maîtrise pas : pages web, e-mails, documents envoyés par des clients ou des partenaires, espaces partagés que beaucoup de personnes peuvent modifier. Il faut savoir d'où vient chaque document, qui peut en ajouter, et pouvoir retirer vite une source douteuse. Dans sa synthèse de la menace publiée le 4 février 2026, l'ANSSI indique qu'aucun cas d'empoisonnement de données d'entraînement n'a encore été porté à sa connaissance, mais estime que le risque existe.

Erreur fréquente

Penser que le volume protège : « avec des milliers de documents, quelques fichiers piégés ne changeront rien ». Les études citées montrent l'inverse : c'est le nombre de contenus malveillants qui compte, pas leur proportion, et une poignée de textes bien placés peut suffire à fausser une réponse.

Définition rédigée avec l'assistance de l'IA, vérifiée par Sébastien Lecocq, co-fondateur de Gensai.

Aller plus loin que la définition ?

Passer du concept au projet : Gensai conçoit des solutions IA sur mesure, souveraines et conformes au RGPD.

Services associés : Chatbots et moteurs de réponses, Solutions IA sur mesure

55 boulevard de Strasbourg, 75010 Paris
Informations utilisées uniquement pour répondre à la demande.