Chatbots qui répondent aux clients, assistants qui analysent des contrats, agents qui prennent des rendez-vous ou complètent un CRM : l'IA générative s'installe dans les outils des PME, des ETI et des grands groupes. Avec elle arrive une nouvelle surface d'attaque.
Une IA se pilote par le langage. Un attaquant peut donc, lui aussi, lui parler.
Quels risques un chatbot ou un agent IA fait-il courir à une entreprise, comment s'en protéger et quels tests mener avant de le mettre en ligne ?
Aucune protection ne rend un système d'IA invulnérable. La cybersécurité de l'IA sert à réduire le risque : moins de failles exploitables, des dégâts limités quand l'une d'elles est trouvée, une détection plus rapide.
Pourquoi l'IA crée-t-elle de nouveaux risques de sécurité ?
L'IA crée de nouveaux risques parce qu'un modèle de langage ne distingue pas toujours une consigne légitime d'un texte piégé. Une application classique exécute du code. Un modèle interprète des phrases, y compris celles qu'il lit dans un e-mail, un PDF ou une page web.
Le risque grandit avec l'autonomie. Un chatbot qui se trompe donne une mauvaise réponse. Un agent relié à une messagerie, un agenda ou une base clients peut envoyer, modifier ou supprimer.
Les protections intégrées aux modèles ne suffisent pas. En février 2026, l'AI Security Institute britannique a présenté une méthode entièrement automatisée qui a déjoué les filtres de sécurité d'Anthropic et d'OpenAI, renforcés depuis. Les fournisseurs corrigent, les attaquants s'adaptent.
Quels sont les principaux risques liés à l'IA ?
Les principaux risques sont recensés par l'OWASP, une fondation de référence en sécurité logicielle, dans son Top 10 des applications LLM. L'édition 2026 place l'injection de prompt en tête et fait monter l'agentivité excessive à la troisième place.
- L'injection de prompt : des instructions malveillantes, tapées directement ou cachées dans un document que l'IA lit, détournent son comportement.
- Le jailbreak : jeux de rôle, scénarios fictifs ou demandes découpées pour contourner les garde-fous du modèle.
- La fuite de données : l'IA révèle des informations confidentielles, les données d'un autre utilisateur ou ses propres consignes.
- L'empoisonnement des données : un document piégé glissé dans une base documentaire fausse les réponses d'un RAG (Retrieval-Augmented Generation), la technique qui fait répondre une IA à partir des documents de l'entreprise.
- Les outils piégés : un serveur MCP (Model Context Protocol), qui relie un agent à des outils, peut cacher des instructions dans la description d'un outil.
- L'agentivité excessive : un agent doté de trop de droits ou de trop d'autonomie transforme une erreur en incident.
- La consommation non maîtrisée : des requêtes en rafale font grimper la facture ou rendent le service indisponible.
Concrètement, un chatbot de service client peut divulguer l'historique d'un autre client. Un assistant juridique peut obéir à une consigne cachée dans un contrat envoyé par la partie adverse. Un agent RH peut transmettre un dossier à la mauvaise adresse. Un agent vocal peut être manipulé par un appelant qui se fait passer pour un dirigeant.
S'y ajoute un risque plus diffus, le shadow AI : l'usage d'outils grand public par les collaborateurs, hors de tout cadre.
Comment se protéger et limiter les risques ?
La protection la plus efficace tient à l'architecture, avant même les filtres. Plusieurs barrières valent mieux qu'une seule.
- Le moindre privilège : l'IA n'accède qu'aux données et aux actions nécessaires à sa tâche. Un agent qui résume des e-mails n'a pas besoin de pouvoir en envoyer.
- La validation humaine des actions sensibles : paiement, envoi, suppression, engagement contractuel.
- La méfiance envers les contenus extérieurs : documents, pages web et réponses d'outils sont traités comme des données, jamais comme des ordres.
- Des sources maîtrisées pour la base documentaire : qui peut y ajouter un document, et d'où vient-il ?
- La journalisation des échanges et des actions, pour comprendre un incident et le détecter vite.
- Des plafonds de consommation et de volume.
L'ANSSI va dans le même sens dans ses recommandations de sécurité pour un système d'IA générative, publiées en avril 2024 : maîtriser les accès à privilèges, journaliser l'ensemble des traitements, proscrire l'usage automatisé de l'IA pour des actions critiques sur le système d'information.
Ces mesures ne suppriment pas le risque. Elles en limitent les conséquences : un agent manipulé, mais privé du droit d'envoyer des e-mails, ne peut pas faire sortir de données par ce canal.
Quels tests de sécurité mener sur un chatbot ou un agent IA ?
Le test de référence est le test d'intrusion, ou pentest : attaquer volontairement un système, avec l'accord de son propriétaire, pour trouver ses failles avant un attaquant. L'ANSSI recommande ces audits avant toute mise en production d'un système d'IA générative et en distingue quatre familles :
- les tests d'intrusion classiques sur les composants techniques, comme les serveurs web, l'orchestrateur ou la base de données
- les tests de sécurité du code développé, avec des outils d'analyse automatique
- les tests automatisés qui visent les vulnérabilités propres aux modèles
- les tests manuels d'auditeurs, sur des scénarios d'attaque plus sophistiqués
Pour une application d'IA, un pentest combine donc plusieurs angles :
- Injections directes et indirectes : faire ignorer ses consignes au modèle, ou lui faire exécuter une instruction cachée dans un document.
- Jailbreak : éprouver les garde-fous avec les techniques connues.
- Fuites de données : vérifier qu'un utilisateur n'accède ni aux données d'un autre, ni aux consignes du système.
- Base documentaire : mesurer l'effet d'un document piégé et contrôler les droits d'écriture.
- Agents et outils : tester ce qu'un agent manipulé peut réellement faire avec ses droits et ses connecteurs MCP.
- Application et infrastructure : interface web, API, authentification, serveurs.
Le test peut se mener en boîte noire, sans rien connaître du système, comme un attaquant extérieur, ou en boîte grise, avec un compte utilisateur et une partie de la documentation. Il se répète à chaque changement important : nouveau modèle, nouvelles consignes, nouvel outil connecté. Le red teaming prolonge cette logique dans la durée, avec des scénarios d'attaque plus larges.
Combien coûte un pentest ?
Un pentest coûte en général de quelques milliers à plusieurs dizaines de milliers d'euros, selon le périmètre. Il n'existe pas de grille officielle. Selon un relevé de prix publié par Yeeply en septembre 2026 pour le marché français :
- un pentest d'application web basique coûte de 3 000 à 8 000 €, pour 3 à 5 jours
- un pentest web complet, sur plusieurs applications, de 8 000 à 25 000 €
- un exercice de red team, de 15 000 à 70 000 €
- la journée d'un consultant senior, de 800 à 2 200 €
Pour une application d'IA, le prix suit surtout le nombre de fonctions à tester : un chatbot seul, un RAG avec plusieurs niveaux d'accès, un agent relié à des outils métiers. Certaines organisations, comme les opérateurs d'importance vitale ou des administrations, doivent par ailleurs faire appel à un prestataire d'audit qualifié par l'ANSSI, dit PASSI.
Comment Gensai aborde-t-il la sécurité de l'IA ?
Gensai veille à sécuriser et à mettre en conformité chacune de ses réalisations dès leur conception, dans le respect du RGPD et de l'AI Act : droits minimaux, validation humaine, journalisation. Quand l'enjeu le demande, le studio mène une analyse plus poussée, jusqu'au pentest, sur ses propres réalisations comme sur des applications d'IA développées en interne ou par un autre prestataire.
Sébastien Lecocq, co-fondateur de Gensai et spécialiste de la cybersécurité appliquée à l'IA, a obtenu l'accréditation Daybreak Blue d'OpenAI, réservée aux professionnels de la cybersécurité vérifiés. Une accréditation équivalente auprès d'Anthropic est en cours, prévue début 2027.
Une IA bien protégée reste exposée. Elle est conçue pour qu'une manipulation réussie n'ait pas de conséquence grave.
En matière de sécurité de l'IA, la bonne question devient : si cette IA était trompée demain, que pourrait-elle faire ?
Un chatbot ou un agent IA à sécuriser ? Gensai analyse les risques de votre système et vous indique quels tests mener. Découvrir l'offre cybersécurité de l'IA.
