← Services

Cybersécurité de l'IA

Réduire les risques de vos systèmes d'IA, sans promettre l'impossible

Gensai veille à sécuriser et à mettre en conformité chacune de ses réalisations, dès leur conception. Quand l'enjeu le demande, une analyse plus poussée peut être menée, jusqu'à des tests d'intrusion (pentests). Gensai peut aussi réaliser l'analyse de cybersécurité d'une application d'IA développée en interne ou avec un autre prestataire.

Aucune mesure ne protège un système d'IA à 100 %. Les modèles de langage restent sensibles aux manipulations : en février 2026, l'AI Security Institute britannique a présenté une méthode automatisée qui a déjoué les protections d'Anthropic et d'OpenAI, renforcées depuis. La cybersécurité ne supprime pas le risque, elle le réduit : moins de failles exploitables, des dégâts limités si l'une d'elles est trouvée, et une détection plus rapide.

Les risques propres à l'IA s'ajoutent à ceux de toute application : injection de prompt, directe ou cachée dans un document ou une page web, jailbreak, fuite de données sensibles ou des consignes du système, empoisonnement d'une base documentaire, outils MCP piégés, agent doté de trop de droits, coûts qui s'emballent. L'OWASP les recense dans son Top 10 des applications LLM, dont l'édition 2026 place l'injection de prompt en tête et l'agentivité excessive à la troisième place.

La réponse tient d'abord à l'architecture : des droits limités au strict nécessaire, une validation humaine des actions sensibles, des contenus extérieurs traités comme non fiables, des sources choisies pour les bases documentaires, une journalisation et des plafonds de consommation. Viennent ensuite les tests : l'ANSSI recommande des audits de sécurité avant toute mise en production d'un système d'IA générative, des tests d'intrusion classiques aux scénarios d'attaque menés à la main par des auditeurs.

Parler de la sécurité de votre IA

Les types de tests possibles

Injection de prompt directe

Des formulations variées, manuelles et automatisées, pour faire ignorer ses consignes au modèle ou lui faire révéler son prompt système.

Injection indirecte

Des instructions cachées dans un document, un e-mail ou une page web lus par l'IA, pour vérifier qu'elle ne les exécute pas.

Jailbreak

Jeux de rôle, scénarios fictifs, demandes découpées : les techniques connues pour contourner les garde-fous du modèle.

Fuite de données

Vérifier qu'un utilisateur ne peut obtenir ni les données d'un autre, ni des informations confidentielles de la base documentaire.

Empoisonnement d'un RAG

Mesurer l'effet d'un document piégé dans la base documentaire, et contrôler qui peut y ajouter du contenu.

Agents et outils connectés

Tester les droits d'un agent, les serveurs MCP qu'il utilise et ce qu'il peut faire s'il est manipulé.

Application et infrastructure

Un pentest classique de ce qui entoure l'IA : interface web, API, authentification, serveurs.

Agents vocaux

Des appels malveillants simulés : usurpation d'identité, demandes frauduleuses, tentatives d'obtenir des informations.

Nos références

Questions fréquentes

La cybersécurité protège-t-elle un système d'IA à 100 % ?

Non, et aucun prestataire sérieux ne peut le promettre. Les modèles de langage restent vulnérables à des attaques qui évoluent sans cesse. La cybersécurité réduit le risque : elle supprime les failles les plus exploitables, limite les dégâts possibles et permet de détecter plus vite un incident.

Quels sont les principaux risques liés à l'IA ?

Ceux que l'OWASP recense dans son Top 10 des applications LLM : injection de prompt, divulgation d'informations sensibles, chaîne d'approvisionnement, empoisonnement des données, traitement inadéquat des réponses, agentivité excessive, fuite des consignes du système, faiblesses des bases vectorielles, informations erronées et consommation non maîtrisée. S'y ajoutent les usages non encadrés des collaborateurs, le shadow AI.

Comment s'en prémunir ?

En combinant plusieurs protections plutôt qu'en comptant sur une seule : donner à l'IA le moins de droits possible, faire valider par un humain les actions sensibles, traiter tout contenu extérieur comme non fiable, choisir et contrôler les sources d'une base documentaire, journaliser les échanges et plafonner la consommation. Puis tester, avant la mise en production et à chaque changement important.

Qu'est-ce qu'un pentest d'IA ?

Un test d'intrusion consiste à attaquer volontairement un système, avec l'accord de son propriétaire, pour trouver ses failles avant un attaquant. Pour une application d'IA, il couvre à la fois les attaques propres aux modèles (injection de prompt, jailbreak, fuite de données, abus des outils d'un agent) et les composants classiques : application web, API, serveurs. Il se conclut par un rapport et des recommandations.

Pouvez-vous tester une IA que Gensai n'a pas développée ?

Oui. Gensai peut tester des solutions d'IA développées en interne ou par un autre prestataire, dans un périmètre et un calendrier définis avec vous, et avec l'autorisation écrite du propriétaire du système.

Combien coûte un pentest ?

Il n'existe pas de grille officielle. Selon un relevé de prix publié par Yeeply en septembre 2026, un pentest d'application web basique coûte en France entre 3 000 et 8 000 €, sur 3 à 5 jours, un pentest web complet entre 8 000 et 25 000 €, et un exercice de red team entre 15 000 et 70 000 €. Pour une application d'IA, le prix dépend surtout du nombre de fonctions à tester : chatbot, base documentaire, agent et outils connectés. Gensai établit un devis selon le périmètre.

Quelles sont les accréditations de Gensai ?

Sébastien Lecocq, co-fondateur de Gensai, a obtenu l'accréditation Daybreak Blue d'OpenAI, qui permet à des professionnels de la cybersécurité vérifiés d'utiliser ses modèles avec moins de restrictions sur les tâches de sécurité. Une accréditation équivalente auprès d'Anthropic est en cours, prévue début 2027.

Vos tests remplacent-ils un audit qualifié par l'ANSSI ?

Non. Certaines organisations, comme les opérateurs d'importance vitale ou des administrations, doivent faire appel à un prestataire d'audit qualifié par l'ANSSI (PASSI). Gensai n'a pas cette qualification : ses tests complètent alors l'audit qualifié, sans le remplacer.

Votre IA est-elle assez protégée ?

Décrivez votre système, ce qu'il fait et à quoi il a accès : Gensai vous dit quels tests mener et dans quel ordre.

Objet : Cybersécurité de l'IA

Informations utilisées uniquement pour répondre à la demande.