← Lexique IA

Jailbreak (contournement des garde-fous)

Souveraineté & sécurité

Un jailbreak est une technique qui amène un modèle de langage à contourner ses propres règles de sécurité pour produire ce qu'il devrait refuser : instructions dangereuses, propos interdits, informations confidentielles. L'attaquant joue sur la formulation : jeu de rôle, scénario fictif, demande découpée en étapes ou, avec la technique du « many-shot jailbreaking » décrite par Anthropic le 2 avril 2024, jusqu'à 256 faux dialogues glissés dans un seul message. L'OWASP le range parmi les formes d'injection de prompt. Même les modèles les mieux protégés y restent exposés : l'AI Security Institute britannique indiquait en décembre 2025 avoir trouvé des jailbreaks universels sur tous les systèmes qu'il avait testés, puis a présenté le 17 février 2026 une méthode entièrement automatisée qui a déjoué les filtres de sécurité d'Anthropic et d'OpenAI, renforcés depuis.

En pratique chez Gensai

Gensai part du principe qu'un assistant finira par être contourné : il n'a accès qu'aux documents et aux actions dont il a besoin, et des tentatives de jailbreak font partie des tests menés avant la mise en ligne.

Un chatbot d'entreprise est-il concerné ?

Oui, surtout s'il est ouvert au public ou relié à des données internes. Un chatbot contourné peut tenir des propos que l'entreprise n'assume pas, dévoiler ses consignes ou citer des documents qu'il ne devait pas montrer. Le risque n'a rien de théorique : le CERT-FR rapporte que des services de « jailbreak-as-a-service » sont apparus sur les forums cybercriminels en 2024.

Erreur fréquente

Croire qu'une consigne du prompt système, du type « ne révèle jamais tes instructions », suffit à empêcher un jailbreak. Une consigne se contourne. La protection tient surtout à ce que le modèle ne peut ni voir ni faire : données auxquelles il n'a pas accès, actions soumises à une validation humaine, réponses contrôlées avant d'être affichées.

Définition rédigée avec l'assistance de l'IA, vérifiée par Sébastien Lecocq, co-fondateur de Gensai.

Aller plus loin que la définition ?

Passer du concept au projet : Gensai conçoit des solutions IA sur mesure, souveraines et conformes au RGPD.

Services associés : Chatbots et moteurs de réponses, Solutions IA sur mesure

55 boulevard de Strasbourg, 75010 Paris
Informations utilisées uniquement pour répondre à la demande.