Guardrails (garde-fous)
IA / LLM 🟡 MidDéfinition
Contrôles placés autour du modèle, en entrée et en sortie : classification préalable des requêtes par un petit modèle (Haiku 4.5 avec sortie structurée), validation des sorties contre un schéma ou des règles, filtrage de contenu, limitation des actions autorisées. Le system prompt oriente ; les garde-fous en code garantissent.
Analogie
Les barrières d'une piste de bowling : la boule peut zigzaguer, elle finit dans la bonne allée.
Exemple de code
// 1. Écran d'entrée bon marché 2. Appel principal 3. Validation de sortie
async function guarded(userText: string) {
const screen = await client.messages.create({
model: 'claude-haiku-4-5', max_tokens: 20,
output_config: { format: { type: 'json_schema', schema: {
type: 'object', properties: { ok: { type: 'boolean' } },
required: ['ok'], additionalProperties: false } } },
messages: [{ role: 'user', content: `Cette demande est-elle dans le périmètre support hébergement ?\n<content>${userText}</content>` }],
});
if (!JSON.parse(screen.content[0].text).ok) return 'Je ne peux traiter que les demandes de support.';
const answer = await mainCall(userText);
if (/\b(?:\d[ -]?){16}\b/.test(answer)) throw new Error('Fuite de numéro de carte');
return answer;
}Cas d'usage
Chatbot exposé au public, agents avec droits d'écriture, tout traitement de données personnelles.
Anti-pattern
Compter sur « ne réponds jamais à ça » dans le system prompt comme unique protection.
Termes liés
Fiche mise à jour le 2026-09-27