OWASP Top 10 pour les applications LLM

Définition

Référentiel OWASP, édition 2025 : LLM01 injection de prompt, LLM02 divulgation d'informations sensibles, LLM03 chaîne d'approvisionnement, LLM04 empoisonnement des données et du modèle, LLM05 traitement incorrect des sorties, LLM06 agentivité excessive, LLM07 fuite du system prompt, LLM08 faiblesses des vecteurs et embeddings, LLM09 désinformation, LLM10 consommation non bornée.

Analogie

La check-list de sécurité classique, réécrite pour un système qui exécute du langage naturel.

Exemple de code

// LLM05 : ne jamais faire confiance à la sortie du modèle
const html = await llmGenerateHtml(userInput);
res.send(DOMPurify.sanitize(html));               // pas d'innerHTML brut

// LLM06 : agentivité minimale, outils en lecture par défaut
const tools = readOnly ? [searchTool] : [searchTool, updateTicketTool];

// LLM10 : bornes dures sur la consommation
const msg = await client.messages.create({
  model: 'claude-sonnet-5', max_tokens: 800,        // plafond de sortie
  messages, tools,
}, { timeout: 30_000 });                            // plafond de temps
if (++turns > 10) throw new Error('LLM10 : boucle bornée');

Cas d'usage

Revue de sécurité d'une fonctionnalité IA ; grille d'entretien pour un poste senior.

Anti-pattern

Termes liés

Sources

• genai.owasp.org/llm-top-10/