Correction d’un système exposé aux attaques de prompt injection

Scénario

Contexte : Un assistant interne accepte des requêtes utilisateurs libres. Le Problème : Des utilisateurs injectent des instructions malveillantes dans leurs requêtes. Extrait logique actuelle : prompt = system_instructions + user_input Sans validation. Contraintes : Mettre en place séparation stricte instructions système et input utilisateur. Filtrer instructions suspectes. Tester robustesse face à exemples malveillants. Livrable attendu : Proposer une architecture d’intégration réduisant le risque de prompt injection.

Compétences ciblées