Correction d’un système vulnérable aux attaques avancées de prompt injection

Scénario

Contexte : Un assistant LLM connecté à une base documentaire interne est accessible à tous les employés. Le Problème : Des requêtes malveillantes contournent les instructions système et extraient des informations sensibles. Extrait logique actuelle : prompt = system_rules + user_input + retrieved_context Sans isolation stricte. Contraintes : Séparer clairement instructions système, contexte récupéré et entrée utilisateur. Mettre en place validation et filtrage des requêtes. Tester robustesse avec scénarios d’attaque simulés. Livrable attendu : Proposer une architecture sécurisée réduisant significativement les risques de prompt injection et exfiltration d’informations.

Compétences ciblées