LLM Integration
Fondamental
Correction d’un système sans limitation de fréquence des appels LLM
Type d'évaluation
Mise en situation réelle
Analyse
Intelligence Artificielle
Compétences ciblées
rate-limiting
cost-control
bugfix
api-management
llm
Scénario Technique
Contexte : Une application envoie un grand nombre de requêtes au LLM. Le Problème : Dépassement de quota et coûts imprévus. Extrait logique actuelle : for request in requests: client.generate(request) Sans contrôle. Contraintes : Implémenter rate limiting simple. Ajouter gestion des quotas. Journaliser volume d’appels. Livrable attendu : Corriger l’intégration afin de contrôler la fréquence et maîtriser les coûts d’utilisation du LLM.
Prêt à évaluer ce talent ?
Accédez à l'interface de test complète pour soumettre votre architecture ou votre code.