Retour aux cas pratiques
Apache SparkAvancé
Mise en cache stratégique d'un DataFrame réutilisé
Scénario
Contexte Un pipeline de reporting utilise un même DataFrame transformé dans cinq chemins de calcul différents. Le Problème Chaque utilisation du DataFrame relance entièrement le plan d'exécution depuis la source, multipliant inutilement les lectures disque. Contraintes Appliquer cache() ou persist() au bon niveau du pipeline. Choisir le niveau de stockage adapté (MEMORY_AND_DISK). Appeler unpersist() en fin de traitement. Livrable attendu Un pipeline PySpark avec stratégie de cache explicite réduisant les recalculs inutiles.
Compétences ciblées
sparkcachepersistperformancepipeline
