Retour aux cas pratiques
Apache SparkFondamental

Correction d’un problème de cache mal utilisé

Scénario

Contexte : Un DataFrame est utilisé plusieurs fois dans le pipeline. Le Problème : Chaque action déclenche un recalcul complet du DAG. Extrait actuel : df.filter(...).count() df.filter(...).show() Aucun cache n’est défini. Contraintes : Utiliser cache() ou persist() de manière appropriée. Éviter la consommation mémoire excessive. Livrable attendu : Corriger le pipeline en introduisant un cache stratégique améliorant les performances.

Compétences ciblées

cacheperformancebugfixdataframebig-data
    Correction d’un problème de cache mal utilisé — mise en situation Apache Spark | CodeDuel