Szkolenia Cloudera

Cel szkolenia

This three-day hands-on training course delivers the key concepts and expertise developers need to improve the performance of their Apache Spark applications. During the course, participants will learn how to identify common sources of poor performance in Spark applications, techniques for avoiding or solving them, and best practices for Spark application monitoring.

Apache Spark Application Performance Tuning presents the architecture and concepts behind Apache Spark and underlying data platform, then builds on this foundational understanding by teaching students how to tune Spark application code. The course format emphasizes instructor-led demonstrations illustrate both performance issues and the techniques that address them, followed by hands-on exercises that give students an opportunity to practice what they've learned through an interactive notebook environment. The course applies to Spark 2.4, but also introduces the Spark 3.0 Adaptive Query Execution framework.

What You Will Learn

Students who successfully complete this course will be able to:

  • Understand Apache Spark's architecture, job execution, and how techniques such as lazy execution and pipelining can improve runtime performance
  • Evaluate the performance characteristics of core data structures such as RDD and DataFrames
  • Select the file formats that will provide the best performance for your application
  • Identify and resolve performance problems caused by data skew
  • Use partitioning, bucketing, and join optimizations to improve SparkSQL performance
  • Understand the performance overhead of Python-based RDDs, DataFrames, and user-defined functions
  • Take advantage of caching for better application performance
  • Understand how the Catalyst and Tungsten optimizers work
  • Understand how Workload XM can help troubleshoot and proactively monitor Spark applications performance
  • Learn about the new features in Spark 3.0 and specifically how the Adaptive Query Execution engine improves performance

What to Expect

This course is designed for software developers, engineers, and data scientists who have experience developing Spark applications and want to learn how to improve the performance of their code. This is not an introduction to Spark.

Spark examples and hands-on exercises are presented in Python and the ability to program in this language is required. Basic familiarity with the Linux command line is assumed. Basic knowledge of SQL is helpful.

Plan szkolenia Rozwiń listę

  • Spark Architecture
    • RDDs
    • DataFrames and Datasets
    • Lazy Evaluation
    • Pipelining
  • Data Sources and Formats
    • Available Formats Overview
    • Impact on Performance
    • The Small Files Problem
  • Inferring Schemas
    • The Cost of Inference
    • Mitigating Tactics
  • Dealing With Skewed Data
    • Recognizing Skew
    • Mitigating Tactics
  • Catalyst and Tungsten Overview
    • Catalyst Overview
    • Tungsten Overview
  • Mitigating Spark Shuffles
    • Denormalization
    • Broadcast Joins
    • Map-Side Operations
    • Sort Merge Joins
  • Partitioned and Bucketed Tables
    • Partitioned Tables
    • Bucketed Tables
    • Impact on Performance
  • Improving Join Performance
    • Skewed Joins
    • Bucketed Joins
    • Incremental Joins
  • Pyspark Overhead and UDFs
    • Pyspark Overhead
    • Scalar UDFs
    • Vector UDFs using Apache Arrow
    • Scala UDFs
  • Caching Data for Reuse
    • Caching Options
    • Impact on Performance
    • Caching Pitfalls
  • Workload XM (WXM) Introduction
    • WXM Overview
    • WXM for Spark Developers
  • What's New in Spark 3.0?
    • Adaptive Number of Shuffle Partitions
    • Skew Joins
    • Convert Sort Merge Joins to Broadcast Joins
    • Dynamic Partition Pruning
    • Dynamic Coalesce Shuffle Partitions
Pobierz konspekt szkolenia w formacie PDF

Dodatkowe informacje

Wymagania wstępne

This course is designed for software developers, engineers, and data scientists who have experience developing Spark applications and want to learn how to improve the performance of their code. This is not an introduction to Spark.

Spark examples and hands-on exercises are presented in Python and the ability to program in this language is required. Basic familiarity with the Linux command line is assumed. Basic knowledge of SQL is helpful.

Poziom trudności
Czas trwania 3 dni
Certyfikat

The participants will obtain certificates signed by Cloudera (course completion).

Upon completion of the course, attendees are encouraged to continue their study and register for the CDP Data Developer exam https://www.cloudera.com/about/training/certification/cdp-datadev-exam-cdp-3001.html

Certification is a great differentiator. It helps establish you as a leader in the field, providing employers and customers with tangible evidence of your skills and expertise.

Prowadzący

Certified Cloudera Instructor

Pozostałe szkolenia Cloudera | Cloudera Data Developer

Formularz kontaktowy

Prosimy o wypełnienie poniższego formularza, jeśli chcą Państwo uzyskać więcej informacji o powyższym szkoleniu.






* pola oznaczone (*) są wymagane

Informacje o przetwarzaniu danych przez Compendium – Centrum Edukacyjne Spółka z o.o.

CENA 2200 EUR NETTO

FORMA SZKOLENIA ?

 

MATERIAŁY SZKOLENIOWE ?

 

WYBIERZ TERMIN SZKOLENIA

  • szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
    • Informacje ogólne
    • Termin gwarantowany
    • Last minute (-10%)
    • Język obowiązujący na szkoleniu
    • Polski
  • szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
    • Informacje ogólne
    • Termin gwarantowany
    • Last minute (-10%)
    • Język obowiązujący na szkoleniu
    • Polski
Zarezerwuj termin szkolenia
zamknij

Szkolenie stacjonarne

Szkolenia stacjonarne w Compendium CE odbywają się najczęściej w naszych lokalizacjach w Krakowie i Warszawie, ale także w miejscu ustalonym przez klienta. Grupa uczestnicząca w szkoleniu spotyka się w danym miejscu o określonym czasie i wraz z trenerem aktywnie uczestniczy w laboratoriach.

Szkolenie dlearning

W szkoleniach Compendium Distance Learning możesz uczestniczyć z dowolnego miejsca na świecie. Kursanci, dzięki zaawansowanej technologii, którą dostarcza Compendium CE, stale widzą i słyszą trenera, mogą mu zadawać pytania poprzez chat i mikrofon, a także uczestniczą w ćwiczeniach i laboratoriach, które rozwiązują wraz z prowadzącym. Po więcej informacji zajrzyj na stronę dlearning.eu

zamknij

Materiały papierowe

Materiały tradycyjne: cena zawiera standardowe materiały wydawane w postaci książek papierowych, drukowanych lub innej, w zależności od ustaleń z producentem.

Materiały elektroniczne

Materiały elektroniczne: są to materiały szkoleniowe w wersji elektronicznej, które w zależności od dostawcy udostępniane są za pomocą dedykowanych aplikacji: Skillpipe, eVantage itd. lub w postaci dokumentów PDF.

Materiały ctab

Materiały ctab: cena zawiera tablet ctab oraz materiały szkoleniowe w formie elektronicznej bądź tradycyjne materiały szkoleniowe i materiały dodatkowe dostarczone w wersji elektronicznej w zależności od ustaleń z producentem (w postaci dokumentów PDF lub EPUB). Tak dostarczone materiały są przystosowane pod kątem wyświetlania ich na tablecie ctab. Po więcej informacji zajrzyj na stronę ctab.

Najbliższe szkolenia Cloudera

  • 2025-07-08 | 4 dni | Kraków / Virtual Classroom

    Cloudera Training for Apache Kafka

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
  • 2025-07-08 | 4 dni | Kraków / Wirtualna sala

    Cloudera Training for Apache Kafka

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
  • 2025-07-08 | 4 dni | Warszawa / Virtual Classroom

    DENG-254 Preparing with Cloudera Data Engineering

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
  • 2025-07-09 | 3 dni | Kraków / Virtual Classroom

    Advanced Spark Application Performance Tuning

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
  • 2025-07-09 | 3 dni | Kraków / Wirtualna sala

    Advanced Spark Application Performance Tuning

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
  • 2025-07-17 | 2 dni | Warszawa / Virtual Classroom

    Cloudera Streaming Analytics: Using Apache Flink and SQL Stream Builder on CDP

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
  • 2025-07-22 | 4 dni | Warszawa / Virtual Classroom

    DSCI-272 Predicting with Cloudera Machine Learning

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
  • 2025-07-29 | 4 dni | Kraków / Wirtualna sala

    DSCI-272 Predicting with Cloudera Machine Learning

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
  • 2025-08-05 | 4 dni | Kraków / Virtual Classroom

    ADMIN-236 Managing Apache Ozone

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
  • 2025-08-05 | 4 dni | Kraków / Virtual Classroom

    ADMIN-332 Building Secure Cloudera Clusters

    szkolenie dostępne w wersji stacjonarnej we wskazanej lokalizacji lub w trybie zdalnym, w zależności od preferencji uczestnika: HYBRID
Harmonogram szkoleń Cloudera