Apache Spark
Szkolenie Apache Spark to intensywny, dwudniowy kurs, skoncentrowany na praktycznym zastosowaniu tego popularnego frameworka do przetwarzania dużych zbiorów danych.
Idealny dla zespołów, które…
Praktyczne warsztaty z AI i analityki danych — na realnych przypadkach Twojego zespołu.
Jak zainstalować i skonfigurować Apache Spark w różnych środowiskach
Jak przetwarzać i analizować dane z użyciem RDD, DataFrame i Spark SQL
Jak optymalizować zapytania i zarządzać zasobami w Apache Spark
Jak wdrożyć aplikacje Apache Spark w środowisku produkcyjnym
Co warto wiedzieć przed startem
- Znajomość podstaw programowania w Pythonie lub Scali
- Podstawowa wiedza z zakresu przetwarzania danych
- Umiejętność pracy w środowisku Unix/Linux
Co konkretnie robimy
Dzień 1: Wprowadzenie do Apache Spark i podstawy przetwarzania danych
- · Historia i rozwój Apache Spark
- · Architektura i główne komponenty (RDD, DataFrame, Spark SQL)
- · Instalacja Apache Spark i zależności
- · Konfiguracja środowiska pracy (Standalone, Hadoop, AWS)
- · Praca z plikami: JSON, CSV, XML, TXT, Parquet, AVRO
- · Omówienie czym jest Transformacja, a Akcja (Lazy evaulation)
Dzień 2: Zaawansowane techniki i praktyczne zastosowania
- · Tworzenie i zarządzanie DataFrame
- · Użycie Spark SQL do zapytań na dużych zbiorach danych
- · Sposoby sortowania, grupowania i filtrowania danych
- · Wykonywanie transformacji danych poprzez funkcje map, flatMap, UDF
- · Funkcje okna/analityczne
- · Implementacja operacji na DataFrame i zapytań SQL
- · Analiza dużych zbiorów danych z użyciem Spark SQL
- · Techniki optymalizacji zapytań i działania Spark
- · Zarządzanie pamięcią i rozdzielanie zasobów
- · Partycjonowanie i zapis danych
- · Przygotowanie i eksportowanie aplikacji Spark
- · Wdrożenie aplikacji w środowisku produkcyjnym
Od briefu do retro w 30 dniach.
Brief i diagnoza
Rozmowa z liderem zespołu + krótka ankieta dla uczestników. Określamy cele, gap, kontekst.
Modyfikacja programu
Dostosowujemy moduły, case studies i przykłady kodu pod Twój stack. Akceptacja w 5 dni.
Warsztat
Sesje z trenerem, hands-on, code review. Mentor dostępny też pomiędzy sesjami.
Retro + raport
Raport z efektami dla zespołu i lidera. 30 dni konsultacji w cenie.
Wyślij brief. Odezwiemy się w 1 dzień.
Po krótkim briefie przygotujemy program i wycenę. Bez zobowiązań — to tylko punkt wyjścia do rozmowy.
Dziękujemy!
Odezwiemy się w ciągu 1 dnia roboczego.
Inne programy dla zespołów
Zobacz wszystkie →Active Directory
Praktyczne warsztaty z AI i analityki danych — na realnych przypadkach Twojego zespołu.
Administracja bazami danych MySQL
Praktyczne warsztaty z AI i analityki danych — na realnych przypadkach Twojego zespołu.
Administracja usługami Power BI
Praktyczne warsztaty z AI i analityki danych — na realnych przypadkach Twojego zespołu.