Seminare
Seminare

Live-Online: Data Engineering on Microsoft Azure (DP-203)

Webinar - Haufe Akademie GmbH & Co. KG

Dieses Training findet im intensiven Format statt, bei dem du ganztägige Sessions mit unseren MCT-Experten hast.
Termin Ort Preis*
26.11.2024- 28.11.2024 online 2.213,40 €
03.02.2025- 05.02.2025 online 2.213,40 €
*Alle Preise verstehen sich inkl. MwSt.

Detaillierte Informationen zum Seminar

Inhalte:

Der Inhalt dieses intensiven Trainings leitet sich aus der Prüfung «DP-203: Data Engineering on Microsoft Azure» ab. 



Modul 1: Erkunden von Compute- und Speicheroptionen für Datentechnikworkloads


Dieses Modul bietet eine Übersicht über die Optionen für Compute- und Speichertechnologien von Azure, die Datentechniker:innen zur Verfügung stehen, die analytische Workloads erstellen. In diesem Modul werden Methoden zum Strukturieren des Data Lake und zum Optimieren der Dateien für die Untersuchung, das Streaming und die Batchverarbeitung von Workloads vermittelt. Die Kursteilnehmer:innen erfahren, wie sie den Data Lake in Datenoptimierungsebenen organisieren, wenn sie Dateien durch Batch- und Streamverarbeitung transformieren. Anschließend lernen sie, wie sie Indizes für ihre Datasets erstellen (etwa CSV-, JSON- und Parquet-Dateien) und sie für potenzielle Abfrage- und Workloadbeschleunigung verwenden.


Lektionen


  • Einführung in Azure Synapse Analytics
  • Beschreiben von Azure Databricks
  • Einführung in Azure Data Lake Storage
  • Beschreiben der Delta Lake-Architektur
  • Arbeiten mit Datenströmen mithilfe von Azure Stream Analytics


Lab: Erkunden von Compute- und Speicheroptionen für Datentechnikworkloads


  • Kombinieren von Streaming und Batchverarbeitung mit einer einzelnen Pipeline
  • Organisieren des Data Lake in Ebenen der Dateitransformation
  • Indizieren des Data Lake-Speichers für die Beschleunigung von Abfragen und Workloads


 


Modul 2: Ausführen interaktiver Abfragen mithilfe von serverlosen SQL-Pools von Azure Synapse Analytics


In diesem Modul erfahren die Kursteilnehmer:innen, wie sie mit in Data Lake und externen Dateiquellen gespeicherten Dateien arbeiten, indem sie T-SQL-Anweisungen verwenden, die von einem serverlosen SQL-Pool in Azure Synapse Analytics ausgeführt werden. Die Kursteilnehmer:innen fragen Parquet-Dateien ab, die in einem Data Lake gespeichert sind sowie CSV-Dateien, die in einem externen Datenspeicher gespeichert sind. Als Nächstes erstellen sie Azure Active Directory-Sicherheitsgruppen und erzwingen den Zugriff auf Dateien im Data Lake über rollenbasierte Zugriffssteuerung (Role-Based Access Control, RBAC) und Zugriffssteuerungslisten (Access Control Lists, ACLs).


Lektionen


  • Kennenlernen von serverlosen SQL-Pool-Funktionen in Azure Synapse
  • Abfragen von Daten im Lake mit serverlosen SQL-Pools von Azure Synapse
  • Erstellen von Metadatenobjekten in serverlosen SQL-Pools von Azure Synapse
  • Schützen von Daten und Verwalten von Benutzern in serverlosen SQL-Pools von Azure Synapse


Lab: Ausführen interaktiver Abfragen mithilfe serverloser SQL-Pools


  • Abfragen von Parquet-Daten mit serverlosen SQL-Pools
  • Erstellen externer Tabellen für Parquet- und CSV-Dateien
  • Erstellen von Ansichten mit serverlosen SQL-Pools
  • Schützen des Zugriffs auf Daten in einem Data Lake bei Verwendung serverloser SQL-Pools
  • Konfigurieren der Data Lake-Sicherheit mit rollenbasierter Zugriffssteuerung (Role-Based Access Control, RBAC) und Zugriffssteuerungslisten (Access Control Lists, ACLs)


 


Modul 3: Datenuntersuchung und -transformation in Azure Databricks


In diesem Modul erfahren die Teilnehmenden, wie sie verschiedene Methoden für Apache Spark-Datenrahmen zum Untersuchen und Transformieren von Daten in Azure Databricks verwenden. Die Kursteilnehmer:innen lernen, wie sie Standardmethoden für Datenrahmen zur Untersuchung und Transformation von Daten ausführen können. Sie lernen auch, wie man erweiterte Aufgaben ausführen, z. B. doppelte Daten entfernen, Datums- – Zeitwerte bearbeiten, Spalten umbenennen und Daten aggregieren kann.


Lektionen


  • Beschreiben von Azure Databricks
  • Lesen und Schreiben von Daten in Azure Databricks
  • Arbeiten mit DataFrames in Azure Databricks
  • Arbeiten mit erweiterten Methoden für Dataframes in Azure Databricks


Lab: Datenuntersuchung und -transformation in Azure Databricks


  • Verwenden von Datenrahmen in Azure Databricks zum Untersuchen und Filtern von Daten
  • Zwischenspeichern eines Datenrahmens für schnellere nachfolgende Abfragen
  • Entfernen doppelt vorhandener Daten
  • Bearbeiten von Datums-/Uhrzeitwerten
  • Entfernen und Umbenennen von Datenrahmenspalten
  • Aggregieren von in einem Datenrahmen gespeicherten Daten


 


Modul 4: Untersuchen, Transformieren und Laden von Daten im Data Warehouse mithilfe von Apache Spark


In diesem Modul erfahren die Teilnehmer:innen, wie sie in einem Data Lake gespeicherte Daten untersuchen, transformieren und in einen relationalen Datenspeicher laden. Die Kursteilnehmer:innen werden Parkett- und JSON-Dateien untersuchen und Techniken verwenden, um JSON-Dateien mit hierarchischen Strukturen abzufragen und zu transformieren. Anschließend werden die Kursteilnehmer:innen Apache Spark verwenden, um Daten in das Data Warehouse zu laden und Parquet-Daten im Data Lake mit Daten im dedizierten SQL-Pool zu verbinden.


Lektionen


  • Grundlegendes zu Big-Data-Entwicklung mit Apache Spark in Azure Synapse Analytics
  • Erfassen von Daten mit Apache Spark-Notebooks in Azure Synapse Analytics
  • Transformieren von Daten mit Dataframes in Apache Spark-Pools in Azure Synapse Analytics
  • Integrieren von SQL- und Apache Spark-Pools in Azure Synapse Analytics


Lab: Untersuchen, Transformieren und Laden von Daten im Data Warehouse mithilfe von Apache Spark


  • Durchführen der Datenuntersuchung in Synapse Studio
  • Erfassen von Daten mit Spark-Notebooks in Azure Synapse Analytics
  • Transformieren von Daten mit Datenrahmen in Spark-Pools in Azure Synapse Analytics
  • Integrieren von SQL- und Spark-Pools in Azure Synapse Analytics


 


Modul 5: Erfassen und Laden von Daten im Data Warehouse


In diesem Modul lernen die Kursteilnehmer:innen, wie sie Daten mithilfe von T-SQL-Skripts und Synapse Analytics-Integrationspipelines im Data Warehouse erfassen. Die Kursteilnehmer:innen lernen, wie sie Daten mit PolyBase und COPY unter Verwendung von T-SQL in dedizierte Synapse-SQL-Pools laden. Darüber hinaus erfahren die Kursteilnehmer:innen, wie sie die Workloadverwaltung zusammen mit einer Copy-Aktivität in einer Azure Synapse-Pipeline für die Datenerfassung im Petabytebereich verwenden.


Lektionen


  • Verwenden von bewährten Methoden zum Laden von Daten in Azure Synapse Analytics
  • Datenerfassung im Petabytebereich mit Azure Data Factory
  • Lab: Erfassen und Laden von Daten im Data Warehouse
  • Ausführen der Erfassen im Petabytebereich mit Azure Synapse-Pipelines
  • Importieren von Daten mit PolyBase und COPY unter Verwendung von T-SQL
  • Verwenden von bewährten Methoden zum Laden von Daten in Azure Synapse Analytics


 


Modul 6: Transformieren von Daten mit Azure Data Factory oder Azure Synapse-Pipelines


In diesem Modul lernen die Kursteilnehmer:innen, wie sie Datenintegrationspipelines erstellen, um Daten aus mehreren Datenquellen zu erfassen, Daten mithilfe von Zuordnungsdatenflüssen zu transformieren und Daten in eine oder mehrere Datensenken zu verschieben.


Lektionen


  • Datenintegration mit Azure Data Factory oder Azure Synapse-Pipelines
  • Transformation ohne Code im großen Stil mit Azure Data Factory oder Azure Synapse-Pipelines
  • Lab: Transformieren von Daten mit Azure Data Factory oder Azure Synapse-Pipelines
  • Ausführen von Transformationen ohne Code im großen Stil mit Azure Synapse-Pipelines
  • Erstellen einer Datenpipeline zum Importieren schlecht formatierter CSV-Dateien
  • Erstellen von Zuordnungsdatenflüssen


 


Modul 7: Orchestrieren der Datenverschiebung und -transformation in Azure Synapse-Pipelines


In diesem Modul erfahren die Teilnehmenden, wie sie verknüpfte Dienste erstellen und die Datenverschiebung und -transformation mithilfe von Notebooks in Azure Synapse-Pipelines orchestrieren.


Lektionen


  • Orchestrieren der Datenverschiebung und -transformation in Azure Data Factory


Lab: Orchestrieren der Datenverschiebung und -transformation in Azure Synapse-Pipelines


  • Integrieren von Daten aus Notebooks mit Azure Data Factory oder Azure Synapse-Pipelines


 


Modul 8: End-to-End-Sicherheit mit Azure Synapse Analytics


In diesem Modul erfahren die Kursteilnehmer:innen, wie sie einen Synapse Analytics-Arbeitsbereich und die zugehörige unterstützende Infrastruktur schützen. Die Kursteilnehmer:innen werden den SQL Active Directory-Administrator beobachten, IP-Firewall-Regeln verwalten, Geheimnisse mit Azure Key Vault verwalten und über einen mit Key Vault verknüpften Dienst und Pipelineaktivitäten auf diese Geheimnisse zugreifen. Die Kursteilnehmer:innen lernen, wie sie Sicherheit auf Spaltenebene, Sicherheit auf Zeilenebene und dynamische Datenmaskierung bei Verwendung von dedizierten SQL-Pools implementieren.


Lektionen


  • Schützen einer Data Warehouse-Datenbank in Azure Synapse Analytics
  • Konfigurieren und Verwalten von Geheimnissen in Azure Key Vault
  • Implementieren von Compliancekontrollen für vertrauliche Daten


Lab: End-to-End-Sicherheit mit Azure Synapse Analytics


  • Schützen der unterstützenden Azure Synapse Analytics-Infrastruktur
  • Schützen des Azure Synapse Analytics-Arbeitsbereichs und der verwalteten Dienste
  • Schützen der Daten im Azure Synapse Analytics-Arbeitsbereich


 


Modul 9: Unterstützen von Hybrid Transactional Analytical Processing (HTAP) mit Azure Synapse Link


In diesem Modul erfahren die Kursteilnehmer:innen, wie Azure Synapse Link die nahtlose Konnektivität eines Azure Cosmos DB-Kontos mit einem Synapse-Arbeitsbereich ermöglicht. Die Teilnehmer:innen lernen, wie sie Synapse Link aktivieren und konfigurieren und wie sie anschließend den Azure-Cosmos-DB-Analysespeicher mithilfe von Apache Spark und serverlosen SQL-Pools abfragen.


Lektionen


  • Entwerfen der hybriden transaktionalen und analytischen Verarbeitung mithilfe von Azure Synapse Analytics
  • Konfigurieren von Azure Synapse Link mit Azure Cosmos DB
  • Abfragen von Azure Cosmos DB mit Apache Spark-Pools
  • Abfragen von Azure Cosmos DB mit serverlosen SQL-Pools


Lab: Unterstützen von Hybrid Transactional Analytical Processing (HTAP) mit Azure Synapse Link


  • Konfigurieren von Azure Synapse Link mit Azure Cosmos DB
  • Abfragen von Azure Cosmos DB mit Apache Spark für Azure Synapse Analytics
  • Abfragen von Azure Cosmos DB mit serverlosem SQL-Pool für Azure Synapse Analytics


 


Modul 10: Streamverarbeitung in Echtzeit mit Stream Analytics


In diesem Modul erfahren die Kursteilnehmer:innen, wie Streamingdaten mit Azure Stream Analytics verarbeitet werden. Die Kursteilnehmer:innen erfassen Fahrzeugtelemetriedaten in Event Hubs und verarbeiten diese Daten dann in Echtzeit mithilfe verschiedener Fensterfunktionen in Azure Stream Analytics. Die Daten werden in Azure Synapse Analytics ausgegeben. Schließlich lernen die Kursteilnehmer:innen, wie sie den Stream Analytics-Auftrag skalieren, um den Durchsatz zu erhöhen.


Lektionen


  • Aktivieren von zuverlässigem Messaging für Big Data-Anwendungen mithilfe von Azure Event Hubs
  • Arbeiten mit Datenströmen mithilfe von Azure Stream Analytics
  • Erfassen von Datenströmen mit Azure Stream Analytics


Lab: Streamverarbeitung in Echtzeit mit Stream Analytics


  • Verwenden von Stream Analytics zum Verarbeiten von Echtzeitdaten aus Event Hubs
  • Verwenden von Stream Analytics-Fensterfunktionen zur Erstellung von Aggregaten und zur Ausgabe in Synapse Analytics
  • Skalieren des Azure Stream Analytics-Auftrags, um den Durchsatz durch Partitionierung zu erhöhen
  • Neupartitionieren der Streameingabe zur Optimierung der Parallelisierung


 


Modul 11: Erstellen einer Streamverarbeitungslösung mit Event Hubs und Azure Databricks


In diesem Modul erfahren die Kursteilnehmer:innen, wie Streamingdaten im großen Stil mit Event Hubs und Spark Structured Streaming in Azure Databricks erfasst und verarbeitet werden. Die Kursteilnehmer:innen lernen die wichtigsten Funktionen und Einsatzmöglichkeiten von Structured Streaming kennen. Die Teilnehmer:innen implementieren Schiebefenster, um Datenblöcke zu aggregieren und wenden Wasserzeichen an, um veraltete Daten zu entfernen. Schließlich stellen die Kursteilnehmer:innen eine Verbindung mit Event Hubs her, um Streams zu lesen und zu schreiben.


Lektionen


  • Verarbeiten von Streamingdaten mit Structured Streaming in Azure Databricks


Lab: Erstellen einer Streamverarbeitungslösung mit Event Hubs und Azure Databricks


  • Erkunden der wichtigsten Features und Verwendungsmöglichkeiten von Structured Streaming
  • Streamen von Daten aus einer Datei und Schreiben dieser Daten in ein verteiltes Dateisystem
  • Verwenden von gleitenden Fenstern, um Datenblöcke anstelle aller Daten zu aggregieren
  • Anwenden von Wasserzeichen zum Entfernen veralteter Daten
  • Herstellen einer Verbindung mit Lese- und Schreibstreams für Event Hubs
Dauer/zeitlicher Ablauf:
3 Tage
Ziele/Bildungsabschluss:
  • Erkunden von Rechen- und Speicheroptionen für Data-Engineering-Workloads in Azure
  • Entwurf und Implementierung der Serving-Schicht
  • Verstehen von Überlegungen zur Datentechnik
  • Interaktive Abfragen mit serverlosen SQL-Pools ausführen
  • Erforschen, Transformieren und Laden von Daten in das Data Warehouse mit Apache Spark
  • Durchführen von Datenexploration und -transformation in Azure Databricks
  • Einlesen und Laden von Daten in das Data Warehouse
  • Transformieren von Daten mit Azure Data Factory oder Azure Synapse Pipelines
  • Integrieren von Daten aus Notebooks mit Azure Data Factory oder Azure Synapse Pipelines
  • Optimieren der Abfrageleistung mit Dedicated SQL Pools in Azure Synapse
  • Analysieren und Optimieren der Data-Warehouse-Speicherung
  • Unterstützen hybrider transaktionaler analytischer Verarbeitung (HTAP) mit Azure Synapse
  • Durchführen von End-to-End-Sicherheit mit Azure Synapse Analytics
  • Durchführen von Stream Processing in Echtzeit mit Stream Analytics
  • Erstellen einer Stream-Processing-Lösung mit Event Hubs und Azure Databricks
  • Erstellen von Berichten mithilfe der Power-BI-Integration mit Azure Synapse Analytics
  • Durchführen integrierter Machine-Learning-Prozesse in Azure Synapse Analytics

Dieses intensive Training bereitet dich vor auf:
Prüfung:  «D P-203: Data Engineering on Microsoft Azure» für die
Zertifizierung:  «Microsoft Certified: Azure Data Engineer Associate»

Zielgruppe:

Die primäre Zielgruppe für diesen Kurs sind Datenexpert:innen, Datenarchitekt:innen und Business-Intelligence-Expert:innen, die etwas über Data Engineering und den Aufbau analytischer Lösungen mit Datenplattform-Technologien auf Microsoft Azure lernen möchten. Die sekundäre Zielgruppe für diesen Kurs sind Datenanalyst:innen und Datenwissenschaftler:innen, die mit analytischen Lösungen arbeiten, die auf Microsoft Azure aufgebaut sind.

Anforderungen

Erfolgreiche Teilnehmer:innen beginnen diesen Kurs mit Kenntnissen über Cloud Computing und Kerndatenkonzepte sowie Berufserfahrung mit Datenlösungen.

Empfohlen wird das im folgenden Kurs erlangte Grundwissen:

  • Microsoft Azure Data Fundamentals
Seminarkennung:
33788
Nach unten
Nach oben
Wir setzen Analyse-Cookies ein, um Ihre Zufriedenheit bei der Nutzung unserer Webseite zu verbessern. Diese Cookies werden nicht automatisiert gesetzt. Wenn Sie mit dem Einsatz dieser Cookies einverstanden sind, klicken Sie bitte auf Akzeptieren. Weitere Informationen finden Sie hier.
Akzeptieren Nicht akzeptieren









Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha



Bei der Verarbeitung Ihrer personenbezogenen Daten im Zusammenhang mit der Kontaktfunktion beachten wir die gesetzlichen Bestimmungen. Unsere ausführlichen Datenschutzinformationen finden Sie hier. Bei der Kontakt-Funktion erhobene Daten werden nur an den jeweiligen Anbieter weitergeleitet und sind nötig, damit der Anbieter auf Ihr Anliegen reagieren kann.







Um Spam abzuwehren, geben Sie bitte die Buchstaben auf dem Bild in das Textfeld ein:

captcha