Formation MS Azure

MS Azure : l’ingénierie des données

à distance

Dans cette formation, les participants découvriront les modèles et les pratiques d’ingénierie des données dans le cadre de solutions analytiques en temps réel et par lots utilisant les technologies de la plate-forme de données Azure. Les participants apprendront à explorer de manière interactive les données stockées dans des fichiers dans un centre de données. Ils apprendront également les différentes techniques d’ingestion qui peuvent être utilisées pour charger des données à l’aide de la fonctionnalité Apache Spark présente dans Azure Synapse Analytics ou Azure Databricks, ou comment ingérer des données à l’aide d’Azure Data Factory ou des pipelines Azure Synapse.

icon Contenu

Étudier les options de calcul et de stockage pour les charges de travail en ingénierie des données

  • Introduction à Azure Synapse Analytics
  • Décrire Azure Databricks
  • Introduction au stockage Azure Data Lake
  • Décrire l’architecture Delta Lake
  • Travailler avec des flux de données en utilisant Azure Stream Analytics
  • Travaux pratiques :
    • Combiner le traitement en continu et le traitement par lots avec un seul pipeline
    • Organisez les étendues de données en niveaux de transformation de fichiers
    • Indexez le stockage des étendues de données pour accélérer les requêtes et les charges de travail

Concevoir et mettre en œuvre la couche de services

  • Conception d’un schéma multidimensionnel pour optimiser les charges de travail analytiques
  • Transformation sans code à l’échelle avec Azure Data Factory
  • Alimentation des dimensions à évolution progressive dans les pipelines Azure Synapse Analytics
  • Travaux pratiques :
    • Conception d’un schéma en étoile pour les charges de travail analytiques
    • Remplissage de dimensions à évolution progressive avec Azure Data Factory et mappage des flux de données

Les aspects d’ingénierie des données pour les fichiers sources

  • Concevoir un entrepôt de données moderne avec Azure Synapse Analytics
  • Sécuriser un entrepôt de données dans Azure Synapse Analytics
  • Travaux pratiques :
    • Gestion des fichiers dans une étendue de données Azure
    • Sécurisation des fichiers stockés dans une étendue de données Azure

Exécution de requêtes interactives à l’aide des pools SQL sans serveur Azure Synapse Analytics

  • Explorez les capacités des pools SQL sans serveur Azure Synapse
  • Interroger les données d’une étendue à l’aide des pools SQL sans serveur Azure Synapse
  • Créer des objets de métadonnées dans les pools SQL sans serveur Azure Synapse
  • Sécurisation des données et gestion des utilisateurs dans les pools SQL sans serveur Azure Synapse
  • Travaux pratiques :
    • Créer des tables externes pour les fichiers et CSV
    • Créer des vues avec des pools SQL sans serveur
    • Sécuriser l’accès aux données dans une étendue de données en utilisant des pools SQL sans serveur
    • Configurer la sécurité d’une étendue de données en utilisant le contrôle d’accès basé sur les rôles (RBAC) et la liste de contrôle d’accès

Explorer, transformer et charger des données dans le magasin de données à l’aide d’Apache Spark

  • Comprendre l’ingénierie du big data avec Apache Spark dans Azure Synapse Analytics
  • Ingérer des données avec Apache Spark notebooks dans Azure Synapse Analytics
  • Transformer les données avec DataFrames dans les pools Apache Spark dans Azure Synapse Analytics
  • Intégrer des pools SQL et Apache Spark dans Azure Synapse Analytics
  • Travaux pratiques :
    • Exploration des données dans Synapse Studio
    • Ingérer des données avec Spark notebooks dans Azure Synapse Analytics
    • Transformer les données avec DataFrames dans les pools Spark dans Azure Synapse Analytics
    • Intégrer des pools SQL et Spark dans Azure Synapse Analytics

Exploration et transformation des données dans Azure Databricks

  • Décrire Azure Databricks
  • Lire et écrire des données dans Azure Databricks
  • Travailler avec des DataFrames dans Azure Databricks
  • Travailler avec les méthodes avancées des DataFrames dans Azure Databricks
  • Travaux pratiques :
    • Utiliser les DataFrames dans Azure Databricks pour explorer et filtrer les données
    • Mettre en cache un DataFrame pour accélérer les requêtes ultérieures
    • Supprimez les données en double
    • Manipulation des valeurs de date et d’heure
    • Supprimer et renommer des colonnes de DataFrame
    • Agrégation des données stockées dans un DataFrame

Ingérer et charger les données dans l’entrepôt de données

  • Utiliser les meilleures pratiques de chargement de données dans Azure Synapse Analytics
  • Ingestion à l’échelle du pétaoctet avec Azure Data Factory
  • Travaux pratiques :
    • Effectuer une ingestion à l’échelle du pétaoctet avec Azure Synapse Pipelines
    • Importez des données avec PolyBase et COPY en utilisant T-SQL
    • Utilisez les meilleures pratiques de chargement de données dans Azure Synapse Analytics

Transformer les données avec Azure Data Factory ou Azure Synapse Pipelines

  • Intégration des données avec Azure Data Factory ou Azure Synapse Pipelines
  • Transformation sans code à l’échelle avec Azure Data Factory ou Azure Synapse Pipelines
  • Travaux pratiques :
    • Exécuter des transformations sans code à l’échelle avec Azure Synapse Pipelines
    • Créer un pipeline de données pour importer des fichiers CSV mal formatés
    • Créer des flux de données mappés

Orchestrer le déplacement et la transformation des données dans Azure Synapse Pipelines

  • Orchestrer le transport et la transformation des données dans Azure Data Factory
  • Travaux pratiques : Intégrer les données des Notebooks avec Azure Data Factory ou Azure Synapse Pipelines

Optimiser les performances des requêtes avec des pools SQL dédiés dans Azure Synapse

  • Optimiser les performances des requêtes d’entrepôt de données dans Azure Synapse Analytics
  • Comprendre les fonctions de développement d’entrepôt de données d’Azure Synapse Analytics
  • Travaux pratiques :
    • Comprendre les fonctions de développement d’Azure Synapse Analytics
    • Optimiser les performances des requêtes de l’entrepôt de données dans Azure Synapse Analytics
    • Améliorer les performances des requêtes

Analyser et optimiser le stockage de l’entrepôt de données

  • Analyser et optimiser le stockage de l’entrepôt de données dans Azure Synapse Analytics
  • Travaux pratiques :
    • Vérifiez si les données et l’utilisation de l’espace sont faussées
    • Comprendre les détails du stockage des colonnes
    • Étudiez l’impact des vues matérialisées
    • Explorez les règles pour les opérations à journalisation minimale

Prise en charge du traitement analytique transactionnel hybride (HTAP) avec Azure Synapse Link

  • Concevoir un traitement hybride transactionnel et analytique à l’aide d’Azure Synapse Analytics
  • Configurer Azure Synapse Link avec Azure Cosmos DB
  • Interroger Azure Cosmos DB avec des pools Apache Spark
  • Interroger Azure Cosmos DB avec des pools SQL sans serveur
  • Travaux pratiques :
    • Configurer Azure Synapse Link avec Azure Cosmos DB
    • Interroger la base de données Azure Cosmos avec Apache Spark pour Synapse Analytics
    • Interroger Azure Cosmos DB avec un pool SQL sans serveur pour Azure Synapse Analytics

Sécurité de bout en bout avec Azure Synapse Analytics

  • Sécuriser un entrepôt de données dans Azure Synapse Analytics
  • Configurer et gérer les secrets dans Azure Key Vault
  • Mettre en œuvre des contrôles de conformité pour les données sensibles
  • Travaux pratiques :
    • Sécuriser l’infrastructure de support d’Azure Synapse Analytics
    • Sécurisation de l’espace de travail et des services gérés d’Azure Synapse Analytics
    • Sécuriser les données de l’espace de travail Azure Synapse Analytics

Traitement des flux en temps réel avec Stream Analytics

  • Assurer une messagerie fiable pour les applications Big Data à l’aide d’Azure Event Hubs
  • Travailler avec des flux de données à l’aide d’Azure Stream Analytics
  • Ingérer des flux de données avec Azure Stream Analytics
  • Travaux pratiques :
    • Utiliser Stream Analytics pour traiter les données en temps réel provenant des Event Hubs
    • Utilisez les fonctions de fenêtrage de Stream Analytics pour créer des agrégats et les transmettre à Synapse Analytics
    • Faites évoluer le job Azure Stream Analytics pour augmenter le débit grâce au partitionnement
    • Répartir l’entrée du flux pour optimiser la parallélisation

Créer une solution de traitement des flux avec Event Hubs et Azure Databricks

  • Traiter les données en continu avec le streaming structuré d’Azure Databricks
  • Travaux pratiques :
    • Explorer les principales caractéristiques et utilisations du streaming structuré
    • Traiter des données en continu à partir d’un fichier et les écrire sur un système de fichiers distribué
    • Utiliser des fenêtres glissantes pour agréger des morceaux de données plutôt que toutes les données
    • Appliquer le filigrane pour supprimer les données périmées
    • Connexion aux flux de lecture et d’écriture des Event Hubs

Créer des rapports en utilisant l’intégration de Power BI avec Azure Synpase Analytics

  • Créer des rapports avec Power BI en utilisant son intégration avec Azure Synapse Analytics
  • Travaux pratiques :
    • Intégrer un espace de travail Azure Synapse et Power BI
    • Optimiser l’intégration avec Power BI
    • Améliorer les performances des requêtes avec les vues matérialisées et la mise en cache des ensembles de résultats
    • Visualisation des données avec SQL serverless et création d’un rapport Power BI

Exécuter des processus d’apprentissage automatique intégrés dans Azure Synapse Analytics

  • Utiliser le processus d’apprentissage automatique intégré dans Azure Synapse Analytics
  • Travaux pratiques :
    • Créez un service lié à Azure Machine Learning
    • Déclencher une expérience d’apprentissage automatique à l’aide de données provenant d’une table Spark
    • Enrichir les données à l’aide de modèles formés
    • Servir les résultats de prédiction à l’aide de Power BI

icon Compétences visées

  • Explorer les options de calcul et de stockage pour les charges de travail en matière d’ingénierie des données dans Azure
  • Explorer, transformer et charger des données dans l’entrepôt de données à l’aide d’Apache Spark
  • Effectuer l’exploration et la transformation des données dans Azure Databricks
  • Transformer les données avec Azure Data Factory ou Azure Synapse Pipelines
  • Optimiser les performances des requêtes avec des pools SQL dédiés dans Azure Synapse
  • Prendre en charge le traitement analytique transactionnel hybride (HTAP) avec Azure Synapse Link
  • Assurer la sécurité de bout en bout avec Azure Synapse Analytics
  • Effectuez un traitement de flux en temps réel avec Stream Analytics
  • Créer des rapports à l’aide de l’intégration Power BI avec Azure Synpase Analytics
  • Exécuter des processus d’apprentissage automatique intégrés dans Azure Synapse Analytics

icon Méthodologie

Depuis votre domicile ou votre entreprise. Vous rejoignez un environnement de formation en ligne, à l’aide de votre ordinateur, tout en étant éloigné physiquement du formateur et des autres participants. Vous êtes en totale immersion avec le groupe et participez à la formation dans les mêmes conditions que le présentiel.

En début et en fin de formation, les stagiaires réalisent une auto-évaluation de leurs connaissances et compétences en lien avec les objectifs de la formation. L’écart entre les deux évaluations permet ainsi de mesurer leurs acquis.

icon Public & Prérequis

Cette formation s’adresse aux professionnels des données, architectes de données et professionnels de la veille stratégique qui souhaitent se familiariser avec l’ingénierie des données et la création de solutions analytiques à l’aide des technologies de plateforme de données qui existent sur Microsoft Azure. Sont également concernés les analystes de données et les scientifiques de données qui travaillent avec des solutions analytiques construites sur Microsoft Azure.

Prérequis : Il est recommandé d’avoir suivi en préalable la formation Microsoft Azure : notions fondamentales.

icon Titre obtenu

Vous recevez une attestation de suivi de cours CPI Formations à la fin de cette formation.

Intervenant

Formateur

Intervenant de la formation

Professionnel de l'informatique et de la pédagogie
Formateur

Intervenant de la formation

Professionnel de l'informatique et de la pédagogie

La formation est animée par un professionnel de l’informatique et de la pédagogie, dont les compétences techniques, professionnelles et pédagogiques ont été validées par des certifications et/ou testées et approuvées par les éditeurs et/ou notre équipe pédagogique. Il est en veille technologique permanente et possède plusieurs années d’expérience sur les produits, technologies et méthodes enseignés. Il est présent auprès des stagiaires pendant toute la durée de la formation.

Prochaine session

icon Dates

icon Prix

icon Lieu

Dates
02/11/2021 – 05/11/2021
inscriptions ouvertes
28 périodes de 60 minutes (4 jours de formation)

⌚ Horaire : 9h00 – 17h30

Prix
CHF 2'590
Lieu
À distance
Détails

icon Planifiez votre propre session.

Vous êtes une entreprise ? Vous êtes un particulier ? Nous nous tenons à votre disposition pour étudier la mise en place d'une formation sur mesure adaptée à vos besoins.

Plus d'informations link icon

MS Azure : l’ingénierie des données

Questions et pré-inscription

Claudia vous conseille et répond à vos questions sur ce cours

026 305 27 64 link icon
claudia.magne@cpi.ch link icon