Leçon — Spark SQL et DataFrames : schéma, requêtes et partitionnement

12 min

Durée 45 min · Jour 1 · Formation Spark 4 & Machine Learning · Leçon de fond · Fil rouge : les courses de taxis jaunes de New York

Le kit du labo, à télécharger avant tout : https://github.com/hrhouma2/formation-spark-ml

bash
git clone https://github.com/hrhouma2/formation-spark-ml.git lab-spark
cd lab-spark
ls data            # trips.csv (12 Mo), trips.parquet (3,3 Mo), taxi_zone_lookup.csv

Le top 10 en 5 lignes au lieu de 20

Au TP 2, tu as calculé le top 10 des zones à la main : textFile, split, deux map, reduceByKey, join. Vingt lignes, une erreur de type possible à chaque virgule. Le TP 4, lui, le fait en une requête SQL :

sql
SELECT z.Zone, z.Borough, ROUND(SUM(t.total_amount), 2) AS ca, COUNT(*) AS courses
FROM trips t JOIN zones z ON t.PULocationID = z.LocationID
GROUP BY z.Zone, z.Borough
ORDER BY ca DESC LIMIT 10

Aperçu — la suite de la leçon est réservée aux inscrits.

Déjà inscrit avec un code ?

Votre accès est rattaché à votre compte, pas à ce lien. Connectez-vous avec le même courriel qu'en classe : votre cours vous attend, inutile de ré-entrer le code.

Se connecterPas encore de compte ? En créer un
Cette leçon fait partie du module « Jour 1 — Comprendre et utiliser Spark 4 »

Les premiers modules du cours sont en accès libre. Pour la suite, trois possibilités : acheter ce cours une fois pour toutes, vous abonner pour tout ouvrir, ou entrer le code si vous suivez le cours en classe.

Vous êtes étudiant du cours ?

Le code se rattache à votre compte : connectez-vous ou créez un compte, il sera validé automatiquement au retour.

Pas encore de compte ? En créer un