Ci-dessous, les différences entre deux révisions de la page.
Les deux révisions précédentes Révision précédente Prochaine révision | Révision précédente | ||
site:enseignement:master:bdle:tmes:tme3-scala [11/10/2017 11:36] amine |
site:enseignement:master:bdle:tmes:tme3-scala [01/10/2018 12:39] (Version actuelle) amine |
||
---|---|---|---|
Ligne 1: | Ligne 1: | ||
- | {{indexmenu_n>2}} | + | {{indexmenu_n>20}} |
- | ====== [TME II-1] Introduction à Scala ====== | + | ====== [Pré-requis] Introduction à Scala ====== |
- | **Remarque générale :** Le cours ne peut être //self-contained// --> consulter la documentation en ligne de Spark. | + | **Remarque générale :** Le cours ne peut être //self-contained// --> consulter la documentation en ligne de [[https://spark.apache.org/docs/2.1.1/api/scala/index.html#package|Spark]]. |
- | + | ===== Exercice 1 ===== | |
- | ===== Exercice 0 ===== | + | |
Cet exercice illustre les différentes structures de contrôle de Scala présentées en cours. Il permet de comprendre | Cet exercice illustre les différentes structures de contrôle de Scala présentées en cours. Il permet de comprendre | ||
le paradigme fonctionnel : **seules les fonctions //map, reduce, flatten, filter, flatMap// sont autorisées**. | le paradigme fonctionnel : **seules les fonctions //map, reduce, flatten, filter, flatMap// sont autorisées**. | ||
+ | |||
+ | Lancer le spark-shell en mode local ([[spark|voir Doc]]). | ||
+ | Répondre aux questions ci-dessous. | ||
==== Question 1 ==== | ==== Question 1 ==== | ||
Ligne 19: | Ligne 21: | ||
</code> | </code> | ||
- | <showif isloggedin> | ||
**Réponse** | **Réponse** | ||
<code scala> | <code scala> | ||
Ligne 26: | Ligne 27: | ||
def moyEntiers(in: List[Int])={val p = in.map(e=>(1,e)).reduce((a,b)=>(a._1+b._1, a._2+b._2)); p._2/p._1} | def moyEntiers(in: List[Int])={val p = in.map(e=>(1,e)).reduce((a,b)=>(a._1+b._1, a._2+b._2)); p._2/p._1} | ||
</code> | </code> | ||
- | </showif> | ||
==== Question 2 ==== | ==== Question 2 ==== | ||
Ligne 40: | Ligne 40: | ||
Bien entendu, il faudra faire les transformations et les conversions de type nécessaires! | Bien entendu, il faudra faire les transformations et les conversions de type nécessaires! | ||
- | <showif isloggedin> | ||
**Réponse** | **Réponse** | ||
<code scala> | <code scala> | ||
Ligne 47: | Ligne 46: | ||
moyEntiers(temp2009) | moyEntiers(temp2009) | ||
</code> | </code> | ||
- | </showif> | ||
Ligne 64: | Ligne 62: | ||
- | <showif isloggedin> | ||
**Réponse** | **Réponse** | ||
<code scala> | <code scala> | ||
Ligne 70: | Ligne 67: | ||
val films = melange.map(_.split(",")).filter(_(0).toInt<=100).map(x=>(x(0).toInt,x(1), x(2))) | val films = melange.map(_.split(",")).filter(_(0).toInt<=100).map(x=>(x(0).toInt,x(1), x(2))) | ||
</code> | </code> | ||
- | </showif> | ||
==== Question 4 ==== | ==== Question 4 ==== | ||
Ligne 94: | Ligne 90: | ||
- | <showif isloggedin> | ||
**Réponse** | **Réponse** | ||
<code scala> | <code scala> | ||
Ligne 102: | Ligne 97: | ||
val classes_personnes = personnes.map(x=> x match { case(a,"ens",b) =>new Ens(a,b); case(a, "etu", b) =>new Etu(a,b); case _=>None}).filter(_!=None) | val classes_personnes = personnes.map(x=> x match { case(a,"ens",b) =>new Ens(a,b); case(a, "etu", b) =>new Etu(a,b); case _=>None}).filter(_!=None) | ||
</code> | </code> | ||
- | </showif> | ||
- | ===== Exercice 1 : Spark ===== | + | ===== Exercice 2 ===== |
Commencer par copier et décompresser dans votre espace de travail le fichier | Commencer par copier et décompresser dans votre espace de travail le fichier | ||
Ligne 140: | Ligne 134: | ||
+ | **Réponse** | ||
+ | <code scala> | ||
+ | //1. Extraire dans une variable appelée listEnt le 4e champ de chaque élément de data. | ||
+ | val q1 = data.map(x=>x.split(" ")).map(x=>x(3).toDouble) | ||
- | ===== Exercice subsidiaire ===== | + | //2. Construire à partir de q1 une liste contenant les nombres compris strictement entre 1000 et 1300 puis convertir en type entier. |
- | ==== Conversion d'un objet List en un objet Map ==== | + | val q2 = q1.filter(x=> x>1000 && x<1300 )map(x=>x.toInt) |
- | Expliquer l'expression | + | |
- | <code scala> | + | |
- | val x = List(("ALice",22), ("Bob",20), ("Charles",22)).toMap | + | |
- | val x = List((22, "ALice"), (20, "Bob"), (22, "Charles")).toMap | ||
- | </code> | + | //. Construire à partir de q2 une liste contenant les multiples de 3 et l’appeler q33. Faire |
+ | val q33 = q2.filter(x=>x%3==0) | ||
+ | val q39 = q2.filter(x=>x%9==0) | ||
- | ==== Illustration du flatMap ==== | + | //4. Construire une liste obtenue en divisant par 10 chaque élément de q33. |
- | Expliquer la différence entre les expressions map et flatMap suivantes : | + | val q4 = q33.map(x=>x/10) |
- | <code scala> | + | //5. Construire à partir de q4 un ensemble d’éléments (liste sans doublons). |
- | val x = List(1, 2, 3).map(x => List(x, 10*x, 100*x) | + | |
- | val x = List(1, 2, 3).flatMap(x => List(x, 10*x, 100*x)) | + | |
- | val y = List(List((1, 11), (1, 111)), List((2, 22), (2, 222))).map(x => x) | + | val q5 = q4.distinct |
- | val y = List(List((1, 11), (1, 111)), List((2, 22), (2, 222))).flatMap(x => x) | + | |
- | </code> | ||
- | <code scala> | + | //6. Construire à partir de q2 une liste contenant ses qui sont multiples de 3 et de 9 à la fois. Utiliser impérativement q33 et q39. |
- | val ys = Map("a" -> List(1 -> 11, 1 -> 111), "b" -> List(2 -> 222, 2 -> 22)).flatMap(_._1) | + | |
- | </code> | + | |
- | Attention, le flatMap appliqué sur une Map retourne une Map. Pour garantir l'unicité de la clé seules la dernière occurence d'une paire (k,v) est conservée. | + | val q6 = q33.intersection(q39) |
- | <code scala> | + | |
- | val ys = Map("a" -> List(1 -> 11, 1 -> 111), "b" -> List(2 -> 222, 2 -> 22)).flatMap(_._2) | + | |
- | </code> | + | |
- | La fonction passée en paramêtre au flatMap doit retourner une séquence. Ici une chaine de caractère est considérée implicitment comme une séquence de caractères. | ||
- | <code scala> | ||
- | val pers = Array( (1,"pierre"), (5,"alice"), (4, "paul")) | ||
- | val v = pers.flatMap(x=>x._2) | ||
- | val v = pers.flatMap{ case(numéro, prénom) =>prénom) | ||
+ | //7. Construire à partir de q2 une liste contenant ses éléments qui sont multiples de 3 mais pas de 9. Utiliser impérativement q33 et q39. | ||
+ | |||
+ | val q7 = q33.subtract(q39) | ||
+ | |||
+ | //8. Construire à partir de q2 une liste contenant ses éléments qui sont multiples de 3 ou de 10. | ||
+ | |||
+ | val q8 = q33.union(q2.filter(x=>x%3==0)) | ||
+ | |||
+ | //9. Calculer la somme, la moyenne, le minium ainsi que le maximum des éléments de q8. | ||
+ | |||
+ | val q9sum = q8.map(x=>x.toDouble).reduce(_+_) | ||
+ | |||
+ | val q9max = q8.map(x=>x.toDouble).reduce((x,y)=>if (x > y) x else y) | ||
+ | |||
+ | val q9min = q8.map(x=>x.toDouble).reduce((x,y)=>if (x < y) x else y) | ||
+ | |||
+ | val q9avg = q8.map(x=>(x,1)).reduce((x,y)=>(x._1+y._1,x._2+y._2)) | ||
+ | |||
+ | q9avg._1/q9avg._2 | ||
</code> | </code> | ||
- | ==== Composition de Map ==== | ||
- | En considérant la variable pers de la question précédente, expliquer le résultat des instructions suivantes | ||
- | * pers.flatMap(x=>(x._2) map(y=>y)) | ||
- | * pers.flatMap(x=>(x._2) map(y=>x._1)) | ||
- | * pers.flatMap(x=>(x._2) map(y=>x._2)) | ||
- | et expliquer pourquoi les deux instructions suivantes sont erronées | ||
- | * pers.flatMap(x=>(x._1) map(y=>y)) | ||
- | * pers.flatMap(x=>(x._2) map(y=>y._1))) |