Bases de Données / Databases

Site Web de l'équipe BD du LIP6 / LIP6 DB Web Site

Outils pour utilisateurs

Outils du site


site:enseignement:master:bdle:annales

Ceci est une ancienne révision du document !


Recueil d'examens

Partie MR et Spark

Novembre 2017

Exercice 2 : Algèbre Dataset de Spark

Données
n1,p1,m1
m1,p2,n2
n2,p3,n1
n2,p4,m1
n3,p1,n2
n1,isa,t1
n3,isa,t1
m1,isa,t2
m2,isa,tt3
Requêtes
//preparation
case class Triple(sujet: String, prop: String, objet: String)
val triples = sc.textFile(someFile).
  map(ligne => ligne.split(",")).
  map(tab => Triple(tab(0), tab(1), tab(2))).toDS()

//Retourner le nombre de circuits (cycles) de longueur 3, ie les motifs de la forme x → y → z → x

val t1 = triples.withColumnRenamed("sujet","x").withColumnRenamed("objet","y").select("x","y")

val t2 = triples.withColumnRenamed("sujet","y").withColumnRenamed("objet","z").select("y","z")

val t3 = triples.withColumnRenamed("sujet","z").withColumnRenamed("objet","x1").select("z","x1")

val res = t1.join(t2, "y").join(t3, "z").where("x=x1")


//On étend l’ensemble de triplets avec des triplets de la forme n, isA, t indiquant que le noeud n a le type t. Pour simplifier, chaque n a un seul type t.

//Retourner les arcs p communs à au moins deux triplets n, p, n′ et m, p, m′ tels que n et m ont le même type tandis que n′ et m′ ont deux types distincts.

val t_types = triples.where("prop='isa'").select("sujet", "objet")

val t_m = triples.where("prop!='isa'").withColumnRenamed("objet", "mp").withColumnRenamed("sujet","m")

val t_n = triples.where("prop!='isa'").withColumnRenamed("objet", "np").withColumnRenamed("sujet","n")

val t_res = t_m.join(t_n, "prop").where("n<m").
join(t_types.withColumnRenamed("sujet", "m"), "m").
join(t_types.withColumnRenamed("sujet","n").withColumnRenamed("objet","o"),"n").where("objet=o").select("prop", "np","mp").
join(t_types.withColumnRenamed("sujet","mp"), "mp").
join(t_types.withColumnRenamed("sujet","np").withColumnRenamed("objet", "o"),"np").where("objet!=o")
site/enseignement/master/bdle/annales.1542834352.txt.gz · Dernière modification: 21/11/2018 22:05 par amine