Bases de données documentaires et distribuées

Contents:

• 1. Introduction
  • Sujet du cours
  • Contenu et objectifs du cours
  • Organisation
• 2. Préliminaires: Docker
  • Docker en quelques mots
    • Docker et ses conteneurs
    • Les images Docker
  • Docker en ligne de commande
    • Lancement de la Docker VM (Mac OS, Windows)
    • Notre première image
    • Gérer mon conteneur
    • Exercices
  • Installons MySQL
    • Choisir une image et l’instancier
    • Accéder à mon serveur MySQL
    • Exercices
  • Kitematic
    • Installer un nouveau conteneur
    • Gestion d’un conteneur
    • Exercices
• 3. Modélisation de bases NoSQL
  • S1: documents structurés
    • Représentation de documents structurés
    • Les documents sont des graphes
    • Abrégé de la syntaxe JSON
    • Exercices
  • S2. Modélisation
    • Conception d’une base relationnelle
    • Conception NoSQL avec documents structurés
    • Ma conclusion: Relationnel ou NoSQL?
    • Exercices
  • S3: Cassandra, une base relationelle étendue
    • Installation
    • Le modèle de données
    • Paires clé/valeur (columns) et documents (rows)
    • Les tables (column families)
    • Bases (Keyspaces)
    • Conception d’un schéma
    • Créons notre base
    • Exercices
  • S4: MongoDB, une base JSON
    • Installation de MongoDB
    • Création de notre base
    • Exercices
  • Quiz
• 4. Interrogation de bases NoSQL
  • S1: HTTP, REST, et CouchDB
    • Web = ressources + URL + HTTP
    • L’architecture REST
    • L’API REST de CouchDB
    • Exercices
  • S2: requêtes Cassandra
    • CQL, un sous-ensemble de SQL
    • Pourquoi CQL n’est pas SQL
    • Exercices
  • S3: requêtes avec MongoDB
    • Sélections
    • Jointures
    • Exercices
• 5. Complément: Bases XML
  • S1: codage en XML
    • Introduction à XML
    • Formalisme XML
    • Exercices
  • S2: XPath, trouver son chemin XML
    • Un exemple commenté
    • Formalisme XPath
    • Tests et prédicats
    • Exercices
  • S3: une pincée de XQuery
    • Valeurs et construction de valeurs: let et return
    • Séquences: la clause for
    • Filtrons et trions: les clauses where et order
    • Résumons: le pouvoir des FLOWR
    • Exercices
  • S4: BaseX, une base XML
    • L’interface graphique de BaseX
    • Bases de données et collection
    • Exploration interactive
    • Interrogation, recherche
    • Autres documents
    • Exercices
    • Travaux pratiques XPath
• 6. MapReduce, premiers pas
  • S1: MapReduce démystifié
    • Un jus de pomme MapReduce
    • Beaucoup de jus de pomme
    • Jus de fruits MapReduce
    • Le modèle MapReduce
    • Concevoir un traitement MapReduce
    • Exercices
  • S2: Frameworks MapReduce: MongoDB
    • Frameworks MapReduce
    • Mon premier traitement MapReduce/MongoDB
    • Jointures avec MapReduce
    • Exercices
  • S3: MapReduce et CouchB
    • La notion de vue dans CouchDB
    • Les fonctions Map et Reduce
    • Exercices
• 7. Cassandra - Travaux Pratiques
  • Partie 1: Approche relationnelle
    • Création de la base de données
    • Interrogation
  • Partie 2: modélisation spécifique NoSQL
    • Premier besoin
    • Second besoin
    • Bonus
• 8. MongoDB - Travaux Pratiques
  • Manipulation de base
    • Gestion de collection
    • Interrogation simple
    • Indexation (optionnel)
  • Pratique de Map/Reduce
    • Quelques rappels
    • Mappez et réducez
  • Bonus / Pour aller plus loin
    • Mises à jour
    • Indexation 2Dsphere
• 9. Introduction à la recherche d’information
  • S1: les principes
    • Qu’est ce que la recherche d’information
    • Exercices
  • S2: la pratique: MongoDB/ElasticSearch
    • Mise en place d’ElasticSearch
    • Synchronisation avec MongoDB
    • Bases documentaires et moteur de recherche
  • S3: la pratique: requêtes booléennes
    • Le langage de base
    • Termes
    • Connecteurs booléens
    • Exercices
  • Quiz
• 10. Solr, un moteur de recherche
  • S1: installation, mise en route
    • Installation
    • Insertion de documents
    • Interroger un index avec Solr
    • Exercices
  • S2: construisons notre moteur de recherche
    • Le schéma de l’index
    • Consulter l’index
    • Exercices
  • S3: L’analyse de documents avec Solr
    • Tokenisation et normalisation
    • Stemming (racine), lemmatization
    • Mots vides et autres filtres
    • Les analyseurs Solr
    • Tester votre configuration
    • Exercices
• 11. Recherche avec classement
  • S1: recherche avec classement
    • Notions de base: espace métrique, distance et similarité
    • Application à la recherche plein texte
    • Exercices
  • S2: recherche plein texte
    • Le poids des mots
    • La similarité cosinus
    • Exercices
  • S3: l’algorithme PageRank
    • Exercices
  • S4: Classement avec Solr
    • Mise en place de la base
    • Comprendre le classement Solr
    • Regroupements (clustering)
    • Exercices
  • Quiz
• 12. Recherche d’Information - Travaux Pratiques
  • Modèles d’indexation textuel
    • Modèle Booléen
    • Modèle vecteur
  • Création d’un index
    • La conception de l’index
    • Création du core Solr
    • Interrogation
  • Recherche par similarité
    • Produit Scalaire
  • PageRank
    • Chaîne de Markov
    • Pertinence du contenu d’une page Web
• 13. Le cloud, une nouvelle machine de calcul
  • S1: cloud et données massives
    • Vision générale
    • Systèmes distribués
    • Le NoSQL
    • Exercices
  • S2: La scalabilité
    • Une définition
    • Exemple: comptons les documents
    • Autre exemple: cherchons les doublons
    • Quelques conclusions
    • Exercices
  • S3: anatomie d’une grappe de serveurs
    • La hiérarchie des mémoires
    • Performances
    • Le principe de localité des données
    • Quelques conclusions
    • Exercices
  • Quiz
• 14. Systèmes NoSQL: la réplication
  • S1: réplication et reprise sur panne
    • La réplication, pourquoi
    • La réplication, comment
    • Cohérence des données
    • Réplication et reprise sur panne
    • Culture: le théorème CAP
    • Exercices
  • S2: réplication dans MongoDB
    • Les replica set
    • La reprise sur panne dans MongoDB
    • À l’action: créons notre replica set
    • Testons la reprise sur panne
    • Exercices
  • S3: ElasticSearch
    • Installation
    • Reprise sur panne
    • Exercices
  • S4: SolrCloud
    • L’architecture SolrCloud
    • ZooKeeper
    • Création de la grappe SolrCloud
    • Création de collection
    • Exercices
  • Quiz
• 15. Systèmes NoSQL: le partitionnement
  • S1: les bases
    • Principes généraux
    • Et en distribué ?
    • Etude de cas: ElasticSearch
    • Exercices
  • S2: partitionnement par intervalle
    • Structures et opérations
    • Etude de cas: MongoDB
    • Exercices
  • S3: partitionnement par hachage
    • Structure et opérations
    • Le hachage cohérent (consistent hashing)
  • S4: Cassandra en mode distribué
    • Le Hash-Ring
    • Routage des requêtes
    • La réplication
    • Ecriture et cohérence des données
    • Lecture et cohérence des données
    • Utilisation des snitches : Gossip
    • Mise en pratique
    • Cassandra & données massives
    • Exercices
  • Quiz
• 16. Calcul distribué: Hadoop et MapReduce
  • S1: MapReduce
    • Le principe de localité des données
    • Exécution distribuée d’un traitement MapReduce
    • La reprise sur panne
    • Exercices
  • S2: HDFS, le stockage distribué avec Hadoop
    • Systèmes de fichiers distribués
    • Architecture
    • Tolérance aux pannes
    • Mise en œuvre avec Hadoop
  • S3: MapReduce, le calcul distribué avec Hadoop
    • Installation et configuration
    • Notre programme MapReduce
    • Compilation, exécution
  • S4: langages de traitement: Pig
    • Une session illustrative
    • Les opérateurs
    • Exercices
  • Quiz
• 17. Traitement de données massives avec Apache Spark
  • S2: Introduction à Spark
    • Les RDDs dans Spark
    • Exemple: analyse de fichiers log
    • Reprise sur panne
    • Une session Spark: comptons les mots!
  • Quiz
• 18. Traitement de flux massifs avec Apache Flink
  • S1: Apache Flink
    • Architecture applicative
    • Architecture système
    • Tolérance aux pannes
    • Prise en mains de Flink
  • S2: l’API de streaming Flink
    • Modèle de données et de programmation
    • Les transformations
    • Quelques exemples
    • Exercices
  • S3: Le fenêtrage
    • Définition d’une fenêtre
    • Opérations sur les fenêtres
    • Quelques exemples
    • Exercices
  • S4: un hackathon sur la gestion de flux de données
• 19. Pig : Travaux pratiques
  • Première partie : analyse de flux multiples
  • Deuxième partie : analyse de requêtes
    • Aparté sur l’utilisation de Pig
    • Première analyse
    • Aller plus loin
• 20. Projets NFE204
  • Les étapes
  • Les données
  • Le système NoSQL
  • Le rapport
• 21. Anatomie d’un système NoSQL: CouchBase
  • Installation
  • Architecture
    • Le gestionnaire de données
    • Interrogation
  • Données JSON et import
    • La source de données
    • Description du document
    • Création du jeu de données
    • Automatisation des exports et intégration
    • Insertion des données JSON
    • Requêtes sur la base
    • Exploiter les données sous forme de carte GPS
  • Le système de vues
    • La phase de Reduce
    • Nombre d’accidents mortels par quartiers
    • Etude et discussion des résultats
  • Indexation Elasticsearch
    • Installation Elasticsearch
    • Réplication
    • Requêtes de recherche par l’interface
    • Etude et discussion des résultats
    • Mapping Elasticsearch
    • Création d’un analyseur
    • Annexes
• 22. Annales des examens
  • Examen du 3 février 2015
    • Première partie : recherche d’information (8 pts)
    • Seconde partie : Pig et MapReduce (6 pts)
    • Troisième partie : questions de cours (6 pts)
  • Examen du 14 avril 2015
    • Première partie : recherche d’information (8 pts)
    • Seconde partie : Pig et MapReduce (6 pts)
    • Troisième partie : questions de cours (6 pts)
  • Examen du 15 juin 2015
    • Première partie : documents structurés (6 pts)
    • Deuxième partie : recherche d’information (6 pts)
    • Troisième partie : MapReduce (4 pts)
    • Quatrième partie : questions de cours (6 pts)
  • Examen du 1er juillet 2016 (FOD)
    • Exercice corrigé: documents structurés et MapReduce (8 pts)
    • Question 3: MapReduce et la notion de document “autonome”
    • Question 4: MapReduce, outil de restructuration/regroupement
    • Question 5: MapReduce = group-by SQL
• 23. Références et liens
  • Les MOOC

Indices and tables

• Index
• Page de recherche