Bases de données documentaires et distribuées

Contents:

• 1. Introduction
  • Sujet du cours
  • Contenu et objectifs du cours
  • Organisation
• 2. Préliminaires: Docker
  • Docker en quelques mots
    • Docker et ses conteneurs
    • Les images Docker
  • Docker en ligne de commande
    • Lancement de la Docker VM (Mac OS, Windows)
    • Notre première image
    • Gérer mon conteneur
    • Quiz
  • Installons MySQL
    • Choisir une image et l’instancier
    • Accéder à mon serveur MySQL
  • Kitematic
    • Installer un nouveau conteneur
    • Gestion d’un conteneur
    • Exercices
• 3. Modélisation de bases NoSQL
  • S1: documents structurés
    • Représentation de documents structurés
    • Les documents sont des graphes
    • Abrégé de la syntaxe JSON
    • Exercices
  • S2. Modélisation
    • Conception d’une base relationnelle
    • Conception NoSQL avec documents structurés
    • Ma conclusion: Relationnel ou NoSQL?
    • Exercices
  • S3: Cassandra, une base relationnelle étendue
    • Installation
    • Le modèle de données
    • Paires clé/valeur (columns) et documents (rows)
    • Les tables (column families)
    • Bases (Keyspaces)
    • Conception d’un schéma
    • Créons notre base
    • Exercices
  • S4: MongoDB, une base JSON
    • Installation de MongoDB
    • Création de notre base
    • Exercices
  • Quiz
  • Exercices
• 4. Interrogation de bases NoSQL
  • S1: HTTP, REST, et CouchDB
    • Web = ressources + URL + HTTP
    • L’architecture REST
    • L’API REST de CouchDB
    • Exercices
  • S2: requêtes Cassandra
    • CQL, un sous-ensemble de SQL
    • Pourquoi CQL n’est pas SQL
    • Exercices
  • S3: requêtes avec MongoDB
    • Sélections
    • Jointures
    • Exercices
• 5. MapReduce, premiers pas
  • S1: MapReduce démystifié
    • Un jus de pomme MapReduce
    • Beaucoup de jus de pomme
    • Jus de fruits MapReduce
    • Le modèle MapReduce
    • Concevoir un traitement MapReduce
    • Exercices
  • S2: Frameworks MapReduce: MongoDB
    • Frameworks MapReduce
    • Mon premier traitement MapReduce/MongoDB
    • Jointures avec MapReduce
    • Exercices
  • S3: MapReduce et CouchB
    • La notion de vue dans CouchDB
    • Les fonctions Map et Reduce
    • Exercices
• 6. Cassandra - Travaux Pratiques
  • Partie 1: Approche relationnelle
    • Création de la base de données
    • Interrogation
  • Partie 2: modélisation spécifique NoSQL
    • Premier besoin
    • Second besoin
    • Bonus
• 7. MongoDB - Travaux Pratiques
  • Manipulation de base
    • Gestion de collection
    • Interrogation simple
    • Indexation (optionnel)
  • Pratique de Map/Reduce
    • Commandes pour retrouver l’environnement de travail complet
    • Quelques rappels
    • Mappez et réducez
  • Bonus / Pour aller plus loin
    • Mises à jour
    • Indexation 2Dsphere
• 8. Introduction à la recherche d’information
  • S1: les principes
    • Qu’est ce que la recherche d’information
    • Précision et rappel
    • La recherche plein texte
    • Les index inversés
    • Opérations de recherche
    • Exercices
  • S2: Bases documentaires et moteur de recherche
    • Architecture du système d’information avec un moteur de recherche
    • Mise en place d’ElasticSearch
    • Exercices
  • S3: la pratique: requêtes booléennes
    • Le langage de base
    • Termes
    • Connecteurs booléens
    • Exercices
  • Quiz
• 9. Recherche d’information : l’indexation
  • S1: L’analyse de documents
    • Tokenisation et normalisation
    • Stemming (racine), lemmatisation
    • Mots vides et autres filtres
  • S2: L’indexation dans ElasticSearch
    • Le schéma
    • Analyse avec ElasticSearch
    • Une chaîne d’analyse personnalisée avec Elasticsearch
    • Conclusion
    • Exercices
• 10. Recherche avec classement
  • S1: recherche avec classement
    • Notions de base: espace métrique, distance et similarité
    • Application à la recherche plein texte
    • Exercices
  • S2: recherche plein texte
    • Le poids des mots
    • La similarité cosinus
    • Exercices
  • S3: l’algorithme PageRank
    • Un cas simple
    • Généralisons
    • Le vrai score de Google
    • Exercices
  • Implémenter le classement dans un moteur de recherche
• 11. Recherche d’Information - TP ElasticSearch
  • Mise en place d’ElasticSearch
    • Installation du jeu de données
    • Les documents
  • Interrogation
  • Agrégats
  • Bonus : Agrégats via mapping spécifique
• 12. Recherche d’Information - TP ElasticSearch : pertinence
  • Elasticsearch et la pertinence
    • Une première notion de score
    • Boosting
  • À vous de jouer
• 13. Le cloud, une nouvelle machine de calcul
  • S1: cloud et données massives
    • Vision générale
    • Systèmes distribués
    • Les systèmes de stockage distrobués, dits NoSQL
    • Les systèmes de calcul distribués
    • Exercices
  • S2: La scalabilité
    • Une définition
    • Exemple: comptons les documents
    • Autre exemple: cherchons les doublons
    • Quelques conclusions
    • Exercices
  • S3: anatomie d’une grappe de serveurs
    • La hiérarchie des mémoires
    • Performances
    • Le principe de localité des données
    • Quelques conclusions
    • Exercices
  • Quiz
• 14. Systèmes NoSQL: la réplication
  • S1: réplication et reprise sur panne
    • La réplication, pourquoi
    • La réplication, comment
    • Cohérence des données
    • Réplication et reprise sur panne
    • Culture: le théorème CAP
    • Exercices
  • S2: réplication dans MongoDB
    • Les replica set
    • La reprise sur panne dans MongoDB
    • À l’action: créons notre replica set
    • Testons la reprise sur panne
    • Exercices
  • S3: ElasticSearch
    • Installation
    • Reprise sur panne
    • Exercices
  • S4: Cassandra
    • Ecriture et cohérence des données
    • Lecture et cohérence des données
    • Mise en pratique
  • Quiz
• 15. Systèmes NoSQL: le partitionnement
  • S1: les bases
    • Principes généraux
    • Et en distribué ?
    • Etude de cas: ElasticSearch
    • Exercices
  • S2: partitionnement par intervalle
    • Structures et opérations
    • Etude de cas: MongoDB
    • Exercices
  • S3: partitionnement par hachage
    • Structure et opérations
    • Le hachage cohérent (consistent hashing)
    • Cassandra en mode distribué
    • Exercices
  • Quiz
• 16. Calcul distribué: Hadoop et MapReduce
  • S1: MapReduce
    • Le principe de localité des données
    • Exécution distribuée d’un traitement MapReduce
    • La reprise sur panne
    • Exercices
  • S2: Une brève introduction à Hadoop
    • Systèmes de fichiers distribués
    • Architecture HDFS
    • Mise en œuvre avec Hadoop
    • MapReduce, le calcul distribué avec Hadoop
  • S3: langages de traitement: Pig
    • Une session illustrative
    • Les opérateurs
    • Exercices
  • Quiz
• 17. Traitement de données massives avec Apache Spark
  • S1: Introduction à Spark
    • Les Resilient Data Sets
    • Exemple: analyse de fichiers log
    • Reprise sur panne
    • Dataset et Dataframe
  • S2: Spark en pratique
    • Transformations et actions
    • L’interface de contrôle Spark
    • Exercices
  • S3: Traitement de données structurées avec Cassandra et Spark
    • Préliminaires
    • Traitements basés sur les Datasets
    • Exercices
  • Quiz
• 18. Traitement de flux massifs avec Apache Flink
  • S1: Apache Flink
    • Architecture applicative
    • Architecture système
    • Tolérance aux pannes
    • Prise en mains de Flink
  • S2: l’API de streaming Flink
    • Modèle de données et de programmation
    • Les transformations
    • Quelques exemples
    • Exercices
  • S3: Le fenêtrage
    • Définition d’une fenêtre
    • Opérations sur les fenêtres
    • Quelques exemples
    • Exercices
• 19. Pig : Travaux pratiques
  • Première partie : analyse de flux multiples
  • Deuxième partie : analyse de requêtes
    • Aparté sur l’utilisation de Pig
    • Première analyse
    • Aller plus loin
• 20. Hackathon NFE204
  • Sujet 1: gestion de flux Twitter, avec Kafka/Spark
    • Architecture
    • Tâches et compétences
  • Sujet 2: réalisation d’une BlockChain avec un système NoSQL
• 21. Projets NFE204
  • Les étapes
  • Les données
  • Le système NoSQL
  • Le rapport
• 22. Annexe: Bases XML
  • S1: codage en XML
    • Introduction à XML
    • Formalisme XML
    • Exercices
  • S2: XPath, trouver son chemin XML
    • Un exemple commenté
    • Formalisme XPath
    • Tests et prédicats
    • Exercices
  • S3: une pincée de XQuery
    • Valeurs et construction de valeurs: let et return
    • Séquences: la clause for
    • Filtrons et trions: les clauses where et order
    • Résumons: le pouvoir des FLOWR
    • Exercices
  • S4: BaseX, une base XML
    • L’interface graphique de BaseX
    • Bases de données et collection
    • Exploration interactive
    • Interrogation, recherche
    • Autres documents
    • Exercices
    • Travaux pratiques XPath
• 23. Annexe: CouchBase
  • Installation
  • Architecture
    • Le gestionnaire de données
    • Interrogation
  • Données JSON et import
    • La source de données
    • Description du document
    • Création du jeu de données
    • Automatisation des exports et intégration
    • Insertion des données JSON
    • Requêtes sur la base
    • Exploiter les données sous forme de carte GPS
  • Le système de vues
    • La phase de Reduce
    • Nombre d’accidents mortels par quartiers
    • Etude et discussion des résultats
  • Indexation Elasticsearch
    • Installation Elasticsearch
    • Réplication
    • Requêtes de recherche par l’interface
    • Etude et discussion des résultats
    • Mapping Elasticsearch
    • Création d’un analyseur
    • Annexes
• 24. Annexe: Présentation de Redis
  • Le client Redis
    • Structures de données
    • 2 – Interfaces graphiques
    • 3 – Jeu de données
    • 4 – Problématique d’importation des données
    • 5 – Mise en place du serveur Redis avec Docker et importation des données
  • II – Réplication et passage à l’échelle
    • 1 – Réplication
    • 2 – Reprise sur panne avec Sentinel
    • 3 – Partitionnement avec Redis Cluster
    • a – Mise en place du cluster
    • b – Importation de données dans le cluster
    • c – Resharding du cluster
    • d – Ajout et suppression de nœuds
    • e – Limitations
    • f – Disponibilité et communication entre les nœuds
  • III – Quelques utilisations possibles de Redis
    • 1 – Redis comme système de cache
    • 2 – Redis comme système de compteur de valeurs uniques
    • 3 – Redis comme agent de messages (message broker)
    • 4 – Redis et les traitements analytiques
  • Le mot de la fin
• 25. Annexe: Solr, un moteur de recherche
  • S1: installation, mise en route
    • Installation
    • Insertion de documents
    • Interroger un index avec Solr
    • Exercices
  • S2: construisons notre moteur de recherche
    • Le schéma de l’index
    • Consulter l’index
    • Exercices
  • S3: L’analyse de documents avec Solr
    • Tokenisation et normalisation
    • Stemming (racine), lemmatization
    • Mots vides et autres filtres
    • Les analyseurs Solr
    • Tester votre configuration
    • Exercices
  • S4: Classement avec Solr
    • Mise en place de la base
    • Comprendre le classement Solr
    • Regroupements (clustering)
    • Exercices
  • Quiz
• 26. Annales des examens
  • Examen du 3 février 2015
    • Première partie : recherche d’information (8 pts)
    • Seconde partie : Pig et MapReduce (6 pts)
    • Troisième partie : questions de cours (6 pts)
  • Examen du 14 avril 2015
    • Première partie : recherche d’information (8 pts)
    • Seconde partie : Pig et MapReduce (6 pts)
    • Troisième partie : questions de cours (6 pts)
  • Examen du 15 juin 2015
    • Première partie : documents structurés (6 pts)
    • Deuxième partie : recherche d’information (6 pts)
    • Troisième partie : MapReduce (4 pts)
    • Quatrième partie : questions de cours (6 pts)
  • Examen du 1er juillet 2016 (FOD)
    • Exercice corrigé: documents structurés et MapReduce (8 pts)
    • Question 1: documents et base relationnelle
    • Question 2: restructuration de documents
    • Question 3: MapReduce et la notion de document “autonome”
    • Question 4: MapReduce, outil de restructuration/regroupement
    • Question 5: MapReduce = group-by SQL
  • Examen du 1er février 2017 (Présentiel)
    • Première partie : documents structurés (5 pts)
    • Deuxième partie : recherche d’information (4 pts)
    • Troisième partie : systèmes distribués (3 pts)
    • Quatrième partie : MapReduce (4 pts)
    • Cinquième partie : questions de cours (4 pts)
  • Examen du 6 février 2018 (Présentiel)
    • Première partie : modélisation NoSQL (7 pts)
    • Deuxième partie : recherche d’information (5 pts)
    • Troisième partie : Comprendre MapReduce tu devras (5 pts)
• 27. Références et liens
  • Les MOOC

Indices and tables

• Index
• Page de recherche