Phare : logo phirio Phirio  : apprendre à apprendre

Phare : logo phiriopuzzle pour les serious games Phirio

Phare : logo phirioDataCenter de Phirio

Phare : logo phirioIllustration des Serious Games Phirio

PrecedentSuivant
  • Formations
    • Catalogue
    • Cloud
    • Big Data
    • Applicatif
    • DataScience
    • Infrastructures
    • Accompagnement
    • Sur mesure
  • Cheat sheets & labs
    • Présentation des technologies
    • Le Laboratoire
    • Blockchain
    • Big Data
    • Liens utiles
  • Informations pratiques
    • Phirio Team
    • Prestations
    • Qualité
    • Centre de formation
    • Nos références
  • Contact
    • Plan d'accès
    • Contact post-formation
    • Recrutement
    • Demande d'informations
  1. Vous êtes ici : Accueil
  2. Informations
  3. Labo data

Projet Big Data

Objectif

Réalisation d'un système de traitement de données de type "Big Data" sur un cluster « mobile »

Matériel

  • 16 Odroids
  • 16 disques SSD 220G
  • Switch réseau, 1Gb/s par Odroid
  • 5V-60A par Odroid

La ferme est hébergée dans des cubes en plexiglass transparent pour être visible de l'extérieur. Des ventilateurs la refroidissent en permanence.

Contraintes

  • Données distribuées
  • Calculs distribués
  • Resistance aux pannes
  • Calculs rapides
deux cubes odroids

Mise en oeuvre technique

Les Odroids

  • Modèle: HC1
  • 8 coeurs à 2 GHz
  • Processeur ARM
  • Ventilation externe et contrôle de la température
  • Linux + JVM pour Spark et Cassandra

Supervision

Les données sont remontées du cluster via SSH et JMX, puis affichées sur une console de supervision.

Données utilisées

Les données utilisées pour la démonstration sont les informations concernant les positions de satellites au cours du temps fournies par le NORAD.

Elles sont importées brutes dans un lac primaire de données Cassandra, puis transformées pour être rangées en tables métiers suivant les besoins. Les calculs sont réalisés dessus par Spark au bout de la chaîne de traitement.

Stockage

  • Base de données Cassandra
  • Stockage clé-valeur
  • La clé détermine la machine de stockage
  • Pas de noeud "master"
  • Réplication automatique des données
Ecran de contrôle

Calculs distribués

Avec Spark:

  • Un master et N workers
  • Les opérations classiques sont effecutées: filter, map, reduce



quelques une de nos réalisations

Phirio

+33 1 55 33 52 10
info@phirio.fr

Plus de 30 ans d'expertise

Formations

  • Calendrier
  • Présentations de technologies
  • Plan d'accès
  • Contact
Data Docklogo Data Dock
logo Qualiopi
La certification qualité a été délivrée par Proneo Certification au titre de la catégorie d'action suivante : ACTIONS DE FORMATION.

2025 Phirio Paris
Protection des données personnelles
Mentions légales et crédits
Conditions générales de vente