DATA ENGINEER CONFIRME

Description de la mission

DATA ENGINEER CONFIRME

Contexte

Besoin de renforcer l’équipe pluridisciplinaire data dédiée. Cette équipe est composée d’un product owner, un data steward et un data ingénieur.

Le stack technique est principalement constituée de Python, Spark, SQL, dbt, BigQuery et Airflow pour l’orchestration des traitements. La stack inclut aussi d’autres services de la Google Cloud Platform.

 Missions :

En interaction avec les membres de l’équipe, la prestation consiste à :  

· Construire et maintenir de pipelines data robustes et scalables 

· Contribuer à la montée en compétence des profils junior de l’équipe 

· Accompagner les membres de l’équipe dans l’exploitation et le requêtage des données

· Organiser et structurer le stockage des données 

· Mettre en place et maintenir des infrastructures scalables capable de répondre aux besoins et à l’accroissement rapide du volume de données 

· Participer aux initiatives de gouvernance des données en assurant la qualité, la fiabilité et l’intégrité des données 

· Construire et maintenir les workflows de la CI/CD centrés données Collaborer avec les autres data ingénieurs pour appliquer les bonnes pratiques en vigueur,  

· Participer à la guilde des data ingénieurs 

· Assurer l’évolutivité, la sécurité, la stabilité des environnements 

· Contribuer et veiller à la mise à jour de la documentation 

· Faire de la veille technologique active dans le domaine

· Participer activement aux différentes phases de cadrage, de planification et de réalisation des tâches avec l’équipe

 PROFIL

Expertises requises pour réaliser la prestation :

Pour mener à bien la prestation, le prestataire devra maitriser les expertises suivantes :

· Au moins 3 ans d’expérience dans un environnement data 

· Compétences solides en data : structures de données, code, architecture 

· Connaissance de l’un des Cloud Provider Public : de préférence GCP 

· Une bonne maîtrise des langages Python et SQL est indispensable 

· Expérience en Spark recommandée 

· La connaissance de dbt est un plus 

· Expertises dans la mise en place de pipeline ETL / ELT  

· Bonnes connaissances de Gitlab et Gitlab CI/CD Capacité à

· Vulgariser et à communiquer sur des aspects purement techniques 

· Pratique des méthodes Agile : de préférence Scrum ou Kanban)