Data Engineer / AI Engineer (IT) / Freelance
Onyx-Conseil
Job Description
Intro
Nous recherchons pour lâun de nos clients, un grand groupe du secteur de lâĂ©nergie, un profil Data Engineer / AI Engineer confirmĂ© Ă senior afin dâintervenir sur un projet interne de Data Marketplace.
Contexte de la mission
La plateforme est une Data Marketplace interne destinĂ©e aux collaborateurs du groupe. Elle centralise plusieurs usages autour de la data: Data Discovery, Data Quality, Data Governance, Data Transformation, Pipelines Monitoring, BI Hub, ainsi que des fonctionnalitĂ©s avancĂ©es liĂ©es Ă lâintelligence artificielle.
La plateforme a dĂ©jĂ Ă©tĂ© dĂ©ployĂ©e auprĂšs dâune centaine dâutilisateurs en 2025. Lâobjectif est dĂ©sormais dâamĂ©liorer lâexpĂ©rience utilisateur, dâenrichir les fonctionnalitĂ©s existantes et dâaccompagner le dĂ©ploiement progressif de la solution auprĂšs dâenviron 8 000 collaborateurs dans 19 pays entre 2026 et 2028.
Le consultant rejoindra lâĂ©quipe Produit afin de renforcer lâexcellence technique de la marketplace et contribuer au dĂ©veloppement de flux de donnĂ©es robustes, scalables et performants.
Mission principale
Le Data Engineer / AI Engineer aura pour mission de concevoir, dĂ©velopper, industrialiser et maintenir des flux de donnĂ©es basĂ©s principalement sur des composants AWS, avec une dimension importante autour de la qualitĂ© des donnĂ©es, de la performance applicative et de lâindustrialisation.
Il interviendra sur des problĂ©matiques de dĂ©veloppement data, dâarchitecture back-end modulaire, dâintĂ©gration de donnĂ©es, de data quality et dâautomatisation des traitements.
Responsabilités
- Développer et maintenir des fonctionnalités complexes en Python et Scala.
- Concevoir et faire évoluer une architecture back-end modulaire, scalable et réutilisable.
- Développer des workflows data intégrant plusieurs couches de traitement et des contrÎles qualité.
- Mettre en place et optimiser des flux de données complexes.
- Améliorer la performance des ingestions : temps de chargement, qualité, retry, fiabilité.
- Travailler sur des composants AWS tels que Lambda, Glue, Redshift, Step Functions, DynamoDB.
- Intervenir également sur certains services Azure comme Azure Functions ou Cosmos DB.
- Consommer, intégrer et challenger des API REST complexes.
- Participer aux revues de code, aux rituels agiles et aux choix dâarchitecture.
- Garantir la qualité, la maintenabilité et la documentation des développements.
- Collaborer avec le Product Owner, les équipes data, produit, sécurité et techniques.
Compétences techniques attendues
Data Engineering :
- Python
- Scala
- SQL
- Spark
- Kafka
- Kinesis
- EventHub
- Event Grid
- Workflows data multi-couches
- Data Quality
- API REST
Cloud :
- AWS avancé : Lambda, Glue, Redshift, Step Functions, DynamoDB
- Azure : Azure Functions, Cosmos DB
- Environnements cloud ou hybrides
DevOps / Industrialisation :
- Git
- CI/CD
- Tests automatisés
- Bonnes pratiques de Clean Code
- Documentation technique
IA / Frameworks appréciés :
- LangChain
- LangGraph
- Frameworks AI