Parcours et Compétences pour Devenir Data Engineer
Objectif final
Concevoir, construire et maintenir des systemes de traitement de donnees (pipelines, bases de
donnees, infrastructures Big Data, etc.).
Parcours etapes
1. Fondations techniques (0-2 mois)
- Python (ou Scala/Java)
- Commandes Linux/Unix
- SQL (langage de requete sur les bases de donnees)
2. Bases de donnees (2-4 mois)
- Bases relationnelles : PostgreSQL, MySQL
- Bases NoSQL : MongoDB, Cassandra
- Modelisation de donnees
3. Traitement des donnees (4-6 mois)
- Manipulation avec Pandas
- Automatiser avec Python + cron jobs
- ETL : traitement fichiers CSV, JSON, API
4. Stockage et pipelines Big Data (6-9 mois)
- Apache Airflow
- Spark (Big Data distribue)
- Hadoop (optionnel)
- Kafka, Flink (temps reel, avance)
5. Cloud et DevOps (9-12 mois)
- Docker
- AWS/GCP/Azure : S3, Redshift, Glue
- Infrastructure as code : Terraform (optionnel)
6. Projets pratiques + Portfolio
- Airflow : pipeline meteo
- Kafka + Spark : transactions bancaires
- Projet cloud : S3 -> Glue -> Redshift
Competences cles du Data Engineer
- Langages : Python, SQL, Bash
- BDD : PostgreSQL, MongoDB
- Traitement : Pandas, Spark, Airflow
- Cloud : AWS, GCP
- DevOps : Docker, Git
- APIs, JSON, ETL