Data science: Lessons & advice

Hicham Janati
hjanati@[Link]
 Les ingrédients d’une bonne entreprise data:

Les m chines et outils

Un pl n d’ rchitecte:
Les lgorithmes IA et l puiss nce de
C’est le problème résoudre, votre c lcul.. Gr nd spectre d’ lgorithmes en
vision, votre but derrière le projet. terme de complexité, et d’infr structure
Augmenter les ventes de 5%. Anticiper requise. Le choix des lgorithmes se f it selon
les p nnes 48 heures plus tôt. le problème et les données disponibles.

L m tière première:
M in d’oeuvre
Les données. L qu ntité des données
L’équipe d t science. Avoir un
dépend de ce que vous construisez:
m n ger et des collègues compétents
elle ne doit p s nécess irement être très
et complément ires.
gr nde. Leur qu lité est essentielle.

Environnement
Tr nsform tion digit le. Sur le pl n
technique (gestion des données) et
hum in (form tion, pprentiss ge..)

2
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
à
a
a
a
a
a
a
a
a
a
a
a
a
 Les ingrédients d’une bonne entreprise data:

Les m
Un pl n d’ rchitecte:
Les
C’est le problème résoudre, votre
vision, votre but derrière le projet.
Augmenter les ventes de 5%. Anticiper
les p nnes 48 heures plus tôt.

L
M
Les données. L
L’équipe d

Environnement
Tr

3
a
a
a
a
a
a
a
a
à
a
a
“Ne pas plani ier, c’est plani ier l’échec”

4
f
f
 La méthodologie CRISP-DM

“Cross-Industry Standard Process for Data Mining”

1. Dé inir le problème avec des critères de réussite.

2. Collecter les données nécessaires
3. Nettoyer, préparer et visualiser les données.
4. Appliquer les méthodes statistiques / IA
5. Évaluer les modèles par rapport aux critères de réussite.
6. Publier les résultats / déployer le modèle

5
f
 Étude de c s :

Vous êtes un gr nd groupe ph rm ceutique. Vous souh itez développer un outil IA qui prédit le
chi re d’ ires de ch cun de vos points de vente. Le but de cette prédiction est d’expliquer les
f cteurs qui ont tend nce ugmenter les ventes in de recomm nder vos points de vente des
ctions pour optimiser leur stocks in de m ximiser le pro it. On suppose que toutes les données
nécess ires sont disponibles (historique des ventes, gestion stocks etc).

Repérez en moins deux r isons d’échec de ce projet

6
a
a
ff
a
a
ff
a
a
a
a
a
a
à
a
a
a
a
f
a
a
f
a
f
a
à
 La méthodologie CRISP-DM

“Cross-Industry Standard Process for Data Mining”

1. Dé inir le problème avec des critères de réussite.

2. Collecter les données nécessaires
3. Nettoyer, préparer et visualiser les données.
4. Appliquer les méthodes statistiques / IA
5. Évaluer les modèles par rapport aux critères de réussite.
6. Publier les résultats / déployer le modèle

7
f
 La méthodologie CRISP-DM

“Cross-Industry Standard Process for Data Mining”

1. Dé inir le problème avec des critères de réussite.

2. Collecter les données nécessaires
3. Nettoyer, préparer et visualiser les données.
4. Appliquer les méthodes statistiques / IA
5. Évaluer les modèles par rapport aux critères de réussite.
6. Publier les résultats / déployer le modèle

8
f
 La méthodologie CRISP-DM

“Cross-Industry Standard Process for Data Mining”

1. Dé inir le problème avec des critères de réussite.

2. Collecter les données nécessaires
3. Nettoyer, préparer et visualiser les données.

Après collecte / nettoy ge, les données:

1. sont de m uv ise qu lité / de très petite t ille: l’objectif ixé est irré lis ble

2. nécessitent une infr structure dédiée non- nticipée

Résult t: 6 mois perdus

9
f
a
a
a
a
a
a
a
a
f
a
a
 Les projets IA ne peuvent p s suivre l gestion de projet “en c sc de” (W terf ll)

W terf ll: ét pe p r ét pe

1. Problème
2. Data
3. Traitement
4. Modélisation
5. Évaluation
6. Déploiement

10
a
a
a
a
a
a
a
a
a
a
a
 La méthodologie CRISP-DM

Les projets IA ne peuvent p s suivre l gestion de projet “en c sc de” (W terf ll)

Sources d’imprévus:

• Qu lité / qu ntité des données

• Algorithmes IA qui évoluent très r pidement
• Di icile de simuler l’utilis tion réelle, il f ut
déployer d’ bord et méliorer u fur et mesure

11
ff
a
a
a
a
a
a
a
a
a
a
à
a
a
a
a
 La méthodologie CRISP-DM

“Cross-Industry Standard Process for Data Mining”

Proposé en 1999

Popul rité des recherches sur Google du terme “D t Mining”:

12
a
a
a
 La méthodologie CRISP-DM moderne
Gestion de projet gile

Commencer p r une séquence “express”

1. Problème 1. Problème et données simpli iées

2. Modèles simples: b selines
2. Data
3. Déploiement: prototype, feedb ck
3. Traitement
Revenir ux ét pes précédentes et réitérer
4. Modélisation
1. R iner les objectifs
5. Évaluation
2. Ad pter les solutions / infr
6. Déploiement

13
a
ff
a
a
a
a
a
a
a
f
a
 Étude de c s :

Vous souh itez développer un outil IA qui prédit le chi re d’ ires 30 jours l’ v nce vec une
incertitude de +/- 500 MAD / jour. Les données disponibles sont les historiques des ventes. Voici un
exemple du CA d’une ph rm cie:

Les pics observés sont dûs ux ch ts volumineux des hôpit ux.

Vous doptez une gestion de projet gile, quelle ét pe f ut-il revoir ? Plusieurs réponses sont possibles

14
a
a
a
a
a
a
a
a
a
a
ff
a
a
ff
a
a
à
a
a
a
 La méthodologie CRISP-DM moderne

Gestion de projet “ gile”

1. Problème 1. Commencer p r une séquence “express”
2. Revenir ux ét pes précédentes et réitérer
2. Data
3. Traitement Quels sont ses inconvénients ?

4. Modélisation M nque de visibilité

Risque de tourner en rond
5. Évaluation
6. Déploiement

Une communic tion entre m n ger et ingénieurs e ic ce est primordi le

15
a
a
a
a
a
a
a
a
ff
a
a
 Les ingrédients d’une bonne entreprise data:

Les m
Un pl
Les
C’est le problème

L m tière première:
M
Les données. L qu ntité des données
L’équipe d
dépend de ce que vous construisez:
elle ne doit p s nécess irement être très
gr nde. Leur qu lité est essentielle.

Environnement
Tr

16
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
 Google trends: popul rité des recherches sur google

Intelligence Arti icielle M chine le rning Big d t

2004 2011 2018 2025

17
a
a
a
a
f
a
 Les c uses princip les des données de m uv ise qu lité:

Bruit: données vec un nive u de bruit import nt

solution Peut-être compensé p r une gr nde qu ntité de données

Données m nqu ntes / v leurs berr ntes:

solution Imput tion / suppression. Peut-être compensé p r une gr nde qu ntité de données

Données s ns document tion:

A. V ri bles collectées s ns descriptif, s ns nom, ou nommés de f çon mbigu p r un ex-employé

B. Absence d’un form t st nd rd: pour les unités, les d tes, les prix (HT ou TTC)

solution À moins de spéculer, ucune !

18
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
 M rs Clim te Orbiter
En 1999, une sonde sp ti le de l NASA est détruite en
se pl ç nt sur une orbite trop b sse.

L c use: un logiciel de Lockheed communiqu it des

gr ndeurs d ns des unités nglo-s xonnes (Pound) que
l NASA interprét it d ns le système métrique (Newton)

Perte de $327M

19
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
 Éch ntillonn ge: les données ne sont p s représent tives

A. Bi is de sélection: Sond ges ux US (1936) ont utilisé les nnu ires téléphoniques et les
m tricules utomobiles pour prédire les résult ts des élections: sur-représenté les foyers isés.

B. Bi is d’ uto-sélection: Les vis en ligne: seuls les clients motivés prennent l peine de donner
un vis (très s tisf it, ou très en colère). Les vis moyens sont sous-estimés.

20
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
 Les ingrédients d’une bonne entreprise data:

Les m
Un pl
Les
C’est le problème

L
M in d’oeuvre
Les données. L
L’équipe d t science. Avoir un
m n ger et des collègues compétents
et complément ires.

Environnement
Tr

21
a
a
a
a
a
a
a
a
a
a
a
a
a
Un chef de projet business et un d t scientist discutent

“Voici les données, be ucoup de pics

imprévisibles”

“Les données sont complexes, il f ut utiliser

le deep le rning.”

“Je n’en suis p s cert in. Le problème c’est les données. ”

il ne m îtrise p s le deep le rning…

22
a
a
a
a
a
a
a
a
a
a
 Comment éviter ces scén rios ?

1. Être compétent

2. Ne p s prétendre tout s voir

3. Poser des questions (s voir comment)

4. Préférer l communic tion écrite (l isser des tr ces)

23
a
a
a
a
a
a
a
a
 Questions que vous devez poser:

1. Serai-je indépendant ou bien intégré au sein d’une équipe data science ?

2. Quelles sont les données sur lesquelles je vais travailler ? (taille, complexité, disponibilité ?)
3. Comment gérez-vous les données au sein de votre entreprise ?
4. Quels modèles utilisez-vous le plus souvent ?
5. Quelles sont les ressources de calcul mises à ma disposition ? (serveurs Cloud, GPU,
ordinateur personnel)

24
 Étude de cas 3

Vous êtes le respons ble du pôle de m inten nce d’une usine. Pour nticiper les
p nnes des moteurs vous inst llez plusieurs détecteurs qui vous donnent des
inform tions comme: numéro du moteur, tempér ture, vibr tion, fréquence, volt ge,
d te, st tut (fonctionnel / en p nne). Pend nt des nnées, vous f isiez ppel un
expert qui pour ch que entrée d ns le système, r jout it une v ri ble “S nté”: (Neuf,
bon, m inten nce conseillée, rép rer). En utilis nt ces données historiques vous
souh itez créer un modèle ML qui prédit les p nnes utom tiquement.
Décrivez une pproche ML déqu te. Plusieurs solutions sont possibles.

25
a
a
a
a
a
a
a
a
a
a
a
a
à
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
à
a
 Étude de cas 4

En 1973, l’université UC Berkeley est ccusée de discrimin tion sexiste:

Le pourcent ge d’hommes dmis: 44%.
Le pourcent ge de femmes dmises: 35%.
Des chercheurs veulent s voir si cet éc rt dépend de l spéci lité choisie. Ils
n lysent l’ dmission p r spéci lité et surprise: d ns toutes les spéci lités, le
pourcent ge d’ dmission des femmes est supérieur ou ég l celui des hommes.
Comment peut-on l’expliquer ?

26
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
à
a
a
 Explic tion: (P r doxe de Simpson)

Spéci lité Nombre de pl ces: C ndid ts C ndid ts dmis

A 10

100% 100%

5
B
33% 50%

Tot l: 80% des hommes dmis contre 60% des femmes dmises
Leçon: Résumer les données en mett nt tout
27 d ns le même p nier peut être très trompeur
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a