Ecole d’Ingénieurs
L3 MAIE & MOSIEF
Scoring
Rappel des fondamentaux
Modèle linéaire sur les variables latentes
Les modèles PROBIT & LOGIT
Application 1
Application 2 : Scoring Bancaire : MODELISATION DU RISQUE DE CREDIT
Nous avons relevé sur un échantillon de 60 entreprises, qui ont sollicitées un crédit
d’investissement, les variables susceptibles d’expliquer le remboursement ou non du crédit
(Entreprise défaillante =0, Entreprise non Défaillante= 1) :
- NCREDIT= Variable discrète représentant le nombre de crédits déjà obtenus ;
- SOLVABILITE= la note sur 20 de la solvabilité de l’entreprise (plus elle est proche de
20 plus la solvabilité est forte) ;
- LIQUIDITE= la note sur 20 de la liquidité de l’entreprise (plus elle est proche de 20
plus la liquidité est élevée) ;
- GENRE : Variable muette, (1=masculin, 0= féminin), le sexe du dirigeant de
l’entreprise.
Travail à faire :
- A travers la base de données scoring_bancaire, développer un modèle permettant de
calculer la probabilité de non défaillance d’une entreprise.
- Faire les tests statistiques adéquats et les interpréter
- Interpréter les odds ratios
- Calculer le risque d’une entreprise qui présente les caractéristiques suivantes :
NCREDIT= 1 ; SOLVABILITE= 8 ; GENRE= Masculin
Analyse discriminante décisionnelle : Classifier Bayésien
Objectif :
Classifier Bayésien
Scoring : Analyse discriminante de Fisher
L’Analyse discriminante de Fisher, qui a été élaborée en 1936 par Ronald
Aylmer Fisher, permet de discriminer une variable réponse binaire ou
polychotomique ( classes) à partir d’une matrice de variables
explicatives continues ).
L’Analyse discriminante de Fisher est réputée pour être le classifieur optimal
lorsque les données suivent une loi normale. Il permet également la
construction de deux formes de frontière : linéaire ou quadratique, s’adaptant
ainsi à plusieurs types de distribution des données croisées. Ces deux
versions de l’analyse discriminante de Fisher nécessitent néanmoins des
hypothèses d’utilisation solides, la normalité des données pour les deux cas
plus celle d’homoscédasticité pour le cas linéaire.
Une version étendue de l’analyse discriminante de Fisher existe lorsque les
données sont qualitatives : l’algorithme DISQUAL de Gilbert Saporta, qui
consiste à faire une Analyse des Correspondances Multiples (ACM) et ensuite
appliquer l’analyse discriminante de Fisher sur les axes factoriels.
Enfin, l’analyse discriminante de Fisher se base sur la distance de
Mahalanobis-Fisher pour établir les coefficients de la règle décisionnelle.
Hypothèses du modèle
Hypothèses préliminaires : Variables explicatives continues, variable réponse binaire
ou polychotomique. Normalité et homoscédasticité des données pour le cas
linéaire, normalité pour le cas quadratique.
L’Analyse discriminante de Fisher propose deux types de frontière, l’une de forme linéaire et
l’autre de forme quadratique. L’idée de l’analyse discriminante de Fisher est de se baser sur
l’étude des covariances intra et inter-classes ainsi que sur l’élaboration d’un classifieur
bayésien optimum au sens de la probabilité de l’erreur. Cet outil est à mi-chemin entre la
modélisation et la classification, impliquant qu’il faut en général passer par une méthode
d’apprentissage pour valider la règle décisionnelle.
La fonction discriminante du classifieur bayésien
On note, , la matrice de variance-covariance et le centre de gravité du
nuage d’individus associé à la classe de , soit à , d’effectif .
On suppose que les observations de chaque classe sont générées selon une loi normale de
paramètres :
Si les matrices de variance-covariance sont identiques alors on est dans le cas d’une
discrimination linéaire (hypothèse de normalité et d’homoscédasticité), dans le cas inverse on
s’oriente vers du quadratique (hypothèse de normalité).
– Dans le premier cas, où , les fonctions discriminantes du classifieur
bayésien deviennent (forme linéaire) :
– Dans le second cas, où , et en posant le déterminant matriciel, elles
valent (forme quadratique) :
Le calcul des coefficients
Le vecteur des coefficients associé à la règle décisionnelle se retrouve au travers de la formule
de la fonction discriminante décrite ci-dessus en fonction des deux versions,
– pour la règle linéaire,
– pour la règle quadratique,
Le premier terme du vecteur représentant le coefficient constant.
Règle décisionnelle
On cherche à savoir de quelle classe un nouvel individu , que l’on souhaite classer,
est le plus près. On répond à cette interrogation via la distance définie par la matrice et qui
correspond à la règle descriptive de Mahalanobis-Fisher, de définition,
Où,
– dans le cas linéaire,
– dans le cas quadratique.
La règle décisionnelle basée sur le théorème de Bayes donne :
, avec .
Plus loin : Comprendre la théorie
On présente ici une esquisse de la démonstration de la fonction de Mahalanobis-Fisher.
Pour variables explicatives, on peut rechercher la combinaison linéaire définie par les
coefficients qui donnent la valeur maximale pour la statistique de test,
,
où est la matrice de variance des centres de gravité.
La solution est donnée par,
, avec maximal et la matrice de variance intra-classe.
Les vecteurs propres de sont les mêmes que ceux de avec .
En effet,
D’où,
L’utilisation de est donc indifférente. La seconde porte le nom de : métrique de
Mahalanobis.
Application:
Soit la population ci-dessous répartien en deux classes
Appliquer succéssivement la LDA et la QDA.
En déduire la matrice de confusion et calculer les métriques associés