Exercices sur le modèle de régression linéaire simple
Exercice 1
Le tableau ci-dessous représente l’évolution du revenu disponible brut et de la consommation
des ménages en euros pour un pays donné sur la période 1992-2001.
On cherche à expliquer la consommation des ménages (C) par le revenu (R), soit :
𝑦 = 𝛽0 + 𝛽1 ⋅ 𝑥
Travail à faire :
1-Tracer le nuage de points et commenter.
2- Estimer 𝛽0 et 𝛽1.
3- calculer le RMSE.
4- Pour un revenu de 10 000, quelle est la valeur de la consommation associée ?
Exercice 2
Soit le modèle linéaire 𝑦 = 𝛽0 + 𝛽1 ⋅ 𝑥. Où 𝑦 représente la quantité offerte de pommes et 𝑥 le
prix.
On donne les informations suivantes : 𝑦̅ = 5 𝑒𝑡 𝑥̅ = 3.
Après estimation, on a la droite de régression suivante : 𝑦 = 𝛽0 + 𝛽1 ⋅ 𝑥. Connaissant le couple
(𝑌 = 2.5 ; 𝑋 = 2) par lequel passe cette droite de régression, trouver 𝛽0 𝑒𝑡 𝛽1 .
Exercice 3
Soit un modèle linéaire simple : 𝑦 = 𝛽0 + 𝛽1 ⋅ 𝑥
On donne les informations suivantes :
∑𝑦 ⋅ 𝑥 = 184500 ∑𝑦 2 = 26350 ∑𝑥 2 = 1400000 𝑦̅ = 60 𝑥̅ = 400 𝑛 = 7
Travail demandé :
- Estimer les coefficients du modèle.
- Calculer le RMSE.
- Pour x=100 estimer y.
Exercice 4
Les données statistiques ci-dessous portent sur les poids respectifs des pères et de leur fils aîné.
Travail demandé :
1- Calculer la droite des moindres carrés du poids des fils en fonction du poids des pères.
2- Calculer la droite des moindres carrés du poids des pères en fonction du poids des fils.
Exercice 5
Soient les données suivantes :
6 6 6 6
∑ 𝑦𝑡 = 114 ∑ 𝑥𝑡 = 36 ∑ 𝑥𝑡2 = 226 ∑ 𝑥𝑡 ⋅ 𝑦𝑡 = 702
1 1 1 1
Estimer la relation 𝑦 = 𝛽0 + 𝛽1 ⋅ 𝑥
…………………………………………………………………………………………………….
Exercice 6
Considérons le tableau suivant, qui présente un ensemble d’apprentissage tiré aléatoirement
d’une base de données d’achats des clients d’une entreprise.
On veut construire un arbre de décision pour prédire la classe (A acheté) d’un nouvel client, en
se basant sur ce tableau. Utiliser la technique du gain d’information pour choisir l’attribut à la
racine de l’arbre.
1- En utilisant le gain d’information maximal, déterminer uniquement l’attribut racine de
l’arbre (ayant le maximum de gain) puis en déduire l’arbre final sans faire de calculs
supplémentaires.
2- Utiliser l’arbre de décision construit pour classifier et calculer la précision sur l’ensemble
de test suivant :
Exercice 7
Soit l'ensemble D des points suivants : D= { 2, 5, 8, 10, 11, 18, 20 }. On veut répartir les données
de D en trois (3) clusters, en utilisant l'algorithme K-means. La distance 𝒅𝟏 entre un point p et un
centre c est calculée ainsi : 𝒅𝟏 (𝒑 , 𝒄) = |𝒑 − 𝒄| (la valeur absolue de la différence entre le
point p moins le centre c).
1- Appliquez K-means en choisissant comme centres initiaux des 3 clusters respectivement :
8, 10 et 11.
2- Refaire la même question Q.1. avec une autre distance 𝒅𝟐 , telle que :
𝒅𝟐 (𝒑, 𝒄) = 𝒎𝒂𝒙 (𝟎, 𝒑 − 𝒄) (le maximum entre 0 et (p – c)).
Exercice 8
Donner l’arbre de décision pour le tableau suivante :
Même pour le tableau suivante :
Exercice 9
On considère un perceptron simple à deux entrées 𝑥1 , 𝑥2 avec :
• poids 𝑤1 , 𝑤2, biais 𝑏
• fonction d’activation seuil
1 𝑠𝑖 𝑧 ≥ 0
𝑓(𝑧) = {
0 𝑠𝑖 𝑧 < 0
On veut séparer deux classes de points :
Exemple (𝒙𝟏 ) (𝒙𝟐 ) (y) (classe désirée)
1 1 1 1
2 2 2 1
3 -1 -1 0
4 -2 -2 0
Avec taux d’apprentissage 𝜂 = 1, poids initiaux 𝑤1 = 0, 𝑤2 = 0et biais 𝑏 = 0.
Questions :
1- Effectuer une époque d’apprentissage et compléter pour chaque exemple :
𝑧, 𝑦 ̂, 𝑒, 𝑤1 , 𝑤2 , 𝑏 après mise à jour.
2- Donner les poids finaux (𝑤1 , 𝑤2 , 𝑏)après cette époque et écrire l’équation de la droite de
séparation.
3- Avec ces poids finaux, prédire la classe du point 𝑥 = (1,5, 1)
Exercice 10
On considère un perceptron simple à deux entrées 𝑥1 , 𝑥2 avec :
• poids 𝑤1 , 𝑤2, biais 𝑏
• fonction d’activation seuil
1 𝑠𝑖 𝑧 ≥ 0
𝑓(𝑧) = {
0 𝑠𝑖 𝑧 < 0
On veut séparer deux classes de points :
Exemple (𝒙𝟏 ) (𝒙𝟐 ) (y) (classe désirée)
1 1 1 1
2 1 0 1
3 0 1 1
4 0 0 0
Avec taux d’apprentissage 𝜂 = 0.1, poids initiaux 𝑤1 = 0, 𝑤2 = 0et biais 𝑏 = 0.
Estimer les poids et le bais.
Exercice 11
On considère un perceptron simple à deux entrées 𝑥1 , 𝑥2 avec :
• poids 𝑤1 , 𝑤2, biais 𝑏
• fonction d’activation seuil
1 𝑠𝑖 𝑧 ≥ 0
𝑓(𝑧) = {
0 𝑠𝑖 𝑧 < 0
On veut séparer deux classes de points :
Exemple (𝒙𝟏 ) (𝒙𝟐 ) (y) (classe désirée)
1 0 0 0
2 0 1 0
3 1 0 0
4 1 1 1
Avec taux d’apprentissage 𝜂 = 0.1, poids initiaux 𝑤1 = 0, 𝑤2 = 0et biais 𝑏 = 0.
Estimer les poids et le bais.
Exercice 12
Exemple (𝒙𝟏 ) (𝒙𝟐 ) (𝒙𝟑 ) (y)
1 2 2 2 0
2 3 4 2 1
3 4 3 5 1
Avec taux d’apprentissage 𝜂 = 1, poids initiaux 𝑤1 = 0, 𝑤2 = 0et biais 𝑏 = 0.
Estimer les poids et le bais.
Exercice 13
Pour les données suivantes, résoudre graphiquement (déterminer les poids et le bais.)
Exemple (𝒙𝟏 ) (𝒙𝟐 ) (y) (classe désirée)
1 0 0 0
2 0 1 0
3 1 0 0
4 1 1 1
Exercice 14
En utilisant K Nearest Algorithme, compléter le tableau (k=3)
age loan House price Distance
25 40.000 135
35 60.000 256
45 80.000 231
20 20.000 267
35 120.000 139
37 100.000 ??