Deep Learning

Chapitre 2 : Réseaux de Neuronnes

Convolutifs CNN

Pr. Khadija SADIK

EST Essaouira
IDSD2

2025-2026
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

1 Introduction

2 Les opérations de Convolution

Convolution
Stride
Pooling

3 Réseaux de neurones convolutifs

2 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

On a vu précédemment, Les réseaux de neurones artificiels ANN,

inspirés du comportement du cerveau humain, permettent de créer
de l’intelligence artificielle. Notamment appliqués en Deep Learning
principalement à travers l’apprentissage supervisé, ils servent à
prédire, à identifier et à classifier les données.

3 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

En 1990, Les premières variantes du preceptron mutlicouches

ont été inventé par YannLeCun sous le nom des Réseaux de
Neurones Convolutifs.
CNN permet de connaitre et traiter des images en introduisant
des filtres mathématiques qu’on appele convolution.

4 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Les réseaux de neurones convolutifs ont une méthodologie similaire

à celle des méthodes traditionnelles d’apprentissage supervisé : ils
reçoivent des images en entrée, détectent les features de chacune
d’entre elles, puis entraı̂nent un classifieur dessus.

On appelle réseau neuronal convolutif, ou réseau de neurones à

convolution, (CNN pour Convolutional Neural Network) un type de
réseau de neurones artificiels ANN utilisé dans la reconnaissance et
le traitement des images, et spécialement conçu pour l’analyse des
pixels.

5 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Les réseaux convolutifs sont une puissante application de

l’intelligence artificielle (IA) au traitement des images, qui s’appuie
sur l’apprentissage profond (Deep Learning) pour effectuer des
tâches descriptives et génératives. Ils exploitent souvent la vision
artificielle, notamment la reconnaissance de la vidéo et des images,
les systèmes de recommandation et le traitement automatique du
langage naturel.

6 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Champs d’application :CNN

Décoder la reconnaissance faciale

Identifier chaque visage sur la photo.

7 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Analyser les documents

Les réseaux de neurones convolutifs peuvent également être
utilisés pour l’analyse de documents.
Ce n’est pas seulement utile pour l’analyse de l’écriture
manuscrite, mais a également un intérêt majeur dans les
reconnaisseurs.
Pour qu’une machine puisse analyser l’écriture d’un individu,
puis la comparer à la vaste base de données dont elle dispose,
elle doit exécuter près d’un million de commandes par minute.

8 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Détection et Traitement d’images

Hélicoptère autonome In-painting

Image processing

9 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Domaines d’application : Classification d’images

Définition
Assigner une étiquette unique à une image entière parmi un ensemble de
classes prédéfinies.

Exemples Concrets
Reconnaissance d’animaux : Chat vs
Chien vs Oiseau
Identification de plantes : Espèces
végétales Output : ”Chat” (95%)
Tri de photos : Paysage vs Portrait vs Défis
Nourriture
Variations d’éclairage, angle,
Classe Probabilité arrière-plan (Qualité d’image)
Chat 0.95 Classes similaires (ex : races de
Chien 0.03 chiens)
Oiseau 0.02 Généralisation sur nouvelles
classes
10 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Domaines d’application : Détection d’objets

Définition
Localiser et identifier plusieurs objets dans une image en dessinant
des boı̂tes englobantes (bounding boxes).

Exemples Concrets
Sécurité : Détection de personnes dans un
bâtiment
Transport : Véhicules et piétons dans la
rue
Agriculture : Détection de mauvaises
herbes
Défis
Échelle variable des objets
Occlusions (objets cachés) Détection d’objets

Temps réel pour les applications mobiles

11 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Domaines d’application : Diagnostic Médical

Définition
Assistance au diagnostic par l’analyse d’images médicales.
Modalités d’imagerie
Radiographie : Dépistage cancer,
fractures
IRM/CT-Scan : Tumeurs, lésions
cérébrales
Histologie : Analyse de tissus au IRM cérébrale
microscope
Rétinographie : Dépistage diabète
Applications Spécifiques
Détection précoce de cancers
Segmentation d’organes Tumeur segmentée
Assistance à la chirurgie
12 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Domaines d’application : Reconnaissance Faciale

Définition
Identification ou vérification d’individus à partir de caractéristiques
faciales.

Applications
Sécurité : Déverrouillage
smartphone
Contrôle d’accès : Bâtiments,
aéroports
Photo : Tagging automatique Points faciaux
(Facebook)
Personne Score
Mohammad 0.95
Défis Techniques et Éthiques
Yahya 0.12
Variations : éclairage, pose, âge Naela 0.08
Biais ethniques et démographiques 13 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Opérations utilisées dans un CNN

Un CNN applique généralement 3 types d’opérations différentes à
une image afin d’en extraire les informations pertinentes.
Ces 3 types d’opérations sont les suivantes :
La convolution
Le pooling
La fonction d’activation

14 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

1 Introduction

2 Les opérations de Convolution

Convolution
Stride
Pooling

3 Réseaux de neurones convolutifs

15 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Convolution

16 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Convolution : une dimension

17 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

18 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Pour le calcul des coefficients sur les bords, on rajoute des zéros
virtuels à gauche et à droite de la liste d’entrée.

19 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

20 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Un neurone de convolution

21 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

22 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

23 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

24 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Convolution : Deux dimension

25 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

26 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

27 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

28 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

29 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

30 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

31 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

32 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

33 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Stride

34 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Le Stride (Pas) dans les Convolutions

Définition
Le stride est le nombre de pixels dont se déplace le filtre à chaque
opération de convolution. Il contrôle la résolution de la feature
map de sortie.
Types de Stride Formule de Calcul
Stride = 1 : 
n−f

Taille sortie L × L avec : L = +1
Déplacement pixel par pixel s
Feature map de sortie
maximale
Plus d’opérations, plus n = taille d’entrée
d’information f = taille du filtre
Stride = 2 : s = stride
Sauter 2 pixels
Réduction de dimension par Exemples
2 Entrée 7×7, filtre 3×3, stride=1 :
Moins d’opérations, 5×5
sous-échantillonnage Entrée 7×7, filtre 3×3, stride=2 :
35 / 73
3×3
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Exemple Détaillé : Stride = 1 vs Stride = 2

Même image 5×5, même filtre 3×3, strides différents

Stride = 1 Stride = 2
5−3 5−3
Sortie = +1=3×3 Sortie = +1=2×2
1 2
9 positions à calculer 4 positions à calculer

Stride = 1 Stride = 2
(0,0) (0,1) (0,2) (0,3) (0,4) (0,0) (0,1) (0,2) (0,3) (0,4)
(1,0) (1,1) (1,2) (1,3) (1,4) (1,0) (1,1) (1,2) (1,3) (1,4)
(2,0) (2,1) (2,2) (2,3) (2,4) (2,0) (2,1) (2,2) (2,3) (2,4)
(3,0) (3,1) (3,2) (3,3) (3,4) (3,0) (3,1) (3,2) (3,3) (3,4)
(4,0) (4,1) (4,2) (4,3) (4,4) (4,0) (4,1) (4,2) (4,3) (4,4)

Remarque
Avec stride=2, on ne calcule que 4 positions au lieu de 9 → réduction de 55%
des calculs !

36 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Calcul Numérique : Stride = 2

Image 5×5 et Filtre 3×3 de moyenne

 
1 2 3 4 5  
6 7 8 9 10 1 1 1
  1
11 12 13
Image =  14 15 Filtre = 1 1 1
9
16 17 18 19 20 1 1 1
21 22 23 24 25
Position (0,0) - Stride=2 Position (0,2) - Stride=2
   
1 2 3 4 5 1 2 3 4 5
6 7 8 9 10 6 7 8 9 10
   
11 12 13 14 15 11 12 13 14 15
   
16 17 18 19 20 16 17 18 19 20
21 22 23 24 25 21 22 23 24 25
1 + 2 + · · · + 13 63 3 + 4 + · · · + 15 81
= =7 = =9
9 9 9 9
37 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Suite du Calcul Stride = 2

Position (2,0) - Stride=2 Position (2,2) - Stride=2
   
1 2 3 4 5 1 2 3 4 5
6 7 8 9 10 6 7 8 9 10
   
11 12 13 14 15 11 12 13 14 15
   
16 17 18 19 20 16 17 18 19 20
21 22 23 24 25 21 22 23 24 25

11 + 12 + · · · + 22 + 23 13 + 14 + · · · + 24 + 25
9 9
153 171
= = 17 = = 19
9 9
Feature Map Résultante - Stride=2
 
7 9
17 19
38 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Pooling

39 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Pooling

40 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Max Pooling
Troisième fenêtre (2,0) à (3,1) Quatrième fenêtre (2,2) à (3,3)
   
1 3 2 1 1 3 2 1
4 2 7 3  4 2 7 3
   
2 1 5 2  2 1 5 2
3 6 1 4 3 6 1 4

Max = 6 Max = 5
Valeurs : 2, 1, 3, 6 → Maximum = 6 Valeurs : 5, 2, 1, 4 → Maximum = 5

Feature Map Résultante - Max Pooling

 
4 7
Sortie =
6 5

Remarque
Entrée 4×4 = 16 valeurs → Sortie 2×2 = 4 valeurs
Réduction de 75% de la dimension
Préservation des activations les plus fortes (4, 7, 6, 5)

41 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Average Pooling

Même Feature Map - Average Pooling 2×2 avec Stride=2

 
1 3 2 1
4 2 7 3
Entrée = 
2 1

5 2
3 6 1 4

Première fenêtre (0,0) à (1,1) Deuxième fenêtre (0,2) à

  (1,3)
1 3 2 1  
4 2 7 3 1 3 2 1
 
2 1 5 2 4 2 7 3
 
3 6 1 4 2 1 5 2
3 6 1 4
1+3+4+2
Moyenne = = 2.5
4 2+1+7+3
Moyenne = = 3.25
4
42 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Average Pooling
Troisième fenêtre (2,0) à (3,1) Quatrième fenêtre (2,2) à (3,3)
   
1 3 2 1 1 3 2 1
4 2 7 3 4 2 7 3
   
2 1 5 2 2 1 5 2
3 6 1 4 3 6 1 4

2+1+3+6 5+2+1+4
Moyenne = = 3.0 Moyenne = = 3.0
4 4
Feature Map Résultante - Average Pooling
 
2.5 3.25
Sortie =
3.0 3.0

Comparaison Max vs Average Pooling

Max Pooling : [4, 7, 6, 5] → préserve les pics
Average Pooling : [2.5, 3.25, 3.0, 3.0] → lisse les valeurs
Même réduction dimensionnelle (75%), effet différent
43 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

44 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Pooling avec Chevauchement (Overlapping Pooling)

Stride ¡ Taille de fenêtre → Chevauchement
Par exemple un Max-Pooling d’un noyau 3×3 avec stride=2
Les fenêtres se chevauchent partiellement
Exemple : Max 3×3, stride=2 Deuxième fenêtre (0,2) à (2,4)
 
  1 3 2 1 4
1 3 2 1 4 4 2 7 3 2
4 2 7 3 2 
2

  1 5 2 3
2
Entrée =  1 5 2 3  
 3 6 1 4 1
3 6 1 4 1 1 2 3 1 2
1 2 3 1 2
Max = 7
Première fenêtre (0,0) à (2,2) Troisième fenêtre (2,0) à (4,2)
 
1 3 2 1 4 
1 3 2 1 4

4 2 7 3 2 4
  2 7 3 2
2 1 5 2 3

2

  1 5 2 3
3 6 1 4 1

3

6 1 4 1
1 2 3 1 2 1 2 3 1 2
Max = 7 Max = 6 45 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Global Pooling
Global Max Pooling
  Avantages du Global Pooling
1 3 2 1
4 Réduction drastique des paramètres
2 7 3
Entrée = 
 
Évite l’overfitting
2 1 5 2
3 6 1 4 Invariance spatiale complète
Accepte entrées de taille variable
Max Global = 7
Global Average Pooling Utilisation Typique

  Remplace les couches fully-connected

1 3 2 1 En fin de réseau avant la
4 2 7 3
Entrée =   classification
2 1 5 2
Réseaux modernes (ResNet,
3 6 1 4
DenseNet)
1 + 3 + 2 + ··· + 1 + 4 Transfer learning
Moyenne = = 3.0
16
Exemple avec 512 feature maps
Réduire chaque feature map entière à une seule valeur scalaire.
Sans Global Pooling : 512×7×7 = 25,088 neurones → FC layer énorme
Avec Global Pooling : 512 valeurs seulement → réduction de 98% !
46 / 73
PLAN Introduction Les opérations de Convolution Réseaux de Convolution
neurones convolutifs
Stride Pooling

Pooling dans les CNN

Objectifs du Pooling Types de Pooling

Réduction de dimension : Max Pooling :
Diminue le nombre de Prend la valeur maximale
paramètres Plus commun
Réduit les calculs et la Préserve les features
mémoire fortes
Paramètres Typiques Average Pooling :
Taille fenêtre : 2×2 (le Prend la valeur moyenne
plus commun) Plus doux
Stride : 2 (pas de Réduit le bruit
chevauchement) Global Pooling :
Réduction à un seul
vecteur
Remplace les couches
fully-connected

47 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

1 Introduction

2 Les opérations de Convolution

Convolution
Stride
Pooling

3 Réseaux de neurones convolutifs

48 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Réseaux de neurones
convolutifs

49 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Réseaux de neurones convolutif pour classification

Architecture typique

Bloc de convolution
Entrée −→ (Conv, Activ, Pool) −→ Flattening −→ FC

Flattening
Transformer un tenseur 3D en un vecteur 1D

50 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Etapes pour construire un CNN

La construction d’un CNN se fait en étapes suivantes
Couche de convolution
La fonction d’activation
Couche de pooling
Couches Fully Connected
Couche de sortie

51 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

1. Préparation des données :

Redimensionnement (ex : 128x128)
Normalisation (valeurs entre 0 et 1)
Encodage des labels (One-Hot)
Séparation : Train / Validation / Test
2. Couche de Convolution :
Extraction des caractéristiques locales.
Formule :
z =W ∗X +b
Paramètres :
Nombre de filtres
Taille du noyau (3x3)
Stride
Padding
3-Fonction d’activation :
La fonction la plus utilisée : ReLU

f (x) = max(0, x)
52 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

4-Pooling :
Réduction de dimension.
MaxPooling
AveragePooling
5-Flatten et Dense :
Flatten : transforme la matrice en vecteur
Dense : classification finale
6-Dernière couche :
Softmax (multi-classes)
Sigmoid (binaire)

53 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Exemple d’CNN

54 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Couche de convolution

55 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Fonction d’activation

56 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Pooling

57 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

58 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

59 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Exemple d’un CNN de classification

LeNET 1998

Architecture :
Architecture fondatrice : convolution → pooling → convolution → pooling →
FC
Entraı̂nement par rétropropagation
Couche C1 : 6 filtres 5×5 → 6 feature maps 28×28
Couche S1 : Pooling 2×2 → 6 feature maps 14×14
Couche C2 : 16 filtres 5×5 → 16 feature maps 10×10
Couche S2 : Pooling 2×2 → 16 feature maps 5×5
Couche C3 : 120 filtres 5×5 → 120 vecteurs
Couche F1 : 84 neurones fully-connected
60 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Entraı̂nement d’ un CNN

1 Forward propagation
2 Calcul de la perte
3 Backpropagation
4 Mise à jour des poids

61 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Back Propagation

62 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Rétro-propagation dans les CNN : Principes

Principe de Base
Calculer le gradient de la fonction de perte par rapport à chaque poids du
réseau, en utilisant la règle de chaı̂ne, et mettre à jour les poids pour minimiser
la perte.

Exemple Simplifié
Image : Chat (classe 3/10)
Prédiction : [0.1, 0.2, 0.05, 0.6, 0.02, ...]
Perte (Cross-Entropy) : − log(0.6) ≈ 0.51
Objectif : Augmenter la probabilité de 0.6 à 1.0

Étapes de Rétropropagation
∂L
1 Calculer ∂ ŷ
= (prédiction - cible)
∂L
2 Propager vers les couches denses : ∂Wdense
∂L
3 Propager vers les couches de convolution : ∂Wfiltres
∂L
4 Mettre à jour les poids : W = W − η ∂W

63 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Rétro-propagation dans les CNN : Calculs et Efficacité

Calcul des Gradients dans la Couche Conv

Pour un filtre 3x3 : {9 × Cout } gradients à calculer
Efficace : Le même filtre est appliqué partout ⇒ mêmes gradients
partout

Exemple Numérique
 
0.1 0.2 0.3
Filtre initial : 0.4 0.5 0.6, Gradient calculé :
0.7 0.8 0.9
 
0.01 0.02 0.01
0.02 0.03 0.02
0.01 0.02 0.01
Taux d’apprentissage η = 0.01
Nouveau filtre : initial − η× gradient

64 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Avantage des CNN vs MLP

Réplication du gradient : Un seul gradient calculé par filtre
est répliqué sur toute l’image
Beaucoup moins de calculs que dans un MLP où chaque
connexion a son propre gradient !

65 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Problèmes éventuels lors de

l’entraı̂nement des CNNs

66 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Problèmes des CNNs : Sous vs Sur-Apprentissage

Sous-apprentissage Bon apprentissage Sur-apprentissage

Modèle trop simple Modèle adapté Modèle trop complexe

Biais élevé Équilibre optimal Variance élevée

Complexité du modèle −→
Compromis biais-variance : Un bon modèle minimise
simultanément l’erreur sur les données d’entraı̂nement et
de test.
67 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Problèmes des CNNs : Sous-Apprentissage (Underfitting)

Définition
Le modèle est trop simple pour capturer les caractéristiques pertinentes des
données.
Faible performance aussi bien sur les données d’entraı̂nement que de test
Erreur d’entraı̂nement et erreur de test toutes les deux élevées et proches
Causes Fréquentes
Architecture trop simple (peu de couches / peu de filtres)
Temps d’entraı̂nement insuffisant (trop peu d’époques)
Taux d’apprentissage mal choisi (trop faible ⇒ convergence lente ; trop
élevé ⇒ oscillations)
Données d’entrée non pertinentes ou mal pré-traitées
Solutions
Augmenter la complexité du modèle (plus de couches / filtres)
Entraı̂ner plus longtemps, ajuster le learning rate
Améliorer / enrichir les données d’entrée
68 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Exemple de Sous-Apprentissage
Scénario
Classification de chiffres manuscrits (MNIST) avec un modèle trop
simple :
Données : 60 000 images de chiffres (0–9)
Architecture choisie : CNN avec 1 seule couche conv. (4 filtres
3×3)
Résultat : Performance médiocre dès le départ
Résultats observés

Métrique Entraı̂nement Validation

Accuracy 62.3 % 60.1 %
Loss (Cross-Entropy) 1.42 1.49

Les deux erreurs sont élevées et similaires ⇒ signe de

sous-apprentissage
Le modèle confond les chiffres similaires (3/8, 4/9, 5/6) 69 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Sous-Apprentissage : Diagnostic et Solution

Diagnostic
4 filtres : capacité très insuffisante
1 seule couche conv. : pas de hiérarchie de features
Complexité ≪ difficulté de la tâche

Avant Après

Input 28×28 Input 28×28

Conv 4 filtres =⇒ Conv32+Pool

Flatten + Dense Conv64+Pool

Sortie 10 cl. Conv128+Pool

Flatten + Dense

Sortie 10 cl.

70 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Problèmes des CNNs : Sur-Apprentissage (Overfitting)

Définition
Le modèle mémorise les données d’entraı̂nement (y compris le bruit) au lieu
d’apprendre des caractéristiques généralisables.
Excellente performance sur les données d’entraı̂nement
Mauvaise performance sur les données de validation/test
Écart important entre les deux erreurs

Indicateurs
Accuracy entraı̂nement ≈ 100 %, test ≪ entraı̂nement
L’erreur d’entraı̂nement continue de baisser, l’erreur de validation stagne
ou remonte
Les poids du réseau prennent des valeurs très grandes

Causes Fréquentes
Modèle trop complexe par rapport à la taille du dataset
Dataset trop petit ou peu varié
71 / 73
PLAN Introduction Les opérations de Convolution Réseaux de neurones convolutifs

Diagnostic Visuel : Courbes d’Apprentissage

Sous-apprentissage Sur-apprentissage

Entraı̂n. Entraı̂n.
2 Valid. 2 Valid.
Divergence
(sur-appr.)
Perte

Perte
1 1
Les deux courbes
restent élevées
0 0
0 10 20 30 40 50 0 10 20 30 40

Époques Époques

Règle pratique : Si les courbes entraı̂nement / validation sont

toutes deux élevées ⇒ sous-apprentissage. Si elles divergent ⇒
sur-apprentissage. Si elles convergent vers une valeur basse ⇒ bon
apprentissage.
72 / 73