211
Deep Learning (Apprentissage
profond)
212
• Le neurone formel
• Le réseau de neurones
• La back-Propagation
• Le CNN
• Le RNN
• Le GAN
213
Le Réseau de
neurones
214
Historique
215
Rappel de la classification binaire
216
Rappel du Logistic Regression
217
Données non linéairement séparables
Données non linéairement séparables: Résoudre le 218
problème par parties
219
Appliquer logistic Regression par sous problèmes
220
Les droites nous donnent de nouveaux features
221
Les droites nous donnent de nouveaux features
Construisons un modèle linéaire avec ces nouveaux
features
222
On ne sait toujours pas comment trouver ces 4 droites
Mais nous savons comment notre algorithme prédit une fois que nous les aurons trouvés :
Réécrivons notre algorithme en termes de graphe de calcul :
223
Multi Layer Perceptron (MLP)
Chaque nœud est un neurone:
Features
1. Une combinaison linéaire des inputs
2. Appliquer une fonction d’activation comme ( )
224
Le neurone
biologique
on peut décomposer le neurone en 3
grandes entités :
- un corps cellulaire appelé péricaryon ;
- un ensemble de dendrites (de l'ordre
de 7 000) ;
-un axone.
Lorsque l'excitation du corps cellulaire
dépasse un certain seuil, un afflux
nerveux est émis le long de l'axone de
façon centrifuge, c'est-à-dire du corps
cellulaire à l'extrémité de l'axone. La
quantification de l'excitation se fait
par modulation de fréquence. Plus le
neurone est excité, plus rapprochées sont
les impulsions dans l'axone.
Un réseau est ainsi formé.
Le neurone artificiel ( perceptron)
Nous allons considérer les entités suivantes :
• des entrées, notées X sous formes de
vecteurs, représentant les dendrites ;
• une sortie, notée y , représentant l'axone ;
•des paramètres, notés w et b , influençant
le fonctionnement du neurone.
Equation :
= + = ( + )
: Activation function
226
Multi Layer Perceptron (MLP)
MLP est un exemple de réseau de neurones artificiels
MLP peut avoir de nombreuses hidden layers (couches cachées) :
227
Comment entrainer un réseau de neurones MLP?
• Comment Appliquer la descente du gradient sur un réseau de
neurones
• Comment calculer les gradients?