Chapitre 1 : Méthodes du gradient et de Newton pour l’optimisation des fonctions MD
Schéma de principe de l’apprentissage d’un réseaux de neurones :
1
1D N=1 2D N=2
Question : Comment peut-on représenter une information avec N=3 dimensions : f(𝑥,𝑦,𝑧) ??
2
3
4
TD 1 sur le calcul du gradient
Exercice 1: Soit la fonction f(𝑥,y)=𝑦.exp(−𝑥²−y²) représentée par la figure suivante :
5
a) Calculez les coordonnées des vecteurs gradients de f aux points A, B, C et D ( à placer)
appartenant au plan xy (z=0) et de coordonnées (0 , 0.7), (0.1 , -0.7), ( -0.85 , 0) et ( 0.6 ,0.5).
b) Calculez les normes des vecteurs gradients de f aux points A, B, C et D et commentez les résultats.
c) Placez sur la figure 1 les points f(A), f(B), f(C) et f(D) approximativement et ordonnez suivant l’ordre
croissant les valeurs de la fonction f aux points A, B, C et D.