Scribd
Importer
2 vues3 pages

Exercice

Le document présente un exercice sur l'algorithme d'apprentissage non-supervisé utilisant la loi de Hebb avec un réseau de neurones binaires, illustré par des exemples de calculs de poids et de seuil. Il aborde également un exercice d'apprentissage supervisé pour simuler la fonction logique ET et propose une solution pour réaliser le XOR avec trois perceptrons. Enfin, il compare les caractéristiques des algorithmes du perceptron et de la rétropropagation, en soulignant l'importance de la fonction sign(a) dans la prise de décision binaire.

Transféré par

imene.fredj
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats DOC, PDF, TXT ou lisez en ligne sur Scribd
2 vues3 pages

Exercice

Le document présente un exercice sur l'algorithme d'apprentissage non-supervisé utilisant la loi de Hebb avec un réseau de neurones binaires, illustré par des exemples de calculs de poids et de seuil. Il aborde également un exercice d'apprentissage supervisé pour simuler la fonction logique ET et propose une solution pour réaliser le XOR avec trois perceptrons. Enfin, il compare les caractéristiques des algorithmes du perceptron et de la rétropropagation, en soulignant l'importance de la fonction sign(a) dans la prise de décision binaire.

Transféré par

imene.fredj
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats DOC, PDF, TXT ou lisez en ligne sur Scribd

Exercice : Algorithme d’apprentissage non-supervisé en appliquant la loi de

Hebb
Choisissons pour les neurones un comportement binaire. Les entrées e1et e2 sont
considérées comme des neurones.

Réseau de 3 neurones (les 2 entrées sont considérées comme deux neurones) pour la
résolution du problème exprimé table 2.

e1 e2 x
1 1 1 (1)
1 -1 1 (2)
-1 1 -1 (3)
-1 -1 -1 (4)

Les conditions initiales sont : µ = +1, les poids et le seuil sont nuls.

Solution :
θ(t+1)=θ(t)−μ(d−x)

où :

 θ(t+1) est le nouveau seuil,


 θ(t) est l'ancien seuil,
 μ est le facteur d'apprentissage (ici μ=1),
 d est la sortie désirée,
 x est la sortie actuelle du perceptron.

1/ Conditions initiales : µ = +1, les poids et le seuil sont nuls.


2/ Calculons la valeur de x pour l'exemple (1) :
3/ a = w1.e1+ w2.e2- S = 0.0 . 1 + 0.0 . 1 - 0.0 = 0 a <=0 => x = -1
4/ La sortie est fausse, il faut donc modifier les poids en appliquant :
w1= w1+ μ.[(d1- x1) * e1 ] = 2
w2= w2+μ.[(d2 – x2) * e2 ]= 2
2/ On passe à l'exemple suivant (2) :
3/ a = 1.1 + 1.-1 -0.0 = 0 a <=0 => x = -1
4/ La sortie est fausse, il faut donc modifier les poids en appliquant :
w1= 1 + 1.1 = 2
w2= 1 + 1.-1 = 0
…/ L'exemple suivant (3) est correctement traité : a = -2 et x = -1 (la sortie est
bonne).
On passe directement, sans modification des poids à l'exemple (4). Celui-
ci aussi est correctement traité. On revient alors au début de la base
d'apprentissage : l'exemple (1).
Il est correctement traité, ainsi que le second (2).
L'algorithme d'apprentissage est alors terminé : toute la base d'apprentissage a
été passée en revue sans modification des poids.
W1= 4 et w2=0
Exercice n°02 : Algorithme d’apprentissage supervisé
Fonctionnement d’un algorithme d'apprentissage du Perceptron :
Base d'exemples d'apprentissage :
e1 e2 d
1 1 1 (1)
-1 1 -1 (2)
-1 -1 -1 (3)
1 -1 -1 (4)
1/ Conditions initiales : w1= -0.2, w2= +0.1, S = 0, (µ = +0.1)

Solution : w1=0.4,w2=0.3,θ=0.2
Exercice (à faire) :
Simuler la fonction ET logique avec un apprentissage supervisé.
Les paramètres du Perceptron sont les suivants :
w1= -0.2, w2= +0.1, S = 0, µ = +0.1
- Essayer d'apprendre le XOR
- Sachant que le XOR peut s'écrire comme :
((e1 ET (NON(e2))) OU (NON(e1) ET e2))
- proposez une solution pour réaliser le XOR avec 3 Perceptrons.
(NON(1) = -1 et inversement)
Différence entre l'algorithme du perceptron et la backpropagation :

Caractéristique Perceptron Backpropagation


Neurone unique ou couche
Type de réseau Réseaux multicouches (MLP, CNN, etc.)
unique
Fonction d'activation Seuil (binaire : sign(a)) Sigmoïde, ReLU, tanh, softmax, etc.
Descente de gradient (calcul du gradient
Mise à jour des poids wi=wi+μ(d−x)ei
de l'erreur)
Propagation de Directe (correction Rétropropagation des erreurs à travers les
l'erreur immédiate) couches
Problèmes linéairement
Utilisation Réseaux profonds et non-linéaires
séparables

La fonction sign(a) joue un rôle fondamental dans les modèles de neurones à


comportement binaire, comme le perceptron. Son objectif principal est de
transformer la somme pondérée des entrées en une décision binaire (+1 ou -
1).

Rôle de la fonction sign(a)

1. Décision binaire (classification linéaire)


o Elle permet de transformer une valeur continue en une sortie binaire.
o Si a≥0a, le neurone est activé (x=+1).
o Sinon, il est inhibé (x=−1).

Vous aimerez peut-être aussi