Scribd
Importer
4 vues3 pages

Algorithmes d'apprentissage des perceptrons

Le document présente des exercices sur l'apprentissage non-supervisé et supervisé avec des perceptrons, en utilisant la loi de Hebb et en simulant des fonctions logiques comme ET et XOR. Il décrit les étapes de calcul des poids et des seuils pour un réseau de neurones, ainsi que les différences entre l'algorithme du perceptron et la méthode de backpropagation. Enfin, il souligne l'importance de la fonction sign(a) pour la classification binaire dans les modèles de neurones.

Transféré par

imene.fredj
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats DOC, PDF, TXT ou lisez en ligne sur Scribd
4 vues3 pages

Algorithmes d'apprentissage des perceptrons

Le document présente des exercices sur l'apprentissage non-supervisé et supervisé avec des perceptrons, en utilisant la loi de Hebb et en simulant des fonctions logiques comme ET et XOR. Il décrit les étapes de calcul des poids et des seuils pour un réseau de neurones, ainsi que les différences entre l'algorithme du perceptron et la méthode de backpropagation. Enfin, il souligne l'importance de la fonction sign(a) pour la classification binaire dans les modèles de neurones.

Transféré par

imene.fredj
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats DOC, PDF, TXT ou lisez en ligne sur Scribd

Exercice : Algorithme d’apprentissage non-supervisé en appliquant la loi de

Hebb
Choisissons pour les neurones un comportement binaire. Les entrées e1et e2 sont
considérées comme des neurones.

Réseau de 3 neurones (les 2 entrées sont considérées comme deux neurones) pour la
résolution du problème exprimé table 2.

e1 e2 x
1 1 1 (1)
1 -1 1 (2)
-1 1 -1 (3)
-1 -1 -1 (4)

Les conditions initiales sont : µ = +1, les poids et le seuil sont nuls.

Solution :
θ(t+1)=θ(t)−μ(d−x)

où :

 θ(t+1) est le nouveau seuil,


 θ(t) est l'ancien seuil,
 μ est le facteur d'apprentissage (ici μ=1),
 d est la sortie désirée,
 x est la sortie actuelle du perceptron.

1/ Conditions initiales : µ = +1, les poids et le seuil sont nuls.


2/ Calculons la valeur de x pour l'exemple (1) :
3/ a = w1.e1+ w2.e2- S = 0.0 . 1 + 0.0 . 1 - 0.0 = 0 a <=0 => x = -1
4/ La sortie est fausse, il faut donc modifier les poids en appliquant :
w1= w1+ μ.[(d1- x1) * e1 ] = 2
w2= w2+μ.[(d2 – x2) * e2 ]= 2
2/ On passe à l'exemple suivant (2) :
3/ a = 1.1 + 1.-1 -0.0 = 0 a <=0 => x = -1
4/ La sortie est fausse, il faut donc modifier les poids en appliquant :
w1= 1 + 1.1 = 2
w2= 1 + 1.-1 = 0
…/ L'exemple suivant (3) est correctement traité : a = -2 et x = -1 (la sortie est
bonne).
On passe directement, sans modification des poids à l'exemple (4). Celui-
ci aussi est correctement traité. On revient alors au début de la base
d'apprentissage : l'exemple (1).
Il est correctement traité, ainsi que le second (2).
L'algorithme d'apprentissage est alors terminé : toute la base d'apprentissage a
été passée en revue sans modification des poids.
W1= 4 et w2=0
Exercice n°02 : Algorithme d’apprentissage supervisé
Fonctionnement d’un algorithme d'apprentissage du Perceptron :
Base d'exemples d'apprentissage :
e1 e2 d
1 1 1 (1)
-1 1 -1 (2)
-1 -1 -1 (3)
1 -1 -1 (4)
1/ Conditions initiales : w1= -0.2, w2= +0.1, S = 0, (µ = +0.1)

Solution : w1=0.4,w2=0.3,θ=0.2
Exercice (à faire) :
Simuler la fonction ET logique avec un apprentissage supervisé.
Les paramètres du Perceptron sont les suivants :
w1= -0.2, w2= +0.1, S = 0, µ = +0.1
- Essayer d'apprendre le XOR
- Sachant que le XOR peut s'écrire comme :
((e1 ET (NON(e2))) OU (NON(e1) ET e2))
- proposez une solution pour réaliser le XOR avec 3 Perceptrons.
(NON(1) = -1 et inversement)
Différence entre l'algorithme du perceptron et la backpropagation :

Caractéristique Perceptron Backpropagation


Neurone unique ou couche
Type de réseau Réseaux multicouches (MLP, CNN, etc.)
unique
Fonction d'activation Seuil (binaire : sign(a)) Sigmoïde, ReLU, tanh, softmax, etc.
Descente de gradient (calcul du gradient
Mise à jour des poids wi=wi+μ(d−x)ei
de l'erreur)
Propagation de Directe (correction Rétropropagation des erreurs à travers les
l'erreur immédiate) couches
Problèmes linéairement
Utilisation Réseaux profonds et non-linéaires
séparables

La fonction sign(a) joue un rôle fondamental dans les modèles de neurones à


comportement binaire, comme le perceptron. Son objectif principal est de
transformer la somme pondérée des entrées en une décision binaire (+1 ou -
1).

Rôle de la fonction sign(a)

1. Décision binaire (classification linéaire)


o Elle permet de transformer une valeur continue en une sortie binaire.
o Si a≥0a, le neurone est activé (x=+1).
o Sinon, il est inhibé (x=−1).

Vous aimerez peut-être aussi