Université Hassan II de Casablanca
École Normale Supérieure de l'Enseignement Technique de Mohammedia
1
Traitement Automatique du Langage
Naturel (NLP)
Introduction
Zakariae EN-NAIMANI
Master: 2ième SDIA
2023/2024
CBOW : pseudo-code
Fonction Entraîner_CBOW(corpus, vector_size, window, learning_rate, nombre_iterations)
# Initialisation des vecteurs de mots
Initialiser les vecteurs de mots aléatoirement
Pour iter de 1 à nombre_iterations
– Pour chaque phrase dans le corpus
• Pour chaque mot de la phrase
# Récupérer les mots de contexte
context_words = Mots de la fenêtre autour du mot cible
# Calcul de la moyenne des vecteurs de contexte
average_context_vector = Moyenne des vecteurs des mots de contexte
# Prédiction du mot cible
predicted_word_vector = Calculer la prédiction en utilisant le modèle CBOW
# Calcul de l'erreur de prédiction
error = Différence entre le vecteur réel du mot cible et la prédiction
# Mise à jour des vecteurs de mots
Mise à jour des vecteurs des mots de contexte et du mot cible en utilisant l'erreur Fin Pour Fin Fonction
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-35
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-40
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-41
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-42
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-43
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-44
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-45
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-46
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-47
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-48
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-49
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-50
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-51
Traitement Automatique du Langage Naturel Pr. Z. EN-NAIMANI 1-52