Semestre : 6
Unité d’enseignement : UEF 3.2.2
Cours 4
Codage et Théorie de
l’information
Dr Mahmoud Hadef
1
Codage de l’information
2
Codage de l’information
3
Codage de l’information
4
Codage de l’information
Définition du Lemme Longueur du Chemin
Dans un arbre n-aire probabilisé, la profondeur moyenne des
feuilles est égale à la somme des probabilités des nœuds
intérieurs (c’est-à-dire pas les feuilles, mais racine
comprise).
5
Codage de l’information
6
Codage de l’information
7
Codage de l’information
8
Codage de l’information
9
Codage de l’information
10
Codage de l’information
Théorème
Pour deux codes instantanés de la même source
d’information, celui qui a la longueur moyenne du code la
plus courte a le plus haut taux d’entropie par symbole.
11
Codage de l’information
12
Codage de l’information
13
Codage de l’information
14
Codage de l’information
15
Codage de l’information
16
Codage de l’information
17
Codage de l’information
18
Codage de l’information
19
Codage de l’information
Codage de Shannon-Fano
20
Codage de l’information
Codage de Shannon-Fano
21
Codage de l’information
Codage de Huffman
22
Codage de l’information
Codage de Huffman
j'aime aller sur le bord de l'eau les jeudis ou les jours impairs
23
Références
• F. Bavaud , J.-C. Chappelier , J. Kohlas ; Introduction à
la Théorie de l'Information et ses applications ;
Université de Fribourg.
• O. Rioul ; Théorie de l’information et du codage ;
Lavoisier, 2007.
• Y. Mori ; Théorie de l'information et du codage : signal
analogique, signal numérique et applications en
télécommunications ; Hermès Science, 2006.
• T. M. Cover and J. A. Thomas; Elements of information
theory, 2nd edition, Wiley Series in telecommunications
and signal Processing, 2006.
24