Exercice 1 (first)
1. Pourquoi dit-on que l’inférence statistique est fondamentalement une démarche d’inversion ?
Illustrez votre propos avec des graphiques. (10 lignes maximum !)
L’inférence statistique est fondamentalement une démarche d’inversion puisqu’elle vise à « remonter
des effets aux causes » : des observations aux paramètres.
2. Enoncez le postulat de base de l’inférence statistique. (3 lignes maximum !)
Ce postulat repose sur la répétitivité des épreuves c-à-d que les données issues de l’observation du
phénomène aléatoire sont reproductibles un grand nombre de fois et dans les mêmes conditions.
3. Quelle est la différence essentielle entre l’inférence fréquentiste et l’inférence bayésienne ? (10
lignes maximum !)
L’inférence statistique fréquentiste est basée sur le postulat de répétitivité des épreuves et suppose
n’avoir aucune information sur le paramètre 𝜃, tandis que chez les bayésiens, ils supposent connaître
la loi a priori du paramètre.
4. L’inférence statistique est fondamentalement une démarche d’inversion. Pourquoi dit-on que la
théorie bayésienne est la seule à réaliser cette inversion de façon légitime et cohérente ? (6 lignes
maximum !)
Seule la théorie bayésienne réalise cette inversion de façon légitime et cohérente : partant d’un état
d’incertitude initial sur le paramètre, le théorème de Bayes permet d’exprimer la nouvelle incertitude
sur les valeurs possibles du paramètre, une fois les nouvelles données recueillies.
5. Soit un modèle statistique paramétrique [𝜒, ℘ = {𝑃𝜃 : 𝜃 ∈ Θ} ] régulier et 𝜃̂ l’estimateur du
paramètre inconnu 𝜃.
a. Quand dit-on que la famille de probabilités ℘ = {𝑃𝜃 : 𝜃 ∈ Θ} est une famille exponentielle
à 𝑘 paramètres ?
La définition
b. Pourquoi dit-on que l’estimateur 𝜃̂ du paramètre 𝜃 est une statistique ?
Parce que 𝜃̂ est une fonction de l’échantillon théorique (𝑋1 , … , 𝑋𝑛 ) à valeur dans Θ et qui
à la réalisation de l’échantillon théorique {𝑥1 , … , 𝑥𝑛 } ; fait correspondre un nombre réel
𝜃̂(𝑥1 , … , 𝑥𝑛 ) appelé estimateur ponctuel de 𝜃.
c. Quand dit-on que l’estimateur 𝜃̂ du paramètre 𝜃 est une statistique exhaustive
complète ?
Lorsque la loi de (𝑋1 , … , 𝑋𝑛 ) conditionnellement à 𝜃̂(𝑥1 , … , 𝑥𝑛 ) = 𝑡 n’est pas une
fonction du paramètre 𝜃 et si pour toute fonction 𝑔: ℝ𝑛 → ℝ mesurable telle que
𝐸 [|𝑔 (𝜃̂(𝑥1 , … , 𝑥𝑛 ))|] < +∞
𝐸 [𝑔 (𝜃̂(𝑥1 , … , 𝑥𝑛 ))] = 0 ∀𝜃 ∈ Θ ⇒ 𝑔(𝑥) = 0
6. Explicitez la relation qui existe entre le risque quadratique, la variance et le bais d’un estimateur
ponctuel.
7. Pourquoi, entre deux estimateurs ponctuels sans biais, on choisira celui dont la variance est la
plus petite.
Exercice 1 (second)
1. La démarche de la théorie de décision statistique consiste à se fixer une règle de préférence entre
les règles de décision et à chercher la décision optimale au sens de préférence.
a. En statistique classique, appelée aussi statistique fréquentiste, la règle de préférence
repose sur quelle notion ?
sur la notion de risque fréquentiste.
b. En statistique bayésienne, la règle de préférence repose sur quelle notion ?
sur la notion de risque bayésien.
2. La démarche d'estimateurs ponctuels peut se faire dans le cadre de la décision statistique.
a. Expliquez en cinq (05) lignes au plus la démarche de la statistique fréquentiste ;
Elle consiste à déterminer la fonction
𝜃̂(𝑋1 , … , 𝑋𝑛 ) = argmax𝜃∈Θ {𝐿(𝑥1 , … , 𝑥𝑛 ; 𝜃)} = argmax𝜃∈Θ {𝐿(𝑥1 , … , 𝑥𝑛 ; 𝜃)}
qui maximise la fonction de vraisemblance ou de log-vraisemblance.
b. Expliquez en cinq (05) lignes au plus la démarche de la statistique bayésienne.
Etape1 : trouver une fonction perte appropriée au problème
Etape2 : 𝜃 est une v.a. qui admet une loi a priori 𝜋(𝜃). L’estimateur ponctuel 𝜃 est le
minimum de la fonction risque a posteriori (le cours pour les formules)
3. Expliquez le principe général de la méthode de maximum de vraisemblance, puis celui de la
méthode bayésienne, et discutez leurs similarités (10 lignes maximum !)
le principe général de la méthode de maximum de vraisemblance consiste à déterminer la
fonction 𝜃̂(𝑋1 , … , 𝑋𝑛 ) qui maximise la fonction de vraisemblance ou de log-vraisemblance ; la
méthode bayésienne consiste …
Ils ont le même point de départ, l’observation du phénomène aléatoire et le modèle statistique
pour l’étudier.
La différence est que pour les bayésiens, 𝜃 est une variable aléatoire et pour les fréquentistes, 𝜃
est un paramètre inconnu.
4. Donnez en cinq lignes au plus l'interprétation de la notion d'intervalle de confiance, selon
l'approche fréquentiste, et expliquez la différence avec les intervalles de confiance obtenus avec
l’approche bayésienne.
5. Expliquez en cinq (5) lignes au plus l'affirmation suivante : « En inférence statistique, toute
décision fondée sur l’approche fréquentiste n’a de véritable justification que si elle doit être prise
un grand nombre de fois dans les mêmes conditions ».
Une règle de décision fondée sur l’approche fréquentiste n’a réellement de sens que si elle est
basée sur l’observation du phénomène aléatoire répété plusieurs fois dans les conditions
identiques.
Exercice 1 (third)
1. Donnez la définition de l’exhaustivité d’une statistique pour un paramètre 𝜃 ∈ Θ.
2. Expliquez ce qu’est l’amélioré de Rao-Blackwell d’un estimateur.
l’amélioré de Rao-Blackwell d’un estimateur est un estimateur sans biais qui réduit la variance en
le rendant meilleur.
3. Enoncez le théorème de Lehmann-Scheffé
4. Donnez la définition d’un estimateur efficace.
Exercice 1 (fourth)
1. Pourquoi dit-on que l’inférence statistique est fondamentalement une démarche d’inversion ?
Illustrez votre propos avec des graphiques. (10 lignes maximum !)
2. Enoncez le postulat de base de l’inférence statistique. (3 lignes maximum !)
3. Quelle est la différence essentielle entre l’inférence fréquentiste et l’inférence bayésienne ? (10
lignes maximum !)
4. L’inférence statistique est fondamentalement une démarche d’inversion. Pourquoi dit-on que la
théorie bayésienne est la seule à réaliser cette inversion de façon légitime et cohérente ? (6 lignes
maximum !)
Exercice 1 (fifth)
1. Pourquoi dit-on que l’inférence statistique est fondamentalement une démarche d’inversion ?
Illustrez votre réponse (en une page maximum !) à l’aide de graphiques (un graphique pour
chaque méthode de l’inférence statistique).
2. Soit un modèle statistique paramétrique [𝜒, ℘ = {𝑃𝜃 : 𝜃 ∈ Θ} ]
a. Quand dit-on que la famille de probabilités ℘ = {𝑃𝜃 : 𝜃 ∈ Θ} est une famille exponentielle
à 𝑘 paramètres ?
b. Rappeler la définition d’une statistique exhaustive minimal. Quelles sont ses propriétés ?
c. Par rapport à la statistique exhaustive minimale, rappeler la définition d’une statistique
exhaustive complète. Quelles sont ses propriétés ?
d. Soit ℘ = {𝑃𝜃 : 𝜃 ∈ Θ} est une famille exponentielle à 𝑘 paramètres, quand dit-on que sa
statistique exhaustive naturelle 𝑇(𝑋) = (𝑇1 (𝑋), … , 𝑇𝑘 (𝑋)) est complète ?
Exercice 1 (last)
1. Pourquoi dit-on que l’inférence statistique est fondamentalement une démarche d’inversion ?
Illustrez votre réponse (en une page maximum !) à l’aide de graphiques (un graphique pour
chaque méthode de l’inférence statistique).
2. Pourquoi dit-on que la théorie bayésienne est la seule à réaliser cette inversion de façon légitime
et cohérente ? (6 lignes maximum !)
3. Soit un modèle statistique paramétrique [𝜒, ℘ = {𝑃𝜃 : 𝜃 ∈ Θ} ] régulier et 𝜃̂ l’estimateur du
paramètre inconnu 𝜃.
a. Quand dit-on que la famille de probabilités ℘ = {𝑃𝜃 : 𝜃 ∈ Θ} est une famille exponentielle
à 𝑘 paramètres ?
b. Pourquoi dit-on que l’estimateur 𝜃̂ est une statistique ?
c. Quand dit-on que l’estimateur 𝜃̂ est un estimateur efficace de 𝜃 ?
1
Lorsque son efficacité vaut 1 c-à-d 𝑒𝑓𝑓𝜃 (𝜃̂) = =1
̂ )𝐼𝑛 (𝜃)
𝑉𝑎𝑟𝜃 (𝜃
Ou encore lorsque sa variance est égale à la borne inférieure de Fréchet-Darmois-Cramer-
Rao.
d. Quand dit-on que l’estimateur 𝜃̂ est une statistique exhaustive complète ?