Statistiques et TCL en Biostatistique
Statistiques et TCL en Biostatistique
M. Bailly-Bechet
Université Claude Bernard Lyon 1 – France
3 Tests 11
3.1 Raisonnement général des tests statistiques . . . . . . . . . . . 11
3.2 Différents types de tests . . . . . . . . . . . . . . . . . . . . . 14
4 Test du χ2 16
4.1 χ2 d’ajustement . . . . . . . . . . . . . . . . . . . . . . . . . . 16
4.2 χ2 d’égalité . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
4.3 χ2 d’indépendance . . . . . . . . . . . . . . . . . . . . . . . . 19
4.4 Lien entre test du χ2 et test de comparison de proportions . . 19
5 ANOVA 1 21
6 ANOVA2 27
1
7 Analyse bivariée 32
7.1 Covariance et coefficient de corrélation linéaire . . . . . . . . . 32
7.2 Test du coefficient de corrélation . . . . . . . . . . . . . . . . . 34
7.3 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
9 Comparaisons de modèles 39
2
1 Variables aléatoires et lois de probabilité
Une variable aléatoire est le résultat d’un tirage probabiliste. C’est une
variable qui peut prendre plusieurs valeurs, avec des probabilités données.
En biologie, on observe des caractères sur les individus : ce sont des
grandeurs qui peuvent prendre plusieurs états ou modalités
En statistiques, on travaille avec des variables aléatoires : ce sont des
variables qui peuvent prendre plusieurs valeurs avec une certaine pro-
babilité
Caractère biologique (couleur) ⇔ Variable aléatoire X
État (bleu, vert, rouge) ⇔ valeur x de probabilité p(X = x)
Les variables qualitatives sont les variables pour lesquelles une me-
sure est difficile à produire, ou subjective : couleur, type de régime
alimentaire, intensité de la douleur. . .
Les variables quantitatives sont les variables que l’on peut mesurer
explicitement : taille, poids, nombre de pattes. . .
Les variables quantitatives peuvent être distinguées par :
— leur espérance notée E(X) ou µ (valeur moyenne attendue). Une va-
riable d’espérance 0 est dite centrée
— leur écart-type notée σ (variabilité attendue des résultats autour de la
moyenne ; exemple des notes des étudiants autour de 10). Une
variable d’écart-type 1 est dite réduite. On utilise souvent pour des
raisons mathématiques σ 2 ou V(X), la variance.
On distingue :
— les variables quantitatives discrètes, ne pouvant prendre qu’un nombre
fini de valeurs (par exemple le nombre de jambes d’un individu).
— les variables quantitatives continues, pouvant prendre un nombre infini
de valeurs (par exemple la taille d’un individu).
3
s p(D = d)
1
1 6
1
2 6
1
3 6
1
4 6
1
5 6
1
6 6
Peut-on prédire le résultat d’un dé ? Et pour deux dés, la somme ? Et le
temps de demain ? Intution : plus il y a de variables, plus on peut prédire le
résultat.
PNOn a toujours, si les résultats possibles sont notés xi avec i = 1..N ,
i=1 p(X = xi ) = 1.
On a toujours
b
X
P (a ≤ X ≤ b) = p(X = x).
x=a
n k
p(X = k) = p (1 − p)n−k (1)
k
E(X) = np (2)
V(X) = np(1 − p). (3)
4
précis.
λk e−λ
p(X = k) = (4)
k!
E(X) = λ (5)
V(X) = λ. (6)
p(x)
f (x) = ,
∆x
avec ∆x le pas que l’on voit.
DIAPOS 15-16 continu vers discret
La loi de probabilité d’une v.a. continue est donnée par sa densité de
probabilité. Comme vu sur la diapo précédente pour une variable continue,
p(X = x) = 0 ; on ne peut pas utiliser le formalisme du cas discret. La densité
f associée à la variable aléatoire X est la probabilité de tirer une valeur dans
un intervalle tout petit autour de x. On a toujours :
Z
f (x) ≥ 0 f (x) = 1.
Ω
On a toujours
Z b
P (a < X < b) = f (x)dx.
a
P R
On note la similarité entre discret et continu en passant de à .
5
1 1 x−µ 2
f (x) = √ e− 2 ( σ ) (7)
2πσ 2
E(X) = µ (8)
V(X) = σ 2 . (9)
6
L’objectif de l’inférence statistique consiste à trouver les valeurs de cer-
taines caractéristiques de la population, à partir de celles observées dans
l’échantillon.
Quand on veut la valeur numérique d’un paramètre, on parle d’estimation.
Une remarque importante est que l’inférence statistique ne dit pas si les
choses sont ou ne sont pas dans la population, mais elle donne une probabilité
à différents évenements, ou une probabilité à la valeur de certains paramètres.
7
Données non groupées :
n
1X
s =2
(xi − x̄)2 , (12)
n i=1
on développe et on obtient :
n
!
1 X
s2 = x2i − x̄2 (13)
n i=1
Sur des données groupées, par le même calcul, on a les deux formules :
k
2 1X 2
s = nj x?j − x̄ , (14)
n j=1
ou encore !
k
1 X
? 2
s2 = − x̄2 .
n j xj (15)
n j=1
8
Soit X une v.a. de moyenne µ et d’écart-type σ. Sa loi est inconnue ou
qcq, on prend une loi uniforme comme exemple :
DIAPO 23 distro moyenne avec n variable mais tjs grand
— une espérance de µ
2
— une variance de σn
— suivra une loi normale, car elle est la somme d’une très grand nombre
de variables indépendantes.
DIAPOS 24-28 repartition des valeurs autour de mu et sigma : 95%, 90%, 99.9%
Donc la notion de taille d’intervalle pour un risque donne de se planter.
Exemples taille étudiants dans amphi d’à coté, notion d’erreur si je fais une
prédiction trop précise ; a l’inverse notion que si je prends un risque ridicule
je prédis une moyenne entre 1m et 3m !
Mathématiquement, on écrit, que, si on prend un risque α de se tromper :
P (µ − Cα < x̄ < µ + Cα ) = 1 − α
r r
σ2 σ2
P (µ − α < x̄ < µ + α )=1−α
n n
x̄ − µ
P (α < q < α ) = 1 − α
σ2
n
x̄−µ
Or q
σ2
est une v.a. centrée réduite qui suit une loi normale comme x̄, car
n
c’est un transformation linéaire d’une v.a. normale ; on peut donc trouver la
valeur de pour un risque α indépendamment de µ et σ, en disant que :
P (α < N (0, 1) < α ) = 1 − α
9
2.3 Estimation par intervalle de confiance
L’idée de l’estimation par intervalle de confiance est d’associer à l’estima-
tion ponctuelle la connaissance que l’on a sur la distribution d’échantillonnage.
En fonction des situations et des hypothèses, on peut avoir une idée plus ou
moins precise de la distribution d’échantillonnage, et donc un intervalle de
confiance plus ou moins précis.
On construit l’IC au risque α de se tromper en regardant l’intervalle
qu’on s’autorise à avoir dans la distro d’échantillonnage au risque α, et en
appliquant cet intervalle autour de la valeur estimée. Dans le cas précédent,
on va chercher à transformer l’expression que l’on a en un encadrement de µ,
qui est inconnu et nous intéresse : FAIRE CALCUL EN FONCTION TEMPS
r r
σ2 σ2
P (µ − α < x̄ < µ + α ) = 1 − α. (16)
rn rn
σ2 σ2
P (−α < x̄ − µ < α ) = 1 − α. (17)
r n rn
σ2 σ2
P (−x̄ − α < −µ < −x̄ + α ) = 1 − α. (18)
nr r n
σ2 σ2
P (x̄ + α > µ > x̄ − α ) = 1 − α. (19)
" n r n
r #
σ2 σ2
IC : x̄ − α , x̄ + α (20)
n n
On peut construire les IC pour d’autres hypothèses (voir cours sur In-
ternet, bouquins biostatistiques à la BU, TDs). Le principal cas à connaı̂tre
est quand la variance a été estimée à partir des données : Si X suit une loi
normale de variance inconnue – bien définir une variance inconnue –
on fait une petit erreur car on doit estimer la variance ; la loi sous-jacente
n’est plus une loi normale mais une loi de Student, et l’IC devient :
s s
σˆ2 σˆ2
IC : x̄ − tα,n−1 , x̄ + tα,n−1
n n
10
Pour l’estimation d’une fréquence dans la population, la formule à connaitre,
que l’on obtient par un raisonnement similaire, est :
" r r #
p̂(1 − p̂) p̂(1 − p̂)
IC : p̂ − α , p̂ + α ,
n n
avec p̂ = nk .
Si n est petit on ne peut pas faire grand chose. Les stateux veulent tou-
jours un grand n.
toutes ces formules sont dans le formulaire distribué maintenant !
3 Tests
3.1 Raisonnement général des tests statistiques
On a les durées d’hibernation de n marmottes, notre échantillon. On peut
faire un intervalle de confiance là dessus. Mais on peut également vouloir
comparer ces valeurs à une moyenne de référence µ0 (par exemple, le temps
moyen d’hibernation des mêmes marmottes 10 ans plus tôt). Bien définir x̄,
µ et µ0
Idée générique : si l’écart observé entre x̄ et µ0 , moyenne de référence, est
petit, on va dire que l’erreur est due au hasard ; si l’écart est grand on va
dire que le hasard ne suffit pas. Cet écart va être calculé sous la forme de ce
qu’on appelle la statistique du test.
Formellement, un test statistique distingue toujours 2 hypothèses :
H0 l’hypothèse nulle : nos marmottes dorment autant que la moyenne
de référence : la différence observée entre x̄ et µ vient uniquement
de la variabilité de la distribution d’échantillonage, donc du hasard.
Mathématiquement on a µ = µ0 . Attention, x̄ = µ0 ne veut rien dire !
H1 l’hypothèse alternative : le contraire, à savoir que nos marmottes ne
dorment pas la même durée que la valeur de référence : il existe une
différence réelle entre µ0 , la moyenne globale de la population, et µ,
la moyenne de la sous-population de laquelle provient l’échantillon.
Mathématiquement on a µ 6= µ0 . Attention, x̄ 6= µ0 ne veut rien dire !
Il faut remarquer que H0 est structurellement plus simple que H1 , puisque
H0 implique qu’un seul paramètre décrit la population, alors que H1 implique
l’existance d’un deuxième paramètre. On dit que H0 est l’hypothèse nulle
11
parce que c’est celle que l’on va privilégier (la plus simple) sauf si les données
disent le contraire. Notion Rasoir d’Occam.
Logique des tests : les tests fonctionnent au rejet. Il faut se rappeler que
A → B est équivalent à nonB → nonA, mais pas du tout à B → A. Exemple
avec B : je mange toujours des céréales au petit déjeuner, et A : je suis un
poulet. On a tjs A → B. Si on ne mange pas de céréales (nonB), on peut
en conclure que l’on n’est pas un poulet (si on en était un il faudrait qu’on
mange des céréales). Mais on ne peut pas en conclure que manger toujours
des céréales au petit dejeuner implique que vous etes un poulet, puisque
d’autres choses que les poulets peuvent manger la meme chose qu’eux.
Pour chacun des échantillons ci-dessus, je peux réaliser un test statistique,
qui va se baser sur l’assertion logique suivante : H0 → statistique ∈ [] (qui
correspond à A → B).
On va donc calculer la statistique.
1. Si elle est hors de l’intervalle, on a nonB → nonA et H0 est fausse :
on rejette H0 si la statistique est forte.
2. Si la stat est dans l’intervalle, on ne peut pas en conclure logique-
ment que H0 est vraie ; on va l’accepter par défaut, et parce que c’est
l’hypothèse la plus simple.
La difficulté réside dans le fait qu’ il n’y a pas de limite précise à l’inter-
valle qui nous intéresse, à cause des propriétés des lois statistiques qui nous
intéressent : une loi normale peut donner n’importe quelle valeur, et même si
H0 est vraie, on peut observer – avec des probabilités différentes – n’importe
quelle valeur de x̄. La question est donc : quelle est la probabilité que x̄ soit
aussi éloigné de µ0 , si H0 est vrai ?
DIAPOS 31-33 comparaison xbarre et seuils
On voit qu’en fonction du seuil de précision que l’on choisit, x̄ est d’un
cote ou de l’autre.
Comme précedemment, on va se ramener à une loi normale centré réduite.
On a : DIAPO 34 equivalence seuils
r
σ2 x̄ − µ0
P (x̄|N (µ, )) = P ( q |N (0, 1))
n σ2
n
12
plus probables, x̄ est-il dans cet intervalle ?
La valeur critique correspondant à chaque risque α dépend des hypothèses
du test effectué ; ici les valeurs critiques sont les mêmes α que précedemment.
En TD vous verrez les différents tests avec pour chacun, les hypothèses et les
valeurs critiques correspondantes ; la démarche à se rappeler est toujours la
suivante :
— Choisir un risque α ;
— En déduire en fonction du test la valeur seuil zα .
— Calculer la statistique du test, zobs .
— Si kzobs k ≤ zα , on est dans l’intervalle, on ne peut pas rejeter H0 .
— Si kzobs k > zα , on est hors de l’intervalle, on peut rejeter H0 et accepter
H1 . . . avec un risque α de se tromper.
Une autre démarche s’est développée avec l’avènement de l’informatique :
le calcul de la p-valeur. Cette valeur est la probabilité que H0 explique bien
les données observées : plus elle est faible, moins H0 a de chances d’être vraie.
Il faut cependant toujours choisir un niveau de risque avant de commencer
les calculs, la seule différence vient de la méthode de calcul. Les p-valeurs ne
se calculent pas à la main, mais toujours avec un ordinateur – voir R.
DIAPO 35 p valeur
Quand on effectue un test statistique avec un seuil choisi au risque α,
on dit en pratique que si x̄ appartient aux α pour cents de la distribution
d’échantillonage les plus rares, on va rejeter H0 comme étant fausse. Cette
assertion est par définition fausse dans α pour cents des cas. On prend donc
un risque α de se tromper, dit risque de première espèce.
Mais peut-on se tromper en choisissant H0 aussi ?
Il existe un autre risque de se tromper : c’est celui ou on conserve H0 par
défaut alors que H0 était fausse. C’est le cas ou H1 est vraie, mais peut-etre
pas tres différente de H0 , et donc on ne voit pas bien la différence. On note
ce risque de deuxième espèce β. Dans la pratique ce risque est complexe à
calculer, mais il est toujours présent.
DIAPO 36-37-38-39 exemple beta
Tableau recap risques
Réalité H0 H1
Choix
H0 1-α β
H1 α 1−β
On ne peut pas minimiser à la fois α et β : si je minimise α, donc j’augmente
13
mes chances de conserver H0 quand elle est vraie, alors je dois forcément
augmenter β et augmenter ems chances de ne pas voir que H1 est vraie. . .
Un mot sur la latéralité : si je m’intéresse à une hypothèse biologique uni-
latérale (un médicament par exemple), je vais changer mon seuil à l’avance,
et décider que je ne considererai que les effets par exemple positifs. Dans ce
cas, pour conserver le meme risque, il faut que je prenne un α différent ; vu
que la loi est symétrique, il faut que je prenne pour un test unilatéral un
seuil 2α .
DIAPO 40 Test unilatéral
14
et σP2 respectivement les variances à l’échelle de la population.
H0 : σA2 = σP2 .
H1 : σA2 6= σP2 .
si la variance observée est plus grande dans les Pyrénées comme ici. On voit
que ce rapport devrait valoir une valeur proche de 1 si les variances observées
sont proches, et donc que les variances des 2 populations sont supposément
proches – ce qui est H0 .
nA −1,nP −1
On compare ensuite : si Fobs ≤ F0.05 , on en conclut que H0 ne peut
pas être rejetée, et donc que les variances sont bien égales, avec un risque β
nA −1,nP −1
de deuxième espèce inconnu. Si au contraire Fobs > F0.05 , on va rejeter
H0 avec un risque α = 5% de se tromper, et dire que les variances sont
différentes.
H0 : µA = µP .
H1 : µA 6= µP
On choisit un seuil α = 0.05 par exemple ici aussi (c’est la valeur par
défaut, et ca pose actuellement des problèmes). La valeur seuil de notre test
15
A +nP −2
sera alors lue dans la table de Student, et sera notée tn0.05 , encore une
fois des degrés de liberté. La statistique à calculer est :
|x̄ − ȳ|
tobs = r , (23)
σ̂ 2 n1A + 1
nP
On voit que ce rapport devrait valoir une valeur proche de 0 si les moyennes
observées sont proches, et donc que les moyennes des 2 populations sont
supposément proches, soit H0 .
A +nP −2
On compare ensuite : si tobs ≤ tn0.05 , on en conclut que H0 ne peut
pas être rejetée, et donc que les moyennes sont bien égales, avec un risque
A +nP −2
β de deuxième espèce inconnu. Si au contraire tobs > tn0.05 , on va rejeter
H0 avec un risque α = 5% de se tromper, et dire que les moyennes sont
différentes.
DIAPO 41-42 Comp moyennes marmottes + discussion p-valeur
Pour les formules détaillées de chaque test, formulaire, cours de première
année, TDs et bouquins de biostats à la BU.
4 Test du χ2
Le test du χ2 est un test qui vise à analyser une table de contingence,
c-à-d des comptes obtenus pour des variables qualitatives, discrètes ou re-
groupées par classe. Au sein de chaque groupe on a le nombre d’individus
qui appartiennent au groupe.
DIAPOS 43-46 exemples chi2
4.1 χ2 d’ajustement
On a une table de contingence pour une variable X. On se demande si
les comptes observés pour chaque intervalle ou valeur de X suivent une loi
donnée p(X).
16
”n’importe quelle autre loi”. Attention au fait que cela peut paraı̂tre contre-
intuitif ! On va voir si les données permettent de rejeter une hypothèse nulle
disant qu’on suit bien une loi donnée.
Les étapes consistent en :
— Calculer les effectifs théoriques attendus si H0 est vraie
— Regrouper les catégories pour que les effectifs théoriques vaillent au
moins 5 (en réalité ne soient pas trop petits, on utilise une convergence
vers la normale et pas la Poisson)
— Calculer la statistique qui mesure la différence entre effectifs théoriques
et effetifs observés
— Conclure en comparant à la valeur théorique que l’on a pu tabuler si
H0 était vraie.
Si H0 est vraie, l’effectif théorique de la classe i est donné par la formule
Ti = np(X = Xi ), avec n l’effectif total.
X X1 X2 ... Xk Total
Effectifs observés Oi n1 n2 ... nk n
Effectifs théoriques Ti np(X = X1 ) np(X = X2 ) ... np(X = Xk ) n
17
4.2 χ2 d’égalité
On a une table de contingence pour une variable X à k modalités mesurées
dans m conditions. On se demande si les comptes observés pour chaque
condition ont la même distribution.
DIAPO 49 Exemple Labos
A A1 A2 ... Ap Somme
B
B1 n11 n12 n1p n1•
B2 n21 n22 n2p n2•
... ...
Bq nq1 nq2 nqp nq•
Somme n•1 n•2 n•p n
Quel est l’effectif théorique dans la case ij ? Si H0 est vraie, cet effectif
est simplement proportionnel à l’effectif de la ligne i et de la conlonne j. On
a donc :
ni• n•j ni• n•j
tij = n =
n n n
Une fois ces effectifs théoriques calculés, on les regroupe pour avoir des
cases supérieures a 5 si possible, puis on calcule le χ2 comme précedemment :
p q
X X (nij − tij )2
χ2obs =
i=1 j=1
tij
18
fixes ; on a donc p − 1 colonnes indépendantes et q − 1 lignes indépendantes,
et (p − 1)(q − 1) ddl et on a :
χ2seuil = χ2α,(p−1)(q−1)
4.3 χ2 d’indépendance
En pratique, ce test ressemble énormément au précédent : on dispose de
la table de contingence croisée pour un variable X affectée par 2 caractères
A et B. Les hypothèses sont :
DIAPOS 50 Pb pandas
Les effectifs théoriques sont calculés de la même manière, le regroupement
aussi, et le seuil de la même façon. La seule différence réside dans la formula-
tion des hypothèses : les différentes modalités de A et B chacun sont-elles de
simples variations ou des états complètement différents ? La différence n’est
pas toujours évidente. Le nombre de ddl est le même que précedemment,
pour les mêmes raisons.
DIAPO 51-52 Exemple Pandas + effectifs !
19
X Réussite Échec Total
Effectifs observés Oi n1 n − n1 n
Effectifs théoriques Ti np n(1 − p) n
n1
n
−p
obs = q
p(1−p)
n
Le lien entre ces deux formules est donné par le calcul suivant :
20
5 ANOVA 1
On sait comparer les moyennes issues de 2 échantillons. Comment faire
si l’on dispose de 3 échantillons 1, 2 et 3 ? La première possibilité est de
comparer :
— 1 et 2
— 2 et 3
— 1 et 3
Cela multiplie les tests, et peut conduire à des situations difficiles à in-
terpréter : par exemple 1 et 2 ne sont pas significativement différents, 2 et 3
non plus, mais 1 et 3 le sont !.
L’objectif de l’ANOVA 1 est de tester simultanément l’égalité de toutes
les moyennes de k échantillons. Chaque échantillon i = 1..k est caractérisé
par sa moyennes obervée ȳi et sa variance observée s2i . Chaque échantillon
est issu d’une population de moyenne µi et de variance σi2 . On veut donc
tester :
H0 : µi = µj ∀i, j
H1 : ∃i, j t.q. µi 6= µj .
A
A1 A2 ... Ap
y y11 y21 yp1
y12 y22 yp2
... ...
y1n1 y2n2 ypnp
Nombre de n1 n2 np
répétitions
Moyenne ȳ1 ȳ2 ȳp
Écart-type s21 s22 s2p
observé
21
suite. On dira que la taille totale de l’échantillon est N =P pi=1P
P
ni . On note
également la moyenne globale de tout l’échantillon ȳ = N i=1 nj=1
1 p i
yij .
Si on devait modéliser ces données, on pourrait le faire ainsi. Sous H0 on
peut écrire :
yij = µ + eij ,
avec eij un terme de variabilité intrinsèque sur les mesures – on dira souvent
que eij , qu’on appelle les résidus, suivent une loi normale de moyenne nulle.
La moyenne théorique dans chaque groupe est donc bien µ, puisque le terme
eij est aléatoire et n’ajoute rien à la moyenne.
Et sous H1 on peut écrire :
yij = µ + ai + eij .
La différence est donc que sous H1 on suppose que en plus du terme
résiduel, on a un écart à la moyenne dans chaque groupe, avec µi = µ + ai .
L’idee générale est que la variabilité des données autour de la moyenne
globale, ȳ, est due à la fois à la variabilité au sein de chaque groupe, due au
hasard, et à la variabilité moyenne entre les groupes, qui est nulle sous H0 et
vaut ai pour le ième groupe sous H1 . On va donc calculer ces deux variabilités
et les comparer.
On va décomposer la variance globale :
p ni p ni
X X X X
2
(yij − ȳ) = [(yij − ȳi ) + (ȳi − ȳ)]2
i=1 j=1 i=1 j=1
p ni p ni
X X X X
(yij − ȳ)2 = (yij − ȳi )2 + (ȳi − ȳ)2 − 2 (yij − ȳi ) (ȳi − ȳ)
i=1 j=1 i=1 j=1
p ni p ni p p ni
X X X X X X X
2 2 2
yij ȳi − yij ȳ − ȳi2 + ȳi ȳ
(yij − ȳ) = (yij − ȳi ) + ni (ȳi − ȳ) − 2
i=1 j=1 i=1 j=1 i=1 i=1 j=1
p ni p ni p p
X X X X X X
2 2 2
ni ȳi2 − ni ȳi ȳ − ni ȳi2 + ni ȳi ȳ
(yij − ȳ) = (yij − ȳi ) + ni (ȳi − ȳ) − 2
i=1 j=1 i=1 j=1 i=1 i=1
p ni p ni p
X X X X X
(yij − ȳ)2 = (yij − ȳi )2 + ni (ȳi − ȳ)2
i=1 j=1 i=1 j=1 i=1
22
On note :
SCEinter
η2 =
SCEtot
le rapport de la variabilité expliquée par des différences entre groupes (et
donc par le facteur A) sur la variabilité totale. C’est un indicateur de la
proportion de la variabilité qui est due au facteur A ; on a tjs 0 < η 2 < 1.
On voit dans les formules que les différents SCE ne comprennent pas le
même nombre de termes libres. Dans le SCEtot , on utilise tous les yij ; ceux-ci
sont tous indépendants sauf le dernier, on a donc N − 1 ddl. Dans le terme
SCEinter , on utilise les ȳi : on a donc p − 1 ddl. Dans le terme SCEintra , on
utilise les yij par rapport aux ȳi : on a donc N − p ddl. On a :
N −1=p−1+N −p
On peut donc calculer à partir des SCE des carrés moyens, qui dépendent
de ces ddl :
SCEinter SCEintra
CMinter = CMintra =
p−1 N −p
Si H0 est vraie, on peut montrer que CMintra ∼ CMinter , parce que
la variabilité globale se décompose autant entre les groupes que dans les
groupes, une fois la normalisation par les CM faite. Si H0 est fausse alors
on attend plus de variabilité entre groupes que dans chaque groupe (CMinter
plus fort que CMintra ). La statistique de l’ANOVA1 va donc être le rapport :
CMinter
Fobs =
CMintra
Cette statistique, qui est en fait un rapport de variances, suit une loi de
Fisher, et la valeur seuil est donc Fα,p−1,N −p . Si Fobs ≤ Fα,p−1,N −p , on en
conclut que H0 ne peut pas être rejetée, et donc que les moyennes de tous
les groupes sont bien égales, avec un risque β de deuxième espèce inconnu.
Si au contraire Fobs > Fα,p−1,N −p , on va rejeter H0 avec un risque α = 5% de
se tromper, et dire que au moins une moyenne est différente des autres.
Notez bien qu’on parle d’analyse de variance pour comparer des moyennes
– parce que la technique utilise une décomposition et un test basé sur les
variances ; mais on compare bien des moyennes dans ce test.
DIAPOS 56-57 ANOVA marmotte
23
Cas particulier de 2 échantillons A ZAPPER SI MANQUE DE TEMPS
ET METTRE SUR SPIRAL
La technique de l’ANOVA1 peut aussi s’appliquer à la comparaison de
2 échantillons. Prenons l’exemple simple de 2 échantillons de même taille n.
La procédure classique de test d’égalité des moyennes, si les variances sont
considérées comme égales, consisterait à calculer la statistique :
ȳ1 − ȳ2
tobs = q .
σ̂ 2 n1 + n1
p p
X X
2
(ȳi − ȳ)2 = n (ȳ1 − ȳ)2 + (ȳ1 − ȳ)2
SCEinter = ni (ȳi − ȳ) = n
i=1 i=1
" 2 2 # " #
2
ȳ1 + ȳ2 ȳ1 + ȳ2 (ȳ1 − ȳ2 )
=n ȳ1 − + ȳ2 − =n
2 2 2
p ni n n
X X X X
SCEintra = (yij − ȳi )2 = (y1j − ȳ1 )2 + (y2j − ȳ2 )2
i=1 j=1 j=1 j=1
CMinter SCEinter
(ȳ1 − ȳ2 )2
Fobs = = 1
SCEintra
= = t2obs
CMintra σ̂ 2 2
2n−2 n
24
p p
ni
! n
i
X X T2 XX
SCEtot = yij2 − avec T = yij = N ȳ
i=1 j=1
N i=1 j=1
p
! n
i
X T2 i T2 X
SCEinter = − avec Ti = yij = ni ȳi
i=1
ni N j=1
p p
ni
! !
2
X X X Ti
SCEintra = SCEtot − SCEinter = yij2 −
i=1 j=1 i=1
n i
On calcule la statistique :
s2max
Hobs = ,
s2min
Et on compare à la valeur seuil au risque α dans la table de Hartley. Ce
tableau a deux entrées : la taille des groupes ni , et le nombre de groupes
comparés.
25
Pour éviter les calculs lourdingues, R
DIAPOS 58-59 ANOVA marmottes R
26
6 ANOVA2
Exemple : on veut étudier des données concernant la vitesse de réplication
d’un virus de la grippe en fonction de la souche et de la température.
DIAPOS 60-61-62 présentation données virus + graphique
Formellement les données se présentent de cette façon :
Facteur A
Facteur B A1 A2 ... Ap
y111 y211 ... yp11
B1 y112 y212 ... yp12
... ... ...
y11n11 y21n21 ... yp1np1
y121 y221 ... yp21
B2 y122 y222 ... yp22
... ... ...
y12n12 y22n22 ... yp2np2
...
y1q1 y2q1 ... ypq1
Bq y1q2 y2q2 ... ypq2
... ... ...
y1qn1q y2qn2q ... ypqnpq
27
La question que pose l’ANOVA2 – qui est une généralisation de la question
posée par l’ANOVA1 – est de savoir quel est le meilleur modèle pour décrire
les données. Les modèles avec plus de coefficients sont mathématiquement
plus compliqués : ils seront des hypothèses alternatives dans les tests, les
modèles les plus simples étant à chaque fois des hypothèse nulles.
L’ANOVA2 teste 3 hypothèses en parallèle :
— Sur le facteur A :
H0 : Les moyennes dans les différentes categories du facteur A sont
les memes.
H1 : Les moyennes dans les différentes categories du facteur A sont
differentes.
ou encore
H0 : ai = 0 ∀i
H1 : ∃i t.q. ai 6= 0
— Sur le facteur B :
H0 : Les moyennes dans les différentes categories du facteur B sont
les memes.
H1 : Les moyennes dans les différentes categories du facteur B sont
differentes.
ou encore
H0 : bj = 0 ∀j
H1 : ∃j t.q. bj 6= 0
— Sur l’interaction entre ces 2 facteurs :
H0 : Les moyennes dans les différentes categories du facteur A de-
pendent des valeurs de B.
H1 : Les moyennes dans les différentes categories du facteur A ne
dependent pas des valeurs de B.
ou encore
H0 : cij = 0 ∀i, j
H1 : ∃i, j t.q. cij 6= 0
De la même manière que dans l’ANOVA1, on va comparer les variabilités
dues aux différents facteurs entre elles. On va décomposer la variabilité glo-
bale en une somme, normaliser chaque terme par le nombre de ddl approprié,
et comparer ces termes entre eux.
On suppose le nombre de répétitions par case nij égal dans toutes les
cases, et on le note n. Le cas ou le nombre de répétitions est différent est
en pratique calculatoirement complexe, et empêche de faire la décomposition
ci-dessous, ce qui est problématique à la fois en terme d’interprétation et en
28
termes de calculs.
p q n
X X X
SCEtot = (yijk − ȳ)2
i=1 j=1 k=1
yijk − ȳ = (ȳi• − ȳ) + (ȳ•j − ȳ) + (ȳij − ȳi• − ȳ•j + ȳ) + (yijk − ȳij ).
p q n
X X X
SCEtot = (yijk − ȳ)2
i=1 j=1 k=1
p q p q
X X X X
= qn (ȳi• − ȳ)2 + pn (ȳ•j − ȳ)2 + n (ȳij − ȳi• − ȳ•j + ȳ)2
i=1 j=1 i=1 j=1
pn q
XXX
+ (yijk − ȳij )2
i=1 j=1 k=1
29
On va ensuite répondre aux 3 tests en calculant les valeurs suivantes :
CMA α
FA = Fseuil = Fp−1,pq(n−1)
CMres
CMB α
FA = Fseuil = Fq−1,pq(n−1)
CMres
CMA×B α
FA = Fseuil = F(p−1)(q−1),pq(n−1)
CMres
On conclut de la manière habituelle.
DIAPOS 63-65 exemple bio
DIAPOS 66-70 deuxième cas avec interaction
Détails pratiques Si le plan est déséquilibré, les calculs précédents sont in-
valides. On fait sur machine, et attention, le problème n’est plus symétrique :
on ”attribue” la variance préférentiellement à A ou B, voir TP R sur ANOVA2.
Comme pour l’ANOVA1, on emploie en TD les formules développées
(équivalence en 2 lignes avec les formules précedentes) :
p q n
!2 p q n
X X X
2 T2 X X X
SCEtot = yijk − T = yijk
i=1 j=1 k=1
N i=1 j=1 k=1
p q
! n
1 X 2 T2 X X
SCEA = Ti• − Ti• = yijk
qn i=1 N j=1 k=1
q p
! n
1 X 2 T2 X X
SCEB = T − T•j = yijk
pn j=1 •j N i=1 k=1
p q p q
n
! n
X X X
2 1 XX 2 X
SCEres = yijk − Tij Tij = yijk
i=1 j=1 k=1
n i=1 j=1 k=1
30
Cas particulier : n = 1 Si on n’a pas de répétitions, on peut voir que
les formules précédentes ne permettent pas de calculer un SCEres : on a
SCEres = 0. Donc on ne peut pas savoir s’il y a ou non interaction et calculer
en même temps les résidus. SCEres étant la valeur de référence pour tous
les tests, cette absence nous oblige à considérer qu’on ne peut pas dans ce
cas distinguer l’effet d’interaction et l’effet résiduel, et on va décomposer
la variance en un terme du à A, un terme du à B, et un unique terme
résiduel. On va donc procéder comme pour une ANOVA2 classique avec les
modifications suivantes :
31
7 Analyse bivariée
DIAPOS 71-72 ribosome et présentation problème
Beaucoup d’expériences, en biologie notamment, mènent à considérer si-
multanément deux variables X et Y appariées, c’est-à dire où à chaque in-
dividu de l’échantillon correspond une valeur de X et une valeur de Y . On
peut :
Décrire et quantifier les relations entre deux variables : est ce que la
concentration en ARNm (X) dans la cellule et la concentration dans
la protéine correspondante (Y ) sont liées et est-ce que cette liaison est
linéaire ? C’est un calcul de corrélation.
Modéliser pour prédire les valeurs de Y à partir des valeurs de X :
connaissant X, que puis-je dire pour Y ? C’est un calcul de régression.
Si elle existe, la variable contrôlée X est appelée variable indépendante
ou explicative, et est toujours en abcisse. La variable aléatoire Y est appelée
variable dépendante ou à expliquer, et est toujours placée en ordonnée. Si on
a 2 variables non contrôlées, le sens du graphe n’est pas prédéterminé, mais
il est souvent implicite que X est la cause de Y .
DIAPOS 73-74 graphique ribosome+marmotte controle
Si l’on a plus de 2 variables que l’on veut analyser simultanément, on
procèdera à une analyse multivariée.
32
var(X) = cov(X, X) =E(X 2 ) − E(X)2 , (24)
n
2 1X 2
à lier à s = xi − x̄2 . (25)
n i=1
33
rXY est toujours compris entre les 2 extrêmes d’alignement ”parfait” ; on
a:
−1 ≤ rXY ≤ 1.
34
entre 2 points seulement. À l’inverse, si on fait un test avec énormément de
points (en génomique, classiquement 10 à 20000), il arrive qu’un coefficient
de corrélation r = 0.02 soit significativement différent de 0. Qu’en penser ?
On verra la signification de r comme pourcentage de la variation expliquée
dans le chapitre sur la régression. Il ne faut pas confondre taille d’effet et
taille d’échantillon, l’acceptation de H1 dans le test venant toujours d’un
mélange des deux.
7.3 Exemples
DIAPOS 78-79-80 Exple concentration ARNm + erreur R cov
DIAPO 81 Exple Pandas
Dans le cas où on a des données numériques groupées, on emploie les for-
mules de la moyenne, l’écart-type et la covariance pour des données groupées
par classe :
p
1X 0
x̄ = n i xi ,
n i=1
p
!
1 X 0
s2X = ni xi − x̄2 ,
n i=1
p q
!
1 XX 0 0
sXY = nij xi yi − x̄ȳ,
n i=1 j=1
0 0
où les valeurs xi et yi sont les médianes des valeurs de chaque classe.
On note bien la différence entre le test du χ2 vu précedemment et le test
de régression linéaire : les hypothèses testées ne sont pas les mêmes, le test
de corrrélation teste une hypothèse bcp plus précise.
DIAPO 82-83 Calcul Pandas
35
de la relation entre une variable X et une variable Y par une droite, qui per-
met de prédire les valeurs de Y en fonction des valeurs de X.
La principale différence conceptuelle avec le cas où les 2 variables sont
aléatoires est que, ici, on ne cherche pas à savoir s’il existe ou non une relation,
mais plutôt quelle est la nature de cette relation. Si le test de corrélation a
indiqué qu’il n’y avait pas de relation, alors écrire un modèle ne sert à rien. . .
Attention, l’existence d’une corrélation n’implique pas forcément celle
d’une causalité. On a par exemple une très bonne corrélation entre le nombre
de cigognes en Alsace et le taux de fertitilité en Asace, et pourtant les 2
phénomènes ne sont reliés causalement qu’au travers d’une cause commune :
le passage du temps. . .
Si l’on veut modéliser une relation non-linéaire entre Y et X, on parlera
de régression polynomiale, ou exponentielle, ou logarithmique en fonction de
la fonction utilisée : c’est de la régression non linéaire.
DIAPOS 84-85-86 choix droite regression et ecarts
Valeurs observées : (xi , yi )
Valeurs prédites : ŷi = axi + b
Ecarts : ei = yi − ŷi
36
cette fonction par rapport à b et a sont nulles.
n
∂F X
=0⇒ (2b + 2axi − 2yi ) = 0, (26)
∂b i=1
2nb + 2anx̄ − 2nȳ = 0, (27)
b = ȳ − ax̄. (28)
n
∂F X
2ax2i + 2bxi − 2xi yi = 0,
=0⇒ (29)
∂a i=1
n
X
2ax2i + 2ȳxi − 2ax̄xi − 2xi yi = 0,
(30)
i=1
n
X n
X
a x2i − x̄xi = (xi yi − ȳxi ) , (31)
i=1 i=1
n
! ! n
X X
a x2i − nx̄2 = (xi yi ) − nȳx̄, (32)
i=1 i=1
sXY
a= 2 . (33)
sX
37
de la pente et de l’ordonnée à l’origine prédite. Les intervalles de confiance
ont les formes suivantes (on ne rentre pas dans le pourquoi) :
s
σ̂r2
ICα a : â ± tα,n−2
ns2X
r
σ̂r2
ICα b : b̂ ± tα,n−2 ,
n
n
Pn 2
avec σ̂R2 = n−2 i=1 ei , comme vu avant. Un des intervalle de confiance les
plus utiles est celqui que l’on peut former autour d’une prédiction : connais-
sant la régression linéaire de Y en fonction de X, quelle valeur y0 peut-on
espérer obtenir pour une valeur x0 de la variable X ?
v !
2
u
u n + 1 (x 0 − x̄)
ICα y0 : âx0 + b̂ ± tα,n−2 tσ̂r2 + .
n ns2X
|â − γ|
tobs = q 2 ,
σ̂r
ns2X
38
Ce tobs est à comparer à un tseuil à n − 2 ddl.
Dans le cas γ = 0, on montrera au prochain cours que ce test est équivalent
au test du coeff de corrélation.
DIAPO 97 test conformite pente
Pour vérifier l’égalité de deux pentes réelles à partir de deux pentes me-
surées, le test se déroule ainsi :
H0 : les deux pentes réelles a1 et a2 sont égales.
H1 : les deux pentes réelles a1 et a2 sont différentes.
avec :
2 2
(n1 − 2)σ̂r,1
2
+ (n2 − 2)σ̂r,2
σ̂ = .
n1 + n2 − 4
On compare ce tobs à un tseuil à n1 + n2 − 4 ddl.
9 Comparaisons de modèles
DIAPOS 98-99 présentation problème marmottes.
On peut, comme dans l’ANOVA1, décomposer la variance dans la régression
linéaire, en se servant des valeurs prédites au lieu des moyennes des groupes
comme point intermédiaire :
n
X n
X
(yi − ȳ)2 = (yi − ŷi + ŷi − ȳ)2 (34)
i=1 i=1
n
X n
X
2
= (yi − ŷi ) + (ŷi − ȳ)2 (35)
i=1 i=1
SCEtot =SCEres + SCEy,x (36)
ns2Y =ns2r + ns2y,x (37)
39
se décompose en une part expliquée par la relation entre Y et X, et une
part résiduelle qui est indépendante de X. Cette somme résiduelle est, si l’on
regarde sa définition, la somme des carrés des résidus : il s’agit donc, à un
facteur près, du s2R vu au chapitre précédent !
De la même manière que pour une ANOVA 1 on définissait un rapport de
corrélation pour donner la part de variabilité totale expliquée par le facteur :
SCEinter
η2 = ,
SCEtot
on définit pour le modèle de régression linéaire la part de variabilité linéairement
expliquée par la variable X :
Pn 2
2 SCEy,x i=1 (ŷi − ȳ)
R = = n P 2
.
SCEtot i=1 (yi − ȳ)
Pn Pn
2 i=1 (ŷi − ȳ)2
i=1 (axi + b − (ax̄ + b))2
R = Pn 2
= Pn 2
(38)
i=1 (yi − ȳ) i=1 (yi − ȳ)
Pn 2 2
i=1 a (xi − x̄)
= P n 2
(39)
i=1 (yi − ȳ)
s2
R2 =a2 X . (40)
s2Y
sXY
Or, on a a = s2X
; en remplacant on obtient :
2
s2X s2XY
sXY
2
R = = = (rXY )2
s2X s2Y s2X s2Y
On a donc au final :
s2Y = s2y,x + s2r , avec
40
Si r = 1 ou r = −1, toute la variabilité est expliquée, et la relation entre
Y et X est linéaire : la connaissance de X permet de prédire exacte-
ment la valeur de Y .
Reprenons la formule du test de la pente quand γ = 0, ie savoir si une
pente observée est significativement différente de 0. Dans le cas où γ = 0,
en remplacant la variabilité résiduelle par la nouvelle formule obtenue plus
haut, on retrouve bien :
sXY
â s2X
q =r (41)
σr2 n
(1−r2 )s2Y
n−2
ns2X
ns2X
sXY
= q (42)
1
sX n−2
(1 − r2 )s2Y
√
sXY n − 2
= √ (43)
sX sY 1 − r 2
√
r n−2
=√ , (44)
1 − r2
qui est la formule donnée précedemment pour tester l’égalité de r à 0 dans le
cas du test du coefficient de corrélation. On voit bien que si on a pas trouvé
un r significativement différent de 0, on trouvera une pente égale à 0, ie pas
de relation entre Y et X.
Si l’on veut mettre en parallèle la décomposition employée dans l’ANOVA1
et dans la régression, on peut l’écrire ainsi :
DIAPO 100 decomposition variance
ANOVA 1 yij = µ + ai + eij
p ni p p ni
X X X X X
2 2
(yij − ȳ) = ni (ȳi − ȳ) + (yij − ȳi )2
i=1 j=1 i=1 i=1 j=1
SCEinter
SCEtot = SCEinter + SCEintra η 2 =
SCEtot
Modèle linéaire yij = axi + b + eij
p ni p p ni
X X X X X
2 2
(yij − ȳ) = ni (ŷi − ȳ) + (yij − ŷi )2
i=1 j=1 i=1 i=1 j=1
41
SCEy,x
SCEtot = SCEy,x + SCEres R2 =
SCEtot
Expliquer les variations de Y avec un modèle linéaire est moins général
qu’avec une ANOVA 1, car dans le cas de l’ANOVA 1 on n’impose pas la
contrainte que l’explication doit être linéaire.
p p
X X
2
ni (ȳi − ȳ) = ni (ȳi − ŷi + ŷi − ȳ)2
i=1 i=1
p p
X X
2
= ni (ȳi − ŷi ) + ni (ŷi − ȳ)2
i=1 i=1
SCEinter = SCEEcart + SCEy,x
p ni p p p ni
X X X X X X
2 2 2
(yij − ȳ) = ni (ȳi − ŷi ) + ni (ŷi − ȳ) + (yij − ȳi )2
i=1 j=1 i=1 i=1 i=1 j=1
(45)
SCEtot = SCEEcart + SCEy,x + SCEintra . (46)
42
η 2 − R2 est l’indice de non-linéarité. C’est la proportion de la variabilité
expliquée par une ANOVA 1 et pas par la régression linéaire.
DIAPO 101 exemple graphique η et R.
η 2 = R2 L’ANOVA 1 et la régression linéaire expliquent la même pro-
portion de la variabilité globale : les données suivent bien un modèle
linéaire.
η 2 R2 L’ANOVA 1 explique beaucoup plus de variabilité que la régression
linéaire : le modèle linéaire ne correspond pas aux données, les varia-
tions de Y sont non-linéaires.
Attention, quel que soit le rapport entre η 2 et R2 , il ne faut pas oublier
que si η 2 est très faible, on a globalement peut d’effet de X sur Y .
On calcule les CM en divisant les SCE par leur nombre de ddl associés.
Les p − 1 ddl de la variance inter dans le cas de l’ANOVA 1 se retrouvent
décomposés en 1 ddl pour la régression (qui ne contient que 2 paramètres)
et p − 2 pour le reste. On a donc :
SCEy,x SCEEcart SCEres
CMy,x = CMEcart = CMres =
1 p−2 n−p
Le test de linéarité se fait suite à une ANOVA1 pour laquelle on a rejeté
H0 . Pour réaliser le test de linéarité, on va comparer les CMEcart et CMres
comme dans une ANOVA 1. Le test a la structure suivante :
H0 : La relation entre Y et X, si elle existe, est linéaire.
H1 : La relation entre Y et X, si elle existe, est non-linéaire.
On suppose par défaut une relation linéaire ; en effet le modèle linéaire est
plus simple qu’un modèle polynomial ou exponentiel. On calcule ensuite :
CMEcart
Fobs = ,
CMres
et cette valeur est comparée à une valeur seuil à (p − 2, n − p) ddl, comme
dans le cas de l’ANOVA 1.
Le test de linéarité ne peut pas être réalisé en dehors du cadre de l’ANOVA 1.
La procédure globale de test doit être la suivante :
1. Vérifier que les hypothèses sont réunies, et réaliser une ANOVA 1.
2. Si l’ANOVA 1 est significative (effet du facteur), faire le test de linéarité
pour savoir si l’effet est linéaire.
43
3. Sinon, s’arrêter : le facteur n’ayant pas d’effet, tester la linéarité de
l’effet n’a pas de sens.
44