SME0822 Análise Multivariada e Aprendizado Não-Supervisionado

Aula 4a: Distribuição normal multivariada

Prof. Cibele Russo

cibele@[Link]
[Link]

Baseado em Johnson, R. A., & Wichern, D. W. (2007). Applied Multivariate Statistical

Analysis. Prentice Hall.

Veja também [Link]

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 1 / 20

Distribuição normal multivariada

Definição
O vetor X p×1 = (X1 , . . . , Xp )> tem distribuição normal multivariada
e
(p-variada) se sua função densidade de probabilidade é dada por

1 1
 
f (x ) = exp − (x − µ)> Σ−1 (x − µ) ,
e (2π)p/2 |Σ|1/2 2 e e e e

com −∞ < xi < ∞, i = 1, 2, . . . , p e Σ uma matriz positiva definida.

Notação: X ∼ Np (µ, Σ).

e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 2 / 20

Exemplo: normal bivariada

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 3 / 20

Distribuição normal multivariada

Definição alternativa
X tem distribuição normal p-variada se e somente se a> X tem distribuição
e e e
normal univariada, para qualquer vetor fixo ap×1 .
e

Obs: Se X é considerado um ponto aleatório no espaço p-dimensional,

então a> X pode ser considerado uma projeção de X em um subespaço
e
e e e
unidimensional.

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 4 / 20

Distribuição normal multivariada

Teorema 1
Se X tem distribuição normal p-variada, e se Y = AX + b , com Aq×p e
e e e e
b q×1 fixos (não aleatórios), então Y tem distribuição normal q-variada.
e e

Prova:
Seja c q×1 um vetor fixado.
Então c > Y = c > (AX + b ) = a> X + c > b com a = c > A.
e

Como a> X tem distribuição normal pois X tem distribuição normal, então
e e e e e e e e e e e

para qualquer c fixado, c > Y tem distribuição normal.

e e e
e e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 5 / 20

Distribuição normal multivariada

Teorema 1
Se X tem distribuição normal p-variada, e se Y = AX + b , com Aq×p e
e e e e
b q×1 fixos (não aleatórios), então Y tem distribuição normal q-variada.
e e

Prova:
Seja c q×1 um vetor fixado.
Então c > Y = c > (AX + b ) = a> X + c > b com a = c > A.
e

Como a> X tem distribuição normal pois X tem distribuição normal, então
e e e e e e e e e e e

para qualquer c fixado, c > Y tem distribuição normal.

e e e
e e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 5 / 20

Distribuição normal multivariada

Teorema 1
Se X tem distribuição normal p-variada, e se Y = AX + b , com Aq×p e
e e e e
b q×1 fixos (não aleatórios), então Y tem distribuição normal q-variada.
e e

Prova:
Seja c q×1 um vetor fixado.
Então c > Y = c > (AX + b ) = a> X + c > b com a = c > A.
e

Como a> X tem distribuição normal pois X tem distribuição normal, então
e e e e e e e e e e e

para qualquer c fixado, c > Y tem distribuição normal.

e e e
e e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 5 / 20

Distribuição normal multivariada

Teorema 1
Se X tem distribuição normal p-variada, e se Y = AX + b , com Aq×p e
e e e e
b q×1 fixos (não aleatórios), então Y tem distribuição normal q-variada.
e e

Prova:
Seja c q×1 um vetor fixado.
Então c > Y = c > (AX + b ) = a> X + c > b com a = c > A.
e

Como a> X tem distribuição normal pois X tem distribuição normal, então
e e e e e e e e e e e

para qualquer c fixado, c > Y tem distribuição normal.

e e e
e e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 5 / 20

Distribuição normal multivariada

Corolário
Qualquer subconjunto de elementos de um vetor X com distribuição
e
normal multivariada tem distribuição normal multivariada. Em particular,
cada elemento unidimensional tem distribuição normal univariada.

Obs: Para o Teorema 1 e Corolário, a matriz de variâncias e covariâncias

de X , Σ, é suposta de posto completo.
e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 6 / 20

Distribuição normal multivariada

Teorema 2
Se X ∼ Np (µ, Σ), com Σ > 0 e se Y = AX + b , com Aq×p e b q × 1 fixos
(não aleatórios), então Y ∼ Nq (Aµ + b , AΣA> ).
e e e e e e
e e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 7 / 20

Distribuição normal multivariada

Corolário 1
Se X ∼ Np (µ, Σ), com Σ > 0 e se Y = a> X , com ap×1 fixo, então
Y ∼ N(a> µ, a> Σa) (normal univariada).
e e e e e
e e e e

Corolário 2
Se X ∼ Np (µ, Σ), com Σ > 0 e se Z = Σ−1/2 (X − µ), então
e e e e p
eX
Z ∼ Np (0, Ip ). Além disso, (X − µ)> Σ−1 (X − µ) = Zi2 ∼ χ2p .
e e e e e e i=1

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 8 / 20

Distribuição normal multivariada

Corolário 1
Se X ∼ Np (µ, Σ), com Σ > 0 e se Y = a> X , com ap×1 fixo, então
Y ∼ N(a> µ, a> Σa) (normal univariada).
e e e e e
e e e e

Corolário 2
Se X ∼ Np (µ, Σ), com Σ > 0 e se Z = Σ−1/2 (X − µ), então
e e e e p
eX
Z ∼ Np (0, Ip ). Além disso, (X − µ)> Σ−1 (X − µ) = Zi2 ∼ χ2p .
e e e e e e i=1

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 8 / 20

Distribuição normal multivariada

Teorema 3
Se X ∼ Np (µ, Σ), Σ > 0, então sua função característica é dada por
e e
1
ϕX (t ) = exp{it > µ − t > Σt }
e e e 2e e

Prova em Mardia et al. (1979) pág 61.

Exercício: Seja X ∼ Np (µ, Σ). Mostre que Y = c > X ∼ N(c > µ, c > Σc ),
e e e e e e e
ou seja, normal univariada.
e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 9 / 20

Distribuição normal multivariada

Teorema 4
a. Dois vetores aleatórios com distribuição normal multivariada são
independentes se e somente se eles são não-correlacionados.
b. Para dois vetores conjuntamente normais, a independência de todos
os pares de seus componentes implica na independência dos dois
vetores originais.

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 10 / 20

Distribuição normal multivariada

Teorema 4
a. Dois vetores aleatórios com distribuição normal multivariada são
independentes se e somente se eles são não-correlacionados.
b. Para dois vetores conjuntamente normais, a independência de todos
os pares de seus componentes implica na independência dos dois
vetores originais.

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 10 / 20

Distribuição normal multivariada

Teorema 5
Se X ∼ N(µ, Σ) e duas matrizes A e B fixas, então AX e BX são
independentes se e somente se AΣB > = 0.
e e e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 11 / 20

Distribuição normal multivariada

Resultado
Considere X ∼ N(µ, Σ) e a partição
e e
! " ! !#
X1 (q×1) µ1 (q×1) Σ11 Σ12
X= ∼ Np , .
X2 ((p−q)×1) µ2 ((p−q)×1) Σ21 Σ22
f f
e
f f
Então
a. X 1 ∼ Nq (µ1 , Σ11 )
e f
b. X 1 e X 2 são independentes se e somente se Σ12 = 0.
e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 12 / 20

Distribuição normal multivariada

Resultado: Distribuição condicional

Considere
! " ! !#
X1 (q×1) µ1 (q×1) Σ11 Σ12
X= ∼ Np , ,
X2 ((p−q)×1) µ2 ((p−q)×1) Σ21 Σ22
f f
e
f f
com Σ12 > 0.
Então
X1 |X2 = x2 ∼ Nq (µ1 + Σ12 Σ−1 −1
22 (x 2 − µ2 ), Σ11 − Σ12 Σ22 Σ21 )
f f e e e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 13 / 20

Distribuição normal multivariada

Resultado
Considere X ∼ Np (µ, Σ) com |Σ| > 0. Então
e
a. (X − µ)> Σ−1 (X − µ) ∼ χ2p ;
e
e e
b. P(X ; (X − µ)> Σ−1 (X − µ) ≤ χ2p,α ) = 1 − α
e e
e e e e e

Definição
A quantidade (X − µ)> Σ−1 (X − µ) é chamada de Distância de
e e
Mahalanobis entre X e µ.
e e
e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 14 / 20

Distribuição normal multivariada

Resultado
Considere X ∼ Np (µ, Σ) com |Σ| > 0. Então
e
a. (X − µ)> Σ−1 (X − µ) ∼ χ2p ;
e
e e
b. P(X ; (X − µ)> Σ−1 (X − µ) ≤ χ2p,α ) = 1 − α
e e
e e e e e

Definição
A quantidade (X − µ)> Σ−1 (X − µ) é chamada de Distância de
e e
Mahalanobis entre X e µ.
e e
e e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 14 / 20

Distribuição normal multivariada

Resultado
A densidade da normal multivariada é constante em superfícies em que

(x − µ)> Σ−1 (x − µ) = c 2
e e e e
e o conjunto dos x que satisfazem a equação acima são os que compoem
e
o contorno de densidade de probabilidade constante.

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 15 / 20

Distribuição normal multivariada

Propriedade:
Os contornos de densidade constante no caso normal multivariado são
elipsoides definidos por x tais que
e

(x − µ)> Σ−1 (x − µ) = c 2 .
√
e e e e
Esses elipsóides têm centro em µ e eixos em ±c λi e i em que (λi , e i ) é
e e
um par de autovalor-autovetor de Σ.
e

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 16 / 20

Densidade da normal bivariada (elementos não
correlacionados)

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 17 / 20

Exemplo: Contornos elípticos da normal bivariada

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 18 / 20

Densidade da normal bivariada (elementos correlacionados)

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 19 / 20

Contornos elípticos da normal bivariada (elementos
correlacionados)

Prof. Cibele Russo SME0822 Análise Multivariada e ANS 20 / 20