Modelos Estadı́sticos

Guı́a Análisis de Componentes Principales

1. Explique qué se entiende por Componente Principal y cuál es el objetivo principal del método
de Componentes Principales en el análisis de datos multivariados.

2. Explique por qué las Componentes Principales son combinaciones lineales de las variables orig-
inales y por qué se exige que sean ortogonales entre sı́.

3. Demuestre que la primera Componente Principal es el vector unitario que maximiza la varianza
de las proyecciones de los datos, sujeto a la restricción de norma uno. Explique la relación de
este problema con los autovalores y autovectores de la matriz de covarianzas (o de correlaciones).

4. Explique la diferencia entre realizar un Análisis de Componentes Principales a partir de la

matriz de covarianzas y a partir de la matriz de correlaciones. ¿En qué situaciones es preferible
cada una?

5. Sea λ1 ≥ λ2 ≥ · · · ≥ λp el conjunto de autovalores de la matriz de covarianzas.

(a) Explique qué representa cada autovalor en el contexto del ACP.

(b) Explique cómo se calcula y cómo se interpreta la proporción de varianza explicada por las
primeras k componentes.

6. Al ejecutar el comando summary(prcomp(X, scale.=TRUE)) se obtiene la siguiente salida:

Importance of components:
PC1 PC2 PC3 PC4
Standard deviation 2.10 1.25 0.80 0.45
Proportion of Variance 0.55 0.20 0.08 0.03
Cumulative Proportion 0.55 0.75 0.83 0.86

(a) ¿Cuántas componentes recomendarı́a conservar? Justifique su respuesta.

(b) ¿Qué significa que las dos primeras componentes expliquen el 75% de la varianza total?

7. Considere la siguiente salida parcial del comando prcomp:

1
 Rotation (loadings):
PC1 PC2
X1 0.52 -0.10
X2 0.50 0.30
X3 0.49 -0.20
X4 0.49 0.92

(a) Explique qué representan estos coeficientes.

(b) Interprete la primera Componente Principal en términos de las variables originales.
(c) ¿Qué variable domina la segunda componente? Justifique su respuesta.

8. Utilizando el conjunto de datos USArrests incluido en R:

(a) Realice un ACP adecuado, justificando si es necesario escalar las variables.

(b) Muestre la proporción de varianza explicada por cada componente.
(c) Interprete el significado de las dos primeras Componentes Principales.
(d) Construya un biplot de las dos primeras Componentes Principales.
(e) Explique qué información proporciona el biplot sobre las observaciones y las variables.
(f) Interprete la posición relativa de al menos dos estados.

9. Explique dos ventajas y dos limitaciones del Análisis de Componentes Principales. En particu-
lar, comente sobre la interpretabilidad de las componentes y la posible pérdida de información.

10. Determina las componentes principales de Σ.

 
2 0 0
Σ = 0 4 0 
 

0 0 2

Explica tu resultado en términos de la interpretación geométrica de los componentes principales.

11. Se ha obtenido la muestra siguiente de un vector aleatorio (X, Y ):

(−3, 7), (1, 4), (0, 6), (3, 5), (1, 9), (7, 7), (6, 9), (8, 10), (7, 12), (10, 11)

(a) Realizar un análisis de componentes principales sobre esta muestra.

(b) Representar un diagrama de dispersión, junto con la primera componente principal y las
dos rectas de regresión.

12.  
σ2 σ2ρ 0
1 1
Σ = σ 2 ρ σ 2 σ 2 ρ − <ρ<
 
2 2
0 σ2ρ σ2

2
 (a) Encuentra las componentes principales y la proporción de varianza explicada por cada una
a partir de la matriz de covarianzas.
(b) Determina la matriz de correlaciones ρ.
(c) Calcula los eigenvalores y eigenvectores de ρ.
(d) Encuentra las componentes principales y la proporción de varianza explicada por cada una.

13. Se dispone de datos sobre dos variables: x1 = ventas y x2 = beneficios, correspondientes a las
10 mayores empresas del mundo. Se ha calculado el vector de medias muestrales y la matriz de
covarianza muestral: " # " #
155.60 7476.45 303.62
x̄ = , S=
14.70 303.62 26.19

(a) Determinar las componentes principales muestrales y sus varianzas para estos datos. (Puede
ser necesario usar la fórmula cuadrática para obtener los valores propios de S.)
(b) Calcular la proporción de la varianza total muestral explicada por la primera componente
principal ŷ1 .
(c) Representar la elipse de densidad constante definida por: (x− x̄)′ S −1 (x− x̄) = 1.4 e indicar
sobre el gráfico las componentes principales ŷ1 y ŷ2 .
(d) Calcular los coeficientes de correlación rŷ1 ,xk , para k = 1, 2. ¿Qué interpretación, si alguna,
puede darse a la primera componente principal?
(e) Convertir la matriz de covarianza S en una matriz de correlación muestral R. Obtener las
componentes principales muestrales ŷ1 , ŷ2 y sus varianzas.
(f) Calcular la proporción de la varianza total muestral explicada por ŷ1 .
(g) Calcular los coeficientes de correlación rŷ1 ,zk , para k = 1, 2. Interpretar ŷ1 .
(h) Comparar las componentes obtenidas utilizando S con las obtenidas con R. Dado el con-
junto de datos original mostrado en la siguiente tabla, ¿considera que es mejor determinar
las componentes principales a partir de la matriz de covarianza muestral o de la matriz de
correlación muestral? Justifique su respuesta.

3
 Company x1 = Sales (billions) x2 = Profits (billions) x3 = Assets (billions)
Citigroup 108.28 17.05 1,484.10
General Electric 152.36 16.59 750.33
American Intl Group 95.04 10.91 766.42
Bank of America 65.45 14.14 1,110.46
HSBC Group 62.97 9.52 1,031.29
ExxonMobil 263.99 25.33 195.26
Royal Dutch/Shell 265.19 18.54 193.83
BP 285.06 15.73 191.11
ING Group 92.01 8.10 1,175.16
Toyota Motor 165.68 11.13 211.15

14. Considera la base de datos [Link]. Realiza un análisis de componentes principales

sobre las variables que indican la temperatura de distintas ciudades en los meses de Enero a
Diciembre (realiza subsetting después de importar los datos).

(a) Para realizar el análisis de componentes principales ¿qué matriz eliges, la de covarianzas o
la de correlaciones? Justifica tu respuesta.
(b) Calcula los componentes principales utilizando la función princomp(x), summary(princomp(x)),
princomp(x)$loadings . Muestra la salida de R y explı́cala (Importance of components:
Standard deviation, Proportion of Variance, Cumulative Proportion, Loadings).
(c) Indica las varianzas de cada una de las componentes. Señala como obtuviste sus valores.
(d) Utiliza la función eigen en la matriz que elegiste en el inciso a. Muestra la salida de R y
compara la salida con lo que obtuviste en el inciso b. Explica las similitudes.
(e) Genera una gráfica de codo (screeplot).
(f) ¿Con cuántas componentes principales decides trabajar? Justifica tu respuesta.
(g) Con el número de componentes qué elegiste ¿Cuál es la proporción de la varianza explicada?
(h) Construye la primer componente principal (CP1).
(i) Construye la segunda componente principal (CP2).
(j) Verifica que CP1 es ortogonal a CP2.
(k) Grafica un biplot con la primera y segunda componentes principales.
(l) En el biplot que graficaste ¿Cuáles son las ciudades con inviernos más crudos? ¿Cuáles
tienen veranos más calientes?
(m) En el biplot que graficaste, ¿Qué grupos podrı́an formarse? ¿Hay algun punto que se
observe como discrepante (outlier, atı́pico)? ¿Cuál es?
(n) En el biplot que graficaste, ¿Qué observas en cuanto a las correlaciones entre las variables?
¿Qué observas en cuanto a las varianzas de las variables?

4
 (o) Calcula el score de la primera componente y el score de la segunda componente de la ciudad
de Amsterdam.

15. Se ha examinado a 25 alumnos, aspirantes a ingresar en la maestrı́a en Matemáticas, de 5

materias diferentes: Geometrı́a Diferencial (cuyo resultado se almacena en la variable geodif),
Análisis Complejo (ancompl), Álgebra (alg), Análisis Real (anreal) y Estadı́stica (estad).
Las puntuaciones obtenidas figuran en la tabla siguiente:

geodif ancompl alg anreal estad

36 58 43 36 37
62 54 50 46 52
31 42 41 40 29
76 78 69 66 81
46 56 52 56 40
12 42 38 38 28
39 46 51 54 41
30 51 54 52 32
22 32 43 28 22
9 40 47 30 24
32 49 54 37 52
40 62 51 40 49
64 75 70 66 63
36 38 58 62 62
24 46 44 55 49
50 50 54 52 51
42 42 52 38 50
2 35 32 22 16
56 53 42 40 32
59 72 70 66 62
28 50 50 42 63
19 46 49 40 30
36 56 56 54 52
54 57 59 62 58
14 35 38 29 20

El objetivo de este estudio es obtener un ranking global de alumnos para la entrada a la maestrı́a,
a través de una puntuación global, extraı́da como cierta combinación lineal de las calificaciones
en las cinco materias examinadas.a) Realiza el análisis de componentes principales pertinente
a estos datos e interpreta las componentes con las que se realizará el ranking. b) Identifica

5
los individuos con la puntuación más alta y más baja según el ranking generado, e indica sus
puntuaciones.