Modelo Log–Lineales

Hasta los años 60 las tablas de contingencia de 2×2 eran analizadas calculando
estadı́sticos tipo χ2 para testear independencia. Cuando las tablas involucraban
más variables se solı́a repetir este análisis para las subtablas para determinar las
interacciones o asociaciones entre las variables. A partir de los 70 con los trabajos
de Goodman y la difusión de estos en libros como el de Bishop, Finberg y
Holland (1975) y Haberman (1975) hubo un cambio sustancial en el tratamiento
de estos problemas, en particular con la inclusión de los modelos log–lineales.

El modelo loglineal puede ser visto como un caso del GLM para datos con
distribución Poisson.
Los modelos log–lineales se usan con frecuencia para analizar la relación de

1
dos, tres o más variables categóricas en una tabla de contingencia.

Todas las variables que se analizan son vistas como variables de respuesta , es
decir que no se hace distinción entre variables independientes y dependientes.
Es por ello, que estos modelos sólo estudian asociación. Cuando interesa estu-
diar algunas variables como independientes y otras como dependientes es más
adecuado un modelo lineal generalizado, como el modelo logı́stico. Lo mismo
es cierto si las variables estudiadas son continuas y no se pueden discretizar
apropiadamente.

La estrategia básica en el modelado ajusta las frecuencias observadas en la

tabla cruzada. Los modelos son representados por las frecuencias esperadas y
podrán ser descriptos por las restricciones que imponen a las asociaciones o
interacciones entre las variables. Los patrones de asociación entre las variables
pueden describirse en términos de los odds y los odds ratios.

2
 Modelos para tablas bidimensionales
Comenzamos por considerar el caso más sencillo de tablas de contingencia.
Luego, los conceptos que aquı́ veremos se extienden a tablas más complejas.
Pdrı́amos tener un tabla como en el ejemplo que vimos en nuestras primeras
clases:

C: Cree en la vida despues de la muerte Total

Si No
S:Sexo
Mujer 435 147 582
Hombre 375 134 509
Total 810 281 1091

3
 En general tendremos:
C Total
S Si No Total
Mujer y11 y12 y1+
Hombre y21 y22 y2+
Total y+1 y+2 y++ = n

Modelo de Independencia
Bajo el modelo de independencia Πij = Πi+ Π+j ∀i ∀j, por lo tanto

log µij = log n + log Πi+ + log Π+j

log µij = λ + λXi + λ Y
j

donde λX Y
i y λj representan el efecto de la fila i y de la columna j, respectiva-
mente.
La interpretación de los parámetros es más sencilla para respuestas binarias.
Por ejemplo, en el modelo de independencia en una tabla de I × 2, donde
4
las columnas corresponden a la respuesta Y , para cada fila i el logit para la
probabilidad Π de que Y = 1 es

   


Πi   µi1 
log   = log  
1 − Πi µi2
= λY1 − λY2

=⇒ no depende de i, es decir no depende de la fila.

Esto corresponde al caso en que

logit(Πi) = α
por lo tanto la chance de clasificar en una columna particular es constante a
lo largo de las filas.

Identificabilidad y Restricciones sobre los parámetros

En una tabla de 2 × 2, por ejemplo, el modelo independiente especifica 5
parámetros, por lo tanto está sobreespecificado.
5
 La siguiente tabla muestra tres conjuntos de parámetros diferentes para los
datos de creencia.

Frecuencias Frecuencias Log Frecuencias

Observadas Ajustadas Observadas
435 147 432.1 149.9 6.069 5.010
375 134 377.9 131.1 5.935 4.876
Parámetro Conjunto 1 Conjunto 2 Conjunto 3
λ 4.876 6.6069 5.472
λX1 0.134 0 0.067
λX2 0 -0.134 -0.067
λY1 1.059 0 0.529
λY2 0 -1.059 -0.529

Como en el caso lineal, podemos imponer restricciones a los parámetros de

manera de obtener unicidad, por ejemplo, pidiendo que para el primer nivel de
cada factor el parámetro sea 0 o bien pidiendo que la suma de los parámetros
dentro de un factor sea 0, esto serı́a en nuestro ejemplo de 2 × 2

λX X Y Y
1 + λ2 = 0 λ1 + λ2 = 0
6
 Lo que todos cumplirán es que la diferencia entre dos efectos principales es
la misma. En nuestro ejemplo, tenemos que λY1 − λY2 = 1,059 para los tres
conjuntos de parámetros.

Modelo Saturado
Cuando las variables son dependientes satisfacen un modelo más complejo

log µij = λ + λX Y XY
i + λj + λij

donde los parámetros λXYij reflejan la asociación entre X y Y . Este modelo

describe perfectamente cualquier conjunto de frecuencias y es el modelo más
general para una tabla de contingencia bivariada. El caso de independencia
corresponde a λXY
ij = 0
Existe una relación directa entre los log odds ratios y los parámetros de
asociación λXY
ij

 
 µ11µ22 
log θ = log   = log µ11 + log µ22 − log µ12 − log µ21
µ12µ21
7
 = (λ + λX
1 + λ Y
1 + λ XY
11 ) + (λ + λ X
2 + λ Y
2 + λ XY
22 )
−(λ + λX1 + λ Y
2 + λ XY
12 ) + (λ + λ X
2 + λ Y
1 + λ XY
21 )
= λXY
11 + λ XY
22 − λ XY
12 − λ XY
21

Los λXY
ij determinan los log odds ratios. Cuando λXY
ij = 0 los odds ratios
valen 1 y X e Y son independientes.
En la tabla de creencia el odd ratio es

435 × 134
θ= = 1.057
147 × 375
y log θ = 0.056, por lo tanto

λXY XY XY XY
11 + λ22 − λ12 − λ21 = 0.056 (∗)
Los parámetros de asociación se pueden ajustar de manera que el primero de
cada fila y el primero de cada columna sea 0 o que la suma sobre cada fila y la
suma sobre cada columna sea 0.
Cualquiera de estas combinaciones satisfará (∗).

8
 El modelo saturado tiene IJ = 1+(I −1)+(J −1)+(I −1)(J −1) parámetros
no redundantes, es decir tiene tantos parámetros como observaciones, dando un
ajuste perfecto.
En la práctica se trata de usar modelos no saturados en tanto su ajuste
suaviza a los datos y dan origen a interpretaciones más simples.

Los modelos log–lineales que hemos visto son modelos jerárquicos. Deci-
mos que un modelo es jerárquico cuando incluye todos los términos de orden
menor que están presentes en un término de orden mayor. Ası́, si el modelo
contiene λXY X Y
ij , entonces también están presentes en el modelo λi y λj . Estos
son los modelo más frecuentes.
Como en ANOVA cuando hay interacciones, debemos ser cuidadosos en inter-
pretar los efectos principales cuando hay términos de orden mayor. En general,
para cada variable la atención se restringe a los términos de orden mayor.

9
 Modelos para tablas tridimensionales
Los diferentes modelos que veremos representan distintos patrones de inde-
pendencia y asociación.
Supongamos que tenemos tres variables categóricas A, B y C que tienen
valores posibles:

A: 1, 2, . . . , I
B: 1, 2, . . . , J
C: 1, 2, . . . , K

Para desplegar los casos observados deberemos combinar tablas bidimensio-

nales, como la que sigue.

Asumiremos que en una tabla como ésta, un individuo puede clasificar con
una probabilidad Πijk en la casilla ijk. Si las n unidades experimentales son
independientes, entonces el vector (Y111, . . . , Yijk , . . . , YIJK ) tiene distribución
multinomial de parámetros n y Π = (Π111, . . . , Πijk , . . . , ΠIJK )0. La única
restricción que se impone al vector de probabilidades Π es que sume 1 y el

10
 Raza de la Raza del Pena de Porcentaje
Vı́ctima Defendido Muerte de Si
Si No
Blanca Blanca 53 414 11.3 Tabla Parcial
Negra 11 37 22.9
Negra Blanca 0 16 0.0 Tabla Parcial
Negra 4 139 2.8
Total Blanca 53 430 11.0 Tabla Marginal
Negra 15 176 7.9
Cuadro 1: Pena de Muerte por raza del defendido y raza de la vı́ctima

EMV será el vector de componentes

c Yijk
Πijk =
n
Calculemos el odds ratio en las tablas parciales. Cuando la vı́ctima es blanca
tenemos
53 × 37
θB = = 0.4306
11 × 414

11
por otro lado si la raza de la vı́ctima es negra
0 × 139
θN = =0
4 × 16
Sin embargo, si consideramos la tabla colapsada obtenemos
53 × 176
θT otal = = 1.44
15 × 430
es decir que la conclusión a partir de este valor serı́a la opuesta que a partir
de los odds ratios de las parciales. Este cambio de dirección en la asociación de
dos variables al considerar una tercera se conoce como paradoja de Simp-
son. Por esta razón debemos tener mucho cuidado antes de colapsar una tabla,
tratando de entender cual es la asociación entre las variables en primera instan-
cia y a partir de ella decidir si es razonable colapsar o no.

12
 Otro Ejemplo
Supongamos que tenemos los sigientes datos de sobrevida de pacientes someti-
dos a cirugı́a en dos hospitales, A y B donde vivos significa que el paciente
sobrevivió 6 semanas a la cirugı́a.
Hospital A B
Muertos 63 16
Vivos 2037 784
Total 2100 800
Cuadro 2: Sobrevida a una cirugı́a según hospital

A patir de esta tabla obtenemos que

63 × 784
θ= = 1.515464
16 × 2037
con lo que parecemás conveniente el hospital B. Sin embargo, si tenemos en
cuenta una tercera variable C: Estado inicial del paciente la información
serı́a

13
 Malas condiciones Buenas Condiciones
Hospital A B A B
Muertos 6 8 57 8
Vivos 594 692 1443 92
Cuadro 3: Sobrevida a una cirugı́a según hospital y estado inicial

Si analizamos la información teniendo en cuenta el estado del paciente al ser

intervenido vemos que

6 × 692 57 × 92
θM = = 0.8737374 θB = = 0.454262
8 × 594 8 × 1443
Es decir, el hospital A es siempre preferible, pero es sensiblemente mejor en
caso en que el paciente esté en malas condiciones iniciales. El hospital A tiene
mayor porcentaje de muertos en general, pero menor porcentaje de muertos al
considerar los grupos de buenas/malas condiciones. Estamos otra vez ante la
paradoja de Simpson.

14
 Modelos de dependencia

Mutua o Completa Independencia

El modelo más simple es aquel en que

P (A = i, B = j, C = k) = P (A = i).P (B = j).P (C = k) ∀i, j, k

de manera que si

αi = P (A = i) i = 1, . . . , I
βj = P (B = j) j = 1, . . . , J
δk = P (C = k) k = 1, . . . , K

Πijk = αiβj δk
Como la suma de los α’s, de los β’s y de los δ’s es 1 tenemos en total
(I − 1) + (J − 1) + (K − 1) parámetros a estimar.
15
 Además, bajo este modelo los vectores marginales tienen distribución

(Y1++, . . . , YI++) ∼ M (n, α1, α2, . . . , αI )

(Y+1+, . . . , Y+J+) ∼ M (n, β1, β2, . . . , βJ )
(Y++1, . . . , Y++K ) ∼ M (n, δ1, δ2, . . . , δK )

por lo tanto cada vector de parámetros podrı́a estimarse en forma indepen-

diente uno de otro. Más aún, el EMV será

Yi++
αi =
c
n
Y+j+
βcj =
n
b Y++k
δk =
n

16
 Graficamente, este modelo se representa como en el plot (1) del gráfico que
se presenta más abajo.
En este gráfico no hay conexión entre los tres nodos, lo que indica que no
hay relación entre las tres variables. En la notación de modelos log–lineales este
modelo se representa como (A, B, C).
En términos de los odds ratios este modelo significa que las tablas marginales
A × B, A × C y B × C tienen odds ratios iguales a 1.
El modelo log–lineal correspondiente es

log µijk = λ + λA
i + λ B
j + λ C
k (1)

Independencia conjunta
En el gráfico tenemos a A y B conectadas entre sı́, pero no conectadas con C.
Esto indica que C es conjuntamente independientes de A y B. Que los nodos
A y B estén conectados indica que están posiblemente relacionados, pero no
necesariamente. De manera que el modelo de mutua independencia es un
caso particular de este modelo que indicaremos como (AB, C).
17
18
 Bajo este modelo tenemos que

Πijk = Πij+ Π++k ∀i, j, k

Si este modelo se cumple A y C son independientes en la tabla marginal y

B y C también son independientes en la tabla marginal.
También podemos escribirlo como

Πijk = (αβ)ij δk ∀i, j, k

donde

XX X
(αβ)ij = 1 δk = 1
i j k

El número de parámetros es: (IJ − 1) + (K − 1).

d nij+
El EMV de estas probabilidades son: (αβ)ij =
n
b n++k
δk = y por lo tanto los valores esperados son
n
19
 nij+n++k
c µijk =
n
Esto corresponde al concepto de independencia habitual entre la variable C
y una nueva variable formada por la IJ combinaciones de A y B.
El modelo log–lineal jerárquico correspondiente resulta

log µijk = λ + λA B C AB
i + λj + λk + λij (2)

Independencia Condicional
Ahora consideremos la relación entre A y B controlando por C. Si A y B son
independientes en la tabla parcial correspondiente al nivel k de C , decimos
que A y B son condicionalmente independientes en el nivel k de C.
Π
Notemos Πij|k = Π ijk la distribución conjunta de A y B en el nivel k de C.
++k
Luego, la independencia condicional de A y B al nivel k de C equivale a

Πij|k = Πi+|k Π+j|k ∀i, j

20
 Por lo tanto, diremos que A y B son condicionalmente independientes dado
C si la condición anterior vale para todo k.
Equivalentemente, tenemos que

Πi+k Π+jk
Πijk = ∀i, j, k
Π++k
Este modelo de dependencia correspone al gráfico en el que A y C están
conectados y también lo están B y C.
El modelo de mutua independencia es un caso particular de este modelo.
Independencia condicional de A y B corresponde al modelo log–lineal:

log µijk = λ + λA B C AC BC
i + λj + λk + λik + λjk (3)
En la nomenclatura de los modelos log–lineales este modelo se llama (AC, BC).

21
Independencia marginal vs. Independencia Condicional
Consideremos el siguiente ejemplo en que se registraron las variables Sexo,
Ingreso y Carrera
Ingreso
Carrera Sexo Bajo Alto
Social Mujer 18 12
Hombre 12 8

Ciencias Mujer 2 8
Hombre 8 32
Total Mujer 20 20
Hombre 20 40

18×8
Tenemos que θSocial = 12×12 = 1 y θCiencias = 2×32
8×8 = 1, es decir que hay
independencia en cada nivel de carrera, sin embargo en la tabla marginal θ =
20×40
20×20
= 2 y por lo tanto no hay independencia marginal.

22
 Por otro lado, en los odds de Ciencias son 6 veces más grandes en Hombres
que en Mujeres dado Ingreso y los odds condicionales de Ingreso Alto son 6 veces
más altos en Ciencias que en Sociales dado Sexo. Ciencias tiene relativamente
más hombres y Ciencias tiene relativamente ingresos más altos.

La independencia condicional y la independencia marginal se verifican

simulataneamente cuando alguna independencia má s fuerte es válida.

23
 Tenemos la siguiente relación:

Mutua Independencia entre A, B y C

↓
B independiente conjuntamente de A y C

. &
A y B condicionalmente independientes A y B marginalmente independientes

Cuando tenemos tres factores podemos tener tres, dos o un par de variables
condicionalmente independientes de acuerdo a que tengamos el modelo (1), (2)
o (3).

24
 Ascociación Homogénea
En efecto, los térmimos de la forma λXYts identifican a las variables condi-
cionalmente dependientes.
Para permitir que las tres pares de variables sean condicionalmente dependi-
entes debemos agregar al modelo anterior (AC, BC) una conexión entre A y
B:

log µijk = λ + λA B C AC AB BC
i + λj + λk + λik + λij + λjk (4)
que corresponde al modelo (AB, AC, BC), conocido como modelo de
asociación homogénea, pues en este modelo los odds ratios condicionales
entre dos variables son idénticos para cada nivel de la tercera variable.
Dada la tabla parcial A − B para cada nivel k de C podemos decribir la
asociación parcial mediante los odds ratios condicionales como

Πijk Πi+1,j+1,k
θij(k) = 1≤i≤I −1 1≤j ≤J −1
Πi,j+1,k Πi+1,j,k
Probaremos que si el modelo (4) vale, entonces

25
 log θij(k) = λAB AB AB AB
ij + λi+1,j+1 − λi+1,j − λi,j+1

es decir que

θij(1) = θij(2) = . . . = θij(K) ∀i, j

AC BC
Lo mismo es cierto para θik(j) y para θjk(i) .
Luego, la asociación entre dos variables es idéntica para cada nivel de la
tercera variable.
Modelo saturado o Con Interacción Triple
El modelo más general para tres variables es

log µijk = λ + λA B C AC AB BC ABC

i + λj + λk + λik + +λij + λjk + λijk (5)
En este caso las tres variables son condicionalmente dependientes, pero además
los odds ratios de cualquier par de variables puede variar a lo largo de los niveles
de la tercera.
Identificamos este modelo como (ABC).
26
 Condiciones para asociación marginal y parcial idénticas
El siguiente teorema establece condiciones para que los odds ratios entre A y
B sean los mismos en la tabla marginal que en las tablas parciales.
Cuando esto es ası́ podemos estudiar la asociación entre A y B de manera
más sencilla colapsando la tabla sobre C.

Teorema: En una tabla tridimensional una variable es colapsable con re-

specto a la interacción entre las otras dos variables si y sólo si es al menos
condicionalmente independiente de otra dada la tercera.

En otra palabras, A y B tienen la misma asociación marginal que parcial si

A y C son condicionalmente independientes ( vale el modelo (AB, BC)) o si
B y C son condicionalmente independientes (vale el modelo (AB, AC))

27
Cuando colapsar en una tabla
Dicho de otra manera el resultado que hemos visto nos dice que si tenemos tres
variables, A, B y C podemos colapsar en C si se cumplen las dos condiciones
siguientes:

1. No hay interacción ABC, es decir λABC

ijk = 0 para todo i, j, k.

2. La interacción AC o BC es nula, es decir λAC

ik = 0 para todo i, k
o λBC
jk = 0 para todo j, k.

28