0% encontró este documento útil (0 votos)
5 vistas7 páginas

Demostración de Proyecciones Ortogonales y Mínimos Cuadrados

Cargado por

MatiasDiaz
Derechos de autor
© All Rights Reserved
Nos tomamos en serio los derechos de los contenidos. Si sospechas que se trata de tu contenido, reclámalo aquí.
Formatos disponibles
Descarga como PDF, TXT o lee en línea desde Scribd
0% encontró este documento útil (0 votos)
5 vistas7 páginas

Demostración de Proyecciones Ortogonales y Mínimos Cuadrados

Cargado por

MatiasDiaz
Derechos de autor
© All Rights Reserved
Nos tomamos en serio los derechos de los contenidos. Si sospechas que se trata de tu contenido, reclámalo aquí.
Formatos disponibles
Descarga como PDF, TXT o lee en línea desde Scribd

15

Demostración. Demostraremos por inducción en k lo siguiente:


∀ k � n ∃ u1 , . . . , uk ortonormales, t. q. ul ∈ L(v1 , . . . , vl ) para l = 1, . . . , k.
Para k = 1 tomamos u1 = kvv11 k .
Supongamos que el enunciado es válido para cierto v2
k < n y sea
Xk v2′ v1

vk+1 = vk+1 − hvk+1 , ui i ui .
i=1 hv2 ,v1 i
hv2 , u1 i = kv1 k
Entonces,

vk+1 , vj = 0, para j = 1, . . . , k.

vk+1
Tomando uk+1 = , tenemos que {u1 , ., uk+1} es un conjunto de vectores
kvk+1

k
ortonormales y ul ∈ L(v1 , . . . , vl ) para l = 1, . . . , k +1. Esto concluye la demostración
ya que un conjunto ortonormal con n vectores necesariamente es una base. �
2.4. Complemento ortogonal y proyecciones ortogonales. Dado un espacio
vectorial con producto interno, sea S ⊂ V un subconjunto. El complemento ortogonal
de S es
S ⊥ = {v ∈ V : hv, ui = 0 ∀ v ∈ S}.
S ⊥ is un subespacio pues S ⊥ = u∈S {u}⊥ y {u}⊥ es un subespacio ∀ u ∈ V . Obvia-
T
mente 0 ∈ {u}⊥ . Además
v, w ∈ {u}⊥ ⇒ hv + w, ui = hv, ui + hw, ui = 0 ⇒ v + w ∈ {u}⊥ ,
y

v ∈ {u}⊥ , a ∈ ⇒ hav, ui = ahv, ui = 0 ⇒ av ∈ {u}⊥ .
Supongamos ahora que W ⊂ V es un subespacio. Por lo anterior W ⊥ tam-
bién es un subesacio. Además W ∩ W ⊥ = {0} pues si u ∈ W ∩ W ⊥ , entonces
kuk2 = hu, ui = 0 y debe ser u = 0. Sea {u1 , . . . , uk } una base ortonormal de W ,
siempre podemos completar a une base de V , es decir, existen vk+1 , . . . , vn ∈ V
tal que {u1 , . . . , uk , vk+1 , . . . , vn } es una base de V . Aplicando Gram-Schmidt, exis-
ten uk+1, . . . , un tal que {u1 , . . . , un } es una base ortonormal de V . Notar que en el
algoritmo de Gram-Schmidt los primeros k vectores quedan incambiados pues son
ortonormales de arranque.
Obviamente uk+1 , . . . , un ∈ W ⊥ ⇒ dim W ⊥ = n − k. Por lo tanto
V = W ⊕ W ⊥,
esto es, todo vector de v ∈ V se escribe en form única como suma de un vector u
que está en W y un vector u⊥ que está en W ⊥
v = u + u⊥
16

Podemos ver que u y u⊥ son únicos pues si

v = u + u⊥ = u′ + u′⊥ con u′ ∈ W, u′⊥ ∈ W ⊥

tenemos que
u − u′ = u′⊥ − u′⊥ ∈ W ∩ W ⊥ = {0}

⇒ u′ = u, u′⊥ = u⊥ ·
v
Definición 2.3. Dado un subespacio W ⊂ V la
proyección ortogonal sobre W es la función W

(v )
PW : V → W

v − PW
tal que PW (v) es el vector de la descomposición
anterior, es decir (v
)
PW
v = PW (v) + (v − PW (v))
con PW (v) ∈ W y v − Pw (v) ∈ W ⊥ .

Teorema 2.5 (Propiedades de PW ).


(i) PW es lineal.
2
(ii) PW = PW .
(iii) PW (v) es el vector de W que minimiza la distancia a v.
(iv) Si {w1 , . . . , wm } es una b.o.n. de W entonces
m
X
PW (v) = hv, wi iwi .
i=1

Demostración.
(i) av = aPW (v) + a (v − PW (v)) ⇒ PW (av) = aPW (v);

v + w = PW (v) + (v − PW (v)) + PW (w) + (w − PW (w)) =


= PW (v) + PW (w) + (v + w − PW (v) − PW (w))
⇒ PW (v + u) = PW (v) + PW (u)

2
(ii) PW (v) ∈ W ⇒ PW (v) = PW (PW (v)) = PW (v).
17
v
(iii) Tomemos v ∈ V , y escribamos v = PW (v) +
(v − PW (v)). Si u ∈ W , entonces W
kv − uk2 = kPW (v) − u + v − PW (v)k2 = ( por Pitágoras)

)
(v
W
= kPW (v) − uk2 + kv − PW (v)k2 � kv − PW (v)k2 ,

P
u
y la igualdad se da si y sólo si u = PW (v).
(iv) Queda como ejercicio.

2.5. Adjunta de una transformación lineal. Supongamos que ϕ : V → �


es
lineal (estas funciones se llamarán funcionales lineales). Sea {u 1 , . . . , u n } una base
ortonormal de V . Si v ∈ V podemos escribir v = ni=1 hv, ui , i ui , de donde
P

n
* n +
X X
ϕ(v) = hv, ui i ϕ (ui ) = v, ϕ (ui ) ui
i=1 i=1
Pn
Si definimos u = i=1 ϕ (ui ) ui , entonces tenemos que
ϕ(v) = hv, ui ∀ v ∈ V.
Supongamos ahora que V y W son espacios vectoriales con producto interno y que
T : V → W es lineal. Por linealidad de T y del producto interno, tenemos que dado

w ∈ W , si tomamos ϕ : V → definido por
ϕ(v) = hT (v), wi,
es un funcional lineal (el w está fijo). Como vimos antes, existe un único vector u ∈ V
tal que
ϕ(v) = hv, ui ∀v ∈ V.
En definitiva, dado w ∈ W construimos un u ∈ V tal que
hT (v), wi = hv, ui ∀ v ∈ V.
A tal vector u lo escribiremos como T ∗ (w). Es decir, definimos una función T ∗ : W →
V tal que dado w ∈ W T ∗(w) es el único vector en V que verifica
hT (v), wi = hv, T ∗ (w)i ∀ v ∈ V.
T ∗ es lineal:
Sean w1 , w2 ∈ W ,
18

hT (v), w1 + w2 i = hT v, w1i + hT v, w2 i = hv, T ∗w1 i + hv, T ∗ w2 i


= hv, T ∗w1 + T ∗ w2 i
⇒ T ∗ (w1 + w2 ) = T ∗ w1 + T ∗ w2

hT v, aωi = ahT v, wi = a hv, T ∗ωi = hv, aT ∗ wi


⇒ T ∗ (aw) = aT ∗ w
La transformación lineal T ∗ se llama adjunta de T .
Supongamos ahora que B = {v1 , . . . , vn } es una b.o.n. de V y que B′ = {u1 , . . . , um }
es una b.o.n. de W . Los coeficientes de la matrices asociadas a T y T ∗ con respecto
a estas bases se pueden calcular usando los coeficientes de Fourier, y, si ponemos
∗ ∗
B′ [T ]B = (aij ) y B [T ]B′ = (aij ), entonces

aij = hT vi , uj i = hvi , T ∗ uj i = a∗ji .


Por lo tanto

]B′ = B′ [T ]tB .
B [T
Por ejemplo, suponiendo que V tiene dimensión 3 y W dimensión 2, tendrı́amos que
si  
a11 a12 a13
a21 a22 a23
es la matriz asociada a T (con respecto a ciertas bases ortonormales), entonces
 
a11 a21
 a12 a22 
a13 a23
serı́a la correspondiente matriz asociada a T ∗ . En definitiva, T ∗ es una manera de
definir la traspuesta que es independiente de las coordenadas (los objetos que son
independientes de las coordenadas son fundamentales en Fı́sica, ya que las leyes
fı́sicas no deberı́an depender de las coordenadas). Es importante recalcar que esto
no es cierto si las bases que tomamos no son ortonormales.
Proposición 2.6.
(i) (T + S)∗ = T ∗ + S ∗ T, S : V −→ W
(ii) (T S)∗ = S ∗ T ∗ .
(iii) T invertible ⇒ T ∗ es invertible y (T −1 )∗ = (T ∗ )−1 .
(iv) (T ∗ )∗ = T .
Demostración. Ejercicio. �
19

2.6. Aplicación: Mı́nimos cuadrados (o regresión lineal). Supongamos que


queremos medir las cantidades x1 , . . . , xn pero que sólo podemos medir ciertas com-
binaciones lineales de ellas. Si podemos medir m combinaciones lineales tendremos
y1 a11 a12 · · · a1n x1
    
 ...  =  a .
· · · ..
..   .. 
. .
21
ym am1 · · · · · · amn xm
donde los yi′ s y los a′ij s son cantidades que podemos medir en el laboratorio, y
(x1 , . . . , xn ) son las cantidades que queremos determinar. Vamos a suponer m > n
para que el sistema esté sobredeterminado (aunque en realidad va a ser indetermi-
nado,debido a los errores en la medición), cuanto más mediciones tengamos mejor
podremos aproximar los valores de nuestras incógnitas. Tal sistema puede no tener
solución debido a errores en las mediciones; si las mediciones fueran exactas serı́a
suficiente con m = n. Entonces, lo que queremos es encontrar v = (x1 , . . . , xm ) de
tal manera que kAv − wk sea el mı́nimo posible; de esta forma, v es una solución
aproximada de acuerdo a la distancia euclidiana (producto interno usual en n ).�
Proposición 2.7. Sea A una matriz m × n, con m > n, tal que ker A = {0}. El

vector v ∈ n que minimiza kAv − wk es la solución al sistema
At Av = At w
Demostración. PIm A w es el vector en Im A que minimiza la distancia a w. Como A

es inyectiva, existe un único v ∈ n tal que Av = PIm(A) w. Por definición de PIm A
tenemos que
hAv − w, Aui = hPIm A w − w, Aui = 0 ∀ u ∈ �n
⇔ At (Av − w), u = 0 ∀ u ∈ �n
⇔ At (Av − w) = 0 ⇔ At Av = At w.

Observación 2.1. La proposición es válida para una transformación lineal entre es-
pacios con producto interno, pero creo más útil enunciarla en términos de matrices.
Observación 2.2. Notar que si ker A = {0} la matriz A∗ A es invertible y por lo tanto
la solución al sistema de la proposición es v = (At A)−1 Aw. Esto se debe a que es
una matriz cuadrada n × n con kernel trivial. Recordar que toda matriz cuadrada
con kernel trivial es invertible por el teorema de las dimensiones.
Ejemplo 2.3. Supongamos que tenemos una relación lineal entre dos variables que
medimos, por ejemplo un movimiento rectilineo uniforme
x = vt + x0 ,
20

donde medimos x y t, y queremos determinar v y x0 .


Llamemos x e y a dos magnitudes que podemos medir y supongamos

y = ax + b,

siendo a y b las cantidades que queremos determinar. Si tomamos varias medidas de


x e y tendremos
ax1 + b = y1
ax2 + b = y2
ax3 + b = y3

Debido a los errores de medición estas tres ecuaciones pueden ser incompatibles.
Poniendo
 
x1 1
A =  x2 1 
x3 1

podemos escribir nuestras ecuaciones como


 
  y1
a
A = y2 
b
y3
.
Hallamos a y b para minimizar el error cuadrático

E 2 = kY − Avk2 = (y1 − ax1 − b)2 + (y2 − ax2 − b)2 + (y3 − ax3 − b)2 .

La proposición nos dice que si ker A = {0} la solución es


 
  y 1
a −1 t
= At A A  y2  .
b y3

Si tuviéramos por ejemplo los siguientes valores


 
y1 = 1 x1 = −1 −1 1
y2 = 1 x2 = 1 , A =  1 1 ,
y3 = 3 x3 = 2 2 1
21

se deduce entonces de los datos que


 
t −1 1 2
ker A = {0}, A =
1 1 1
 
  −1 1  
t −1 1 2  6 2
AA= 1 1  =
1 1 1 2 3
2 1
 
t
−1 1 3 −2
AA = 14
−2 6
 
  1  
t −1 1 2   6
AY = 1 = ,
1 1 1 5
3
de donde         
a 1 3 −2 6 1 8 1 4
= 14 = =7
b −2 6 5 14
18 9
⇒ a = 74 , b = 97 y y ≈ 47 x + 79 .

Centro de Matemática, Facultad de Ciencias


Email address: rmuniz@[Link]

También podría gustarte