直交射影、正規方程式

サイトのTOP→理系インデックス
行列分解のTOP→行列分解インデックス





定義 ( 内積空間 )

V を K上のベクトル空間とする。

任意の v、w∈V に対し、(v、w)∈K が対応しているとする。

次が成り立つとする。

(1) (v、v)≧0 ((v、v)=0 ⇔ v=0 )

(2) (v、w)=(w、v)

(3) (cv、w)=c(v、w)

(4) (v+w、u)=(v、u)+(w、u)

このとき、(v、w)を 『 v と w の内積 』 という。

また、V を 『 K上の内積空間 』 という。

上の定義に書かれている*は複素共役を意味する。

K= の場合、複素内積空間という。

K= の場合、実内積空間という。

実内積空間の場合、(2)は (v、w)=(w、v)と表せる。

定義 ( 内積 )

A、B を m×n 行列とする。

A・B=tr(AB)と定義する。

このとき、A・B を 『 A と B の内積 』 という。

明らかに、A・B=tr(AB)である。

また、次が成り立つ。

(*1) A・A≧0 ( A・A=0 ⇔ A=O )

(*2) (kA)・B=k(A・B)

(*3) (A+B)・C=A・C+B・C

(*4) A・B=B・A

つまり、m×n 行列全体は内積空間である。

定義 ( 直交 )

A・B=0 であるとき、「 A と B は直交する 」 という。

参考

以下、一般の内積空間 V について議論することもある。

ただし、上にも書いたように、行列にも内積を定義できる。

つまり、内積空間として m×n 行列全体を採用できる。

定義 ( 部分空間と行列の直交 )

V を m×n 行列全体とする。

W を V の部分空間とする。

X∈V とおく。

( つまり、X は m×n 行列である )

任意の Y∈W に対し、X・Y=0 であるとする。

このとき、「 X は W と直交する 」 という。

また、X⊥W と表す。

定義 ( 部分空間と部分空間の直交 )

V を m×n 行列全体とする。

W、U を V の部分空間とする。

任意の X∈W に対し、X⊥U であるとする。

このとき、「 W と U は直交する 」 という。

また、W⊥U と表す。

Z12

V をベクトル空間とする。

W、U を Y の部分空間とする。

{ w、・・・、w } を W の基底とする。

{ u、・・・、u } を U の基底とする。

v∈V とおく。

このとき、次は同値である。

(1) v・w=0 ( i=1、・・・、r )

(2) v⊥W

また、次は同値である。

(3) w・u=0 ( i=1、・・・、r : j=1、・・・、s )

(4) W⊥U

証明

明らかである。

Z13

V を m×n 行列全体とする。

W、U を V の部分空間とする。

{ Y、・・・、Y } を W の基底とする。

{ Z、・・・、Z } を U の基底とする。

X∈V とおく。

このとき、次は同値である。

(1) X・Y=0 ( i=1、・・・、r )

(2) X⊥W

また、次は同値である。

(3) Y・Z=0 ( i=1、・・・、r : j=1、・・・、s )

(4) W⊥U

証明

単なる言い換えである。(※Z12)

Z14

V を m×1 行列全体とする。

Y を m×n 行列とする。

Z を m×r 行列とする。

いま、C(Y) と C(Z) は V の部分空間である。

X∈V とおく。

( つまり、x は m次-列ベクトルである )

このとき、次は同値である。

(1) xY=0

(2) x⊥C(Y)

また、次は同値である。

(3) YZ=0

(4) C(Y)⊥C(Z)

証明

単なる言い換えである。(※Z13)

Z15 ( 直交するベクトルの存在 )

V をベクトル空間とする。

W を V の r 次元部分空間とする。

{ e、・・・、e } を W の正規直交基底とする。

v∈V とおく。

このとき、次が成り立つ。

(1) ある w∈W が一意に存在して、(v−w)⊥W となる。

(2) w=(w・e)e+・・・+(w・e)e

(3) v∈W ⇔ v=w

証明

(1)を図示すると、



(2)を図示すると、

補足

むろん、今回の定理は、行列に適用できる。

つまり、V を m×n 行列全体としてよい。

(1)の証明

=w・e とおく。

w=1≦i≦r とおく。

いま、w∈W である。

また、任意の i=1、・・・、r に対し、(v−w)・e=(v−1≦i≦r)・e=v・e−c=0 である。

よって、v−w⊥W である。(※Z12)

これで存在性が示された。

−−−−−−−−−−−−−−−−−−−−

( 次に、一意性を示す )

∈W とおく。

v−w⊥W であるとする。

いま、v−w⊥W である。

また、w−w∈W である。

よって、(w−w)・(w−w)=(v−w)・(w−w)−(v−w)・(w−w)=0−0=0 である。

よって、w−w=0 である。

つまり、w=w である。

(2)の証明

既に、(1)の証明中で示した。

(3)の証明

v∈W とおく。

いま、v−v=0 は W に直交している。

よって、v=w である。(※(1)の一意性)

以上により、v∈W ⇒ v=w である。

一方、v=w ⇒ v∈W は明らかである。

定義 ( 射影 )

V をベクトル空間とする。

W を V の部分空間とする。

v∈W とおく。

いま、ある w∈W が一意に存在して、v−w⊥W である。

この w を 『 v の射影 』 という。

復習 ( 無矛盾 )

1次系が少なくとも1つの解をもつとき、「 その1次系は無矛盾である 」 という。

復習 ( 両立 )

AX=B を1次系とする。

任意の行ベクトル k ( ただし、kA=0 ) に対し、kB=0 であるとする。

( むろん、k は列ベクトルである )

このとき、「 AX=B は両立する 」 という。

つまり、A の行について次が成り立つ任意の1次関係は B の行についても成り立つ。

Z16 ( 正規方程式は無矛盾である )

A を m×n 行列とする。

B を m×r 行列とする。

このとき、AAX=AB は無矛盾である。

この1次系を 『 正規方程式 』 という。

補足

ただし、AAX=AB は X に関する1次系である。

証明

明らかに、任意の m×n 行列 C に対して 「 CC=0 ⇔ C=O 」 である。(★)

を、kA=0 を満たす行ベクトルとする。

いま、(★)より、k=O である。

よって、kB=0 である。

つまり、AAX=AB は両立する。

よって、AAX=AB は無矛盾である。

Z17 ( 正規方程式 )

V を n次-列ベクトル全体とする。

z∈V とおく。

y を、z の C(X) への射影とする。

このとき、{ b|XXb=Xy }={ b|z=Xb } である。

補足

つまり、XXb=Xy の解全体と z=Xb の解全体は等しい。

ただし、これらは b に関する1次系であることに注意。

証明

を、XXb=Xy の(1つの)解とする。

( この1次系が解をもつことは A18 によって保障されている )

いま、X(y−Xb)=0 である。

よって、y−Xb は C(X) に直交する。(※Z14)

いま、Xb∈C(X)である。

よって、Xb は、y の C(X) への射影である。

よって、z=Xb である。

−−−−−−−−−−−−−−−−−−−−

を、z=Xb の(1つの解)とする。

を、XXb=Xy の解とする。(※Z16)

いま、上の結果より、z=Xb である。

よって、XXb=Xz=XXb=Xy である。

Z18

y を m次-列ベクトルとする。

X を m×n 行列とする。

A を m×r 行列とする。

C(X)=C(Y)であるとする。

を、XXb=Xy の解とする。

を、AAb=Ay の解とする。

このとき、Xb=Ab である。

証明

明らかである。(※Z17)