線形代数 – 直交補空間

直交補空間の定義

補足

・$\forall \boldsymbol{w} \in W$は「全ての$W$の要素$\boldsymbol{w}$について」という意味です。

・直交補空間はその名の通り、以下の$2$つの性質をもちます。

(i)直交する

$W$と$W^{\perp}$の要素は必ず直交します。これは上記定義1より明らかです。

(ii)補空間である

$W^{\perp}$は$W$の補空間でもあります。$2$つの空間の和空間が全体空間かつ共通部分が$\{\boldsymbol{0}\}$である場合にこれを補空間とよびます。

※直交補空間と補空間を同時に理解しようとするとややこしいかもしれないので、その場合は以降の補空間の説明を読み飛ばしてください。

例

・$\mathbb{R}^2$上に、$\boldsymbol{0}$のみで交わるが直交しない$2$つの直線がある場合は補空間です。

・$\mathbb{R}^2$上に、$\boldsymbol{0}$以外でも重なっている$2$つの直線がある場合は補空間ではありません。

・$\mathbb{R}^2$上に、$\boldsymbol{0}$のみで交わり直交する$2$つの直線がある場合は直交補空間です。

・$\mathbb{R}^3$上に、$\boldsymbol{0}$のみで交わり直交する$2$つの直線がある場合は、内積が$0$となるベクトル全ての集合ではないので、直交補空間ではありません（補空間でもありません）。

・$\mathbb{R}^3$上に、$\boldsymbol{0}$のみのみで交わり直交する直線と平面がある場合は直交補空間です。

補空間の定義

補足

・定義1と定義2は似ていませんが、定義1を満たせば定義2を満たします。つまり直交補空間であれば補空間です。逆が成り立つとは限りません。このことについては後の「性質1」で述べます。

・$\oplus$は直和（direct sum）を表します。直和は以下の$2$つの条件にて表しても同じ意味です（直和には他にも同値の定義がありますがここでは省略します）。

$$V=W_1+W_2$$

$$W_1 \cap W_2=\{\boldsymbol{0}\}$$

・+は空間の和（sum）を表します。$V=W_1+W_2$は、

$$V=\{\boldsymbol{w}_1+\boldsymbol{w}_2\ \mid\ \boldsymbol{w}_1 \in W,\ \boldsymbol{w}_2 \in W_2\}$$

つまり$V$の要素は$W_1$と$W_2$の要素の和である、という意味です。

直和と和については直和を参照ください。

直交補空間の性質

以下、$V$を内積空間、$W,\ W_1,\ W_2$をその部分空間とします。

 補足

これは、直交補空間であれば補空間であることを示しています。

前述の通り$2$つの条件で表すことができるので、以下性質1.1と性質1.2に分けて証明します。

 証明

$\boldsymbol{w}\in W,\ \boldsymbol{w}’\in W^{\perp}$とする。

$W \subseteq V$なので、$W$の正規直交基底$\{\boldsymbol{e}_1,\boldsymbol{e}_2,\cdots,\boldsymbol{e}_r\}$により、

$$\boldsymbol{w}=\langle\boldsymbol{x},\boldsymbol{e}_1\rangle\boldsymbol{e}_1+\langle\boldsymbol{x},\boldsymbol{e}_2\rangle\boldsymbol{e}_2+\cdots+\langle\boldsymbol{x},\boldsymbol{e}_r\rangle\boldsymbol{e}_r$$

と表すことができる。

$i=1,2,\cdots,r$についての$\boldsymbol{x}-\boldsymbol{w}$と$\boldsymbol{e}_i$の内積は、

$$\begin{align} &\langle \boldsymbol{x}-\boldsymbol{w},\boldsymbol{e}_i\rangle\\ &=\langle\boldsymbol{x},\boldsymbol{e}_i\rangle-(\langle\boldsymbol{x},\boldsymbol{e}_1\rangle\langle\boldsymbol{e_1},\boldsymbol{e}_i\rangle+\cdots+\langle\boldsymbol{x},\boldsymbol{e}_r\rangle\langle\boldsymbol{e}_r,\boldsymbol{e}_i\rangle)\tag*{*1}\\ &=\langle\boldsymbol{x},\boldsymbol{e}_i\rangle-\langle\boldsymbol{x},\boldsymbol{e}_i\rangle\\&=0\end{align}$$

これは$\boldsymbol{x}-\boldsymbol{w}$と$W$の基底が全て直交するということなので、

$$\boldsymbol{x}-\boldsymbol{w}=\boldsymbol{w}’$$

となる$\boldsymbol{w}’ \in W^{\perp}$が存在する。

移項して

$$\boldsymbol{x}=\boldsymbol{w}+\boldsymbol{w}’$$

したがって、

$$V=W+W^{\perp}$$

■

補足

・$*1$では以下により$\langle \boldsymbol{x}-\boldsymbol{w}, \boldsymbol{e}_i \rangle$を簡略化しています。

$$\begin{equation} \langle \boldsymbol{e}_i,\boldsymbol{e}_j\rangle= \begin{cases} 1 & \text{($i=j$)} \\ 0 & \text{($i\neq j$)} \end{cases} \end{equation}$$

証明

$\boldsymbol{x}\in W\cap W^{\perp}$とする。

$\boldsymbol{x} \in W$かつ$\boldsymbol{x} \in W^{\perp}$であることから$\langle \boldsymbol{x},\boldsymbol{x}\rangle=0$なので、内積の定義より$\boldsymbol{x}=\boldsymbol{0}$となる。

■

証明

$\{\boldsymbol{w}_1,\boldsymbol{w}_2,\cdots,\boldsymbol{w}_m\}$を$W$の基底、$\{\boldsymbol{w}’_1,\boldsymbol{w}’_2,\cdots,\boldsymbol{w}’_n\}$を$W^{\perp}$の基底とし、$\{\boldsymbol{w}_1,\boldsymbol{w}_2,\cdots,\boldsymbol{w}_m,\boldsymbol{w}’_1,\boldsymbol{w}’_2,\cdots,\boldsymbol{w}’_n\}$が$V$の基底であることを示す。

$\boldsymbol{w}\in W,\ \boldsymbol{w}’\in W^{\perp}$を以下のように表す。

$$\boldsymbol{w}=a_1\boldsymbol{w}_1+a_1\boldsymbol{w}_2+\cdots+a_1\boldsymbol{w}_m$$

$$\boldsymbol{w}’=a’_1\boldsymbol{w}’_1+a’_1\boldsymbol{w}’_2+\cdots+a’_1\boldsymbol{w}’_n$$

両者の和は

$$\begin{align}\boldsymbol{v}&=\boldsymbol{w}+\boldsymbol{w}’\\&=a_1\boldsymbol{w}_1+\cdots+a_m\boldsymbol{w}_m+a’_1\boldsymbol{w}’_1+\cdots+a’_n\boldsymbol{w}’_n \end{align}$$

より、$V$の要素は$\{\boldsymbol{w}_1,\boldsymbol{w}_2,\cdots,\boldsymbol{w}_m,\boldsymbol{w}’_1,\boldsymbol{w}’_2,\cdots,\boldsymbol{w}’_n\}$の線形結合により表される。したがってこれらが線形独立であれば$V$の基底である。

そこで、次の式が成り立つ場合の係数が全て$0$であることを示す。

$$\begin{align}b_1\boldsymbol{w}_1+\cdots+b_m\boldsymbol{w}_m+b’_1\boldsymbol{w}’_1+\cdots+b’_n\boldsymbol{w}’_n =\boldsymbol{0} \tag{1}\end{align}$$

$$\begin{align}&b_1\boldsymbol{w}_1+\cdots+b_m\boldsymbol{w}_m\\ &+b’_1\boldsymbol{w}’_1+\cdots+b’_n\boldsymbol{w}’_n =\boldsymbol{0} \tag{1}\end{align}$$

移項し、

$$\begin{align}b_1\boldsymbol{w}_1+\cdots+b_m\boldsymbol{w}_m=-b’_1\boldsymbol{w}’_1-\cdots-b’_n\boldsymbol{w}’_n\tag{2}\end{align}$$

$$\begin{align}&b_1\boldsymbol{w}_1+\cdots+b_m\boldsymbol{w}_m\\ &=-b’_1\boldsymbol{w}’_1-\cdots-b’_n\boldsymbol{w}’_n \tag{2}\end{align}$$

左辺は$W$の要素、右辺は$W^{\perp}$の要素であるので、$(2)$の両辺は$W\cap W^{\perp}$の要素である。直交補空間の定義より、

$$W\cap W^{\perp}=\{\boldsymbol{0}\}$$

であるので、

$$\begin{align} b_1 \boldsymbol{w}_1 + b_2 \boldsymbol{w}_2 + \cdots+b_m \boldsymbol{w}_m &= \boldsymbol{0} \tag{3}\\ \\ -b’_1 \boldsymbol{w}’_1 -b’_2 \boldsymbol{w}’_2-\cdots -b’_n \boldsymbol{w}’_n &=\boldsymbol{0} \tag{4}\\ \\ \end{align}$$

$\{\boldsymbol{w}_1,\boldsymbol{w}_2,\cdots,\boldsymbol{w}_m\}$は$W$の基底つまり線形独立であるので$(3)$より、

$$b_1=b_2=\cdots=b_m=0$$

同様に$(4)$より、

$$b’_1=b’_2=\cdots=b’_n=0$$

これらより$(1)$の左辺の係数は全て$0$であるので$\{\boldsymbol{w}_1,\boldsymbol{w}_2,\cdots,\boldsymbol{w}_m,\boldsymbol{w}’_1,\boldsymbol{w}’_2,\cdots,\boldsymbol{w}’_n\}$は線形独立つまり$V$の基底となる。

したがって$\mathrm{dim}V = \mathrm{dim}W+\mathrm{dim} W^{\perp}$となる。

■

$\boldsymbol{w}\in W,\ \boldsymbol{w}’\in W^{\perp}$とする。

$\langle \boldsymbol{w},\boldsymbol{w}’\rangle =0$かつ$W^{\perp}$と$(W^{\perp})^{\perp}$が直交することより、

$$\boldsymbol{w}\in (W^{\perp})^{\perp}$$

$\boldsymbol{w} \in W \Rightarrow \boldsymbol{w} \in (W^{\perp})^{\perp}$なので、

$$W \subseteq (W^{\perp})^{\perp}$$

$V,\ W,\ W^{\perp}$の次元は、

$$\begin{align} \mathrm{dim}V&=\mathrm{dim}W+\mathrm{dim}W^{\perp}\\ &=\mathrm{dim}W^{\perp}+\mathrm{dim}(W^{\perp})^{\perp} \end{align}$$

したがって、

$$\mathrm{dim}W=\mathrm{dim}(W^{\perp})^{\perp}$$

以上より、$W=(W^{\perp})^{\perp}$が成り立つ。

■

$\boldsymbol{w}_1\in W_1,\ \boldsymbol{w}_2’\in W_2^{\perp}$とする。

前提条件より$W_1 \subseteq W_2$かつ定義より$W_2$と$W_2^{\perp}$は直交するので、

$$\langle \boldsymbol{w}_1,\boldsymbol{w}’_2\rangle=0$$

したがって、

$$\boldsymbol{w}’_2 \in W_1^{\perp}$$

$\boldsymbol{w}’_2 \in W_2^{\perp} \Rightarrow \boldsymbol{w}’_2 \in W_1^{\perp}$より、

$$W_2^{\perp} \subseteq W_1^{\perp}$$

■

$W_1,\ W_2$はどちらも$W_1+W_2$の部分空間なので、

$$W_1,\ W_2 \subseteq W_1+W_2$$

両者の直交補空間の関係は、

$$(W_1+W_2)^{\perp} \subseteq W_1^{\perp},\ W_2^{\perp}\tag*{*2}$$

$(W_1+W_2)^{\perp}$は$W_1^{\perp},\ W_2^{\perp}$それぞれの部分空間であるので、

$$(W_1+W_2)^{\perp} \subseteq W_1^{\perp}\cap W_2^{\perp}$$

次に$\boldsymbol{v} \in W_1^{\perp} \cap W_2^{\perp},\ \boldsymbol{w}_1 \in W_1,\ \boldsymbol{w}_2 \in W_2$とする。

$\boldsymbol{v}$と$\boldsymbol{w}_1+\boldsymbol{w}_2$の内積は、

$$\langle \boldsymbol{v},\boldsymbol{w}_1+\boldsymbol{w}_2\rangle = \langle \boldsymbol{v},\boldsymbol{w}_1\rangle+\langle \boldsymbol{v},\boldsymbol{w}_2\rangle$$

$\boldsymbol{v}$は$\boldsymbol{w}_1,\ \boldsymbol{w}_2$それぞれと直交するので右辺の各項を$0$とし、

$$\langle \boldsymbol{v},\boldsymbol{w}_1+\boldsymbol{w}_2\rangle = 0$$

したがって

$$W_1^{\perp} \cap W_2^{\perp} \subseteq (W_1 + W_2)^{\perp} \tag*{*3}$$

以上より、

$$(W_1 + W_2)^{\perp} = W_1^{\perp} \cap W_2^{\perp}$$

■

補足

$*2$：性質4を参照ください。

$*3$：補題1を参照ください。

$\boldsymbol{w}’_1 \in W_1^{\perp},\ \boldsymbol{w}’_2 \in W_2^{\perp},\ \boldsymbol{u} =\boldsymbol{w}’_1+\boldsymbol{w}’_2 \in W_1^{\perp} + W_2^{\perp},\ \boldsymbol{v} \in W_1 \cap W_2$とする。

$$\langle \boldsymbol{u},\boldsymbol{v}\rangle=\langle \boldsymbol{w}’_1+\boldsymbol{w}’_2,\boldsymbol{v}\rangle=\langle \boldsymbol{w}’_1,\boldsymbol{v}\rangle+\langle \boldsymbol{w}’_2,\boldsymbol{v}\rangle=0$$

より$\boldsymbol{u}$は$\boldsymbol{v} \in W_1 \cap W_2$と直交するので、

$$\boldsymbol{u} \in (W_1 \cap W_2)^{\perp}$$

したがって、

$$\boldsymbol{u}\in W_1^{\perp}+W_2^{\perp} \Rightarrow \boldsymbol{u} \in (W_1 \cap W_2)^{\perp}$$

$W_1^{\perp}+W_2^{\perp}$の要素は$(W_1 \cap W_2)^{\perp}$の要素なので、

$$W_1^{\perp} + W_2^{\perp} \subseteq (W_1 \cap W_2)^{\perp}$$

■

証明

$\boldsymbol{w}_1\in W_1,\ \boldsymbol{w}_2 \in W_2$とする。

$\langle\boldsymbol{w}_1,\boldsymbol{w}_2\rangle=0$かつ$W_2$と$W_2^{\perp}$は直交するので、

$$\boldsymbol{w}_1 \in W_2^{\perp}$$

したがって、

$$W_1 \subseteq W_2^{\perp}$$

■

補足

性質3と似ていますが、性質3は「直交補空間の直交補空間」との比較であるのに対し、本補題は「直交する空間の直交補空間」との比較である点が異なります。

性質3の場合、直交補空間の次元の和は

$$\begin{align} \mathrm{dim}V=\mathrm{dim}W+\mathrm{dim}W^{\perp}\\ \end{align}$$

であることがいえましたが、本補題では$W_1$と$W_2$は単に直交するだけなので、全体集合を$V$とすると、

$$\begin{align} \mathrm{dim}V\geq \mathrm{dim}W_1+\mathrm{dim}W_2\\ \end{align}$$

であることしかいえません。

これが空間の比較となると「等しい」といえるか「部分空間である」といえるかの違いとなります。