内積空間と直交化の練習問題

考え方

ベクトルの内積・長さ（ノルム）・直交射影を計算し、グラム・シュミットの方法で互いに直交する基底を作れるようになります。レコメンドの類似度、最小二乗法、信号の成分分解の基本です。

内積 $\boldsymbol{u} \cdot \boldsymbol{v}$

成分どうしの積の和。$|\boldsymbol{u}||\boldsymbol{v}|\cos\theta$ に等しく、向きのそろい具合を表す。

ノルム $|\boldsymbol{v}|$

ベクトルの長さ。$|\boldsymbol{v}|^2 = \boldsymbol{v} \cdot \boldsymbol{v}$。

正射影（直交射影）

$\boldsymbol{u}$ の先から $\boldsymbol{v}$ の直線へ垂直に下ろした「影」のベクトル。

グラム・シュミットの直交化

ベクトルの組から、前のベクトルへの射影を順に引いて、互いに直交する組を作る方法。

内積は $u_1v_1 + u_2v_2 + u_3v_3$ のように成分ごとの積を足したもので、$|\boldsymbol{u}||\boldsymbol{v}|\cos\theta$ に等しくなります。向きがそろうほど大きく、直交すると 0、逆向きなら負です。

$\boldsymbol{u}$ のうち、$\boldsymbol{v}$ の方向の成分だけを取り出したのが正射影です。影の長さは $\dfrac{\boldsymbol{u} \cdot \boldsymbol{v}}{|\boldsymbol{v}|}$ で、これに向きを表す $\dfrac{\boldsymbol{v}}{|\boldsymbol{v}|}$ をかけるので、全体では $|\boldsymbol{v}|^2$ で割ることになります。

$\boldsymbol{u}$ から射影を引いた残りは、$\boldsymbol{v}$ と直交します。これを順にくり返すのがグラム・シュミットの直交化で、最後に各ベクトルを長さ 1 にそろえると、正規直交基底になります。

ポイント

$\boldsymbol{u} \cdot \boldsymbol{v} = u_1v_1 + u_2v_2 + u_3v_3 = |\boldsymbol{u}||\boldsymbol{v}|\cos\theta$

$\boldsymbol{v}$ 方向への正射影: $\dfrac{\boldsymbol{u} \cdot \boldsymbol{v}}{|\boldsymbol{v}|^2}\boldsymbol{v}$

グラム・シュミット: $\boldsymbol{b}_1 = \boldsymbol{a}_1$、$\boldsymbol{b}_2 = \boldsymbol{a}_2 - \dfrac{\boldsymbol{a}_2 \cdot \boldsymbol{b}_1}{|\boldsymbol{b}_1|^2}\boldsymbol{b}_1$

解き方の手順

1. 内積 $\boldsymbol{u} \cdot \boldsymbol{v}$ を、成分ごとの積の和で計算する。
2. $|\boldsymbol{v}|^2 = v_1^2 + v_2^2 + v_3^2$ を計算する（平方根はとらない）。
3. 係数 $\dfrac{\boldsymbol{u} \cdot \boldsymbol{v}}{|\boldsymbol{v}|^2}$ を $\boldsymbol{v}$ の各成分にかける（分数は約分する）。
4. 確かめ: $\boldsymbol{u}$ から射影を引いたベクトルと $\boldsymbol{v}$ の内積が 0 になる。