7.4.9.1 ユニタリ不変ノルムにおける近似境界の定理
定理 7.4.9.1. 正の整数 \(m\) および \(n\) が与えられ、\(q = \min\{m,n\}\) とする。任意の \(A, B \in M_{m,n}\) に対して、\(A = V_1 \Sigma(A) W_1^*\)、\(B = V_2 \Sigma(B) W_2^*\) とし、ここで \(V_1, V_2 \in M_m\)、\(W_1, W_2 \in M_n\) はユニタリ行列であり、\(\Sigma(A) = [s_{ij}(A)]\)、\(\Sigma(B) = [s_{ij}(B)] \in M_{m,n}\) は非負の対角行列で、対角成分は \(s_{ii}(A) = \sigma_i(A)\)、\(s_{ii}(B) = \sigma_i(B)\) で、それぞれ \(A\) および \(B\) の非増加順の特異値である。すると、任意のユニタリ不変ノルム \(\| \cdot \|\) に対して次が成り立つ。
\|A - B\| \ge \|\Sigma(A) - \Sigma(B)\|
証明. 以下のように拡張行列を考える。
\tilde{A} = \begin{pmatrix} 0 & A \\ A^* & 0 \end{pmatrix}, \quad
\tilde{B} = \begin{pmatrix} 0 & B \\ B^* & 0 \end{pmatrix}
式 (7.3.3) により、\(\tilde{A}\) の代数的に非増加順に並べた固有値は
\sigma_1(A) \ge \cdots \ge \sigma_q(A) \ge 0 = \cdots = 0 \ge -\sigma_q(A) \ge \cdots \ge -\sigma_1(A)
となり、\(\tilde{B}\) および \(\tilde{A} - \tilde{B}\) にも同様の表現が成り立つ。固有値の差は \(\pm(\sigma_1(A)-\sigma_1(B)), \dots, \pm(\sigma_q(A)-\sigma_q(B))\) と \(|m-n|\) 個のゼロを含む。これらの値の代数的順序付けは明確でないが、上位 \(q\) 個の代数的最大値は \(|\sigma_1(A)-\sigma_1(B)|, \dots, |\sigma_q(A)-\sigma_q(B)|\) である。定理 4.3.47(b) により、\(\lambda(A-B)\) は \(\lambda_\downarrow(A) - \lambda_\downarrow(B)\) を主張することが保証される。すなわち
\sum_{i=1}^{k} \sigma_i(A-B) \ge \max_{1 \le i_1 \lt \cdots \lt i_k \le q} \sum_{j=1}^{k} |\sigma_{i_j}(A) - \sigma_{i_j}(B)|, \quad k=1,\dots,q
この不等式を観察すると、まさに
\|A-B\|_{[k]} \ge \|\Sigma(A)-\Sigma(B)\|_{[k]}, \quad k=1,\dots,q
であり、式 (7.4.8.4) により、任意のユニタリ不変ノルムに対して \(\|A-B\| \ge \|\Sigma(A)-\Sigma(B)\|\) が成り立つことが示される。
この定理の一つの帰結は、与えられた \(A \in M_{m,n}\) （\(\text{rank }A > k\)） に対して最良（最小二乗法の意味で）ランク \(k\) 近似を求める問題の一般化である。ユニタリ不変ノルム \(\|\cdot\|\) が与えられ、\(B \in M_{m,n}\) で \(\text{rank }B = k\) の場合、\(\sigma_1(B) \ge \cdots \ge \sigma_k(B) > 0 = \sigma_{k+1}(B) = \cdots = \sigma_q(B)\) となる。ここで、\(M_{m,n}\) 上の対角行列に対するユニタリ不変ノルムは単調ノルムであることを利用すると、
\|A - B\| \ge \|\Sigma(A) - \Sigma(B)\|
= \|\text{diag}(\sigma_1(A)-\sigma_1(B), \dots, \sigma_k(A)-\sigma_k(B), \sigma_{k+1}(A), \dots, \sigma_q(A))\|
\ge \|\text{diag}(0, \dots, 0, \sigma_{k+1}(A), \dots, \sigma_q(A))\|
任意のランク \(k\) の \(B \in M_{m,n}\) に対して成り立つ。特異値分解 \(A = V \Sigma(A) W^*\) を用いると、\(\Sigma_0 \in M_{m,n}\) を対角成分 \(\sigma_1(A), \dots, \sigma_k(A)\) と残り \(q-k\) 個のゼロで構成した非負対角行列として、\(B = V \Sigma_0 W^*\) と取ることで不等式の等号を達成できる。したがって、フロベニウスノルムにおける最良ランク \(k\) 近似を与える行列は、任意のユニタリ不変ノルムにおいても最良近似を与える。
演習. スペクトルノルムにおいて、行列 \(A \in M_{m,n}\) はランク \(k\) の行列によってどの程度正確に近似できるか？
式 (7.4.9.1) のもう一つの帰結は、任意のユニタリ不変ノルムに対して有効な (6.3.8) 式（Hoffman–Wielandt の定理）のバージョンである。エルミート行列 \(H \in M_n\) に対して、\(\text{diag} \lambda_\downarrow(H) \in M_n\) は、対角成分が非増加順に並んだ \(H\) の固有値からなる対角行列である。
行列解析の総本山
コメント