[行列解析3.2.P20]

3.2問題20

3.2.P20

\(A,B\in M_n\) を与える。(a) AB が BA に相似であることは、すべての \(k=1,2,\dots,n\) について \(\mathrm{rank}(AB)^k=\mathrm{rank}(BA)^k\) が成り立つことと同値であることを示せ。

(b) \(r=\mathrm{rank}\,A=\mathrm{rank}\,AB=\mathrm{rank}\,BA\) とすると、AB は BA に相似であることを示せ。ヒント：任意の正則 \(S,T\) に対して \(A\) を \(S A T\)、\(B\) を \(T^{-1} B S^{-1}\) に置き換えられることを説明し、適切な \(S,T\) を選んで \(S A T = I_r\oplus 0_{n-r}\) の形にする。その後 \(A=I_r\oplus 0_{n-r}\) と \(B=[B_{ij}]_{i,j=1}^2\) を用いて計算し、各種ランク等式を導け。