半定序
我们知道对于任意两个实数 \(a,b\),其必然满足以下三种关系中的一种 \(a>b,或a = b,或者a<b\),这其实是一种全序关系，即任意两个实数之间都可以比较大小。但是若我们考虑矩阵的话，就不存在这种全序关系，但是我们可以刻画一种偏序关系，就如我们下文想要考察的半定关系，若矩阵 \(A,B\)都是对称实方阵, \(A-B \succeq \rm{0}\),即\(A-B\)是半正定矩阵，我们就称 \(A\) 半正定于 \(B\)(或者说矩阵的Lowner序)。
最值性刻画
命题: \(K=\{A|A \in S^n,\Vert A \Vert \leq 1\}\) ,其中矩阵范数 \(\|\cdot\|\) 满足 \(\|\rm{I}_{n}\| = 1\) ,且对 \(\forall x \in \mathbb{R}^n\) ,都有 \(\|Ax\| \leq \|A\|\|x\|_{(n)}\) , \(\|\cdot\|_{(n)}\) 是相应的向量范数,则 \(\rm{I}_{n}\) 在半定意义下是最大的。
证明:对 \(\forall A \in K\) , 由于对 \(\forall x \in \mathbb{R}^n\) ,都有 \(\|Ax\| \leq \|A\|\|x\|_{(n)}\),那么我们可以取 \(A\) 对应于特征值 \(\lambda_i\) 的特征向量 \(x_i\) ,代入前面公式得: \(\|Ax_i\| \leq \|A\|\|x_i\|_{(n)}\), 于是: \(|\lambda_i|\|x_i\|_{(n)} \leq \|A\|\|x_i\|_{(n)}\), 再利用特征向量不为 \(0\),则有: \(|\lambda_i| \leq \|A\|\) .取遍 \(A\) 的特征向量，可以得到 \(\mathop{max}\limits_{i}|\lambda_i| \leq \|A\|\) ,所以我们可以得到: \(\rho(A) \leq \|A\| \leq 1\).而我们又知道, \(\|A\|_2 = \sqrt{\lambda_{max}(A^{T}A)} = \sqrt{\lambda_{max}(A^2)} = \sqrt{\max{\lambda(A)}^2}=\max |\lambda(A)|=\rho(A) \leq 1.\) 于是,有 \(\lambda(\rm{I}_n - A) = 1 - \lambda(A) \geq 1- \mathop{max}|\lambda(A)| = 1 - \rho(A) \geq 0\) .从而, 对于 $\forall A \in K $,有 \(\rm{I} \succeq A\) .
Example
上面命题对于诱导范数是自然成立的，但是对于\(\rm{F}\)-范数确不成立。理由如下: 考虑\(n = 2\)时的情形，倘若存在一个半定意义下最优的矩阵
\(A = \bigg(\begin{array}{cc}
a & b\\
b & c
\end{array}\bigg) \in K\) ，那么 \(a,b,c\) 中至少有一个不为 \(0\), 我们下面对 \(c\) 分类讨论一下,
(1) \(c = 0\) ,此时 \(A =\bigg(\begin{array}{cc}
a & b\\
b & 0
\end{array}\bigg)\) ,我们令 \(B = \bigg(\begin{array}{cc}
0 & 0\\
0 & \frac{1}{2}
\end{array}\bigg)\) ,此时 \(B \in K\),但容易看出 \(A-B\) 不正定;
(2) $c> 0 $,由于 \(a^2+2b^2+c^2 \leq 1\) ,那么 \(a<1\) ,我们可以直接考虑 \(E_{11} =\bigg(\begin{array}{cc}
1 &0\\
0 & 0
\end{array}\bigg)\),
于是 \(A-E_{11}\) 的 \((1,1)\) 元为 \(a-1<0\)，所以 \(A-E_{11}\) 不可能是半正定的，故矛盾。