-
第1章 线性空间与线性映射
-
求解过渡矩阵(表示矩阵)并进行坐标变换;
空间Vn(F):ξ=[ξ1⋯ξn]和η=[η1⋯ηn]是基,T是线性变换,α∈Vn(F)任意。
- 已知α在ξ下的坐标为x=[x1⋮xn],ξ→η的过度矩阵为C,则α在η下的坐标为y=C−1x;
- 已知T在ξ下的表示矩阵为A,ξ→η的过度矩阵为C,则T在η下的表示矩阵为B=C−1AC;
- 已知α在ξ下的坐标为x=[x1⋮xn],T在ξ下的表示矩阵为A,则T(α)在ξ下的坐标为z=Ax;
-
证明W是V的子空间
- 寻找一个元素α0∈W说明W是非空集合(一般地可以选择零元素);
- 证明W中的元素对加法封闭:∀α1,α2∈W, (α1⊕α2)∈W;
- 证明W中的元素对数乘封闭:∀α∈W,k∈F, k∘α∈W;
-
求子空间W的基以及它的维数
V的基为ξ=(ξ1⋯ξn),W={x=ξ⋅k | p(k) is true},p是系数k的约束,∀α∈W。
则可知α∈V也成立,不妨设α在V下的坐标为k=(k1⋮kn)∈Cn任意,p对应的约束方程为Ak=0。
不妨其基础解系为η=[η1⋯ηr],则k=η⋅c,其中c∈Cr任意,所以α=ξ⋅k=ξη⋅c。
①∀α∈W都能由ξη线性表示;②ξ是线性无关组,η也是线性无关组,所以ξη也是线性无关组。所以ξη是W的一组基,dim(W)=rank(η)。
在作答时,只需书写如下步骤:①计算p(k)对应的齐次方程Ak=0的基础解系η; ②所以dim(W)=rank(η); ③且W的一组基为ξη。
-
求空间的交集与并集的维数以及基
不妨设V1=span{α1,⋯,αr}=span(A),V2=span{β1,⋯,βs}=span(B),αi,βj∈Cm。
-
求V1+V2维数和基
求[A,B]的Hermite标准形H,则dim(V1+V2)=rank([A,B]),基为[A,B]中对应于的ei(H)的极大无关组。
可以通过满秩分解来求:不妨设[A,B]=FG,则dim(V1+V2)=rank(G),基就是F。
-
求V1⋂V2维数和基
∀η∈V1⋂V2,η=A⋅a=B⋅(−b),即有[A,B]⋅[ab]=0,即解出齐次方程[A,B]x=0。
基础解系为ξ=[ξ1,⋯,ξt](r+s)×t=[(ξ1aξ1b)⋯(ξtaξtb)]=[ξaξb],系数为k=[k1⋮kt],则通解[ab]=ξ⋅k。
所以解出:a=ξa⋅k,b=ξb⋅k。代入得η=A⋅ξa⋅k=Aξa⋅k=B⋅(−ξb⋅k)=−Bξb⋅k。
而由于k是一个t维的自由向量(即有t个自由变元),所以不妨令γ=Aξa=−Bξb=[γ1,⋯,γt],由于A线性无关、ξa线性无关,所以Aξa线性无关,B线性无关、ξb线性无关,所以Bξb线性无关。即有γ线性无关,而V1⋂V2中的任意向量η都能被γ线性表示出来,所以可以得出γ即是V1⋂V2的基,dim(V1⋂V2)=t。
线性无关组α=[α1,⋯,αr]和β=[β1,⋯,βs],则α⋅β也是线性无关组。
αβ⋅k=[α1⋯αr]⋅[β1⋯βs]⋅[k1⋮ks]=[α1⋯αr]⋅[∑i=1sβi(1)ki⋮∑i=1sβi(r)ki]=α1⋅∑i=1sβi(1)ki+⋯+αr⋅∑i=1sβi(r)ki=∑j=1rαj⋅∑i=1sβi(j)ki令αβ⋅k=0可得:∑j=1rαj⋅∑i=1sβi(j)ki=0,而α是极大无关组,所以∑i=1sβi(j)ki=0,j=1∼r。
所以有[∑i=1sβi(1)ki⋮∑i=1sβi(r)ki]=0,即有β⋅k=0,而β是线性无关组,所以只有k=0,即证αβ也是线性无关组。
在作答时,只要书写如下步骤:①计算齐次方程[A,B]x=0的基础解系为ξ=[ξaξb]; ②又因为γ=Aξa=−Bξb,所以V1⋂V2中的任意向量η都能被γ线性表示出来; ③即有dim(V1⋂V2)=rank(γ),V1⋂V2=span(γ)。
-
-
求α到β的线性变换T在α下的表示矩阵(α→β的过渡矩阵)
已知V中的两个基:α=[α1⋯αr]和β=[β1⋯βs],T(α)=β=α⋅T,其数域F=Cm。将αi和βj按照统一位次次序拉伸为向量形式,得到两组基对应的可逆矩阵A和B。
∀η∈V非零向量,在基α和β下的坐标分别为a=[a1⋮ar]和b=[b1⋮bs],a∈Cr,b∈Cs任意非零向量。
即有η=α⋅a=β⋅b,按统一位次次序一一对应后有A⋅a=B⋅b,由于a和b都是非零向量,且由题意α可以向β变换,所以a是有解的,故有通解为a=A+B⋅b+(Ir−A+A)⋅y,y∈Cr任意。
故代入η并结合α⋅T=β得出等式:α⋅(A+B⋅b+(Ir−A+A)⋅y)=α⋅T⋅b。
化简即有:α⋅(A+B−T)⋅b=α⋅(Ir−A+A)⋅y,由dim(α)=r得:rank(A)=r⇔A+A=Ir。
即有最后的等式:α⋅(A+B−T)⋅b=0。由于α是V中的一组基,所以只有坐标(A+1B−T)⋅b=0时上述等式成立;又由于b是s维自由向量(解向量b有s个自由变元),所以有T在α下的表示矩阵为A+1B。
但是在实际作答过程中不能书写此步骤,此步骤只是作为辅助手段,帮助我们快速确定α与β之间的转换关系。所以在做题时需要老老实实写出βj和α之间的关系:β=α。
只有当你能确定α可以向β进行转换时才能使用该方法,因为降维变换是不可逆的。
当A−1存在时,A+=A−1。
-
核子空间与象子空间
- 核子空间N(T)={x∈V: Tx=0},所以dim(N(T))=n−rank(T);
- 象子空间R(T)={y=Tx, x∈V},所以dim(R(T))=rank(T);
-
-
第2章 内积空间
-
正交投影矩阵与坐标变换
设Rm中L=span{α1,⋯,αn}=span{A},则正交投影矩阵为PL=A(ATA)−1AT。
η∈Rm在L上的正交投影为y=PL⋅η,在L⊥上的正交投影为z=η−y。
-
-
第3章 相似矩阵
-
求解Jordan标准形的两种方法
- 相似变换秩不变:r(λI−A)k=r(λI−J)k,其中k可以从1开始取,直到筛选出唯一的J;
- 初等因子组:求解行列式因子Di(λ),再求不变因子di(λ)=Di(λ)Di−1(λ),最后求每个不变因子中的非1因式;
-
求解Jordan相似变换矩阵
利用AP=PJ可以得出方程组APi=Pi⋅λi+Pi−1⋅Ji−1,i,其中Ji−1,i=0∨1。
- 当Ji−1,i=0时,Pi就是矩阵A的特征值为λi的特征向量 ⇔Pi是方程(λiI−A)x=0的通解;
- 当Ji−1,i=1时,Pi就是方程(λiI−A)x=−Pi−1的通解,其特解的自由变元为0;
最后需要满足P是可逆矩阵,即要求其行列式不为0,求出Pi中各个自由参数的约束,并取特殊值代入。
-
-
第4章 范数理论
-
求矩阵范数
- ‖A‖m1=∑i,j|aij|;
- ‖A‖m∞=max(m,n)⋅maxi,j(|aij|);
- ‖A‖F=∑aij2=tr(AHA)=∑λAHA(i);
- 任意向量范数可被定义为:‖x‖α=‖xαT‖,α=repT(1,n);
-
求矩阵算子范数
- 与向量1-范数相容的矩阵列和范数:‖A‖1=maxj∑iaij(列模和的最大值);
- 与向量∞范数相容的矩阵行和范数:‖A‖∞=maxi∑jaij(行模和的最大值);
- 与向量2-范数相容的矩阵谱范数:‖A‖2=λAHA(1);(AHA的最大特征值的根);
- 当然与向量2-范数相容的还有矩阵F范数‖A‖F;
- 任意矩阵算子范数可以被定义为:‖A‖=maxx≠0‖Ax‖α‖x‖α=max‖x‖α=1‖Ax‖α;
-
证明实值函数‖x‖A是Cn上的一种向量范数
- 正定性:‖x‖A≥0,且‖x‖A=0⟺x=0;
- 齐次性:‖kx‖A=|k|‖x‖A;
- 三角不等式:‖x1+x2‖A≤‖x1‖A+‖x2‖A;
-
证明实数‖A‖是A的矩阵范数
- 正定性:‖A‖≥0,且‖A‖=0⟺A=0;
- 齐次性:‖kA‖=k⋅‖A‖;
- 三角不等式:‖A+B‖=‖A‖+‖B‖;
- 相容性:‖AB‖≤‖A‖⋅‖B‖;
-
用向量范数‖·‖α构造另一个向量范数‖·‖β;(三种性质均通过β范数搭桥)
-
用矩阵范数‖·‖α构造另一个矩阵范数‖·‖β;(四种性质均通过β范数搭桥)
-
利用盖尔圆孤立特征值
-
求行盖尔圆和列盖尔圆
行盖尔圆为:列盖尔圆为:行盖尔圆为:Sk:|z−akk|≤∑j≠kn|akj| 列盖尔圆为:Gk:|z−akk|≤∑i≠kn|aik|
-
如果不能完全孤立所有的盖尔圆,则使用对角阵增大孤立盖尔圆半径并缩小连通盖尔圆半径
- 设独立的行盖尔圆有r个,编号为x=[x1⋯xr];独立的列盖尔圆有c个,编号为y=[y1⋯yc]。
- 选择孤立盖尔圆多的方向,即编号为z=[z1⋯zm]=r≥c ? x:y的行或列盖尔圆,增大孤立盖尔圆半径Rzk,k=1∼m;缩小连通盖尔圆半径Ri,i≠zk,k=1∼m。
- 令对角阵D=[δ1⋱δn],δi={dk i=zk, k=1∼m1otherwise,增大行盖尔圆半径增大列盖尔圆半径dk={0<dk<1增大行盖尔圆半径1<dk增大列盖尔圆半径,一般选择12或者2。则有B=D−1AD与A有相同特征值,所以B的行列盖尔圆也可以隔离A的特征值。
如果行列盖尔圆中独立盖尔圆的并集包含所有盖尔圆,则所有的盖尔圆独立;
实矩阵A的盖尔圆都孤立,则说明A的特征值全为实数;
实矩阵的复特征值一定是成对出现的,因为实矩阵的行列式是实数,其值为特征值之积;
-
-
几个重要的范数不等式(p,q为共轭指数:1p+1q=1)
构造Holder范数为‖x‖p=(∑|xk|p)1p(证明满足(1)正定性; (2)齐次性; (3)三角不等式)。
-
Holder不等式(祖宗不等式)
,即有∑k=1n|akbk|=∑k=1n|ak||bk|≤(∑k=1n|ak|p)1p(∑k=1n|bk|q)1q,即有:(a,b)≤(|a|,|b|)≤‖a‖p‖b‖q
-
Cauchy-Schwarz不等式(p=q=2时的Holder不等式)
,即有∑k=1n|akbk|=∑k=1n|ak||bk|≤(∑k=1n|ak|2)12(∑k=1n|bk|2)12,即有(a,b)≤(|a|,|b|)≤‖a‖2‖b‖2
-
多重Holder不等式(m个n维向量的Hadamard积形式:(⨀|Xi|,rep(1,n))=‖⨀|Xi|‖1)
,即有∑k=1n∏i=1m|Xik|≤∏i=1m(∑k=1n|Xik|pi)1pi,即有(⨀i=1mXi,rep(1,n))≤‖⨀i=1m|Xi|‖1≤∏i=1m‖Xi‖pi
-
Minkowski不等式(Holder范数的三角不等式)
,即有(∑k=1n|ak+bk|p)1p≤(∑k=1n|ak|p)1p+(∑k=1n|bk|p)1p,即有‖a+b‖p≤‖a‖p+‖b‖p
-
-
均值不等式中1-范数与2-范数的关系
算术平均数平方平均数{算术平均数:An=∑inxin=x1+⋯+xnn=1n⋅‖x‖1平方平均数:Qn=∑inxi2n=x12+⋯+xn2n=1n⋅‖x‖2
由算术平均数≤平方平均数可得:‖x‖1≤n⋅‖x‖2,而根据俩范数的定义我们知道:‖x‖2≤‖x‖1,所以最终我们得出:‖x‖2≤‖x‖1≤n⋅‖x‖2。
-
-
第5章 矩阵分析
-
最小多项式求f(At)
-
求解最小多项式mA(λ)
首先求解|λI−A|=cA(λ)=∏i=1n(λ−λi)ci,然后查看∏i=1n(λ−λi)ri是否是零矩阵,如果是则求出最小多项式为mA(λ)=∏i=1n(λ−λi)ri,其中ri=1:ci。
-
用A的多项式近似f(At)(待定系数)
构造函数r(λ)=∑i=0m−1ai⋅λi,其中的m是指最小多项式mA(λ)的最高次数。用rA(λ)近似f(λ)即要满足:
,其中的重数f(k)(λi)=r(k)(λi),其中k=1:(λi的重数)解得ai代入rA(λ),最后f(At)=r(At)=∑i=0m−1ai⋅Ai即可获得f(At)对应的A多项式。
-
-
用Jordan标准形求f(At)
不妨设Ji是A的第i个Jordan块,ki为λi的重数,则有(行泰勒展开项)
f(Jit)=[f(λit)ddλf(λt)|λ=λi⋯1(ki−1)!d(ki−1)dλ(ki−1)f(λt)|λ=λi0f(λit)ddλf(λt)|λ=λi⋮00⋱⋮⋮⋮⋮0⋯⋯f(λit)]由f(At)=P⋅f(Jt)⋅P−1得出:f(At)=P⋅diag({f(Jit)})⋅P−1。
-
求解一阶微分方程组
x(t)=eA(t−t0)⋅c+eAt⋅∫t0te−Au⋅f(u) du
-
矩阵求导与向量求导
导数的结构首先由分母的布局决定,其中的元素由分子的布局决定。
- ddx(xTAx)=Ax
- ddX(tr(AX))=AT
- ddx(Ax)=[a11⋯amn]T;
- ddx(xTAT)=AT;
- ddA(tr(A))=In;
-
-
矩阵分解
-
满秩分解及其广义逆
求得A的Hermite标准形(行最简标准形),记为AH=[G0],然后取F为A中对应于AH的极大线性无关组。
A+=GH(GGH)−1(FHF)−1FH。
-
奇异值分解及其广义逆
- 首先求出AHA的特征值,取其非0特征值为λ1:r(递减),则A的奇异值为σ1:r=λ1:r;
- 然后令Σ=diag({σi}),则V1为λ1:r对应的特征向量,然后取与V1单位正交的V2;
- U1=AV1Σ−1,取与U1单位正交的U2;
- A=U[Σ0T00]VH,A+=V[Σ−10T00]UH;
由于V2与V1正交,所以求V2即求V1Hx=0的基础解系的单位向量;同理U2为U1Hx=0的基础解系的单位向量。
-
正交三角分解
-
Schmidt正交化
βs=αs−∑i=1s−1<βi,αs><βi,βi>βi=αs−β1:s⋅ks qs=βs‖βs‖2A=QR=[q1,⋯,qn]⋅[r1,⋯,rn]αs=[β1:s−1,βs,βs+1:n]⋅[ks10]=[q1:s,qs+1:n]⋅[‖β1:s‖20]∘[k1:s10]
首先使用Schmidt求出正交向量组q,然后通过Schmidt公式反推出α与q的线性表出关系r。
-
Householder变换
αi=Bi:m,i(i) ‖ρi‖2=‖αi‖2 ui=αi−ρie1‖αi−ρie1‖2H~i=I−2uiuiH B(i+1)=[Ii0T0H~i]B(i) B(1)=A
ρi⋅αie1要是实数,也就是ρi必须和αie1(αi的第1个元素)在复数域上形式相同。
-
-
-
第7章 广义逆矩阵
-
Ax=b有解
AA+b=b,通解为x=A+b+(I−A+A)y,y∈Cn任意,极小范数解x0=A+b;
-
Ax=b无解
AA+b≠b,通解为x=A+b+(I−A+A)y,y∈Cn任意,极小范数最小二乘解x0=A+b;
-