此系列博文皆为本人自学凸优化时的课堂笔记,为了加强印象与理解而作。观看的视频是中科大凌青老师的教学视频,课本为Stephen Boyd的凸优化的中译版,求各位大佬勿喷,求求了≧ ﹏ ≦。
本文内容为第二章凸集中的第一,二小节仿射集合和凸集
一、直线与线段
你以为这个很简单?好吧,确实不难,但是它很重要,是仿射集合与凸集的基础。
假设\(R^n\)中的两个点\(x_1\)和\(x_2\),众所周知,两点确定一条直线,那么这两个点确定的直线方程为:
从上式我们可以知道,当 \(\theta\) 取无穷个时,该方程是条直线,但是如果限制 \(\theta\) 的范围,那么就是一条线段,注意当 \(\theta\) 取0~1时,该直线方程就表示一条从\(x_1\)到\(x_2\)的线段。
仿射
二、仿射集合
简单介绍一下仿射集合,如果一个集合中任取两个点且这两个点所组成的直线仍在该集合内,那么这个集合就是仿射集合,扩展一下就是如果一个集合中任取n个点且这n个点所组成的超平面仍在该集合内,那么该集合也被称为仿射组合。仿射组合的数学表示如下:
\[\theta_1x_1+\theta_2x_2+\theta_3 x_3+...+\theta_nx_n \in C \]\[st:\quad\theta_1+\theta_2+\theta_3+...+\theta_n=1 \]需要注意的是参数之和要等于1。
证明过程略(参考老师讲的3维的用2维来证明,那么不断证明下去n维也可以用n-1维证明)。
书上还有个例子2.1,结论为线性方程组的解集一定是仿射集合反过来也一样。
三、仿射集合的子空间
如果\(C\)是一个仿射集合并且\(x_0\in C\),则集合
\[V = C-x_0=\{x-x_0|x\in C\} \]是一个子空间。也就是说,一个仿射空间中的任意元素\(x\)都偏移\(x_0\)后的集合\(V\)依然是一个仿射集合,并且其维数一致(变量的个数不变)。
四、仿射包
集合\(C\subseteq R^n\)中所有的点组成的仿射组合组成的集合为\(C\)的仿射包,记\(aff\quad C\)。
\(aff\quad \{ \theta_0x_0 + \theta_1x_1+...+\theta_n x_n |x_1,...x_n \in C,\theta_1 + \theta_2+ ... + \theta_n = 1 \}\)。
由此我们可以看出仿射组合就是集合内一个个确定的点,他们合起来就是仿射包,即仿射集合就是最小的仿射包。
五、凸集
从仿射集合就是最特殊的凸集,那么从仿射集合类比一下凸集,我们将所有的参数\(\theta\)都进行限制,二维中把直线限制成线段等。
定义:如果C中的任意两点的线段仍在C中,那么对于\(x_1,x_2 \in C\)且\(0\le\theta\le1\)的\(\theta\)都有$$\theta x_1+(1-\theta)x_2 \in C$$
与仿射集合不同的是凸集对参数都限制在0~1之中。
同理我们可以知道凸包就是所有凸组合的集合,顾名思义,凸包总是凸的,因此对于不是凸集的集合凸包就是包含这个集合的最小凸集,而凸集就是凸包。
六、锥
对于任意\(x\in C\)和\(\theta \geq 0\)都有\(\theta x \in C\),那么集合C是锥或者非负齐次。像冰淇淋形状一样由于\(\theta x\in C\)所以锥可以是一条射线或者无数条射线组成的集合,这些射线可以分开存在,非负齐次代表参数\(\theta\)都大于等于0,又因为可以等于0,所以锥一定经过源原点,锥组合跟上边的凸组合,仿射组合形式上没有区别,但是约束条件是非负数,锥包就是无数个锥组合形成的集合,也就是说锥集就是锥包,而不是锥集的集合,他的锥包就要找他的最小锥集。