凸集凸集是数学中一个重要的概念，尤其是在几何学、线性代数和优化理论中。在欧几里得空间（如(\mathbb{R}^n)）中，一个集合(C)被称为凸集，如果对于集合中的任意两点(x,y\inC)，连接这两点的线段上的所有点也都属于该集合(C)。更形式化地说，给定一个集合(C\subseteq\math

importnumpyasnpfromscipy.optimizeimportminimizedefobjective(x):return2*x[0]+3*x[0]**2+3*x[1]+x[1]**2+x[2]defconstraint1(x):return10-(x[0]+2*x[0]**2+x[1]+2*x[1]**2+x[2])defconstraint2(x):

引言线性回归是许多复杂机器学习模型的基础。作为一种基本的机器学习方法，线性回归提供了清晰的思路和工具，通过理解其推导过程，可以更好地掌握机器学习的基本原理和模型设计。通过阅读本篇博客，你可以：1.学会如何用解析解的方法推导线性回归的最优解2.了解如何判定损失函数是凸

Preface    我非常记得罗翔老师说过一句话，"我们登上并非我们所选择的舞台，演绎并非我们所选择的剧本，但是没有谁的剧本值得羡慕，我们唯一能做的就是尽力演好自己的角色，打好自己手中的牌"。我们所作的每一个选择都可看做是一个优化问题中的一次迭代，在一次一次迭代过程中趋向我们

一个参考WQS二分用来处理一些答案构成凸函数的问题。最经典、最常见的形式，就是"从若干个物品中恰好选给定个数的最优"型问题。适用要求：如果不考虑选的物品的个数限制，可以很快求出答案。例题：P2619TreeI从所有白边中选\(need\)条，然后加上若干条黑边形成生成树，最优是多

一直搞不明白这东西自身的正确性。我更愿意将其理解为模拟费用流或者某种dp优化，事实上证明正确性的时候往往也是这么证的。基于dp优化的理解AT_dwango2016qual_e令\(dp_{i,j}\)表示i时刻在位置j的最小代价。转移：\[dp_{i,j}=min_{k<=j}(dp_{i-1,k})+(i时间内在位置j

ARC070ENarrowRectangles题意：平面上有\(n\)个矩形，左下角点坐标为\((l_i,i-1)\)，右上角点坐标为\((r_i,i)\)。每次把一个矩形沿着横轴方向移动一个长度单位，求移动多少次使得任意两个相邻矩形存在交点。\(1\len\le10^5,\space1\lel_i<r_i\le10^9\)考虑最简单的dp，设\(

主要用来写一些自己的漏洞最大的漏洞：不记得更新这篇博客……数据结构Splay：（平均一个题4个小时我也是很服气一定要记得随时splay要不然会T（当然还得记得及时update不然在一些需要siz的操作会寄如果是区间翻转的时候，splay的时候要顺便pushdown，先pushdown父节点再pushdown自己

闵可夫斯基和给定两个向量空间\(A\)和\(B\)，则闵可夫斯基和\(A+B={a+b,a\inA,b\inB}\)。当\(A\)和\(B\)都是凸包时，他们的闵可夫斯基和也是凸包。考虑当\(A\)的轮廓是凸函数\((i,f_i)\)，\(B\)的轮廓是凸函数\((j,g_j)\)时，\(A+B\)的轮廓就是\((k,\max_{i+j=k}

博客传送门Slopetrick的定义Slopetrick是一种通过分析DP函数在转移时的斜率变化来优化转移的技巧。通常来说，被维护的函数图像是离散的凸函数，Slopetrick会维护函数的斜率或者斜率的差分。维护凸函数主要有以下几个优点：方便维护形如\(dp'[i]\leftarrow\max(dp[i],dp

这是自动化系的凸优化期末复习笔记，应该覆盖所有考点了。据可靠情报，至少2023秋季学期，两位老师的考题是一样的。想起来，考试时考察凸集，有问到一个腐蚀球的问题；大概先定义了腐蚀（若r=1的球被凸集包含，则球心在腐蚀后的凸集里）。去证明凸集腐蚀后还是凸的（或者类似的证明）。证明思路：

凸优化2：如何判定凸函数？如何判断一个目标函数是凸函数？如果是凸函数，那ta的定义域是凸集合一个函数求俩次梯度，大于等于0，那这个函数就是一个凸函数在同样条件下，怎么设计为凸函数模型？怎么求解非凸函数？怎么对非凸函数松弛，变成凸函数？ 如何判断一个目标函数是凸函数？为了判断一个函数是

凸优化1凸优化是什么怎么求最大值、最小值优化问题的形式优化问题类别1：凸函数和非凸函数优化问题类别2：带条件和无条件优化问题类别3：离散和连续优化问题类别4：平滑和非平滑如何判断一个目标函数是凸函数？在同样条件下，怎么设计为凸函数模型？怎么求解非凸函数？怎么对非凸函数松弛

学期内是更不动了，之后慢慢填。线性线性规划与多胞体的基本性质单纯形线性规划的对偶凸优化凸集与凸函数的基本性质椭球法线性规划与半正定规划松弛强对偶的两个充分条件-KKT/Slater'scondition...

slopetrick概述在\(dp\)过程中，可以维护凸函数的方法，要求\(dp\)值呈凸函数且其斜率均为整数。具体来说，是记录凸函数斜率的变化值，即在什么位置斜率\(\plusmn1\)，例如凸函数\(f(x)=|x|\)，它由一条斜率为\(-1\)和一条斜率为\(1\)的射线在\(0\)点处相连，那么在零点处斜

一、基本概念(一)、非线性规划数学模型非线性规划数学模型的一般形式是：\(\begin{cases}minf(\boldX)\\\quadh_i(\boldX)=0(i=1,2,\dots,m)\\\quadg_j(\boldX)\geq0(j=1,2,\dots,l)\end{cases}\)其中，\(X=(x_1,x_2,\dots,x_n)^T\)是\(n\)维欧氏空间\(E_n\)中的点

本节对应凌青老师11，12，13，14内容1.典型的凸函数，参考凸优化学习笔记五：常见的凸函数-知乎(zhihu.com)补充范数的定义范数_百度百科(baidu.com)，即满足正定性、正齐次性、三角不等式2.哪些变换不改变函数凸性搬运凸优化学习笔记六：保持凸函数性质的运算-知乎(zhihu.com) 

本节对应凌青老师9，10两课，主要讲了凸函数的四种定义及相关证明凸函数的四种等价定义-知乎(zhihu.com)ConvexOptimization——凸函数-知乎(zhihu.com)具体可参考这两篇注意，凸函数的前提是，该函数的定义域是凸集

2023-07-06《数值优化方法》-庞丽萍，肖现涛-无约束最优化（一）数值优化方法Matlab优化概述形如的问题称为无约束最优化问题，注意到上述问题是定义在上且为实值函数。对于上述优化问题首先需要明确的是最优解的概念。定义1.1若对任意，不等式成立，则称是优化问题的全局极小解（或全

梯度下降法（GradientDescent）是一种常见的最优化算法，用于求解函数的最大值或者最小值。梯度下降在高数中，我们求解一个函数的最小值时，最常用的方法就是求出它的导数为0的那个点，进而判断这个点是否能够取最小值。但是，在实际很多情况，我们很难求解出使函数的导数为0的方程，这个时候就可以

滴叉题/se/se题意直接复制了有\(n\)套轮胎，滴叉需要用这些轮胎跑\(m\)圈。使用第\(i\)套轮胎跑的第\(j\)圈（对每套轮胎单独计数）需要\(a_i+b_i(j-1)^2\)秒。滴叉需要进入维修站来更换轮胎，所消耗的时间为\(t\)秒。特别地，滴叉使用的第一套轮胎不需要进站更换。你需

证明逻辑回归的目标函数是凸函数假设有训练数据,其中为每一个样本，而且是样本的特征并且,代表样本数据的标签（label）,取值为或者.在逻辑回归中，模型的参数为。对于向量，我们一般用粗体来表达。为了后续推导的方便，可以把b融入到参数w中。这是参数就变成，也就是前面多出了一个项,

凸规划是指若最优化问题的目标函数为凸函数，不等式约束函数也为凸函数，等式约束函数是仿射的。凸规划的可行域为凸集，因而凸规划的局部最优解就是它的全局最优解。当凸规划的目标函数为严格凸函数时，若存在最优解，则这个最优解一定是唯一的最优解。一、凸集凸集：设\(C\)为\(n\)维欧式

最大标志：选择恰好\(K\)个，使什么东西最优。就比如说\(f_{i,j}\)表示前\(i\)个数里选\(j\)个的最优解。直接求解复杂度很寄。如果\(f_{n,x}\)在坐标系里画出的是一个凸函数(\(x\)是取了多少个值)，那么就可以进行wqs二分。我们想要求当\(x=K\)时的解，因为是凸函数所