• 2025-01-15机器学习中的凸函数和梯度下降法
    一、凸函数在机器学习中,凸函数和凸优化是优化问题中的重要概念,许多机器学习算法的目标是优化一个凸函数。这些概念的核心思想围绕着优化问题的简化和求解效率。下面从简单直观的角度来解释。1.什么是凸函数?数学定义一个函数f(x)f(x)是凸函数,当且仅当它满足以下条件:
  • 2024-12-23Slope Trick
    参考。例题P4597。分析很显然的,我们可以得到一个\(O(n^2)\)的DP做法。定义状态函数\(f_{i,j}\)表示前\(i\)个数,\(a_i=b_j\)的最小操作次数。其中\(b\)为原序列排序去重的结果。那么有转移方程:\(f_{i,j}=\min\limits_{k=1}^{j}f_{i-1,k}+|b_j-a_i|\)。不难发现,我
  • 2024-12-18常用于优化算法测试的python非凸函数有哪些?
            在优化算法领域,有一些常用的测试函数,它们被广泛用于评估和比较不同优化算法的性能。        非凸函数是指在其定义域内至少存在一个点,使得该点的任意邻域内函数值不满足凸性条件的函数。换句话说,非凸函数在其定义域内至少存在一个点,使得函数的图像在
  • 2024-11-30什么是Jensen不等式
    Jensen不等式是一个非常重要的数学不等式,特别是在概率论、统计学和优化领域中,它常常用来证明一些关于期望的结论。简单来说,Jensen不等式描述了凸函数和期望之间的关系。1.Jensen不等式的定义假设我们有一个凸函数f
  • 2024-12-07Day42--练习--选择题
    Day42--练习--选择题以下是做错的题目题目3:创建一个名为Person的类,类中有一个私有属性name(类型为String),定义一个公有的get方法来获取这个属性的值,方法的代码框架如下:publicclassPerson{privateStringname;public____get(){returnname;}}
  • 2024-12-01泷羽sec-shell(6)if条件判断与for循环结构 学习笔记
     声明!学习视频来自B站up主**泷羽sec**有兴趣的师傅可以关注一下,如涉及侵权马上删除文章,笔记只是方便各位师傅的学习和探讨,文章所提到的网站以及内容,只做学习交流,其他均与本人以及泷羽sec团队无关,切勿触碰法律底线,否则后果自负!!!!有兴趣的小伙伴可以点击下面连接进入b站主页[B
  • 2024-09-2510.解析解方法推导线性回归——不容小觑的线性回归算法
    引言线性回归是许多复杂机器学习模型的基础。作为一种基本的机器学习方法,线性回归提供了清晰的思路和工具,通过理解其推导过程,可以更好地掌握机器学习的基本原理和模型设计。通过阅读本篇博客,你可以:1.学会如何用解析解的方法推导线性回归的最优解2.了解如何判定损失函数是凸
  • 2024-09-23凸函数的等价定义及其证明
    Preface    我非常记得罗翔老师说过一句话,"我们登上并非我们所选择的舞台,演绎并非我们所选择的剧本,但是没有谁的剧本值得羡慕,我们唯一能做的就是尽力演好自己的角色,打好自己手中的牌"。我们所作的每一个选择都可看做是一个优化问题中的一次迭代,在一次一次迭代过程中趋向我们
  • 2024-04-12WQS 二分
    一个参考WQS二分用来处理一些答案构成凸函数的问题。最经典、最常见的形式,就是"从若干个物品中恰好选给定个数的最优"型问题。适用要求:如果不考虑选的物品的个数限制,可以很快求出答案。例题:P2619TreeI从所有白边中选\(need\)条,然后加上若干条黑边形成生成树,最优是多
  • 2024-04-11反悔贪心
    一直搞不明白这东西自身的正确性。我更愿意将其理解为模拟费用流或者某种dp优化,事实上证明正确性的时候往往也是这么证的。基于dp优化的理解AT_dwango2016qual_e令\(dp_{i,j}\)表示i时刻在位置j的最小代价。转移:\[dp_{i,j}=min_{k<=j}(dp_{i-1,k})+(i时间内在位置j
  • 2024-03-14dp 练习题 2024.3.14
    ARC070ENarrowRectangles题意:平面上有\(n\)个矩形,左下角点坐标为\((l_i,i-1)\),右上角点坐标为\((r_i,i)\)。每次把一个矩形沿着横轴方向移动一个长度单位,求移动多少次使得任意两个相邻矩形存在交点。\(1\len\le10^5,\space1\lel_i<r_i\le10^9\)考虑最简单的dp,设\(
  • 2024-03-11总结
    主要用来写一些自己的漏洞最大的漏洞:不记得更新这篇博客……数据结构Splay:(平均一个题4个小时我也是很服气一定要记得随时splay要不然会T(当然还得记得及时update不然在一些需要siz的操作会寄如果是区间翻转的时候,splay的时候要顺便pushdown,先pushdown父节点再pushdown自己
  • 2024-02-27闵可夫斯基和学习笔记
    闵可夫斯基和给定两个向量空间\(A\)和\(B\),则闵可夫斯基和\(A+B={a+b,a\inA,b\inB}\)。当\(A\)和\(B\)都是凸包时,他们的闵可夫斯基和也是凸包。考虑当\(A\)的轮廓是凸函数\((i,f_i)\),\(B\)的轮廓是凸函数\((j,g_j)\)时,\(A+B\)的轮廓就是\((k,\max_{i+j=k}
  • 2024-02-26Slope trick 学习笔记
    博客传送门Slopetrick的定义Slopetrick是一种通过分析DP函数在转移时的斜率变化来优化转移的技巧。通常来说,被维护的函数图像是离散的凸函数,Slopetrick会维护函数的斜率或者斜率的差分。维护凸函数主要有以下几个优点:方便维护形如\(dp'[i]\leftarrow\max(dp[i],dp
  • 2024-02-06凸优化 | 期末复习笔记存档
    这是自动化系的凸优化期末复习笔记,应该覆盖所有考点了。据可靠情报,至少2023秋季学期,两位老师的考题是一样的。想起来,考试时考察凸集,有问到一个腐蚀球的问题;大概先定义了腐蚀(若r=1的球被凸集包含,则球心在腐蚀后的凸集里)。去证明凸集腐蚀后还是凸的(或者类似的证明)。证明思路:
  • 2024-01-04凸优化 2:如何判定凸函数?
    凸优化2:如何判定凸函数?如何判断一个目标函数是凸函数?如果是凸函数,那ta的定义域是凸集合一个函数求俩次梯度,大于等于0,那这个函数就是一个凸函数在同样条件下,怎么设计为凸函数模型?怎么求解非凸函数?怎么对非凸函数松弛,变成凸函数? 如何判断一个目标函数是凸函数?为了判断一个函数是
  • 2023-12-28【零基础入门】凸优化1:怎么培养研究能力,从模型 + 优化开始!
    凸优化1凸优化是什么怎么求最大值、最小值优化问题的形式优化问题类别1:凸函数和非凸函数优化问题类别2:带条件和无条件优化问题类别3:离散和连续优化问题类别4:平滑和非平滑如何判断一个目标函数是凸函数?在同样条件下,怎么设计为凸函数模型?怎么求解非凸函数?怎么对非凸函数松弛
  • 2023-11-26优化理论 目录
    学期内是更不动了,之后慢慢填。线性线性规划与多胞体的基本性质单纯形线性规划的对偶凸优化凸集与凸函数的基本性质椭球法线性规划与半正定规划松弛强对偶的两个充分条件-KKT/Slater'scondition...
  • 2023-08-24slope trick
    slopetrick概述在\(dp\)过程中,可以维护凸函数的方法,要求\(dp\)值呈凸函数且其斜率均为整数。具体来说,是记录凸函数斜率的变化值,即在什么位置斜率\(\plusmn1\),例如凸函数\(f(x)=|x|\),它由一条斜率为\(-1\)和一条斜率为\(1\)的射线在\(0\)点处相连,那么在零点处斜
  • 2023-07-28非线性规划【复习笔记】
    一、基本概念(一)、非线性规划数学模型非线性规划数学模型的一般形式是:\(\begin{cases}minf(\boldX)\\\quadh_i(\boldX)=0(i=1,2,\dots,m)\\\quadg_j(\boldX)\geq0(j=1,2,\dots,l)\end{cases}\)其中,\(X=(x_1,x_2,\dots,x_n)^T\)是\(n\)维欧氏空间\(E_n\)中的点
  • 2023-07-22凸优化6——典型的凸函数与不改变凸性的变换
    本节对应凌青老师11,12,13,14内容1.典型的凸函数,参考凸优化学习笔记五:常见的凸函数-知乎(zhihu.com)补充范数的定义范数_百度百科(baidu.com),即满足正定性、正齐次性、三角不等式2.哪些变换不改变函数凸性搬运凸优化学习笔记六:保持凸函数性质的运算-知乎(zhihu.com) 
  • 2023-07-17凸优化5——凸函数的定义
    本节对应凌青老师9,10两课,主要讲了凸函数的四种定义及相关证明凸函数的四种等价定义-知乎(zhihu.com)ConvexOptimization——凸函数-知乎(zhihu.com)具体可参考这两篇注意,凸函数的前提是,该函数的定义域是凸集
  • 2023-07-062023-07-06 《数值优化方法》-庞丽萍,肖现涛-无约束最优化(一).md
    2023-07-06《数值优化方法》-庞丽萍,肖现涛-无约束最优化(一)数值优化方法Matlab优化概述形如的问题称为无约束最优化问题,注意到上述问题是定义在上且为实值函数。对于上述优化问题首先需要明确的是最优解的概念。定义1.1若对任意,不等式成立,则称是优化问题的全局极小解(或全