目录一、学习资料二、学习笔记（一）线性模型1、考虑周期性2、修改模型（二）模型变形之分段线性曲线1、分段线性直线2、分段线性曲线的图像和表达式（机器学习第一步：写出带有未知数的函数）（1）如何构成（2）如何表达（3）如何改进3、分段线性曲线的损失（机器学习第二步：定义损失）4、分段

Transformer八股目录Transformer八股Self-Attention的注意力分数计算公式为什么要进行scaling？为什么是\(\sqrt{d_k}\)？PositionEmbeddingTransformer位置编码的性质Self-Attention的注意力分数计算公式\[score=Softmax(\frac{QK^T}{\sqrt{d_k}})\]为什么要进行scaling？当

或许看起来和物理很有关系？变化率平均速度定义物体的位移与所用时间的比值，通常指物体在某一时间段内的速度，若物体的位移与所用时间的关系式是\(s=f(t)\)，函数\(f(t)\)在\(t_0\)与\(t_0+\Deltat\)之间的平均速度是\(\frac{f(t_0+\Deltat)-f(t_0)}{\Deltat}\)。瞬时速

 原文： https://www.cnblogs.com/ooo0/p/15963700.html-------------------- QPS:  请求进入的速度并发数:系统中同时存在的请求数 根据Little'sLaw，我们能得到如下的关系式：并发数 = QPS*耗时 以大学招生为例：大一新生的招收速度是5000人/年，每个学生在大学

假如滑模函数导数满足s'=-ks,那么由李雅普诺夫函数V=1/2s^2可以得到：V'=-1/2kV，则V=e^(-k/2)，V即s可以收敛到0，但是时间是无穷的或者说非有限的，宏观上看，问题在于s越接近0，s'就越小，反过来s的收敛到0过程更慢所以令s'=-k1*s-k2*sgn(s)，同理得到V'<=-k2*√2*V^(1/2)，由数学

趋近律在没有干扰的情况下仅是作到达阶段的趋近作用而已，但在存在干扰的情况下，其也充当抗干扰的鲁棒项。对于存在上界d~的干扰d：|d|<=d~，滑模s'=-βsgn(s)-s需要满足β>d~，此时强行将干扰消除，同时也在滑模面附近带来控制器抖振 参考：[滑模控制器]（2）滑模控制抗干扰原理