- 2024-11-19计算几何
计算几何内容太多(105页ppt呢故只写大纲和之前不知道的东西基本模板前置知识向量基本运算(加减、数乘、点乘、叉乘)高维向量的运算相关计算(长度、夹角、面积……叉乘:\(\veca\times\vecb=|\veca||\vecb|\sin<\veca,\vecb>\)角度是有向的(从\(\veca\)转到
- 2024-11-11CLIPFit:不绕弯子,直接微调比提示微调和适配器微调更好 | EMNLP'24
来源:晓飞的算法工程笔记公众号,转载请注明出处论文:Vision-LanguageModelFine-TuningviaSimpleParameter-EfficientModification论文地址:https://arxiv.org/abs/2409.16718论文代码:https://github.com/minglllli/CLIPFit创新点提出了一种CLIPFit方法以高效地微
- 2024-11-08概念
概念TransformerTransformer是Google的团队在2017年提出的一种NLP经典模型,现在比较火热的Bert也是基于Transformer。Transformer模型使用了注意力机制(attentionmechanisms),不采用RNN的顺序结构,使得模型可以并行化训练,而且能够拥有全局信息Transformer使用的是E
- 2024-10-30Data-Free,多目标域适应合并方案,简单又有效 | ECCV'24
来源:晓飞的算法工程笔记公众号,转载请注明出处论文:Training-FreeModelMergingforMulti-targetDomainAdaptation论文地址:https://arxiv.org/abs/2407.13771论文代码:https://air-discover.github.io/ModelMerging创新点对域适应的场景解析模型中的模式连通性进
- 2024-10-29【论文精读】On the Relationship Between Self-Attention and Convolutional Layers
【论文精读】OntheRelationshipBetweenSelf-AttentionandConvolutionalLayers作者:Jean-BaptisteCordonnier,AndreasLoukas,MartinJaggi发表会议:ICLR2020论文地址:arXiv:1911.03584v2目录【论文精读】OntheRelationshipBetweenSelf-AttentionandConv
- 2024-10-27球坐标下的 Laplace 算子推导
球坐标下的Laplace算子推导Ciallo~(∠・ω<)⌒★我是赤川鹤鸣!在学习球谐函数的时候,第一次听说球坐标下的Laplace算子这一概念.在查阅了一些资料后,现在整理出球坐标下拉普拉斯算子的推导公式.1.球坐标我们非常熟悉的坐标系是初中时学习过的具有\(2\)个维度\(x\)和
- 2024-10-25LookupViT:类似SE的token压缩方案,加速还能丰富特征 | ECCV'24
视觉变换器(ViT)已成为众多工业级视觉解决方案的事实标准选择。但由于每一层都计算自注意力,这导致其推理成本对许多场景而言是不可接受的,因为自注意力在标记数量上具有平方的计算复杂度。另一方面,图像中的空间信息和视频中的时空信息通常是稀疏和冗余的。LookupViT旨在利用这种信
- 2024-10-23曲线与平面曲线 | 正则曲线、弧长参数、切线方程&曲率
目录曲线正则曲线切向量弧长弧长参数切线方程曲率例题曲线对函数y=f(x)
- 2024-10-18从组合优化问题建模到贪心法求解以简单调度为例
此为课题组所指导本科生和低年级硕士生学习组合优化问题汇报所用教材:北京大学屈婉玲教授《算法设计与分析》课程资料:https://www.icourse163.org/course/PKU-1002525003承诺不用于任何商业用途,仅用于学术交流和分享更多内容请关注课题组官方中文主页:https://JaywayXu.github.
- 2024-10-15计量经济学(四)——序列相关性的检验与修正
序列相关性(SerialCorrelation)是指在时间序列或截面数据的回归模型中,误差项之间存在相关性。这种现象意味着当前误差项的值会受到前期误差项的影响,误差项之间并不是独立的。这与经典线性回归模型假设的误差项是独立同分布的(i.i.d.)违背了高斯-马尔可夫定理(Gauss-MarkovTheorem)中
- 2024-10-12蒙特卡罗方法 - 不同的峰值之间的混合挑战篇
序言蒙特卡罗方法,也称为统计模拟法或统计试验法,是一种以概率统计理论为基础的数值模拟方法。自202020世纪40
- 2024-10-01【机器学习-无监督学习】降维与主成分分析
【作者主页】FrancekChen【专栏介绍】⌈⌈⌈Python机器学习⌋
- 2024-09-30相平面的数学基础-特征值与特征向量
根据状态空间方程的一般表达式,求解矩阵形式的微分方程可以掌握系统状态变量随时间的变化的解为\[z\left(t\right)=\mathrm{e}^{A\left(t-t_{0}\right)}z\left(t_{0}\right)+\int_{t_{0}}^{t}\mathrm{e}^{A\left(t-\tau\right)}Bu\left(\tau\right)\mathrm{d}\tau\]可以发现z(t)
- 2024-09-30状态空间方程与传递函数的关系9.29
\[\begin{aligned}\frac{\mathrm{d}z\left(t\right)}{\mathrm{d}t}&=Az\left(t\right)+Bu\left(t\right)\\y\left(t\right)&=Cz\left(t\right)+Du\left(t\right)\end{aligned}\]对上式进行拉普拉斯变换\[\mathcal{L}\left[\frac{\mathrm{d}z\left(t
- 2024-09-27李宏毅机器学习2023-HW10-Adversarial Attack
文章目录TaskBaselineFGSM(FastGradientSignMethod(FGSM)I-FGSM(IterativeFastGradientSignMethod)MI-FGSM(MomentumIterativeFastGradientSignMethod)M-DI2-FGSM(DiverseInputMomentumIterativeFastGradientSignMethod)ReportfgsmattackJepgCom
- 2024-09-25【机器学习-无监督学习】聚类
【作者主页】FrancekChen【专栏介绍】⌈⌈⌈Python机器学习⌋
- 2024-09-24MoNA:复用跨模态预训练模型,少样本模态的福音 | ICML'24
跨模态转移旨在利用大型预训练模型来完成可能不属于预训练数据模态的任务。现有的研究在将经典微调扩展到跨模态场景方面取得了一定的成功,但仍然缺乏对模态差距对转移的影响的理解。在这项工作中,进行了一系列关于转移过程中源表示质量的实验,揭示了更大的模态差距与较少知识重用之
- 2024-09-19DLA:动态层级注意力架构,实现特征图的持续动态刷新与交互 | IJCAI'24
论文深入探讨了层级注意力与一般注意力机制之间的区别,并指出现有的层级注意力方法是在静态特征图上实现层间交互的。这些静态层级注意力方法限制了层间上下文特征提取的能力。为了恢复注意力机制的动态上下文表示能力,提出了一种动态层级注意力(DLA)架构。DLA包括双路径,其中前向路径
- 2024-09-15深度学习自编码器 - 正则自编码器篇
序言深度学习领域中,自编码器(Autoencoder\text{Autoencoder}Autoencoder)作为一种无监督学习技术,凭借其独特的结构在数据降维、特征提取、异常检测及数据去噪等方面展现出
- 2024-09-09MIAS-LCEC: 基于跨模态掩膜匹配的激光雷达-相机在线标定算法
MIAS-LCEC:基于跨模态掩膜匹配的激光雷达-相机在线标定新算法,性能超越SoTA同济大学MIASGroup近期发表的论文《Online,Target-FreeLiDAR-CameraExtrinsicCalibrationviaCross-ModalMaskMatching》提出了一个基于跨模态掩膜匹配的激光雷达-相机在线标定算法,性能上
- 2024-09-08线性因子模型 - 概率PCA和因子分析篇
序言在探索数据科学与机器学习的浩瀚领域中,深度学习作为一股不可小觑的力量,正以前所未有的方式重塑着我们对数据处理与知识发现的理解。在这一宏大的框架下,概率主成分分析(Probabilistic PCA, pPCA
- 2024-09-04【机器学习-神经网络】循环神经网络
【作者主页】FrancekChen【专栏介绍】⌈⌈⌈Python机器学习⌋
- 2024-08-30线性规划单纯形法精解
单纯形法(SimplexMethod)是解决线性规划问题的一种高效且广泛使用的算法。由乔治·丹齐克(GeorgeDantzig)在20世纪40年代提出,这一方法通过系统地检查可行解空间的极点,从而找到最优解。由于其计算效率高,单纯形法迅速成为线性规划问题中最重要和最常用的算法之一。它的应用范围广泛,能
- 2024-08-28回归分析汇总
回归分析汇总回归分析的作用评估性能线性回归(LinearRegression)多元线性回归的基本假设参数估计方法多重共线性线性回归假设检验多项式回归(PolynomialRegression)岭回归(RidgeRegression)套索回归(LassoRegression)弹性网络回归(ElasticNetRegression)逐步回归(StepwiseReg
- 2024-08-25机器学习简介
机器学习简介Learnfromdata、深度学习经典定义:利用经验改善系统自身的性能[T.Mitchell教科书,1997]。数据->算法->模型基本术语数据:数据集;训练;测试示例(instance);样例(example)样本(sample)属性(attribute);特征(feature);属性值属性空间;样本空间;输入空间特