• 2024-06-30应用数学与机器学习基础 - 深度学习的动机与挑战篇
    序言深度学习,作为当代人工智能领域的核心驱动力,其动机源于对模拟人类智能深层认知机制的渴望。我们追求的是让机器能够像人类一样理解、分析并应对复杂多变的世界。然而,这一追求之路并非坦途,面临着数据获取与处理的挑战、模型复杂度的控制、计算资源的巨大消耗等重重障碍。
  • 2024-06-23基于CDMA的多用户水下无线光通信(2)——系统模型和基于子空间的延时估计
      本文首先介绍了基于CDMA的多用户UOWC系统模型,并给出了多用户收发信号的数学模型。然后介绍基于子空间的延时估计算法,该算法只需要已知所有用户的扩频码,然后根据扩频波形的循环移位在观测空间的信号子空间上的投影进行延时估计。1、基于CDMA的多用户UOWC系统模型  首
  • 2024-06-23应用数学与机器学习基础 - 最大似然估计篇
    序言最大拟然估计(MaximumLikelihoodEstimation,MLE)是统计学和机器学习领域中的一种重要参数估计方法。MLE的核心思想是基于给定的数据,找到一组参数值,使得这组参数生成观测数据的概率(即似然函数)达到最大。这样做的原因在于,如果某组参数能够使得观测数据出现的概率最大,那
  • 2024-06-15最简单的随机过程——马尔科夫链的Python分析
    马尔科夫链是一种用于描述系统从一个状态转移到另一个状态的随机过程。它得名于俄罗斯数学家安德雷·马尔科夫,他在20世纪初提出了这种数学模型。马尔科夫链的一个关键特性是无记忆性,即未来状态的概率只依赖于当前状态,而不依赖于过去的状态。这种性质使得马尔科夫链在许多领域中具
  • 2024-06-0911.2 第二型曲线积分
    引入向量场是指分布在空间中的一个向量值函数:给定空间的坐标输出一个(可以看作位于这一点坐标的)向量。典型的例子有力场,电场。设想一个质点在力场\(\boldsymbol{F}\)的作用下,自\(\Gamma\)的起点\(\boldsymbol{A}\)运动到终点\(\boldsymbol{B}\),我们要来计算力场所做
  • 2024-06-0911.1 第一型曲线积分
    定义11.1.1设\(\Gamma\)是\(\mathbf{R}^3\)中的一条可求长曲线,\(f:\Gamma\rightarrow\mathbf{R},\Gamma\)的两个端点分别记为\(\boldsymbol{A}\)和\(\boldsymbol{B}\).在\(\Gamma\)上依次取一列点\(\left\{\boldsymbol{r}_i:i=0,1,\cdots,n\right\}\),使
  • 2024-06-07[ICML2022]Open-Sampling Exploring Out-of-Distribution Data for Re-balancing Long-tailed Datasets
    引入开集样本训练模型有点像dropout,“破坏”某些模型参数防止尾部类的过拟合Motivation长尾学习中的训练数据集分布不平衡的问题,解决方法之一是重采样。重采样主要对于尾部类重复采用,但这种做法往往会导致尾部类的过拟合。为了缓解过拟合[2](Rethinkingthevalueoflabelsf
  • 2024-06-03狭义相对论
    物理老师推荐的书:《物理世界奇遇记》,没看完,打算放假慢慢看
  • 2024-05-30复合材料力学基础
    各向异性材料的弹性力学基础复合材料宏观力学分析的基本假设·)所研究的各向异性弹性体为均质连续固体·2)线弹性范围内,服从广义虎克定律.·3)小变形各向异性与各向同性弹性力学的基本方程的差别差别在于:本构方程其它平衡方程,几何方程,协调方程,和边界条件等则完全相同
  • 2024-05-30线性规划-内点法初探
    参考:最优化理论与算法(第2版)(陈宝林)书中首先介绍了将一般线性规划问题转化为Karmarkar标准问题求解,为简化计算,Karmarkar等人又给出了内点法以求解线性规划问题,此部分在书中为*号引申内容,介绍较为简略,此处也是对书中内容做简要的补充。考虑如下线性规划问题
  • 2024-05-29物理复习|电学
    一、静电场基础库伦定律:\(f=\frac{1}{4\pi\varepsilon_0}\frac{q_1q_2}{r^2}\)高斯定理:\(\oiint\boldsymbol{E}·\mathrm{d}\boldsymbol{S}=\frac{1}{\varepsilon_0}\sumq_内\)环路定理:\(\oint\limits_{l}\boldsymbol{E}\cdot\mathrm{d}\boldsymbol{l}=0\)电势定义:
  • 2024-05-29电介质的极化
    ps.个人理解记忆,不保证正确微观机制——电偶极子模型模型把分子中所有正电荷(其实就是原子核)用一个正电荷代替,把分子中所有负电荷(即核外电子)用一个负电荷代替。又因为分子不带电,所以等效的正负电荷带电量应该相同。这样分子就等效为电偶极子。类型有极分子:像\(H_2O\),\(NH_
  • 2024-05-26物理复习 | 力学
    力与动量\(\boldsymbol{v}=\boldsymbol{w}\times\boldsymbol{r}\)惯性力:\(\boldsymbol{F}_i=mw^2\boldsymbol{R}+2m\boldsymbol{v}_r\times\boldsymbol{w}\)力矩与角动量单个质点角动量:\(\boldsymbol{L}=\boldsymbol{r}\timesm\boldsymbol{v}\),与参考点的选取有关
  • 2024-05-11VINS中IMU预积分
    连续时间IMU积分\[\begin{aligned}&\mathbf{p}_{b_{k+1}}^w=\mathbf{p}_{b_k}^w+\mathbf{v}_{b_k}^w\Deltat_k+\iint_{t\in[t_k,t_{k+1}]}\left(\mathbf{R}_t^w(\hat{\mathbf{a}}_t-\mathbf{b}_{a_t}-\mathbf{n}_a)-\mathbf{g}^w\right)dt^2\\\&\m
  • 2024-05-09群英荟萃
    万有引力\[F=\frac{GMm}{r^2}\]麦克斯韦方程组\[\nabla\boldsymbol{\cdot}E=\frac{\rho}{\epsilon_0}\]\[{\nabla}\boldsymbol{\cdot}B=0\]\[{\nabla}\boldsymbol{\times}E=-\frac{\partialB}{\partialt}\]\[{\nabla}\boldsymbol
  • 2024-04-18Deep Learning
    DeepLearning基础知识损失函数MSE(meansquareerrorloss)(均方误差)CEE(crossentropyerrorloss)(交叉熵误差)反向传播(backward):Sigmoid:ReLU:Add:(直接传播,不发生改变)Multiply:(相当于互换输入)Affine:(矩阵乘法,也是交替相乘,不过需要考虑矩阵的形状,进行相
  • 2024-04-16概率论基本知识
    条件概率离散情况\[P(B|A)=\dfrac{P(AB)}{P(A)}\]^ff235e[!tip]推论\[P(B|A)P(A)=P(A|B)P(B)=P(AB)\]连续情况\[f_{Y|X}(y|x)=\dfrac{f(x,y)}{f_X(x)}\]条件期望和重期望条件期望\[E(X|Y=y)=\intxp_{X|Y}(x|y)\mathrmdx\]重期望公式\[E(X)=E(E(X|Y))=\sumE(X|Y)
  • 2024-04-15论文解读(Polynormer)《Polynormer: Polynomial-Expressive Graph Transformer in Linear Time》
    Note:[wechat:Y466551|可加勿骚扰,付费咨询]2024年4月14日17:13:41论文信息论文标题:Polynormer:Polynomial-ExpressiveGraphTransformerinLinearTime论文作者:论文来源:2024 aRxiv论文地址:download论文代码:download视屏讲解:click1-摘要图转换器(GTs)已经成为一种
  • 2024-04-14[NeuralPS2023]How Re-sampling Helps for Long-Tail Learning
    这篇文章作者写得非常详细,读起来非常舒适。Contribution:在long-taileddata中,re-sampling不一定有效。re-sampling的失败可能是对于不相关的context过拟合导致的,作者设计了实验论证了这一假说。在single-stage的框架下,作者提出了上下文转换增强(contextualtransformationau
  • 2024-04-09论文解读(CoCo)《CoCo: A Coupled Contrastive Framework for Unsupervised Domain Adaptive Graph Classificati
    Note:[wechat:Y466551|可加勿骚扰,付费咨询]论文信息论文标题:CoCo:ACoupledContrastiveFrameworkforUnsupervisedDomainAdaptiveGraphClassification论文作者:XiaoShen、QuanyuDai、Fu-laiChung、WeiLu、Kup-SzeChoi论文来源:2023aRxiv论文地址:download 论文代
  • 2024-03-31微分几何:曲线基本理论
    参数曲线基本理论曲线的定义假设有一个运动的质点,从0到T时刻,质点从A点运动到B点,质点运动的轨迹形成了一条曲线,我们可以将这条路径曲线看成是时间t∈[
  • 2024-03-29YoloV8改进策略:BackBone改进|EfficientVMamba
    摘要https://arxiv.org/pdf/2403.09977.pdf先前的轻量级模型开发努力主要集中在基于CNN和Transformer的设计上,但仍面临持续的挑战。CNN擅长局部特征提取,但会牺牲分辨率,而Transformer提供了全局范围,但会加剧计算需求O
  • 2024-03-28LLMRec论文阅读笔记
    LLMRec论文阅读笔记Abstract​ 长期以来,数据稀疏性的问题一直是推荐系统中的一个挑战,以前的研究都试图通过合并侧边信息来解决这个问题。然而,这种方法经常会引入副作用,如噪声、可用性问题和低数据质量,这反过来会阻碍用户偏好的准确建模,并对推荐性能产生不利影响。鉴于大型语言模
  • 2024-03-25浅谈位置编码(RoPE)(未完待续...)
    当前版本为本文的尝鲜版,稳定版尚未发布:位置编码:https://zhuanlan.zhihu.com/p/454482273transformer的sin位置编码本身已经包含了相对位置信息,本身就是一种包含相对信息的绝对位置编码。因为它符合一种形式:\[PE_{t+k}=f(k)\cdotPE(t)\]而这种编码一种比较尴尬的地方就在于,这
  • 2024-03-23最大熵模型
    文章目录前言一、最大熵模型是什么?二、极大似然估计三、模型学习的最优化算法四、代码实现前言最大熵模型是由最大熵原理推导实现。最大熵原理是概率模型学习的一个准则,该原理认为在已知约束条件下,且没有其他的先验知识来限制模型时,选择具有最大熵的模型,可以保证不