• 2024-07-05可视化二维函数的拉普拉斯算子 - 使用有限差分法来近似计算二维标量函数的拉普拉斯算子
    可视化二维函数的拉普拉斯算子-使用有限差分法来近似计算二维标量函数的拉普拉斯算子flyfish算子(Operator)是指的是一个将函数、向量或其他对象映射到另一对象的数学实体。简单来说,算子就是一种“操作”或“变换”,它把一个输入(通常是函数或向量)变换成另一个输出。算子可
  • 2024-07-04深度网络现代实践 - 深度前馈网络之反向传播和其他的微分算法篇
    序言反向传播(Backpropagation,简称backprop)是神经网络训练过程中最关键的技术之一,尤其在多层神经网络中广泛应用。它是一种与优化方法(如梯度下降法)结合使用的算法,用于计算网络中各参数的梯度,进而通过调整这些参数来最小化损失函数,从而提高模型的预测准确性和泛化能力。微分
  • 2024-07-03在李航的《统计学习方法》中多项式拟合偏导函数推导存在的疑问
    在阅读李航的《统计学习理论第二版》1.42过拟合与模型选择中遇到的一个问题。​​​这段公式的推导让我费解,于是我开始了自己的验证。前提:用多项式函数对已知数据的拟合。设拟合函数为:f
  • 2024-07-03聊聊C++20的三向比较运算符 `<=>`
    C++20标准引入了许多新特性,其中之一是三向比较运算符<=>,也被称为太空船运算符。这个新运算符为C++程序员提供了一种全新的比较对象的方式,它能有效简化比较逻辑,避免编写多个比较运算符重载的情况。为什么需要三向比较运算符?在C++20之前,如果要完整地定义一个类型的比较行为
  • 2024-06-24闲话 24.6.24
    闲话果然我还是喜欢阿育的罐头啊。推歌:悲伤虚构反应by一般诗云pfeat.诗岸多元拉反\(1\)到\(2\)的推导前传x义x博客里没有展开说如何暴力展开行列式,可能是trivial。我觉得不很trivial啊!来展开一下。我们首先要处理的就是\[A=\left\{[i=j]-\frac{x_i}{g_j
  • 2024-06-23[模式识别复习笔记] 第9章 神经网络及BP算法
    1.基本概念1.1神经元神经网络是很多的神经元模型按照一定的层次结构连接起来所构成的。1.2激活函数\(\text{ReLU}\)函数:修正线性单元ReLU,是一种人工神经网络中常用的激活函数。\[\text{ReLU}(x)=\max(0,x)\]\(\text{sgn}\)阶跃函数:它将输入值映射为
  • 2024-06-23闲话 24.6.23
    闲话推歌:Empurpleby春卷饭feat.初音未来虽然是商曲吧,但是确实仙品这种破题方法确实很巧妙,从发色出发,分解成红+蓝再寻找其抽象的指代意但不停留于此,而是接着探讨更深刻的问题(例如童年、家庭、控制过程中仍然是大量的隐喻和意象。我得到的结论就是,紫化不是无法变成红色的妥
  • 2024-06-19R语言实现偏最小二乘回归法 partial least squares (PLS)回归
    原文链接:http://tecdat.cn/?p=8652原文出处:拓端数据部落公众号 偏最小二乘回归是一种回归形式。 当使用pls时,新的线性组合有助于解释模型中的自变量和因变量。在本文中,我们将使用pls预测“收入” 。   rlibrary(Ecdat)  ##'data.frame':753obs.
  • 2024-06-15深度学习 - RNN训练过程推演
    1.数据准备字符序列“hello”转换为one-hot编码表示:输入:[‘h’,‘e’,‘l’,‘l’]输出:[‘e’,‘l’,‘l’,‘o’]2.初始化参数假设我们使用一个单层的RNN,隐藏层大小为2。初始参数如下:W
  • 2024-06-15信息学中的概率统计
    离散型随机变量常见分布(1)01分布\[P(X=k)=p^k(1-p)^{1-k}\](2)二项分布记作\(X\simB(n,p)\)\[P(X=k)=\binom{n}{k}p^k(1-p)^{n-k}\](3)几何分布称\(X\)为服从参数为\(p\)的几何分布\[P(X=k)=(1-p)^{k-1}p\](4)Pascal分布(负二项分布)\[P(X=k)=\binom{k-1}{r-1}p^r
  • 2024-06-13(半成品) Lesson 1+2 in Numerical methods for Navier-Stokes equations and phase-field models
    Lesson1+2inNumericalmethodsforNavier-Stokesequationsandphase-fieldmodels梯度流从自由能开始一个常见的自由能是这样定义的:\[E(\phi)=\int_{\Omega}\frac{1}{2}\left|\nabla\phi\right|^2+F(\phi)\,d\Omega\]其中,\(\nabla\)是梯度算子,\(\phi\)是标
  • 2024-06-13循环神经网络RNN
    循环神经网络RNN是针对序列数据而生的神经网络结构,核心在于循环使用网络层参数,避免时间步增大带来的参数激增,并引入**隐藏状态(HiddenState)**用于记录历史信息,有效的处理数据的前后关联性。隐藏状态隐藏状态(HiddenState)用于记录历史信息,有效处理数据的前后关联性激活函
  • 2024-06-12typescript Omit Required Pick Partial等常用工具类型使用
    示例代码interfacemybasic{one:string,two:string,three:number,four:string}console.log("myts-demo")//排除参数属性interfacemy1extendsOmit<mybasic,'one'>{}typemytype=keyofmy1;typemytype2=my1;//
  • 2024-06-11大模型高效微调-LoRA原理详解和训练过程深入分析
    博客首发于我的知乎,详见:https://zhuanlan.zhihu.com/p/702629428一、LoRA原理LoRA(Low-RankAdaptationofLLMs),即LLMs的低秩适应,是参数高效微调最常用的方法。LoRA的本质就是用更少的训练参数来近似LLM全参数微调所得的增量参数,从而达到使用更少显存占用的高效微调。1.1问
  • 2024-06-10Mathematica Partial Fraction Decomposition
    遇到的问题Mathematica中有一个自带的部分分式分解函数Apart。In:=Apart[(-3+x)/((-1+x)(1+x))]Out:=-(1/(-1+x))+2/(1+x)但是Apart遇到分解结果中带无理数的就会摆烂:In:=Apart[x/(1-x-x^2)]Out:=-(x/(-1+x+x^2))解决方案1我们有一个
  • 2024-06-08电磁场公式
    矢量分析梯度和方向倒数标量场\(\varphi\)的梯度为\[grad\varphi=\nabla\varphi=\vec{e_x}\frac{\partial\varphi}{\partialx}+\vec{e_y}\frac{\partial\varphi}{\partialy}+\vec{e_z}\frac{\partial\varphi}{\partialz}\]标量场在\(\vec{l}\)方向上(单位矢量为
  • 2024-06-04高等数学·多元函数微分学
    第四章多元函数微分学第一节基本概念机结论定义1:(二元函数)$$\begin{align}&z=f(x,y),(x,y)\inD\subsetR^2\\end{align}$$例题$$\begin{align}&f(x,y)=\arcsin(2x)+\lny+\frac{\sqrt{4x-y2}}{\ln{(1-x2-y^2)}}\&解:-1\leq2x\leq1,y0,1-x2-y20,1-x2-y2\neq1
  • 2024-06-04neural network structure 神经网络
    分类多层感知神经网络——最基础卷积神经网络——善于图像识别长短期记忆网络——善于语音识别多层感知——数字识别以一张28*28像素的单个数字图片为例,输出对应0-9![](file:///C:\Users\ADMINI~1\AppData\Local\Temp\ksohtml17560\wps1.jpg)每个像素点的灰度值0-1,即输入为
  • 2024-06-03广义Stokes公式
    这只是一篇对于我当前对Stokes的理解和简单应用,可以说甚至只是对于我所学到的Green公式、Gauss公式和Stokes公式的概括总结。可能会与实际的广义Stokes公式有许多出入。目录前置形式应用Newton-Leibniz公式Green公式Gauss公式Stokes公式题外话——场论前置首先要给出楔积的概念
  • 2024-05-28高斯公式对高斯定理的推导
    目录前置定理基础证明过程参考资料这里主要讨论多元微分学中学到的高斯公式对于物理上的高斯定理的推导(目前是对于静电荷的高斯定理)。本身想连着Stokes公式一大堆一块写,但是考虑到工程量太大了,所以尝试分篇来写吧。前置定理基础标准的高斯公式的形式如下(推导略)\[\iiint_{\Omeg
  • 2024-05-27Stewart 2022 物理海洋学导论
    Stewart2022物理海洋学导论Physical-Oceanography5海洋热收支5.7MeridionalHeatTransport9上层海洋对风的响应9.3EkmanMassTransport9.4ApplicationofEkmanTheorycostalupwelling上升流提高了生物生产力上升的冷水改变了局地天气通过EkmanPumping产生
  • 2024-05-27Stewart 2022 物理海洋学导论
    Stewart2022物理海洋学导论Physical-Oceanography5海洋热收支5.7MeridionalHeatTransport9上层海洋对风的响应9.3EkmanMassTransport9.4ApplicationofEkmanTheorycostalupwelling上升流提高了生物生产力上升的冷水改变了局地天气通过EkmanPumping产生
  • 2024-05-27Stewart 2022 物理海洋学导论
    Stewart2022物理海洋学导论Physical-Oceanography5海洋热收支5.7MeridionalHeatTransport9上层海洋对风的响应9.3EkmanMassTransport9.4ApplicationofEkmanTheorycostalupwelling上升流提高了生物生产力上升的冷水改变了局地天气通过EkmanPumping产生
  • 2024-05-26深度学习 PyTorch 笔记 (1) :预备知识(张量、线代、微分基础)
    《动手学深度学习》笔记——(1)预备知识(张量、线代、微分基础)教材:https://zh-v2.d2l.ai文章目录1数据操作1.1n维数组与张量1.2初始化1.3访问元素1.5运算2数据预处理2.1创建人工数据集2.2读取数据集2.3处理缺失数据3线性代数3.1标量3.2向量3.3矩阵3.4
  • 2024-05-13第 3 节 全微分
    第三节全微分一、全微分的定义  由偏导数的定义知道,二元函数对某个自变量的偏导数表示当另一个自变量固定时,因变量相对于该自变量的变化率.根据一元函数微分学中增量与微分的关系,可得  \(f(x+△x,y)-f(x,y)≈f_x(x,y)△x\),  \(f(x,y+\triangley)-f(x,y)≈f_y(x,y)\tr