- 2024-11-19机器学习:线性回归
章节安排背景介绍均方根误差MSE最小二乘法梯度下降编程实现背景生活中大多数系统的输入输出关系为线性函数,或者在一定范围内可以近似为线性函数。在一些情形下,直接推断输入与输出的关系是较为困难的。因此,我们会从大量的采样数据中推导系统的输入输出关系。典型的单输入
- 2024-10-16Cyclotomic Polynomial
分圆多项式(CyclotomicPolynomial)对于任意正整数\(n\),\(\Phi_n(x)\)是一个不可约的首一多项式,其中\(\Phi_n(x)\)表示第\(n\)个分圆多项式,满足\(\Phi_n(x)│x^n-1\),任意\(k<n\),\(\Phi_n(x)∤x^k-1\)。且这个多项式的根都是单位根\(e^{2iπ\frac{k}{n}}\),所以这个多项式
- 2024-10-14题解:P6299 差别
ProblemLink差别题目描述给定\(a,b,c,d\),求\(p,q,r,s\)使得\(M\)成为非零最小值。Solution\(M\)的表达式很复杂,把式子拆开有\(16\)个\(4\)次项,不难发现这是一个平方和,不断套平方和公式,最后化简成:\[M=|(ap+bq+cr-ds)^2+(-aq+bp+cs+dr)^2|=((a+bi)\times(
- 2024-10-11Stolz 定理及其证明
Stolz定理是处理分式极限的强大工具,其形式类似未定式函数极限的洛必达法则.定理一:设数列\(\{b_n\}\)严格单调递增且趋于\(+\infty\).若\[\lim_{n\rightarrow\infty}\dfrac{a_n-a_{n-1}}{b_{n}-b_{n-1}}=A\]则\(\{a_n/b_n\}\)收敛,且\[\lim_{n\rightarrow\infty}\dfra
- 2024-10-09几乎处处收敛和依测度收敛
几乎处处收敛和依测度收敛几乎处处成立\[\begin{aligned}\text{a.e.}&\iff\text{almosteverywhere}\iff\text{几乎处处}\\\text{a.s.}&\iff\text{almostsurely}\iff\text{几乎必然}\\f\text{a.e.有限}&\iff\{f=\pm\infty\}\text{是零测集}\\
- 2024-09-10高等数学 1.4无穷小与无穷大
目录一、无穷小二、无穷大一、无穷小定义:如果函数\(f(x)\)当\(x\tox_0\)(或\(x\to\infty\))时的极限为零,那么称函数\(f(x)\)为当\(x\tox_0\)(或\(x\to\infty\))时的无穷小.特别地,以零为极限的数列\(\{x_n\}\)称为\(n\to\infty\)时的无穷小。注意:不要把
- 2024-09-09高等数学 1.2数列的极限
目录数列极限的定义数列的概念数列极限的定义收敛数列的性质数列极限的定义数列的概念如果按照某一法则,对每个\(n\in\mathbb{N}_+\),对应着一个确定的实数\(x_n\),这些实数\(x_n\)按照下标\(n\)从大到小排列得到的一个序列\[x_1,x_2,x_3,\cdots,x_n,\cdots,\]就
- 2024-08-22【Python脚本】刚度矩阵格式转换
对于1-2-3坐标系:应力矩阵如下:\[\left.[\sigma]=\left[\begin{array}{ccc}\sigma_{11}&\sigma_{12}&\sigma_{13}\\\sigma_{12}&\sigma_{22}&\sigma_{23}\\\sigma_{13}&\sigma_{23}&\sigma_{33}\end{array}\right.\right]\]张量应变矩阵如下:
- 2024-08-17流体饱和多孔介质的本构关系 + Föppl-von Kármán 方程
向有液体的多孔介质上施加应力,应力一部分分布到骨架上,一部分分布到孔隙流体上。骨架上的应力会导致变形,所以被称为”有效应力“。这里考虑拉伸应力为正,有效应力原理写为\[\sigma_{ij}=\sigma'_{ij}-p\delta_{ij}\]被流体饱和多孔介质的应力-应变关系与无孔介质的应力-应变关系
- 2024-08-17颗粒流 + Janssen 定律 + Bagnold 数
对于\(n\)个球,易得有\[\begin{array}{c}\displaystyle\frac\pi2>\theta_i>-\frac\pi2,\theta_1>\cdots>\theta_i>\cdots>\theta_{n-1}\\[1ex]\displaystyle\foralli\nej,\left\lvert\sum_{k=1}^ir_k-\sum_{k=1}^jr_k\right\rve
- 2024-08-11颗粒流 + Janssen 定律 + Bagnold 数
对于\(n\)个球,易得有\[\begin{array}{c}\displaystyle\frac\pi2>\theta_i>-\frac\pi2,\theta_1>\cdots>\theta_i>\cdots>\theta_{n-1}\\[1ex]\displaystyle\foralli\nej,\left\lvert\sum_{k=1}^ir_k-\sum_{k=1}^jr_k\right\rve
- 2024-07-10极限的严格定义
极限的严格定义在数学中是非常重要的,它为微积分及其后续理论提供了坚实的基础。下面分别给出数列极限和函数极限的严格定义。数列极限的严格定义设\((a_n)_{n=1}^{\infty}\)是一个实数数列,\(a\)是实数。我们说数列\((a_n)\)的极限是\(a\),记作\[\lim_{n\to\infty}a_n=a,\]
- 2024-07-08生成扩散模型漫谈(一):DDPM = 拆楼 + 建楼
说到生成模型,VAE、GAN可谓是“如雷贯耳”,本站也有过多次分享。此外,还有一些比较小众的选择,如flow模型、VQ-VAE等,也颇有人气,尤其是VQ-VAE及其变体VQ-GAN,近期已经逐渐发展到“图像的Tokenizer”的地位,用来直接调用NLP的各种预训练方法。除了这些之外,还有一个本来更小众的选择——扩
- 2024-07-08生成扩散模型漫谈(一):DDPM = 拆楼 + 建楼
说到生成模型,VAE、GAN可谓是“如雷贯耳”,本站也有过多次分享。此外,还有一些比较小众的选择,如flow模型、VQ-VAE等,也颇有人气,尤其是VQ-VAE及其变体VQ-GAN,近期已经逐渐发展到“图像的Tokenizer”的地位,用来直接调用NLP的各种预训练方法。除了这些之外,还有一个本来更小众的选择——扩
- 2024-06-22Diffusion Model-DDPM
扩散过程是一个逐渐在数据上加噪的马尔科夫链,直到最终变成一个完全的噪声。而扩散模型就是一个使用变分推断训练的参数化马尔科夫链。如上图所示。学习的是一个reverseprocess。 前提条件:1.马尔可夫性质:当前的状态只与之前一个时刻的状态有关;2.前向和反向状态服从高
- 2024-06-19计算理论导论
计算模型DFA(确定性有限状态自动机)一个DFA被如下五元组定义\((Q,\Sigma,\delta,q_0,F)\),\(Q\)是状态集\(\Sigma\)是输入字符集\(\delta:Q\times\Sigma\toQ\)是转移函数\(q_0\)是起始状态\(F\subseteqQ\)是接受状态集NFA(非确定性有限状态自动机)一个NFA被
- 2024-06-08电磁场公式
矢量分析梯度和方向倒数标量场\(\varphi\)的梯度为\[grad\varphi=\nabla\varphi=\vec{e_x}\frac{\partial\varphi}{\partialx}+\vec{e_y}\frac{\partial\varphi}{\partialy}+\vec{e_z}\frac{\partial\varphi}{\partialz}\]标量场在\(\vec{l}\)方向上(单位矢量为
- 2024-05-29物理复习|电学
一、静电场基础库伦定律:\(f=\frac{1}{4\pi\varepsilon_0}\frac{q_1q_2}{r^2}\)高斯定理:\(\oiint\boldsymbol{E}·\mathrm{d}\boldsymbol{S}=\frac{1}{\varepsilon_0}\sumq_内\)环路定理:\(\oint\limits_{l}\boldsymbol{E}\cdot\mathrm{d}\boldsymbol{l}=0\)电势定义:
- 2024-05-17错排数的大小估计
已知错排数\[D_n=n!\sum_{k=0}^n\frac{(-1)^k}{k!}\]又知道\[e^x=\sum_{k=0}^\infty\frac{x^k}{k!}\]易得\[\lim_{n\to\infty}\frac{D_n}{n!}=\frac{1}{e}\]讨论在\(n\)较小的时候,上述估算式子是否成立事实上\(n!/e\)四舍五入后就是\(D_n\)即\[\left|\frac{n!}{e}-D_n\r
- 2024-04-24CMU 15-751 CS Theory Toolkit Lecture 2 - Basic Asymptotics
CMU15-751课程第二课笔记。CSTheoryToolkitatCMU-YouTube照抄参考了LectureNote。渐进标记(AsymptoticNotation)我们知道\[\sum_{i=1}^ni=\frac{n(n+1)}2=\frac12n^2+\frac12n\]在\(n\)很大的时候,平方项这个函数值的影响会更显著。我们可以把这一个特
- 2024-04-13多项式学习笔记
1.前置知识1.1基础\(f(x)=\sum_{i=0}^na_ix^i\)被称为一个\(n\)次多项式。\(\degf(x)\)表示多项式的次数。\(f(x)g(x)=h(x)\)称为多项式乘法,也叫多项式卷积,满足\(h_n=\sum_{i+j=n}f_ig_j\)。1.2点值给定一个多项式\(f(x)\),再给\(m\)个点\(x_1,\dot
- 2024-04-13FFT 与 NTT 学习笔记
【概念】点值:给定多项式\(f(x)=a_0+a_1x+\cdots+a_{n-1}x^{n-1}\)和\(x_1\simx_m\),求\(f(x_1),f(x_2),\dots,f(x_m)\)。(\(m=n\))求点值的算法一般是\(O(n^2)\)的,但对于特殊的多项式,可以做到更快。插值:给定\((x_0,y_0),(x_1,y_1),\dots,(x_{n-1},y_{n-1})\),其中\(x_0\s
- 2024-03-22概率论中的收敛
概率论中的收敛(基本定义与结论)几乎处处收敛\(\begin{align*}f_n\overset{\mathrm{~a.e.~}}{\to}f&\iff\existsN,\mu(N)=0,\mathrm{~s.t.~}\omega\inN^\mathrm{c},f_n(\omega)\tof(\omega)\\&\iff\mu\left(\bigcap\limits_{n=1}^{\infty}\bigcu
- 2024-03-10Papers in week 1
文章总结(week1)2024.3.4~2024.3.10DeepRitzMethodforEllipticalMultipleEigenvalueProblemsIF=2.5,JournalofScientificComputingDOI:10.1007/s10915-023-02443-8文章研究了用神经网络求解椭圆型多重特征值问题。基于椭圆特征值问题的惩罚变分形式,提出了
- 2024-01-24神经网络优化篇:详解调试处理(Tuning process)
调试处理关于训练深度最难的事情之一是要处理的参数的数量,从学习速率\(a\)到Momentum(动量梯度下降法)的参数\(\beta\)。如果使用Momentum或Adam优化算法的参数,\(\beta_{1}\),\({\beta}_{2}\)和\(\varepsilon\),也许还得选择层数,也许还得选择不同层中隐藏单元的数量,也许还想使用学习