- 2025-01-06Scalable Methods for 8-bit Training of Neural Networks
目录概RangeBatchNormalization代码BannerR.,HubaraI.,HofferE.andSoudryD.Scalablemethodsfor8-bittrainingofneuralnetworks.NeurIPS,2018.概本文针对BatchNorm模块在低精度(8-bit)的情况下进行一个合适的改进.RangeBatchNormalization对于
- 2025-01-06复旦大学2024--2025学年第一学期(24级)高等代数I期末考试第八大题解答
八、(10分) 设$A,B$为$n$阶实矩阵,满足$A^2+B^2=AB$且$AB-BA$为非异阵, 求证:$n$是3的倍数且$|BA-AB|>0$.证明 设$\omega=-\dfrac{1}{2}+\dfrac{\sqrt{3}}{2}\mathrm{i}$,则$\omega^2=\overline{\omega}=-\dfrac{1}{2}-\dfrac{\sqrt{3}}{2}\mathrm{i}$,于
- 2025-01-05线性代数8.矩阵的逆-相关性质&特殊矩阵&算法应用
8.矩阵的逆8.1相关性质性质1:若矩阵A可逆,则\(A^{-1}\)也可逆:\[(A^{-1})^{-1}=A\]性质1的证明:\(A\cdotA^{-1}=E\)性质2:若矩阵A可逆,则\(\lambda\cdotA\)也可逆:\[(\lambda\cdotA)^{-1}=\frac{1}{\lambda}\cdotA^{-1}\]性质2的证明:\(\lambda\cdotA\cdot\fra
- 2025-01-05Training Deep Neural Networks with 8-bit Floating Point Numbers
目录概主要内容WangN.,ChoiJ.,BrandD.,ChenC.andGopalakrishnanK.Trainingdeepneuralnetworkswith8-bitfloatingpointnumbers.NeurIPS,2018.概本文提出了一种8-bit的训练方式.主要内容本文想要实现8-bit的训练,作者认为主要挑战是两个向量的
- 2025-01-05编码器
把二进制码按一定规律编排,使每组代码具有一特定的含义,称为编码。具有编码功能的逻辑电路称为编码器:n位二进制代码有\(2^n\)种组合,可以表示\(2^n\)个信息。要表示N个信息所需的二进制代码应满足:\(2^n>N\)。二进制编码器将输入信号编成二进制代码的电路例题1设计一个编码
- 2025-01-05组合逻辑电路的分析
组合逻辑电路:任何时刻电路的输出状态只取决于该时刻的输入状态,而与该时刻以前的电路状态无关。组合逻辑电路的分析分析步骤由逻辑图写出输出端的逻辑表达式运用逻辑代数化简或变换列逻辑状态表分析逻辑功能例题1分析下图的逻辑功能写出逻辑表达式\[Y=\overline{Y_{
- 2025-01-05高等数学 8.2 数量积 向量积 *混合积
目录一、数量积二、向量积三、*混合积一、数量积对两个向量做运算\(\boldsymbol{a}\)和\(\boldsymbol{b}\),运算结果是一个数,它等于\(|\boldsymbol{a}|\),\(|\boldsymbol{b}|\)及它们的夹角\(\theta\)的余弦的乘积。我们把它叫做向量\(\boldsymbol{a}\)和\(\boldsymbo
- 2025-01-04线性代数6.矩阵的行列式-代数余子式
6.矩阵的行列式-代数余子式6.1余子式和代数余子式设存在n阶行列式\(|A|\),并存在\(|A|\)中的元素\(a_{ij}\)则\(|A|\)中,除去元素\(a_{ij}\)所在的第\(i\)行和第\(j\)列所有元素后,剩下元素所形成的行列式称为\(a_{ij}\)的\(余子式\),记为\(M_{ij}\)且存在\(A_{ij}=(-1)^{i+j}\cd
- 2025-01-02超越TF-IDF:信息检索之BM25
深入解析BM25:信息检索的优化利器搜索系列相关文章(置顶)1.原始信息再加工:一文读懂倒排索引2.慧眼识词:解析TF-IDF工作原理3.超越TF-IDF:信息检索之BM254.深入浅出BeamSearch:自然语言处理中的高效搜索利器一、背景介绍1.起源BM25是基于概率模型和统计语言模型的
- 2025-01-01线性代数5.矩阵的行列式-相关性质
5.矩阵的行列式-相关性质若存在行列式:\[|A|=\begin{vmatrix}a_{11}&a_{12}&a_{13}&...&a_{1n}\\a_{21}&a_{22}&a_{23}&...&a_{2n}\\a_{31}&a_{32}&a_{33}&...&a_{3n}\\&&......\\a_{n1}&
- 2024-12-302024-2025 集训队互测 Round 13 - 线段树与区间加
前言:张定江的题,但是在讲课里面拉的,放在一堆答辩里面。这个题虽然是答辩,但是是有价值的。题面有一百个锅。不过不影响做题就是了。我们可以发现\(a_i=\sum\limits_{x\in\text{Subtree}(i)}lz_x\cdotlen_x\),故我们可以直接把\(v_a\)以特定方法加到\(v_b\)上,然后问题变成求
- 2024-12-29数论基础A
数论基础A欧几里得算法(辗转相除法)求最大公约数GCD有两个整数\(a,b(a>b)\),记它们的最大公约数为\(gcd(a,b)\),对于任意的\(a,b\ne0\)满足等式:\[gcd(a,b)=gcd(b,a\%b)\]充分性证明:设\(d\)为\(a,b\)的最大公约数,那么有\(d\mida\)和\(d\midb\)成立,组合出\(d
- 2024-12-27线性代数2.矩阵的迹&转置&对称矩阵
2.矩阵的迹&转置&对称矩阵2.1矩阵的迹定义:\(n\timesn\)矩阵主对角线上元素的总和称为\(矩阵的迹\)矩阵X的迹记为\(tr(X)\)示例:设存在以下\(n\timesn\)的矩阵:\[X_{n\timesn}=\begin{bmatrix}x_{11}&x_{12}&x_{13}&...&x_{1n}\\x_{21}&x_{22}&
- 2024-12-26裴蜀定理的证明
定理内容对于任意不全为\(0\)的整数\(a,b\),方程\(ax+by=\gcd(a,b)\)一定有整数解\(x,y\)。证明引理\(1\)对于两个正整数\(a,b\)满足\(a>b\)可以推出\(\gcd(a,b)=\gcd(b,a\bmodb)\)。设\(a=kb+c,d\mid\gcd(a,b)\),那么一定有\(d\mida,d\midb\)。通过移项可以
- 2024-12-26【通俗理解】Hopfield网络可以被视为一个智能的“记忆盒子”,它能够记住一系列模式,并在给定部分信息的情况下恢复完整的记忆。
【通俗理解】Hopfield网络——智能记忆与联想的神经网络关键词提炼#Hopfield网络#递归神经网络#联想记忆#能量函数#吸引子#图像恢复#优化问题第一节:Hopfield网络的类比与核心概念【尽可能通俗】Hopfield网络可以被视为一个智能的“记忆盒子”,它能够记住一系列模式
- 2024-12-25计算机图形学——射线与三角形相交检测_Möller-Trumbore算法及推导过程(涉及标量三重积、克莱姆法则)
1.标量三重积1.1标量三重积的定义标量三重积(scalartripleproduct)是一个结合点积和叉积的运算,定义为:a⋅(b
- 2024-12-23Array Collapse
前言调\(C\)快魔怔了,还是先来打这个思路方法\(1\):笛卡尔树看到这种类\(\rm{RMQ}\)问题直接一个笛卡尔树起手,恰好\(p\)是不重的,那么更方便了啊搞出树树挖下性质例如样例中的42413你注意到每次删除操作相当于选择一个键值段,然后只保留这一段的根节
- 2024-12-22PERIODNI
思路哇,看到这个就直接想到昨天学的经典应用:最大子矩形好吧还是认真推一下完蛋了是计数,我们没救了首先按照高度为优先级,位置为键值建一颗小根笛卡尔树,我们玩下样例找下性质例如题目中给出的图片,我们建成笛卡尔树就长这样其中每个点由\(\{键值,优先级\}\)组
- 2024-12-21证明
不难发现循环节长度为60,预处理前60项即可,下为证明。注意到\(F_{15}\equivF_0\,(mod\,10)\),由斐波那契性质\(F_n=F_{n-1}+F_{n-2}\)。得到\(F_{16}=F_{15}+F_{14},F_{17}=F_{16}+F_{15},F_{18}=F_{17}+F_{16}\)\(F_{15}\equiv0\cdotF_{14},F_{16}\equiv1\cdotF_{14},F_{17
- 2024-12-20BMF学习笔记
引言学习了Haskell、学习了Agda,我们已经初步掌握了使用函数式编程进行编写程序、编写证明的方法。但是目前我们使用Agda进行的证明还是十分规范的代数形式的证明。如果想要严格地证明两个算法的等价性(而不是像OI题解里一样各种画图、感性理解之类的),我们就需要一种方法把算法写成
- 2024-12-20链式法则的详细讲解-ChatGPT4o作答
链式法则的详细讲解**链式法则(ChainRule)**是微积分中的重要法则之一,用于处理复合函数的导数问题。它告诉我们,如何计算一个函数内部嵌套另一个函数时的导数。链式法则在单变量和多变量微积分中都有重要作用,广泛应用于物理学、工程学、机器学习等领域。1.链式法则的基本
- 2024-12-20偏导数的详细概念讲解-ChatGPT4o作答
偏导数的详细概念讲解偏导数(PartialDerivative)是多元微积分中的重要概念,用于描述一个多变量函数中某一变量变化时,函数的变化率。在实际应用中,偏导数广泛用于物理学、工程学、经济学以及机器学习等领域,用来分析多因素系统中每个变量的影响。1.偏导数的基本概念1.1.什
- 2024-12-20微分的详细概念讲解-ChatGPT4o作答
微分的详细概念讲解**微分(Differentiation)**是微积分的重要分支之一,是对函数变化的细微研究,其核心目的是通过导数描述函数在某点的变化情况。微分既是数学的一个理论工具,也是一种用于解决实际问题的计算工具。以下将从基本概念、数学定义、几何意义、计算规则、应用以及与
- 2024-12-19Hard Demon Problem
HardDemonProblemSwingisopeningapancakefactory!Agoodpancakefactorymustbegoodatflatteningthings,soSwingisgoingtotesthisnewequipmenton2Dmatrices.Swingisgivenan$n\timesn$matrix$M$containingpositiveintegers.Hehas$q
- 2024-12-1712.17 CW 模拟赛 T4. 记忆碎片
思路转化题意,问你在一个带权无向完全图中,如何填上\(w_i\in\left[1,\frac{n\cdot(n-1)}{2}\right]\),使得其最小生成树上的边权为给定的\(n-1\)个数考虑模仿\(\rm{kruskal}\)的方式,令\(f_S\)表示当前点集为\(S\),每次转移,如果当前边权需要在最小生