pmb
  • 2024-04-05Chapter 2 贝叶斯分类器
    2.10贝叶斯分类器文章目录2.10贝叶斯分类器2.10.1引入2.10.2贝叶斯公式2.10.3贝叶斯决策论2.10.3基本方法2.10.3.1极大似然估计(MaximumLikelihoodEstimation)2.10.3.2朴素贝叶斯分类器(NaiveBayesClassifier)2.10.3.3半朴素贝叶斯分类器(Semi-NaiveBayesClassif
  • 2024-03-30神经网络与深度学习 Chapter2 线性分类与感知机
    Chapter2线性分类与感知机2.1线性回归线性回归定义:利用数理统计中回归分析,来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。线性回归要素:训练集(或训练数据),一般记为x
  • 2023-08-03矩阵求导与矩阵微分
    简介下面的系列文章来自知乎用户iterator,是我见过最好的矩阵求导教程,没有之一!强烈推荐去看作者原文!矩阵求导的本质与分子布局、分母布局的本质(矩阵求导——本质篇)-知乎矩阵求导公式的数学推导(矩阵求导——基础篇)-知乎矩阵求导公式的数学推导(矩阵求导——进阶篇)-知
  • 2023-01-09支持向量机 SVM
    目录支持向量机支持向量分类线性可分数据和硬间隔非线性可分数据集和软间隔核技巧核函数多分类与岭回归的关系总结支持向量机支持向量分类线性可分数据和硬间隔支持向
  • 2023-01-06高等代数笔记【4】向量与向量空间
    \(n\)维向量注意到,直接使用集合无法区分元素的顺序,例如\[\{a,b\}=\{b,a\}\]而且,也无法区分两个值相等但地位不同的对象\[\{a,a\}=\{a\}\]于是,我们定义有序对的概念
  • 2023-01-02主成分分析 PCA
    目录主成分分析计算方法性质样本主成分分析使用奇异分解应用主成分分析设原数据如下\[\begin{align*}\pmbx&=\left[x^{(1)},x^{(2)},\dots,x^{(n)}\right]^T\\\pmb\m
  • 2023-01-01矩阵的特征值和奇异值
    目录特征值特征分解奇异值奇异分解矩阵的奇异值(singularvalues)和特征值(eigen-values),\(m\timesn\)的矩阵确定了一个\(n\tom\)维的向量变换。特征向量就是这种变换的
  • 2022-12-07快速傅里叶变换的 numpy 实现
    目录理论实现numpy实现的要点reshape()和swapaxes()类型转换、一维化和坐标转换数组的复制理论现有长度为\(n=2^s\)序列和相应的多项式为\[\begin{align*}\pmba&
  • 2022-11-28线性变换的运算
    在这一节,我们来介绍线性变换的运算及其简单性质乘法  设\(\mathscr{A,B}\)是线性空间V上的两个线性变换,定义它们的乘积\(\mathscr{AB}\)为      \((\mathscr
  • 2022-11-27线性变换
      线性空间是某一类事物从量的方面的一个抽象。我们认识客观事物,固然要弄清楚他们单个的和总体的性质,但更重要的是研究他们之间的各种各样的联系。在线性空间中,事物之间
  • 2022-11-17GAN 的基本形式
    目录GAN基本形式最优鉴别器学习过程参考公式KL散度JS散度参考论文GANGAN即生成式对抗网络,这个网络包括两个部分:生成器\(G\)和鉴别器\(D\)。\(D\)的目标是在生成器
  • 2022-10-27Jetson Nano
    目录工具准备和附件购买安装系统使用U盘容量拓展挂载U盘使用U盘空间,屏蔽原空间自动化安装工具安装JetsonSDK安装PyTorch远程连接使用SSH建立远程命令行连接使用
  • 2022-10-27K 近邻算法 K-NearestNeighbor
    目录理论算法KD树构造搜索实现应用鸢尾花数据集观测数据应用算法二维图像实例一维数据实例参考书目及网站理论K-NN,即k近邻算法,是一种基本的分类和回归的算法,其主要思
  • 2022-10-27线性回归 Linear Regression
    线性回归的预设线性只能通过每个样本各维的线性组合获得预测结果,这使得函数很简单,但拟合能力较弱。同方差性每个样本的方差不变。方差不同会使得拟合函数对某些数
  • 2022-10-27贝叶斯分类
    贝叶斯分类器\[\begin{align*}y&=\underset{c_i}{\arg\max}\left\lbrace{P[\pmbX=\pmbx\midY=c_i]P[Y=c_i]\over\sum_kP[\pmbX=\pmbx\midY=c_k]P[Y=c_k]}\right\rb
  • 2022-10-27L2 正则化
    \(L2\)正则\[\begin{align*}J=(\pmbX\pmbw-\pmby)^T(\pmbX\pmbw-\pmby)&\implies\pmbw=(\pmbX^T\pmbX)^{-1}\pmbX^T\pmby\\\widetildeJ=(\pmbX\pmbw-\pm
  • 2022-10-27聚类
    目录聚类K-均值聚类推导K-均值算法实现选择超参数k通过损失函数的变化率选择最好的k值通过集群分散度(within-clusterdispersion)选择最好的k值K-均值聚类++算法K-中心
  • 2022-10-27用numpy实现最简单的前馈神经网络——神经网络架构篇
    目录神经网络架构矩阵运算拟合——深度学习的目的最简单的拟合——线性回归深度学习中的拟合平均损失最小——梯度下降法反向传播和链式法则激活函数和损失函数的选择总结
  • 2022-10-24Codeforces - 1744E2 - Divisible Numbers (hard version)(数论 + 暴力 + 思维 、 *1900)
    1744E2-DivisibleNumbers(hardversion)(⇔源地址)目录1744E2-DivisibleNumbers(hardversion)(⇔源地址)tag题意思路正解后日谈AC代码错误次数:2本
  • 2022-10-19反向传播
    反向传播预备假设样本为\(\left\{\left(\pmb{x}_1,\pmb{y}_1\right),\left(\pmb{x}_2,\pmb{y}_2\right),\dots,\left(\pmb{x}_n,\pmb{y}_n\right)\rig
  • 2022-10-132021 ICPC 沈阳
    队里状态不是很好,就打了两个小时,算是复健场。赛时两题,补题补到四题。E-EdwardGaming,theChampion小评\(\mathcal{Consider\by\\pmb{Wida}}\),\(\mathcal{Sol
  • 2022-10-03自适应滤波之RLS算法
    前言LMS算法的主要优点在于它的计算简单,然而为此付出的代价是缓慢的收敛速度,特别是当自相关矩阵\(\pmb{\varGamma}_M\)的特征值具有较大范围时。从另一个观点来看,LMS算法
  • 2022-09-29线性判别分析(fisher)
    线性判别分析线性判别分析中有降维,把数据都投影到同一条线上,然后在直线上取一个阈值,将直线分成两条射线,每一条代表一个分类。会损失一些数据信息,但如果这些信息是一些干扰
  • 2022-09-21有关损失函数推导
    损失函数推导线性回归首先损失函数是为了衡量模型预测的数据与真实数据之间的区别,那么问题来了为什么是平方损失,而不是绝对值损失,四次方损失。一个很浅显的理解:二次方简
  • 2022-09-21矩阵求导
    矩阵求导开局一张图分子布局与分母布局并没完全理解,但我认为不是学数学的,不需要了解的太过细,只需要记住求导后矩阵的形状就可以了链式法则链式法则不变,一定要注意一