- 2024-11-06机器学习3_支持向量机_线性不可分——MOOC
线性不可分的情况如果训练样本是线性不可分的,那么上一节问题的是无解的,即不存在 和 满足上面所有N个限制条件。对于线性不可分的情况,需要适当放松限制条件,使得问题有解。放松限制条件的基本思路: 对每个训练样本及标签 设置松弛变量(slackvariable)对于线性不可
- 2024-11-05机器学习2_支持向量机_线性可分——MOOC
定义线性可分(LinearSeparable)二维 三维特征空间维度 四维时,二维的情况下分割圆圈和叉的直线。线性不可分(NonlinearSeparable)不存在一条直线二维 三维特征空间维度 四维时,三维的情况下,分割圆圈和叉的平面将会变成超平面(Hyperplane)。由于人眼对空间的感
- 2024-10-25Paper Reading: Multi-class Imbalance Classification Based on Data Distribution and Adaptive Weights
目录研究动机文章贡献基于样本权重的数据分布类间数据分布类内数据分布基于分布的样本权重自适应样本权重跟踪当前的训练状态基于自适应分布的样本权重基于自适应分布的样本权重的AdaboostAdaBoost.AD算法理论分析实验结果数据集和实验设置对比实验消融实验优点和创新点PaperR
- 2024-09-13开源数据集 FreiHAND rgb 三维手势建模 手部关键点 >> DataBall
开源数据集FreiHANDrgb三维手势建模手部关键点manohand混合现实深度学习人工智能FreiHAND是一个用于评估和训练深度神经网络以从单色图像中估计手部姿态和形状的数据集,这是在我们的论文中提出的。其当前版本包含32560个独特的训练样本和3960个独特的评估样本。训
- 2024-09-04遥感影像-语义分割数据集:LoveDA数据集详细介绍及训练样本处理流程
原始数据集详情构建了一个城市-农村域自适应地表覆盖数据集LoveDA,同时推进语义分割和迁移学习,LoveDA数据集包含来自三个不同城市的5987张0.3m高分辨率影像和166,768个标注语义对象。KeyValue卫星类型未知覆盖区域南京、常州、武汉场景城市、农村分辨率0.3m数量5987张单张
- 2024-09-04遥感影像-语义分割数据集:Postdam数据集详细介绍及训练样本处理流程
原始数据集详情Potsdam数据集是一个有着2D语义分割内容标注的城市遥感数据集。KeyValue卫星类型未知覆盖区域一个典型的历史城市,有着大的建筑群、狭窄的街道和密集的聚落结构-Potsdam场景城市分辨率5cm数量38张单张尺寸6000*6000原始影像位深8位标签图片位深8位原始影像
- 2024-08-05【Python&RS】基于矢量点读取遥感影像波段值&制作训练样本
在进行遥感定量反演或数据分析时,往往我们都具有矢量的真值,可能是点文件也可能是面文件,最重要的还是通过这个矢量获取影像中该区域的值,这样方便做波段分析以及后续的反演等流程。今天给大家分享一下如何通过点文件获取影像的波段值。原创作者:RS迷途小书童博客
- 2024-06-30应用数学与机器学习基础 - 深度学习的动机与挑战篇
序言深度学习,作为当代人工智能领域的核心驱动力,其动机源于对模拟人类智能深层认知机制的渴望。我们追求的是让机器能够像人类一样理解、分析并应对复杂多变的世界。然而,这一追求之路并非坦途,面临着数据获取与处理的挑战、模型复杂度的控制、计算资源的巨大消耗等重重障碍。
- 2024-06-11过拟合、欠拟合原因及解决办法
欠拟合:泛化能力差,训练样本集准确率低,测试样本集准确率低。过拟合:泛化能力差,训练样本集准确率高,测试样本集准确率低。合适的拟合程度:泛化能力强,训练样本集准确率高,测试样本集准确率高欠拟合原因:训练样本数量少模型复杂度过低参数还未收敛就停止循环欠拟合的解决办法:增加
- 2024-04-03吴恩达2022机器学习专项课程(一) 4.6 运行梯度下降&第一周课程实验:线性回归的梯度下降算法
问题预览/关键词更新梯度下降对模型拟合,等高线图,3d空间图的变化。什么是批量梯度下降。实验目标计算梯度运行梯度下降梯度下降迭代次数和成本函数的关系可视化模型预测在等高线图上的梯度下降学习率过大报错问题笔记1.模型拟合,等高线图,3d空间图的变化3.5课节有一样的图,
- 2023-11-13神经网络入门篇:详解多样本向量化(Vectorizing across multiple examples)
多样本向量化与上篇博客相联系的来理解逻辑回归是将各个训练样本组合成矩阵,对矩阵的各列进行计算。神经网络是通过对逻辑回归中的等式简单的变形,让神经网络计算出输出值。这种计算是所有的训练样本同时进行的,以下是实现它具体的步骤:图1.4.1上篇博客中得到的四个等式。它们
- 2023-11-10epoch
在机器学习中,一个epoch是指对整个训练数据集进行一次完整的训练。在训练神经网络时,一次完整的训练周期会经过所有的训练样本,然后根据模型的权重进行参数更新。训练数据集通常被分成小批次(minibatches)进行处理,每个小批次包含一组训练样本。在一个epoch中,模型会逐批次地处理训
- 2023-11-01神经网络基础篇:详解逻辑回归 & m个样本梯度下降
逻辑回归中的梯度下降本篇讲解怎样通过计算偏导数来实现逻辑回归的梯度下降算法。它的关键点是几个重要公式,其作用是用来实现逻辑回归中梯度下降算法。但是在本博客中,将使用计算图对梯度下降算法进行计算。必须要承认的是,使用计算图来计算逻辑回归的梯度下降算法有点大材小用了。
- 2023-10-23神经网络基础篇:逻辑回归的代价函数
逻辑回归的代价函数(LogisticRegressionCostFunction)为什么需要代价函数:为了训练逻辑回归模型的参数参数\(w\)和参数\(b\),需要一个代价函数,通过训练代价函数来得到参数\(w\)和参数\(b\)。先看一下逻辑回归的输出函数:为了让模型通过学习调整参数,需要给予一个\(m\)样本的训练
- 2023-07-30基于AI的数据增广:生成数据作为训练样本
BenchmarkingandAnalyzingGenerativeDataforVisualRecognition大型预训练生成模型的进展,扩展了它们作为有效数据生成器在视觉识别中的潜力。本研究深入探讨了生成图像的影响,主要比较了使用外部数据(即生成vs.网络检索vs.原始)的范式。主要贡献是:1)GenBench构建:设计了GenBen
- 2023-06-23表示学习(RL)研究领域细分及论文、课程、学术会议等资源分享
表示学习是学习一个特征的技术的集合:将原始数据转换成为能够被机器学习来有效开发的一种形式。它避免了手动提取特征的麻烦,允许计算机学习使用特征的同时,也学习如何提取特征:学习如何学习。机器学习任务,例如分类问题,通常都要求输入在数学上或者在计算上都非常便于处理,在这样的前
- 2023-06-14简单易学的机器学习算法——K-近邻算法
一、近邻算法(NearestNeighbors)1、近邻算法的概念近邻算法(NearestNeighbors)是一种典型的非参模型,与生成方法(generalizingmethod)不同的是,在近邻算法中,通过以实例的形式存储所有的训练样本,假设有m个训练样本:此时需要存储这m个训练样本,因此,近邻算法也称为基于实例的模型
- 2023-04-134.13
在这个神经网络(图3.1.2)对应的3个节点,首先计算第一层网络中的各个节点相关的数
- 2023-03-232.3 和2.4 logistic回归损失函数、梯度下降
下图中由给定的每个样本的值和样本对应的标签值得到最终的概率值Loss函数是在单个训练样本中定义的,它衡量了在单个训练样本上的表现,而成本函数cost,它衡量的是在全体训练
- 2023-03-03吴恩达学习笔记5 ()
2023-03-0315:18:40星期五正规方程(Normalequationwithmultiplevariable)对于某些线性回归问题,可以用更好的方法求得参数\(\theta\)的最优值梯度下降算法
- 2023-02-23【五期邹昱夫】CCF-A(ICCV'21)On the Difficulty of Membership Inference Attacks
"Rezaei,Shahbaz,andXinLiu."Onthedifficultyofmembershipinferenceattacks."ProceedingsoftheIEEE/CVFConferenceonComputerVisionandPatternRec
- 2023-02-17R语言实现基于随机森林的高光谱影像分类
在PaviaUniversity数据中选取100×100大小的影像和参考数据,选取30个样本作为训练样本,基于随机森林进行分类library("R.matlab")library("yaImpute")library("randomForest"
- 2022-12-14每天进步一点点《ML - 正则化代价函数》
本系列MachineLearning的学习博文很大部分全是受教于AndrewNg的Stanford录制的ML视频,我的男神。一:欠拟合(Underfitting)与过拟合(Overfitting)机器学习的目的就是通过一
- 2022-09-26CookMyCode
前言支持向量机(SupportVectorMachine,SVM)在70年代由苏联人VladimirVapnik提出,主要用于处理二分类问题,也就是研究如何区分两类事物。本文主要介绍支持向量机如何解决