首页 > 其他分享 >提高神经网络的识别率

提高神经网络的识别率

时间:2022-10-16 18:44:35浏览次数:52  
标签:正则 提高 Batch 识别率 神经网络 L2 Size

1.增加数据集的数量

由于深度神经网络需要喂入大量的数据才能提高他的性能(特点),有时候简单的增加容量可以提高准确

(吴恩达大佬视频内介绍深度学习崛起制作的图)

 

2.提高数据的差异性,随机性,即增加数据的特征不要选取过于接近的样本

3.对数据进行预处理

归一化,标准化...

4.调整batch_size大小

Batch_Size 太小,算法在 相当多的epoch内不收敛。
随着 Batch_Size 增大,处理相同数据量的速度越快。
随着 Batch_Size 增大,达到相同精度所需要的 epoch 数量越来越多。
由于上述两种因素的矛盾, Batch_Size 增大到某个时候,达到时间上的最优。
由于最终收敛精度会陷入不同的局部极值,因此 Batch_Size 增大到某些时候,达到最终收敛精度上的最优。
原文链接:https://blog.csdn.net/qq_41853758/article/details/81436731

5.打乱测试集的顺序即使用 shuffle=True

6.调整超参(学习率或者epochs次数)

7.使用L2正则化

L2约束通常对稀疏的有尖峰的权重向量施加大的惩罚,而偏好于均匀的参数。这样的效果是鼓励神经单元利用上层的所有输入,而不是部分输入。所以L2正则项加入之后,权重的绝对值大小就会整体倾向于减少,尤其不会出现特别大的值(比如噪声),即网络偏向于学习比较小的权重。所以L2正则化在深度学习中还有个名字叫做“权重衰减”(weight decay),也有一种理解这种衰减是对权值的一种惩罚,所以有些书里把L2正则化的这一项叫做惩罚项(penalty)。
原文链接:https://blog.csdn.net/github_34589902/article/details/113884761

 

8.droput()参数及位置

随机丢弃一定的数据,提高模型的泛化能力

 

9.参数初始化

例如yolo一般就会引用初始化参数来提高准确率

10.调整网络的结构(层数,大小,函数)

 

标签:正则,提高,Batch,识别率,神经网络,L2,Size
From: https://www.cnblogs.com/ohj666/p/16796753.html

相关文章

  • 深度学习之浅层神经网络
    首先声明,本文参照(7条消息)【中文】【吴恩达课后编程作业】Course1-神经网络和深度学习-第三周作业_何宽的博客-CSDN博客_吴恩达课后编程作业(https://blog.csdn.net/......
  • 人工神经网络的优缺点
    人工神经网络由于模拟了大脑神经元的组织方式而具有了人脑功能的一些基本特征,为人工智能的研究开辟了新的途径,神经网络具有的优点在于:(1)并行分布性处理因为人工神经网络......
  • 【预测模型-BP分类】基于萤火虫算法优化BP神经网络实现数据分类附matlab代码
    ✅作者简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,matlab项目合作可私信。......
  • AcWing 算法提高课 通过递推求等比数列的和(防止使用逆元出现问题)
    基于分治的思想:  例题:https://www.acwing.com/problem/content/99/模板:求num^0+num^1+...+num^kconstintMOD=9901;intQuickExp(intbase,intexp){bas......
  • [NOIP2018 提高组] 铺设道路 贪心证明
    首先,这个是本蒟蒻第一次正经证明贪心,方法肯定有些繁琐(知识有限),仅作纪念。证明:记\(f(x)\)为序列中从第\(1\)到第\(x\)个数满足题意的最小天数。对于非上升序列\(\{a_1,a......
  • B-神经网络模型复杂度分析
    目录结构一,模型计算量分析二,模型参数量分析三,一些概念四,参考资料前言现阶段的轻量级模型MobileNet/ShuffleNet系列、CSPNet、RepVGG、VoVNet等都必须依赖于于具......
  • 使用Keras生成可变尺寸输入数据的神经网络
    本教程发布于博客园,转载请注明出处!问题:在使用神经网络处理实际数据时,往往遇到数据尺寸不相同的情况。例如:训练得到一个图片去雾模型后,需要对不同尺寸的照片去雾。解决方......
  • 基于BP神经网络创板企业估值水平预测
    ‍数据来源本文数据来源于第十六届“五一数学建模竞赛”的C题数据,原题目《科创板拟上市企业估值》,原题目要求如下:截至2019年4月27日,上海证券交易所已受理93家企业申报科创板......
  • vue项目提高性能
    如何提高页面性能?精灵图、字体图标、图片懒加载或使用base64格式图片css,js文件压缩,代码复用,组件化使用CDN网络托管数据懒加载:分页,按需加载(下拉加载)......
  • AcWing 算法提高课 博弈论
    1、SG函数SG函数的定义:可以到达的全部点的SG函数中没有出现的最小自然数可以解决棋子移动的博弈论问题推导方式基于nim游戏,https://www.acwing.com/solution/content/1......