首页 > 其他分享 >【论文写作分析】之六《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》

【论文写作分析】之六《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》

时间:2023-01-17 11:34:54浏览次数:35  
标签:模型 论文 之六 WordVec 机制 注意力 AlexNet


[1] 参考论文信息

  论文名称:《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》

  发布期刊:《计算机科学》

  期刊信息:CSCD扩展

【论文写作分析】之六《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》_文本分类


  论文写作分析摘要:

  从内容上看,本文没有创新之处。

【注】:这种论文都能发CSCD扩展??

  论文说了两个创新点:

  1、本文对AlexNet-2网络进行优化,降低了模型参数的数量,支持更快的训练和学习。

  2、在方法架构中添加了注意力机制,开始向每个输入赋予初始权重,并根据每个输入与最终预测结果的相关性,在训练过程中对这些权重进行调整。

【注】:但是,对AlexNet-2网络进行优化,只是在AlexNet-2基础上加了一些网络层,模型参数是变多了的,不知道为什么速度会快?其次,添加了注意力机制,也只是一笔带过。

[2] 参考论文分解

  【AlexNet-2模型】

  模型图如下:

【论文写作分析】之六《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》_权重_02

  上图左边是AlexNet-2原始模型,右边是“优化后的AlexNet-2”模型。嗯……大家自己品,这也叫改进模型了……他甚至不愿意画个模型图……

  【注意力机制】

【论文写作分析】之六《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》_网络层_03


  全文对注意力机制只有这么多描述。也没有示意图。

  【实验结果】

【论文写作分析】之六《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》_AlexNet-2_04

  这些baseline我觉得是没有说服力的,CNN、RCNN、DPCNN啥模型都没有。

  最后,我觉得论文的名字有误导性。《基于WordVec和改进注意力机制AlexNet-2的文本分类方法》,改进的到底是注意力机制、还是ALexNet-2?他这样起名字,可能是想混在一起。


标签:模型,论文,之六,WordVec,机制,注意力,AlexNet
From: https://blog.51cto.com/u_15942590/6012015

相关文章

  • 【BERT-多标签文本分类实战】之六——数据加载与模型代码
    ·请参考本系列目录:​​【BERT-多标签文本分类实战】之一——实战项目总览​​·下载本实战项目资源:>=点击此处=<  前5篇文章中,介绍了实战项目的前置知识,下面正式介绍项......
  • AlexNet
    图片:手写数字的黑白照片大小:28*28样本数:69K类数:10AlexNet更深更大的LeNet主要改进:丢弃法ReLuMaxPooling计算机视觉方法论的改变:通过CNN学习特征->Softmax回......
  • 设计模式之六大原则
    关于设计模式的六大设计原则的资料网上很多,但是很多地方解释地都太过于笼统化,我也找了很多资料来看,发现CSDN上有几篇关于设计模式的六大原则讲述的比较通俗易懂,因此转载过来......
  • 30分钟带你掌握Alexnet
    今天,我们将介绍深度学习领域的一个著名网络AlexNet。2012年,Hinton的学生AlexKrizhevsky在寝室用GPU死磕了一个DeepLearning模型,一举摘下了视觉领域竞赛ILSVRC桂冠,在百万......
  • LeNet,AlexNet,VGG,GoogLeNet
    卷积神经网络-LeNet理解channel:卷积操作完成后输出的 out_channels ,取决于卷积核的数量。此时的 out_channels 也会作为下一次卷积时的卷积核的 in_channels......
  • 动手学习深度学习 P24 AlexNet 运行jupyter notebook代码出现错误
    1.出现错误1:DataLoaderworker(pid(s)8500,7876,30128,1760)exitedunexpectedly2.出现错误2:CUDAoutofmemory.Triedtoallocate100.00MiB(GPU0;2.00GiB......
  • 【Android游戏开发之六】在SurfaceView中添加组件!!!!并且相互交互数据!!!!
    ​​ 李华明Himi ​​​原创,转载务必在明显处注明 很多童鞋说我的代码运行后,点击home或者back后会程序异常,如果你也这样遇到过,那么你肯定没有仔细读完Himi的博文,第十九......
  • 【iOS-cocos2d-X 游戏开发之六】使用Base64算法对Cocos2dX自带CCUserDefault游戏存储
    本站文章均为​​ 李华明Himi ​​​原创,转载务必在明显处注明上一篇介绍了,如何使用Cocos2dX自带的CCUserDefault存储游戏数据,那么Himi也提到此方式保存的为xml格式并且......
  • 【Hibernate框架开发之六】Hibernate中Annotation的关系映射&&组件映射!
    本站文章均为​​ 李华明Himi ​​​原创,转载务必在明显处注明准备工作,新建两个实体类如下:Husband.class:​​package​​​​com.himi;​​......
  • stl之六大部件
    有哪六大部件?容器、分配器、算法、迭代器、适配器、仿函数这些部件分别是干啥的?1.容器容器就是数据结构,里面有list链表、queue队列等容器用来放/取东西(也就是数据)容......