- 2024-11-15衡量神经网络表征相似度
目录1.中心核对齐技术(CKA)2.Hilbert-Schmidtindependencecriterion(HSIC)HSIC的计算步骤:HSIC的性质:应用:矩阵中心化操作对于单个数据集的中心化对于两个数据集的中心化(例如,用于HSIC)Python代码示例1.中心核对齐技术(CKA) CKA通过计算两个表
- 2024-10-31大模型的表征学习方法简介
表征学习是大模型应用中非常重要的一个方向,其实在深度学习中已经有众多的深入研究。表征学习本质上就是一个空间映射,把文本、图像、声音等不同模态的数据映射到一个高维空间,表示为向量,进而作为模型的输入。比如,针对文本中的词、图像中的不同颜色、纹理或者卷积等,以及视频、
- 2024-09-09深入探索AI文生语音技术的奥秘:从文本输入到逼真语音输出的全链条语音合成过程解析
深入探索AI文生语音技术的奥秘:从文本输入到逼真语音输出的全链条语音合成过程解析1.语音合成任务简介1.1.语音与文本对比语音来说,NLP技术在深度学习中更为普及。在介绍语音合成任务前,我们先来了解语音这一模态的特点,并将其与文本模态对比。文本模态语音模态表现方式
- 2024-08-30DynamiCrafter:Animating open-domain images with video diffusion priors
1.Method图像条件视频生成,1.1ImageDynamicsfromVideoDiffusionPriors1.1.1文本对齐的上下文表征文本嵌入通过clip构建,图像通过clip编码,主要代表语义层面的视觉内容,未能捕获图像的完整信息,为了提取更完整的信息,使用来自clip图像vit最后一层的全视觉标记,该token在条
- 2024-08-15RLMRec论文阅读笔记
RepresentationLearningwithLargeLanguageModelsforRecommendation论文阅读笔记Abstract现存的问题: 这些基于图的推荐器严重依赖于基于ID的数据,可能会忽略与用户和项目相关的有价值的文本信息,导致学习到的表征信息量较少。此外,利用隐式反馈数据会带来潜在的噪音和偏
- 2024-08-14【人工智能】深入理解自监督学习中的表征学习与对比学习
我的主页:2的n次方_1.自监督学习1.1自监督学习的概念自监督学习是一种无需大规模标注数据的学习方法,通过构造代理任务,模型可以从数据本身获取监督信号,从而学习有用的特征表征。1.2自监督学习的背景与重要性在当今大数据时代,数据标注往往成为机器学习应用中的一大
- 2024-08-06多模态融入推荐
多模态特征如何融入到推荐最近刚好读了2篇文章,对于多模态特征处理的核心问题:多模态表征和推荐ID类特征的表征不在一个向量空间,如何有效融合;其次多模态特征预训练的,如何有效评估以及融入推荐系统之后如何进行更新的问题一、先解决怎么融合的问题:将多模态表征聚类,使用聚类的
- 2024-07-15NPA论文阅读笔记
NPA:NeuralNewsRecommendationwithPersonalizedAttention论文阅读笔记这个又是一篇很老但是很经典的论文,这里来读一下Abstract现存的问题: 不同的用户通常有不同的兴趣爱好,同一用户也可能有不同的兴趣爱好。因此,不同的用户点击同一篇新闻时可能会关注不同的方面。提出
- 2024-07-11论文分享|KDD2024‘北航|平等对待每种语言:CCRK—1对K对比学习一致提升跨语言跨模态检索性能
推荐一篇笔者参与的KDD2024工作,面向多语言场景下的图文检索的CCRK。核心创新点可以用下图总结:我们提出了一种新颖的1对K对比学习损失,同时解决了CCR任务中模态内错误传播和模态间优化偏差问题,在训练中平等对待各种语言。我们改进了现有的预训练中M-ITM和M-MLM任务的难负例采
- 2024-07-07LSTUR论文阅读笔记
NeuralNewsRecommendationwithLong-andShort-termUserRepresentations论文阅读笔记这个同样是一篇很老但是比较经典的文章,这里来读一下Abstract存在的问题: 用户通常既有长期偏好,也有短期兴趣。然而,现有的新闻推荐方法通常只学习用户的单一表征,这可能是不够的。提出
- 2024-07-03NRMG论文阅读笔记
NRMG:NewsRecommendationWithMultiviewGraphConvolutionalNetworks论文阅读笔记Abstract存在的问题: 在学习新闻表征的过程中,目前大多数研究工作都没有充分利用新闻特征,这就很难学习到更全面的新闻表征。大多数研究工作只是从单一角度学习用户表征,这可能不足以学习多样
- 2024-07-02NAML论文阅读笔记
NeuralNewsRecommendationwithAttentiveMulti-ViewLearning论文阅读笔记这篇也是比较老但是比较经典的文章,来读一下Abstract 现有的新闻推荐方法通常基于单一的新闻信息(如标题)来学习这些表征,这可能是不够的。在本文中,我们提出了一种神经新闻推荐方法,它可以通过利用不
- 2024-06-20HieRec论文阅读笔记
HieRec:HierarchicalUserInterestModelingforPersonalizedNewsRecommendation论文阅读笔记Abstract现存的问题: 用户兴趣建模对于个性化新闻推荐至关重要。现有的新闻推荐方法通常从每个用户以前的行为中学习一个单一的用户嵌入,以代表他们的整体兴趣。然而,用户兴趣通
- 2024-06-07Sentiment Knowledge Enhanced Self-supervised Learning for Multimodal Sentiment Analysis
文章目录SKESL:多模态情感分析中的情感知识增强型自监督学习文章信息研究目的研究内容研究方法1.SentimentWordMasking2.Textrepresentationlearning3.Non-verbalinformationinjection(multimodalfusion)4.SentimentIntensityPrediction5.LossFunction6.Fine-tuni
- 2024-05-18SimCLR: 一种视觉表征对比学习的简单框架《A Simple Framework for Contrastive Learning of Visual Representations》
现在是2024年5月18日,好久没好好地看论文了,最近在学在写代码+各种乱七八糟的事情,感觉要和学术前沿脱轨了(虽然本身也没在轨道上,太菜了),今天把师兄推荐的一个框架的论文看看(视觉CV领域的)。20:31,正经的把这篇论文看完。论文:ASimpleFrameworkforContrastiveLearningofVisua
- 2024-05-12《刻意练习》读书笔记
怎样提高水平难度要适中(刚好达到能力的边界)有效的反馈足够次数的重复练习能够纠正自己的错误在这些基础上,耐心地、谦虚地保持大时间周期的练习,才能提高水平。天真的练习学习任何一项技能时,首先我们会从老师、书籍或是网上获取一些指导,然后开始练习,直到达到可接受的程度,技
- 2024-05-03Noise label相关文章随记
ContrastiveLearningImprovesModelRobustnessUnderLabelNoise2021观察:监督的鲁棒学习方法在有噪音的时候下降明显半监督的鲁棒学习能利用无标签的数据取得更好的效果那么监督的鲁棒学习方法的性能下降是由标签噪音引起的,还是不够好的表征引起的?作者的答案是学到的表
- 2024-04-09半导体的一些表征方法(论文学习)
半导体的一些表征方法一、扫描隧道显微镜(STM)扫描隧道显微镜是一种扫描探针显微术工具,扫描隧道显微镜可以让科学家观察和定位单个原子,它具有比它的同类原子力显微镜更加高的分辨率。此外,扫描隧道显微镜在低温下(4K)可以利用探针尖端精确操纵原子,因此它在纳米科技既是重要
- 2024-04-06OccNet 栅格占据网络:重建智能驾驶场景表征
随着高阶智能驾驶的发展,长尾障碍物感知成为智驾发力的关键点。驾驶场景中常见的行人、车、障碍物,能够通过3D物体检测等方式实现其位置、大小的估计。而现实世界城区的交通路况中,还存在海量长尾场景问题:如异形车辆、路上的石子、掉落的树叶等障碍物,以3D检测框、点云等传统表
- 2024-01-11[论文阅读] Self-conditioned Image Generation via Generating Representations
Pretitle:Self-conditionedImageGenerationviaGeneratingRepresentationsaccepted:arXiv2023paper:https://arxiv.org/abs/2312.03701code:https://github.com/LTH14/rcgref:https://mp.weixin.qq.com/s/VmyRya2klHpHlJwzMG8JRgref:https://www.zhihu.com/q
- 2023-12-0612 6 刻意练习阅读笔记
第3章心理表征偶然的盲棋大师俄罗斯国际象棋特级大师亚历山大-阿廖欣,与当地26位优秀的国际象棋棋手盲棋对战,选手不需要盲下。赢了17盘,输了5盘,和了4盘。上学的时候喜欢下棋,不允许将棋盘带到学校,只能在课堂上通过草图进行模拟。慢慢的他发现自己可以不用草图,完全凭借记忆记住整
- 2023-12-0512 5阅读笔记
《刻意练习》阅读笔记:第二部分:大脑的适应能力 大脑的结构和功能并不是固定不变的,通过刻意的练习,便刻意改变我们大脑的运作方式。 1、要改变大脑适应能力,首先我们需要先走出舒适区。走出舒适区,切忌走得太多,在距离舒适区不远的“甜蜜点”上停留,才能够长期的走在舒适区外围。
- 2023-09-13Unsupervised Degradation Representation Learning f
UnsupervisedDegradationRepresentationLearningforBlindSuper-Resolution文献阅读(2022.09.28)盲超分辨率的退化表征(向量)学习摘要:大多数基于CNN的SR都是基于退化固定且可知这一假设。但是实际退化和假设不一致时这些方法的性能严重下降。以前处理实际应用中的各种未知退
- 2023-08-02特征学习——特征工程自动化,无非类似CNN最后一层softmax前的输出层就是特征表征层,但那是分类器,如何用在无标注数据中是难
通过representationlearning,我们可以把一些抽象的知识转化为具体的数值的形式,例如我们使用word2vec对“上下文”的模糊的概念进行了具象的表达,生成的wordvector包含了这种先验知识(具体的表现形式就是常出现在上下文里的单词其向量的距离很接近,实际上理解word2vec是基于embedding
- 2023-06-25产品读书《刻意练习》
简介 本书是两位作者合作撰写的,一位是心理学家(安德斯•艾利克森),另一位是科学作家(罗伯特·普尔)。艾利克森博士专注于研究体育、音乐、国际象棋、医学、军事等不同领域中的杰出人物如何获得杰出表现,创建了“刻意练习”法则,通过此书向大众普及“刻意练习”法则,告诉我们并