首页 > 其他分享 >Adaptively sharing multi-levels of distributed representations in multi-task learning

Adaptively sharing multi-levels of distributed representations in multi-task learning

时间:2024-01-15 11:55:07浏览次数:29  
标签:multi sharing Wang distributed 网络 2022 pdf 多任务

期刊:Information Sciences” (Wang 等, 2022, p. 226)

计算机科学1区top。2022年

题目:

“多任务学 习 中 自 适 应 共 享 多 级 分 布 式 表 示” (pdf)

“Adaptively sharing multi-levels of distributed representations in multi-task learning” (Wang 等, 2022, p. 226) (pdf)

image

“如图 1(a)(b)。这些模型的关键共性是它们的设计模式,即对 DNN 的较低层使用共享层( 相同参数),然后对顶层使用分裂( 独立参 数)” (Wang 等, 2022, p. 2) (pdf)

本文提出 的

“也就 是说 ,当 任务 相关 性较 低时 ,我 们期 望它 为相 对较 浅的 子网络 分配更高的权 重,对应 更一般的 特征。当 任务高度 相关时, 我们期望 它为相对 深度的子 网络分配 更高的 权重” (Wang 等, 2022, p. 3) (pdf)

塔网络

“塔 式 网 络 建 立 在共 享 的 底 层 网 络 的 顶 部 , 每 个 任务 都 有 自 己 的 塔 式 网 络” (Wang 等, 2022, p. 5) (pdf)

“通常,塔式网络由多个完全连接的层组成” (Wang 等, 2022, p. 5) (pdf)

标签:multi,sharing,Wang,distributed,网络,2022,pdf,多任务
From: https://www.cnblogs.com/xinxuann/p/17965080

相关文章