• 2024-11-11荣登Nature! 持续学习(Continue Learning)取得最新突破
    2024深度学习发论文&模型涨点之——持续学习Nature发了一篇《Lossofplastisityindeepcontinuallearning》文章介绍了一种创新的算法——持续反向传播(ContinualBackpropagation),该算法通过在每次迭代中随机重置一小部分较少使用的神经元来保持网络的塑性。这种方法通过
  • 2024-04-18CF1933D Turtle Tenacity: Continual Mods
    思路:此题其实很简单,不要被邪恶的出题人迷惑了双眼。此题判断有解一共有两种情况。通过题意可以知道将原数组排序后如果\(b_{1}\neb_{2}\),那么最后的结果一定\(\ne0\),这是第一种情况。第二种情况其实就是第一种情况的变形,在排序后\(b_{1}=b_{2}\)的情况下,如果\(b\)
  • 2024-03-23CF1933D-Continual Mods【数学思维】
    CF1933D-ContinualMods【数学思维】一、题目大意题目链接https://codeforces.com/contest/1933/problem/D给定一个长度为n的数组a,可以任意改变a的顺序,变成数组b(也可以不改变)!问是否存在一个这样的b,使得\(b_1\)mod\(b_2\)mod...mod\(b_n\)≠0。(注意,是从左
  • 2024-02-28D. Turtle Tenacity: Continual Mods
    原题链接题解将序列排序后,设最小值为k,那么\(2~n\)的每个元素都可以表示为\(nk+b,b\in[0,k-1]\)如果\(2~n\)的元素中存在\(k\)且\(b\)均为零,一定失败code#include<bits/stdc++.h>usingnamespacestd;inta[100005]={0};intmain(){intt;cin>>t;
  • 2023-06-05Achieving a Better Stability-Plasticity Trade-off via Auxiliary Networks in Continual Learning论文阅读笔记
    摘要连续学习过程中的稳定性-可塑性权衡是一个重要的问题。作者提出了AuxiliaryNetworkContinualLearning(ANCL),通过auxiliarynetwork提高了模型的可塑性。方法TheFormulationofAuxiliaryNetworkContinualLearning传统的continuallearning方法通常是在新数据集上
  • 2023-04-11【论文阅读笔记】Learning to Prompt for Continual Learning
    Create_time:April27,20225:21PMEdited_by:HuangYujunOrg:GoogleResearch,NortheasternUniversityLearningtoPromptforContinualLearning[38]LearningtoPromptforContinualLearning.pdf问题:最终输入transformerencoder的序列长度是怎么组成的,原始
  • 2023-01-29Learning to Prompt for Continual Learning论文阅读笔记
    摘要本文的主要贡献是提出了一种连续学习的方法L2P,可以自动学习提示(Prompt)一个预训练的模型,从而能够在学习一系列的任务的同时减轻灾难性遗忘,并且这个过程无需使用记忆回
  • 2022-10-06Compacting, Picking and Growing for Unforgetting Continual Learning论文阅读笔记
    摘要本文提出了一种简单有效的连续学习策略,利用了深度模型压缩、关键权重选择和渐进网络扩展的原则并进行整合。方法的优点:避免遗忘、允许模型扩展,同时可以通过之前的积