- 2024-06-18[论文速览] Small-scale proxies for large-scale Transformer training instabilities
Pretitle:Small-scaleproxiesforlarge-scaleTransformertraininginstabilitiessource:ICLR2024paper:https://arxiv.org/abs/2309.14322code:ref:小尺度Transformer如何ScaleIdea这篇文章想通过小模型来研究大模型(Transformer)训练不稳定的原因Method(Model)图
- 2024-05-01bc-qk-ref-merge-0
区块链快速参考(全)原文:zh.annas-archive.org/md5/b5e57485b0609afbfba46ff759c5d264译者:飞龙协议:CCBY-NC-SA4.0前言这是区块链快速参考,一本旨在全方位介绍新手进入区块链世界的书籍。它带你进入令人激动的区块链技术世界,旨在为那些希望完善其对区块链生态系统各支柱的现
- 2023-06-14推荐算法——基于矩阵分解的推荐算法
一、推荐算法概述对于推荐系统(RecommendSystem,RS),从广义上的理解为:为用户(User)推荐相关的商品(Items)。常用的推荐算法主要有:基于内容的推荐(Content-BasedRecommendation)协同过滤的推荐(CollaborativeFilteringRecommendation)基于关联规则的推荐(AssociationRule-Based
- 2022-10-19torch:针对mask掉的位置不进行softmax
错误方式希望在进行softmax之前,如果对被mask掉的位置加上一个特别小的数字,那么softmax之后就会变成0。pad_mask=(1-doc_token_mask)*(-1999999)#把原本0的位置
- 2022-10-15python+selenium+opencv验证滑块
我们在使用selenium爬虫的时候在登录时经常会遇到滑块验证码问题,导致登录受阻,正所谓万事开头难。登录就登录不进去更别提往后的操作的。今天以登录京东后台来演示下如何破