• 2024-09-30【大模型指令微调: 从零学会炼丹】第二章: 数据集预处理
    大模型指令微调:从零学会炼丹系列目录第一章:微调数据集构建第二章:数据集预处理第二章:数据集预处理环境准备pipinstalldatasetstransformerspandasduckdbfunctools导入包fromdatasetsimportDatasetfromtransformersimport(AutoTokenizer,
  • 2024-09-30【大模型指令微调: 从零学会炼丹】第一章: 微调数据集构建
    大模型指令微调:从零学会炼丹系列目录第一章:微调数据集构建文章目录大模型指令微调:从零学会炼丹系列目录第一章:微调数据集构建Alpaca格式编写Instructioninstruction-key读取本地数据定义format函数第一章:微调数据集构建Alpaca格式Alpaca格式是一
  • 2024-04-25报告!这里发现了一个赛博炼丹的神级平台!
    众所周知,“赛博炼丹”是一个AI开发研究领域古老又神秘的活动,它往往对炼丹平台有很高的要求。如果你也是一路从“炼丹小白”成长到“资深AI算法工程师”,那你一定懂我在说什么?说好了,天台见!立即免费体验:https://gpumall.com/login?type=register&source=cnblogs下面这些问题,你是
  • 2024-03-26DeepLn算力云:超具性价比的GPU租用体验,还~有~~谁~~?
    AI大模型时代到来,对算力需求越来越高,而很多炼丹党的笔记本电脑显存不到8G,甚至还在用集显裸奔,跑一些模型微调任务的时候根本就不行,压根没有办法畅快炼丹。这时你敢信,DeepLn算力云提供的优质算力,竟然比一些高校的校内算力还便宜,同时还稳定易用,真亮瞎了钛合金眼。到底有多便宜
  • 2023-12-28炼丹记录
    8层transformerself.transformer=TransformerModel(d_model=32,nhead=4,num_encoder_layers=8,dim_feedforward=128,max_len=512)self.transformer2=TransformerModel(d_model=32,nhead=4,
  • 2023-08-18关于炼丹
    lr_scheduler的选择学习率在训练过程起到很重要的作用,这段时间里最常用的两个:循环学习率调度器循环学习率调度器主要基于一个基本的观点:将训练过程中的学习率从较低的初始值逐渐增加,然后再逐渐减小到较小的终止值。这个过程有助于模型更快地收敛,并且可以降低模型过拟合的风险
  • 2023-07-13炼丹初体验
    SD炼丹初体验以下为素材模板:某天和师兄出去玩给师兄拍的照片:之后是一些奇怪的尝试和过程:以及一些奇怪的对话:接下来迎接了新的挑战:我一寻思,这不就是我们师兄本人吗!?,于是迅速动手随后发现效果不错,但是没有眼镜,于是加入眼镜:后来某位学姐说想来点更花的大的挑战,于是:
  • 2023-05-12炼丹笔记
    仙丹是怎样炼成的炼成丹药net_gg3d
  • 2023-02-10深度学习炼丹-数据标准化
    前言一,Normalization概述1.1,Normalization定义1.2,什么情况需要Normalization1.3,为什么要做Normalization1.4,DataNormalization常用方法1.5,代码实现二,norm
  • 2023-02-07深度学习炼丹-数据标准化
    前言一般机器学习任务其工作流程可总结为如下所示pipeline。在工业界,数据预处理步骤对模型精度的提高的发挥着重要作用。对于机器学习任务来说,广泛的数据预处理一般有四
  • 2022-12-22深度学习炼丹-数据预处理和增强
    前言一,Normalization概述1.1,Normalization定义1.2,什么情况需要Normalization1.3,DataNormalization方法1.4,示例代码二,normalizeimages2.1,图像normalizati
  • 2022-12-20深度学习炼丹-数据处理和增强
    前言一,Normalization概述1.1,Normalization定义1.2,什么情况需要Normalization1.3,DataNormalization方法1.4,示例代码二,normalizeimages2.1,图像normalizat
  • 2022-12-17深度学习炼丹-超参数设定和模型训练
    OverridetheentrypointofanimageIntroducedinGitLabandGitLabRunner9.4.Readmoreaboutthe extendedconfigurationoptions.Beforeexplainingtheav
  • 2022-12-17AI调参炼丹之法
    目录​​1 超参数优化​​​​2 人工调参​​​​3网格/随机搜索​​​​4贝叶斯优化​​​​4.1算法简介​​​​4.2算法流程​​1 超参数优化​编辑调参即超参
  • 2022-12-12深度学习炼丹-超参数设定和网络训练
    前言网络层参数使用3x3卷积使用cbr组合尝试不同的权重初始化方法图片尺寸与数据增强批量大小batchsize背景知识batchsize定义选择合适大小的batch
  • 2022-12-11深度学习炼丹-不平衡样本的处理
    目录​​前言​​​一,数据层面处理方法​​​1.1,数据扩充​​​1.2,数据(重)采样​​​数据采样方法总结​​​​1.3,类别平衡采样​​​二,算法(损失函数)层面处理方法​​​2.1,Fo
  • 2022-12-08深度学习炼丹-不平衡样本的处理
    前言一,数据层面处理方法1.1,数据扩充1.2,数据(重)采样数据采样方法总结1.3,类别平衡采样二,算法(损失函数)层面处理方法2.1,FocalLoss2.2,损失函数加权参考资料
  • 2022-12-07深度学习炼丹-不平衡样本的处理
    前言一,数据层面处理方法1.1,数据扩充1.2,数据(重)采样数据采样方法总结1.3,类别平衡采样二,算法(损失函数)层面处理方法2.1,FocalLoss2.2,损失函数加权参考资料
  • 2022-10-11炼丹感悟——超详细解读
    计算机视觉研究院专栏作者:Edison_G感谢大家一直支持“计算机视觉研究院”微信公众号,平时有没做好的地方望大家见谅,做的不好的希望您指出来,我们会修正不对之处,将做得更好,将最
  • 2022-10-10基础入门:“炼丹师”——深度学习训练技巧
    ​计算机视觉研究院专栏作者:Edison_G深度学习已经成为解决许多具有挑战性的现实世界问题的方法。对目标检测,语音识别和语言翻译来说,这是迄今为止表现最好的方法。许多人将深