首页 > 其他分享 >什么是人工智能领域的 SFT - Supervised Finetuning

什么是人工智能领域的 SFT - Supervised Finetuning

时间:2023-11-18 10:55:05浏览次数:30  
标签:Finetuning 训练 SFT 任务 Supervised 图像 模型

在人工智能(AI)领域,Supervised Finetuning 是一个重要的概念。它涉及到在预训练模型的基础上,利用有标签的数据进行微调,以适应特定的任务或领域。这个过程可以被视为在更广泛的知识基础上进行特定任务的训练,从而在新任务上获得更好的性能。

Supervised Finetuning 这个名词可以被分解为两部分:SupervisedFinetuning。首先,Supervised 指的是监督学习,是机器学习的一种类型,其中模型是通过一组有标签的训练数据进行训练的。每个训练样本都有一个对应的标签或结果,模型的任务就是学习从输入数据到这些标签的映射。然后,Finetuning 指的是微调,是指在预训练模型的基础上,进行进一步的训练,以适应特定的任务。

让我们更深入地理解一下这个概念。在深度学习中,有一种常见的做法是首先在大型数据集上预训练一个模型,例如在 ImageNet 上预训练一个卷积神经网络(CNN),或者在大型文本语料库上预训练一个 transformer 模型。这样做的目的是让模型学习到一些通用的、高级的特征或模式,例如在图像中识别边缘或颜色块,在文本中理解语法或句子结构等。

然后,我们会取这个预训练模型,用它作为一个初始模型,然后在特定的任务上进行训练。这个任务有可能是图像分类,也可能是文本情感分析,等等。这个阶段就是 Supervised Finetuning,我们使用有标签的数据集进行训练,模型会学习到如何将学到的通用特征应用到特定的任务上。

例如,我们可能会在 ImageNet 上预训练一个 CNN 模型,这个模型会学习到如何识别边缘、颜色块、纹理等基础特征。然后,我们可能会在一个医学图像数据集上对这个模型进行 Supervised Finetuning,这个数据集包含了一些医学图像(例如 X 光片或 MRI 图像),以及这些图像对应的诊断结果(例如是否有肺炎或者脑瘤)。在这个阶段,模型会学习到如何将前面学到的基础特征应用到医学图像诊断这个特定任务上。

标签:Finetuning,训练,SFT,任务,Supervised,图像,模型
From: https://www.cnblogs.com/sap-jerry/p/17840186.html

相关文章

  • ABAP 内表转CSV文件推送SAP服务器和SFTP到对方服务器
    1、内表转CSV文件,老ECC个别版本该函数有BUG,I类型字段会dumpDATA:lt_csv_vbak TYPE ztruxs_t_text_data,"ztruxs_t_text_data长度为8192CALLFUNCTION'ZSAP_CONVERT_TO_CSV_FORMAT'TABLESi_tab_sap_data=lt_vbakCHANGINGi_tab_conve......
  • 基于时间频率一致性对时间序列进行自监督对比预训练《Self-Supervised Contrastive Pr
    2023年11月10日,今天看一篇论文,现在17:34,说实话,想摆烂休息,不想看,可还是要看,拴Q。论文:Self-SupervisedContrastivePre-TrainingforTimeSeriesviaTime-FrequencyConsistency或者是:Self-SupervisedContrastivePre-TrainingforTimeSeriesviaTime-FrequencyConsistenc......
  • 你还在为SFTP连接超时而困惑么? | 京东云技术团队
    1.前言在最近的项目联调过程中,发现在连接上游侧SFTP时总是需要等待大约10s+的时间才会出现密码输入界面,这种长时间的等待直接导致的调用文件接口时连接sftp超时问题。于是决定自己针对该问题进行一下排查,查询了相关资料,并逐个试验了一下网上提供的解决方案,然后在文章中详细记录问......
  • 你还在为SFTP连接超时而困惑么?
    1.前言在最近的项目联调过程中,发现在连接上游侧SFTP时总是需要等待大约10s+的时间才会出现密码输入界面,这种长时间的等待直接导致的调用文件接口时连接sftp超时问题。于是决定自己针对该问题进行一下排查,查询了相关资料,并逐个试验了一下网上提供的解决方案,然后在文章中详细记录......
  • sftp部署
    SFTP(SecureFileTransferProtocol):sftp为ssh自带的服务,无需额外安装软件,使用和配置很方便SFTP的优势主要有两点:1、不需要再配置个FTP服务端;2、SSH协议是安全传输,上传和下载是经过加密的,安全方面高于vsftp,由于传输方式使用了加密/解密技术,所以传输效率比普通的FTP要低得多。但sft......
  • Java连接服务器的两种方式SFTP和FTP
    https://www.jb51.net/article/276407.htm在项目开发中,一般文件存储很少再使用SFTP服务,但是也不排除合作伙伴使用SFTP来存储项目中的文件或者通过SFTP来实现文件数据的交互,这篇文章主要介绍了Java集成FTP与SFTP连接池−目录区别FtpUtilSFTPUtil问题区别FTP是一种文件传输协议,一般是......
  • 【SFTP】sftp的登录和基本操作
    sftp的一些简单操作语句登录[email protected]输入密码:xxx下载文件getxxx.txt(下载单个文件)get-rxxx_folder(下载文件夹)创建文件夹mkdirxx_folder(这类型的操作,和Linxu其实没有什么区别了)登出quit......
  • SFTP无法连接 Connection closed by server with exitcode 127
    命令:Pass:************状态:Connectedto66.77.88.99错误:Connectionclosedbyserverwithexitcode127错误:无法连接到服务器 解决方法:vi/etc/ssh/sshd_config    其中:“Subsystemsftp/usr/libexec/sftp-server” 将其修改为正确的sftp-server路径Subsystem......
  • vsftp软链接ln遇到550错误
    centos6.3上新建了vsftp,用于文件下载使用。/var/ftp/pub可以匿名登陆下载。如果想要上传则需要使用密码验证。登陆使用的账号是ftpclient,路径在/home/ftpclient。在/var/ftp/pub下新建一个软链接:cd/var/ftp/publn-s/home/ftpclientclient但用ftp客户端匿名连上去后,进......
  • CentOs6.5中安装和配置vsftp简明教程
    一、vsftp安装篇#查看是否已经安装了vsftp:#安装vsftpd(需要root权限)yum-yinstallvsftpd#启动vsftpdservicevsftpdstart#开机自动启动vsftpdchkconfigvsftpdon 二、vsftp相关命令之服务篇#启动ftp服务servicevsftpdstart#查看ftp服务状态servicevsftpdstatus#重......