首页 > 其他分享 >it_transform,fit,transform区别和作用详解

it_transform,fit,transform区别和作用详解

时间:2022-09-25 21:44:33浏览次数:50  
标签:转换 fit transform 信息 详解 文档 方法

 

 

转载加整理:https://blog.csdn.net/weixin_38278334/article/details/82971752

https://blog.csdn.net/qq_43201403/article/details/109569373

https://www.pianshen.com/article/378824266/

https://blog.csdn.net/quiet_girl/article/details/72517053

  1. fit和transform没有任何关系,仅仅是数据处理的两个不同环节,之所以出来fit_transform这个函数名,仅仅是为了写代码方便,会高效一点。
  2. sklearn里的封装好的各种算法使用前都要fit,fit相对于整个代码而言,为后续API服务。fit之后,然后调用各种API方法,transform只是其中一个API方法,所以当你调用transform之外的方法,也必须要先fit。
  3. fit原义指的是安装、使适合的意思,其实有点train的含义,但是和train不同的是,它并不是一个训练的过程,而是一个适配的过程,过程都是确定的,最后得到一个可用于转换的有价值的信息。

fit,transform,fit_transform常用情况分为两大类
1. 数据预处理中方法
fit(): Method calculates the parameters μ and σ and saves them as internal objects.
解释:简单来说,就是求得训练集X的均值,方差,最大值,最小值,这些训练集X固有的属性。

transform(): Method using these calculated parameters apply the transformation to a particular dataset.
解释:在fit的基础上,进行标准化,降维,归一化等操作(看具体用的是哪个工具,如PCA,StandardScaler等)。

fit_transform(): joins the fit() and transform() method for transformation of dataset.
解释:fit_transform是fit和transform的组合,既包括了训练又包含了转换。
transform()和fit_transform()二者的功能都是对数据进行某种统一处理(比如标准化~N(0,1),将数据缩放(映射)到某个固定区间,归一化,正则化等)

fit_transform(trainData)对部分数据先拟合fit,找到该part的整体指标,如均值、方差、最大值最小值等等(根据具体转换的目的),然后对该trainData进行转换transform,从而实现数据的标准化、归一化等等。

根据对之前部分trainData进行fit的整体指标,对剩余的数据(testData)使用同样的均值、方差、最大最小值等指标进行转换transform(testData),从而保证train、test处理方式相同。所以,一般都是这么用:

from sklearn.preprocessing import StandardScaler
sc = StandardScaler()
sc.fit_tranform(X_train)
sc.tranform(X_test)

  

2. 各种算法的fit,transform方法
举两个例子:
1. CountVectorizer举例,sklearn的CountVectorizer库是根据输入数据获取词频矩阵(稀疏矩阵)
fit(raw_documents) :根据CountVectorizer参数规则进行操作,比如滤除停用词等,拟合原始数据,生成文档中有价值的词汇表;

 

transform(raw_documents):使用符合fit的词汇表或提供给构造函数的词汇表,从原始文本文档中提取词频,转换成词频矩阵。

 

fit_transform(raw_documents, y=None):学习词汇词典并返回术语 - 文档矩阵(稀疏矩阵)。

 

2. TfidfTransformer举例,TF-IDF(Term frequency * Inverse Doc Frequency)词权重
在较低的文本语料库中,一些词非常常见(例如,英文中的“the”,“a”,“is”),因此很少带有文档实际内容的有用信息。如果我们将单纯的计数数据直接喂给分类器,那些频繁出现的词会掩盖那些很少出现但是更有意义的词的频率。

为了重新计算特征的计数权重,以便转化为适合分类器使用的浮点值,通常都会进行tf-idf转换。词重要性度量一般使用文本挖掘的启发式方法:TF-IDF。IDF,逆向文件频率(inverse document frequency)是一个词语普遍重要性的度量(不同词重要性的度量)。

fit(raw_documents, y=None):根据训练集生成词典和逆文档词频 由fit方法计算的每个特征的权重存储在model的idf_属性中。

 

transform(raw_documents, copy=True):使用fit(或fit_transform)学习的词汇和文档频率(df),将文档转换为文档 - 词矩阵。返回稀疏矩阵,[n_samples, n_features],即,Tf-idf加权文档矩阵(Tf-idf-weighted document-term matrix)。

总结:
上述第一类和第二类等价。算法中的fit方法的应用等价于第一类的fit,只不过产生的结果意义不同(不是均值等统计意义,而是根据算法本身拟合获取不同信息以备后用),transform根据fit的结果转换成目标形式,具体需深究代码实现。

Note:
必须先用fit_transform(trainData),之后再transform(testData)
如果直接transform(testData),程序会报错
如果fit_transfrom(trainData)后,使用fit_transform(testData)而不transform(testData),虽然也能归一化,但是两个结果不是在同一个“标准”下的,具有明显差异。(一定要避免这种情况)

附: 另一个角度理解fit和transform
fit_transform是fit和transform的结合,所以只需要了解fit和transform。

transform方法主要用来对特征进行转换。

从可利用信息的角度来说,转换分为无信息转换和有信息转换。

无信息转换是指不利用任何其他信息进行转换,比如指数、对数函数转换等。
有信息转换从是否利用目标值向量又可分为无监督转换和有监督转换。
无监督转换指只利用特征的统计信息的转换,统计信息包括均值、标准差、边界等等,比如标准化、PCA法降维等。
有监督转换指既利用了特征信息又利用了目标值信息的转换,比如通过模型选择特征、LDA法降维等。
通过总结常用的转换类,我们得到下表:

所以,只有有信息的转换类的fit方法才实际有用,显然fit方法的主要工作是获取特征和目标值有价值的信息,在这点上,fit方法和模型训练时的fit方法就能够联系在一起了:**都是通过分析特征和目标值,提取有价值的信息。对于转换类来说是某些统计量;对于模型来说可能是特征的权值系数等。

另外,只有有监督的转换类的fit和transform方法才需要特征和目标值两个参数,即有监督学习的算法fit(x,y)传两个参数。
无监督学习的算法是fit(x),即传一个参数,比如降维、特征提取、标准化。
fit方法无用不代表其没实现,而是除合法性校验以外,其并没有对特征和目标值进行任何处理。

标签:转换,fit,transform,信息,详解,文档,方法
From: https://www.cnblogs.com/Li-JT/p/16729056.html

相关文章

  • IntelliJ IDEA 快捷键说明大全(中英对照、带图示详解)
    因为觉得网络上的idea快捷键不够详尽,所以特别编写了此篇文章,方便大家使用ideaO(∩_∩)O~其中的英文说明来自于idea的官网资料,中文说明主要来自于自己的领会和......
  • Python开发技术详解 pdf
    高清扫描版下载链接:https://pan.baidu.com/s/1q4AzavUAb53C6nu490Wozw点击这里获取提取码 ......
  • Nginx详解
    什么是NginxNginx(“enginex”)是一个高性能的HTTP和反向代理服务器,特点是占有内存少,并发能力强,事实上Nginx的并发能力在同类型的网页服务器中表现非常好。Nginx专为性能优......
  • IO流详解--Robyn编程学习(Java)
    为什么要学习IO流文件在程序中是以流的形式来操作的(流也是Java程序和磁盘文件交互的方式)IO流则是针对程序而已,I是输入,O是输出IO流的知识体系字节流与字符流字节流输......
  • An Image Worth 16x16 Words:Transformeers for Image Recognition At Scale | ViT 论
    参考https://www.bilibili.com/video/BV15P4y137jb/?spm_id_from=333.788&vd_source=920f8a63e92d345556c1e229d6ce363f李沐组会的ViT精读 ViT借用NLP领域的Transform......
  • Spring之Maven的依赖详解和打包方式
    正常单个pom模块的项目1、springboot项目首先继承spring-boot-starter-parent2、引入父级springboot相关的依赖默认会使用父级中的版本号3、其它非父级springboot中的依......
  • Linux—目录详解
    登录系统后,在当前命令窗口下输入命令:ls/会看到如图所示:![](https://img2022.cnblogs.com/blog/2595295/202209/2595295-20220925131352159-505699413.png)树状......
  • 三次握手和四次挥手详解
    1.三次握手原理1.1为什么需要三次握手,两次不行吗?1.2什么是半连接队列?1.3ISN(InitialSequenceNumber)是固定的吗?1.4三次握手过程中可以携带数据吗?1.5SYN攻击是什......
  • 常见的二十种软件测试方法详解(史上最全)
    一.单元测试(模块测试)单元测试是对软件组成单元进行测试。其目的是检验软件组成单位的正确性。测试对象是:模块。对模块进行测试,单独的一个模块测试,属于静态测试的一类测......
  • Attention Is All You Need transformer开山之作论文精读 笔记
    参考资料1、https://www.bilibili.com/video/BV1pu411o7BE/?spm_id_from=333.337.search-card.all.click&vd_source=920f8a63e92d345556c1e229d6ce363f李沐老师讲解trans......