转导推理_归纳推理_转导学习_归纳学习

转导推理_归纳推理

【Def：传统推理方法：归纳推理】直到今天，传统的推理方法仍然是归纳-演绎法，人们首先用已有信息定义一个一般规则，然后用这个规则来推断所需要的答案（首先从特殊到一般，然后从一般特殊。）。

【Def：转导推理 Transductive Inference】转导推理的目的是估计某一位置预测函数在给定兴趣点上的值（而非函数全部定义域上的值）。

【转导和归纳的差别】转导推理推广性的届优于归纳推理相应的界（解决实际问题有优势），同时也是推广性哲理上的突破，转导推理直接进行从特殊到特殊的推理，避免问题中不适定部分（从特殊到一般），因此在转导推理执行的是不依赖于推广性思想的经验推理。

在统计学习中，转导推理（Transductive Inference）是一种通过观察特定的训练样本，进而预测特定的测试样本的方法。另一方面，归纳推理（Induction Inference）先从训练样本中学习得到通过的规则，再利用规则判断测试样本，常见的监督学习。然而有些转导推理的预测无法由归纳推理获得，这是因为转导推理在不同的测试集上会产生相互不一致的预测，这也是最令转导推理的学者感兴趣的地方，比如处理训练样本少的少样本学习方面就是种转导推理。

当我们把转导推理和归纳推理的思想应用到深度学习中，即为转导学习和归纳学习

转导学习_归纳学习

实际上我们平时所说的learning一般指的是inductive learning。

考虑普通学习问题，训练集为 

 ，测试（未标记） 

 ，众所周知， 

不会出现在训练集中。这种情况就是inductive learning。半监督学习的情况，训练集为 

 ，测试 

 ，此时， 

 与 

 都是未标记的，但我们测试的 

 在训练时没有见过，这种情况是 inductive semi-supervised learning。如果我们不管 

 ，而是想知道对 

 的效果怎么样时，由于此时在训练的时候我们已经见过 

 （利用了 

 的特征信息），这时就叫transductive semi-supervised learning。

简单来说，transductive和inductive的区别在于我们想要预测的样本，是不是我们在训练的时候已经见（用）过的。

通常transductive比inductive的效果要好，因为inductive需要从训练generalize到测试。