零样本学习（Zero-shot Learning）

零样本学习是一种机器学习的问题设置，其中模型可以对从未在训练过程中见过的类别的样本进行分类，使用一些形式的辅助信息来关联已见和未见的类别。例如，一个模型可以根据动物的文本描述来识别动物，即使它从未见过那些动物的图像。

实现零样本学习有不同的方法，取决于辅助信息的类型和学习方法。以下是一些例子：

• 一种方法是使用属性作为辅助信息，属性是对象的可观察特性，可以在类别之间共享。例如，一个属性可以是有条纹或有翅膀。模型可以在训练过程中学习将属性与已见类别关联起来，然后在推理过程中使用这些属性来推断未见类别。例如，如果模型知道老虎和斑马有有条纹这个属性，它就可以用这个信息来分类一个新类别奥卡皮，它也有条纹。

• 另一种方法是使用语义嵌入作为辅助信息，语义嵌入是类别的向量表示，捕捉它们的语义含义和相似度。例如，语义嵌入可以从词向量模型如Word2Vec或GloVe中获得。模型可以在训练过程中学习将图像特征映射到语义嵌入，然后在推理过程中使用这些嵌入来比较已见和未见类别。例如，如果模型知道狗和狼有相似的语义嵌入，它就可以用这个信息来分类一个新类别狐狸，它也有相似的嵌入。

• 第三种方法是使用对比学习作为一种学习方法，对比学习是一种自监督技术，通过对比正负样本对来学习表示。例如，一个对比学习模型可以通过比较同一动物的图像（正对）和不同动物的图像（负对）来学习区分不同的动物。模型可以使用这些表示来分类未见类别，通过在已见类别中找到最接近的匹配。例如，如果模型知道猫和狮子有相似的表示，它就可以用这个信息来分类一个新类别老虎，它也有相似的表示。

(1) Zero-shot learning - Wikipedia. https://en.wikipedia.org/wiki/Zero-shot_learning.

(2) Zero-Shot Learning | Papers With Code. https://paperswithcode.com/task/zero-shot-learning.

(3) Unleashing the Potential of Zero-Shot Classification Using ... - Medium. https://medium.com/aimonks/unleashing-the-potential-of-zero-shot-classification-with-contrastive-learning-1d2567ea1b13.

(4) What is Zero Shot Learning in Computer Vision? - Roboflow Blog. https://blog.roboflow.com/zero-shot-learning-computer-vision/.

零样本学习的数据集和基准有很多，不同的数据集和基准可能有不同的评估协议和数据划分。以下是一些例子：

- 一些常用的零样本学习的数据集是**aPY**，**AwA**，**CUB**等，它们都是在计算机视觉领域的动物或物体分类任务上的数据集。它们的基准是根据模型在未见类别上的分类准确率来评估的 ¹。

- 一个新的零样本学习的基准是**BEIR**，它是一个用于信息检索任务的异构基准，包含了18个来自不同领域和任务的公开数据集。它的基准是根据模型在检索相关文档或答案时的平均精度（MAP）和归一化折扣累积增益（NDCG）来评估的 ²。

- 另一个新的零样本学习的基准是**Zero-Shot Learning—A Comprehensive Evaluation of the Good, the Bad and the Ugly**，它是一个对现有零样本学习方法进行了全面评估和分析的工作，提出了一个统一的评估协议和数据划分，涵盖了13个不同领域和任务的数据集。它的基准是根据模型在未见类别上的分类准确率和泛化能力来评估的 ³。

Source: 
(1) Zero-Shot Learning | Papers With Code. https://paperswithcode.com/task/zero-shot-learning.
(2) Title: BEIR: A Heterogenous Benchmark for Zero-shot Evaluation of .... https://arxiv.org/abs/2104.08663.
(3) Zero-Shot Learning—A Comprehensive Evaluation of the Good, the Bad and .... https://ieeexplore.ieee.org/document/8413121/.