6.3.2 元学习（Meta-Learning）框架
元学习（Meta-Learning），也称为“学习如何学习”，是一种机器学习方法，其目标是让模型能够通过学习任务的经验，更好地适应新任务。元学习试图使模型能够在面对新任务时更快、更有效地进行学习，以便在少量的样本上达到良好的性能。元学习的主要思想是将学习任务视为一个嵌套的过程，其中模型在外层学习如何适应不同的任务（元学习），在内层学习特定任务的具体知识。
1. 元学习的核心思想
元学习（Meta-Learning）又称“学会学习”（Learn to Learn），其目标是让模型通过多个相关任务的训练，学会如何快速适应新任务或在小样本条件下（如1-shot、6-shot）完成学习。与传统机器学习从头开始学习单个任务不同，元学习通过跨任务的知识迁移，提升模型对新任务的泛化能力和学习效率。
2. 元学习的工作原理
元学习包括两个关键阶段：元训练和元测试。在元训练阶段，基础学习器模型提供了一系列任务，目标是发现这些任务中的共同模式，并获取可用于解决新任务的广泛知识。在元测试阶段，通过向基础学习模型布置它在训练时没有遇到过的任务，来评估它的性能。衡量模型有效性的标准，是它利用所学知识和普遍理解力适应新任务的能力和速度。
3. 元学习框架的核心组件
元学习框架通常包含以下核心组件：
（1）任务（Task）划分
- 任务定义：每个任务对应一个具体的学习目标（如分类、回归），通常由支持集（Support Set）和查询集（Query Set）组成。支持集用于任务内训练的少量样本（如N-way K-shot中的K个样本）。查询集用于评估模型在该任务上的性能。
- 任务集：在元训练阶段，模型会接触多个任务（如不同类别的分类任务），通过这些任务学习通用规律。
（2）双层优化结构：元学习是典型的双层优化问题（Bilevel Optimization），包含两个关键参与者：
基学习器（Base-Learner）：功能是针对单个任务，在支持集上进行快速适应（如通过梯度更新调整参数）。基学习器的目标是通过任务内的少量样本（支持集）学习任务特异性知识。基学习器的输出是更新后的任务特定参数，用于在查询集上评估性能。
元学习器（Meta-Learner）：功能是从多个任务中归纳共性，学习“如何学习”的策略（如初始化参数、学习率调整规则）。元学习器的目标是优化元参数（如初始化权重或网络结构），使基学习器在新任务上仅需少量样本即可快速适应。
（3）数据划分层级
元学习的数据划分与传统机器学习不同，采用任务级划分：
- 元训练集（Meta-Training Set）：包含多个任务（如不同类别的分类任务），每个任务有支持集和查询集。
- 元测试集（Meta-Testing Set）：包含未见过的新任务，用于评估模型的泛化能力。
- 举例：在N-way K-shot分类中，每个任务可能包含N个类别，每个类别K个支持样本，模型需通过这些样本快速学习新类别。
例如下面的例子展示了一个基于元学习（MAML）框架的 FashionMNIST 分类任务，通过构造支持集和查询集，实现了模型在内循环快速适应和外循环元参数更新。在元测试阶段，利用更新后的参数对新任务进行评估，从而验证了模型在少样本情况下的快速学习与泛化能力。