什么是无监督领域自适应(Unsupervised Domain Adaptation)?
无监督领域自适应(Unsupervised Domain Adaptation,UDA)是一种迁移学习设定:源域有标注数据,目标域只有无标注数据,模型需要借助两者在目标域上取得良好表现。它针对的是深度模型在分布偏移下性能下降的问题,常见做法是同时对齐源域与目标域的表征并保持可判别性。
无监督领域自适应(Unsupervised Domain Adaptation,UDA)是迁移学习中的一种设定:在源域(source domain)上拥有带标注的训练数据,而目标域(target domain)只有无标注数据,训练的目标是让模型在目标域上取得良好表现。它要解决的问题是:深度模型虽然在源域上训练成功,但一旦测试数据来自分布不同的目标域,性能就未必能得到保证,尤其是遇到分布外(out-of-distribution)数据时。
为什么重要
按照 arXiv:2208.07422 这篇综述的表述,深度学习之所以成为处理各领域现实问题的首选方法,部分原因在于它能够从数据中学习并在广泛的应用上取得令人印象深刻的性能。但该综述同时指出,这种成功通常依赖两个假设:其一,需要大量带标注的数据集才能完成准确的模型拟合;其二,训练数据与测试数据是独立同分布的。
这两个假设在真实部署中经常不成立。标注成本高昂,而采集到的数据往往来自与训练集不同的环境、设备、传感器或人群。当训练与测试分布不一致时,模型在未见过的目标域上的表现就没有保证。该综述把这种「在源域上训练成功的深度神经网络,部署到目标域数据上时性能下降」的问题,称为部署中的关键问题。
传统的应对方式大致有几类:一是为目标域重新标注数据并重新训练,代价是标注成本;二是直接在目标域上做无监督或自监督学习,但缺少任务标签;三是只做领域泛化(domain generalization),即不接触目标域数据、只求模型对任意未见域都稳健。无监督领域自适应走的是另一条路:它允许在训练阶段使用目标域的无标注数据,但不要求目标域有任何标签。该综述指出,UDA 正是为应对上述问题而提出的,它同时利用带标注的源域数据和无标注的目标域数据,来完成目标域上的各类任务。
工作机制
UDA 的核心思路可以概括为「对齐 + 保持可判别性」。arXiv:1909.11825 这篇论文把问题描述为:在源域上有标注训练数据,而目标域只有无标注数据,目标是让模型在目标域上表现良好。该论文延续了大量先前工作的思路——在对齐源域与目标域所学表征的同时,保持可判别性(discriminability)。
该论文给出的具体做法是:通过自监督(self-supervision)来达成对齐。其要点包括:
- 在源域和目标域上同时学习执行辅助的自监督任务(auxiliary self-supervised task(s))。
- 每一个自监督任务都会沿着与该任务相关的方向,把两个域拉得更近。
- 把这个自监督目标与源域上的主任务分类器联合训练,论文称这样能够成功泛化到无标注的目标域。
- 论文称所提出的目标函数实现直接、易于优化。
从更一般的角度理解,UDA 方法通常包含两个层面。第一个层面是表征层面的对齐:让源域和目标域在特征空间中尽可能接近,使在源域上学到的决策边界能够迁移到目标域。第二个层面是任务层面的适配:在目标域上生成或利用伪标签、熵最小化、自训练等信号,让模型在目标域上继续收敛。arXiv:1909.11825 的做法属于前者的一种实现路径,即用自监督任务作为对齐的「抓手」,而不是直接对特征分布做显式的距离约束。
该论文还提到,其方法与另一种流行的像素级适配(pixel-level adaptation)方法可以很好地组合。这说明 UDA 中的表征对齐与输入层面的风格/外观转换并不互斥,实践中可以叠加使用。
arXiv:2208.07422 作为一篇综述,则从更宏观的层面做了系统性比较:它对该领域的方法与应用进行了系统对比,并讨论了 UDA 与其密切相关的任务之间的联系,例如领域泛化(domain generalization)与分布外检测(out-of-distribution detection)。该综述还指出了当前方法存在的不足,并强调了可能值得探索的方向。
典型例子
arXiv:2208.07422 的摘要列举了 UDA 已经取得有希望结果的若干应用方向,包括:自然图像处理、视频分析、自然语言处理、时间序列数据分析、医学图像分析等。该综述的学科分类同时落在计算机视觉与模式识别、人工智能、机器学习、图像与视频处理、信号处理等多个方向,反映出 UDA 是一个跨应用领域的方法族。
arXiv:1909.11825 则给出了更具体的实验性描述:该论文称其在七个标准基准中的四个上取得了当时的最优(state-of-the-art)结果,并在分割适配(segmentation adaptation)上取得了有竞争力的结果。该论文还展示了其方法与另一种流行的像素级适配方法组合良好。需要说明的是,这些结论出自该论文自身的报告,属于作者的主张。
在设定层面,一个典型的 UDA 场景是:源域为带标签的合成数据或某一采集条件下的数据,目标域为无标签的真实数据或另一采集条件下的数据;训练时同时使用源域标签与目标域无标签样本,评估时只在目标域上衡量性能。
边界与常见误解
误解一:UDA 不需要任何标签。并非如此。UDA 的「无监督」指的是目标域没有标签,源域的标签是必需的。arXiv:1909.11825 明确把设定描述为「源域有标注训练数据,目标域只有无标注数据」。
误解二:UDA 等同于领域泛化。两者相关但不同。领域泛化通常不接触目标域数据,追求对任意未见域的稳健性;UDA 则在训练阶段使用目标域的无标注数据。arXiv:2208.07422 把领域泛化列为与 UDA 密切相关的任务之一,并讨论了二者的联系,这本身就说明它们是可区分、需对照的概念。
误解三:对齐越彻底越好。arXiv:1909.11825 强调的目标是「对齐的同时保持可判别性」。如果只追求源域与目标域表征的接近,而牺牲了类别之间的可分性,主任务性能反而可能受损。该论文选择用自监督任务来引导对齐方向,正是为了避免无差别地拉近两个域。
已知代价与限制。arXiv:2208.07422 指出,该领域当前方法仍存在不足,并专门用一节强调这些不足与可能的有前景方向。这意味着 UDA 并非已经解决的问题。此外,UDA 的前提是能够获取目标域的无标注数据用于训练;如果目标域数据在训练时完全不可得,就不属于 UDA 的适用范围。该综述也提到,在适配阶段遇到分布外数据时,性能下降仍是关键问题。
关于结论归属。上述关于方法效果的具体说法,例如「在七个标准基准中的四个上取得最优结果」,来自 arXiv:1909.11825 这篇论文自身的报告,属于该论文的主张,不应被当作对整个 UDA 领域的普遍结论。同样,关于方法分类、应用范围与不足的判断,来自 arXiv:2208.07422 这篇综述的论述。