ICML 2026 | 突破极限！港大提出首个适配300+任务的持续学习架构，破解遗忘难题

本文第一作者：香港大学计算与数据科学学院博士生 娄蒙

人类具备在一生中持续获取新知识而不遗忘旧技能的突破提出题能力，但这却是极限解遗当前人工智能模型面临的巨大挑战。在传统的港大构破深度学习范式中，模型在学习新任务时，首个适配参数更新往往会覆盖历史知识，任务导致经典的续学习架“灾难性遗忘”（Catastrophic Forgetting）现象。持续学习（Continual Learning）正是忘难为了解决这一瓶颈而诞生的前沿研究方向。

其中，突破提出题类增量学习（Class-Incremental Learning,极限解遗 CIL）是持续学习中极具挑战性的一类问题：模型需要在不断引入新类别的同时，保持对历史类别的港大构破精准识别能力。尽管近年来借助大规模预训练模型（Pre-trained Model,首个适配 PTM）的丰富先验知识，CIL 取得了显著进展，任务但现有方法大多仅在短序列（如5-20个任务）上进行验证。续学习架一旦任务规模扩展至百级以上，忘难模型性能便会显著下滑甚至崩溃。突破提出题然而，在真实世界的长期运行系统中，系统需要不断吸收新概念，这一“长序列”鸿沟亟待填补。

近日，香港大学研究团队提出了一种全新的持续学习范式 CaRE(Scalable Continual Learner with efficient Bi-Level Routing Mixture-of-Experts)，首次将连续学习成功扩展至包含 300+ 个非重叠任务的超长序列，并在性能上大幅超越现有基线算法。此外，团队还构建了极具挑战性的超长序列评测数据集 OmniBenchmark-1K。目前，代码与数据已全面开源！

论文标题：Scaling Continual Learning to 300+ Tasks with Bi-Level Routing Mixture-of-Experts
论文链接：https://arxiv.org/abs/2602.03473
代码 & 数据链接：https://github.com/LMMMEng/CaRE

研究动机

近年来，基于参数高效微调（PEFT）和预训练模型的持续学习方法虽取得进展，但仍存在三大核心痛点：

1. 缺乏多任务知识互补：随着任务序列增长，新任务往往包含与历史任务语义相关的类别（如不同种类的动物）。模型应具备从历史相关任务（如“动物”）中提取特征的能力，而非从无关任务（如“建筑物”）中检索，以实现知识的有效迁移。
2. 缺乏逐层动态决策能力：深度神经网络的不同层级蕴含不同粒度的语义信息。每一中间层都需要动态检索并注入适配自身层级的定制化知识，以生成最优表征。
3. 评测数据集“不够长”：现有常用基准（如 ImageNet-R）类别有限，仅支持短序列评测，导致现有方法在真实长程场景下的表现成谜。

方法设计

1. 双阶段路由混合专家（Bi-Level Routing Mixture-of-Experts, BR-MoE）

CaRE 基于预训练 ViT 架构，在每个 Transformer Block 中无缝嵌入 BR-MoE模块。面对新任务，BR-MoE 仅学习一组轻量级三元参数组合：类感知器（Class Perceptron）、路由网络（Router Network）和专家适配器（Expert Adapter）。

图 1 BR-MoE 工作流程：(a) 基于 BR-MoE 的 ViT build block；(b) 训练流程；(c) 推理流程

BR-MoE 的核心创新在于两阶段路由机制，旨在同时实现“判别性”与“全面性”两大目标：

① 动态路由器选择（第一阶段）

对于任意输入，BR-MoE 将其 [CLS]Token 送入所有历史任务的类感知器，逐层计算每个任务对应的预测熵值。
* 逻辑：熵值越低，表明该任务与当前输入的语义分布越接近，越可能是正确的源任务。
* 执行：BR-MoE 动态选取熵值最小的 Top-M个路由网络。
* 优势：无需显式任务标签，且每一层独立执行此逻辑，实现了逐层自适应的动态路由。

② 动态专家路由（第二阶段）

激活的路由网络为其名下的专家适配器生成动态权重分数，选出 Top-K个最相关的专家进行加权融合，提取具有判别性和互补性的知识。
* 全局共享：同时，一个通过 EMA（指数移动平均）机制持续更新的共享专家始终参与计算，确保全局跨任务通用知识的持续积累与注入。

设计直觉：第一阶段锁定“最相关任务群”，第二阶段在群内精选互补专家。这种协同机制使模型既能输出适配当前输入的“判别性特征”，又能检索相关的“互补性特征”，形成强大的“全面性特征”。由于每层独立执行，模型从浅层模式到深层语义均具备自适应知识检索能力。

2. 持续学习新基准：OmniBenchmark-1K

为填补长序列评测空白，团队同步贡献了 OmniBenchmark-1K数据集。

• 规模：精选 1000 个类别，包含约 190,000 张图像。
• 领域：横跨鸟类、食物、植物、动作等 21 个视觉领域。
• 兼容性：已排除与 ImageNet 的重叠数据，确保可无缝使用 ImageNet 预训练模型。
• 意义：相比仅含200类别的 ImageNet-R，OmniBenchmark-1K 支持将任务数量扩展至 100、200 乃至 300+，为评估模型应对极长任务序列的能力提供了坚实平台。

实验结果

1. 长序列持续学习全面领先

研究团队在 OmniBenchmark-1K 上设置了 100、151、200 乃至 301 个任务的超长序列评测。结果显示：
* 许多在短序列中表现优异的方法在长序列中性能急剧崩溃，暴露了可扩展性瓶颈。
* CaRE 始终保持稳健的学习轨迹，大幅领先于现有基线算法。

表 1CaRE 与其他持续学习方法在 OmniBenchmark-1K 长序列评测上的性能对比

图 2CaRE 与其他持续学习方法在长序列评测上的趋势对比

2. 经典短任务序列 “同样能打”

不仅在长序列中表现卓越，CaRE 在 ImageNet-R、ImageNet-A、ObjectNet 等经典短序列评测中也稳居榜首，证明了其在可塑性（Plasticity）和稳定性（Stability）之间的完美平衡。

表 1CaRE 与其他持续学习方法在经典设置下的对比

3. 深入分析：模型真的学会了 “精准回忆” 吗？

通过对 CaRE 内部路由激活模式的可视化，我们发现了有趣的现象：

• 浅层网络 “通用”，深层网络 “专一”：
• 在浅层（如 Layer#3/6），少数专家被高频调用，负责提取通用的底层视觉特征（如边缘、纹理）。
• 在深层（如 Layer 12），激活模式变得稀疏且高度“任务特异性”，契合深层网络提取高层抽象语义进行精确分类的需求。
• 测试时的知识穿越：
• 在推理阶段，即使处理早期任务，模型也会动态调用从后续任务学到的互补专家知识。
• 这证明 BR-MoE 赋予了模型在测试阶段灵活整合全局知识的能力。

图 3BR-MoE 激活情况可视化

总结与展望

CaRE是目前首个被系统验证能在 300+ 无重叠任务上稳健运行的持续学习方法，同时在经典短序列设置中保持全面领先。其提出的 BR-MoE机制统一了判别性与全面性两大表征目标，并将动态知识检索能力注入每一个网络层，构建了一个强大且可扩展的持续学习系统。

此外，CaRE 的双层路由思路理论上可应用于跨模态持续学习（如图像、语言和音频的联合序列学习），有望成为下一个研究风口。

在 AI 模型向长期部署迈进的当下，我们希望通过 CaRE 及配套的 OmniBenchmark-1K基准，为探索持续学习提供有价值的参考，并激励更多研究者投身于构建真正能 “越学越强”的持续学习系统。

更多技术细节和实验分析请参考原文：https://arxiv.org/abs/2602.03473

(责任编辑：探索)