谷歌提出嵌套学习（Nested Learning）架构，解决“灾难性遗忘”问题-IT新闻-PHP中文网

谷歌提出嵌套学习（Nested Learning）架构，解决“灾难性遗忘”问题

DDD

发布： 2025-11-10 20:18:01

原创

576人浏览过

谷歌提出嵌套学习（nested learning）架构，解决“灾难性遗忘”问题

根据谷歌官方发布的消息，NeurIPS 2025 大会收录了一项由该公司研发的重要研究成果——一种名为 Nested Learning（嵌套学习）的全新机器学习方法，专注于应对长期困扰AI领域的“灾难性遗忘”难题。

该研究突破了传统机器学习中模型结构与优化算法相互独立的设计范式，转而将整个模型视为一个由多层嵌套优化问题构成的整体。通过引入多时间尺度参数更新机制和连续记忆系统，新旧知识得以在训练过程中协同保存，避免信息覆盖。

嵌套学习的核心理念在于，允许模型各组成部分以不同的节奏进行更新，揭示出如 Transformer 这类主流架构本质上可被理解为多个具有不同更新频率的线性层组合。这种统一架构下的多频更新机制，在结构上与人脑中的神经波动及突触可塑性高度相似。研究人员由此提出“更新频率”的概念——即每个模块参数调整的速率，并据此构建出有序的层级化学习结构。

基于这一理论框架，团队设计了名为 Hope 的验证性架构，具备自我修改能力和可无限扩展的学习层级。