当“遗忘”无需成本:利用低影响力数据点降低机器学习计算开销

苹果机器学习研究团队提出,在模型遗忘任务中,对训练数据中影响可忽略的点无需逐一移除,从而降低计算成本。通过对比语言与视觉任务中的影响力函数,他们识别出对模型输出影响极小的数据子集,并据此优化遗忘流程。该方法挑战了现有遗忘技术对所有遗忘集数据点一视同仁的做法。

摘要

苹果机器学习研究团队提出,在模型遗忘任务中,对训练数据中影响可忽略的点无需逐一移除,从而降低计算成本。通过对比语言与视觉任务中的影响力函数,他们识别出对模型输出影响极小的数据子集,并据此优化遗忘流程。该方法挑战了现有遗忘技术对所有遗忘集数据点一视同仁的做法。

原文链接

本站已稳定运行: 计算中... 天 | 博客: 32 篇 | 字数: 26276
使用 Hugo 构建
主题 StackJimmy 设计