Unlearning at Scale: Implementing the Right to be Forgotten in Large Language Models 论文总结与翻译:《Unlearning at Scale: Implementing the Right to be Forgotten in Large Language Models》一、文章主要内容总结本文聚焦欧盟《通用数据保护条例》(GDPR)第17条规定的“被遗忘权”,针对大型语言模型(LLMs)的合规性难题,提出将模型“遗忘”(Unlearning)转化为可复现的系统级问题。核心思路是把LLM训练视为确定性程序,通过记录最小化的微批次日志(含有序样本ID哈希、随机数种子、学习率、优化器步数等),在满足确定性条件时,过滤“待遗忘数据”并回放训练过程,可得到与仅用“保留数据”训练完全一致的模型参数(训练数据类型下的位级一致)。为平衡延迟与可用性需求,文章设计了三条互补执行路径:近期步骤精确回滚:通过微检查点或每步密集增量,实现近期训练步骤的即时精确撤销;** cohort 范围适配器删除**:当基础模型冻结时,直接删除特定 cohort 训练的低秩适配器(LoRA),消除该 cohort 数据的影响;曲率引导反更新:紧急场景下,先基于曲率(如对角Fisher信息)计算反更新调整模型,再用保留数据微调,若审计不通过则升级为精确回放。此外,文章还构建了可审计的工作流(含签名遗忘清单记录所有操作与产物)、明确的

相关新闻

最新新闻

101页解读电力现货实战型交易策略【附全文阅读】

101页解读电力现货实战型交易策略【附全文阅读】

这份 101 页电力现货实战 PPT 是发电、售电企业交易全流程实操标杆材料,推介落地价值极强。文档从市场底层经济学原理切入,完整拆解集中式现货体系架构,对比山东、浙江、广东等多省交易、出清、结算细则,打通中长期合约、日前、实…

2026/8/26 18:06:40
Windows本地部署seaweedfs

Windows本地部署seaweedfs

文章目录SeaweedFS 本机 Windows 部署及冒烟测试1. 适用范围和实测结论2. 目录规划2.1 NAS 参考信息和字段说明3. S3 账号配置4. 启动服务4.1 启动 Master 和 Volume4.2 启动独立 Filer4.3 启动 S3 Gateway4.4 服务检查5. Postman 冒烟测试5.0 postman部署5.1 环境变量5.2 创建…

2026/8/26 18:06:40
TVA-World具身智能的跨代际知识传承研究

TVA-World具身智能的跨代际知识传承研究

前沿技术探索:TVA智能体(简称TVA)TVA智能体(亦称“AI智能体视觉”或“TVA视觉智能体”)是依托Transformer架构与“因式智能体”理论构建的系统级视觉技术框架。它融合深度强化学习(DRL)、卷积神…

2026/8/26 18:06:40
2026年佛山桂城少儿美术培训机构哪家好

2026年佛山桂城少儿美术培训机构哪家好

给娃选少儿美术机构怕踩坑?要么学半年只会抄模板没创造力,要么小机构经营不稳定中途闭店,要么后期想走艺考还要换机构折腾,佛山桂城的家长挑机构完全可以优先参考这几家。我表姐家娃今年读三年级,之前在小区楼下个人工…

2026/8/26 18:06:40
具身智能TVA-World跨负荷协同框架解析

具身智能TVA-World跨负荷协同框架解析

前沿技术探索:TVA智能体(简称TVA)TVA智能体(亦称“AI智能体视觉”或“TVA视觉智能体”)是依托Transformer架构与“因式智能体”理论构建的系统级视觉技术框架。它融合深度强化学习(DRL)、卷积神…

2026/8/26 18:06:40
AI大模型与数学·第54课 傅里叶变换入门:从周期傅里叶级数过渡到连续非周期信号变换,扩散模型、图像AI核心频域工具

AI大模型与数学·第54课 傅里叶变换入门:从周期傅里叶级数过渡到连续非周期信号变换,扩散模型、图像AI核心频域工具

本课定位 前面51~53课完整学习周期信号的傅里叶级数,所有信号必须满足周期性,才能拆分为离散倍频谐波叠加。 但现实AI中绝大多数数据没有周期性: 单张图片:像素分布无循环周期;完整人声语音:整段音频不存在…

2026/8/26 18:01:40