TIFS（IEEE Transactions on Information Forensics and Security），是信息安全领域国际顶级期刊之一，该期刊发表的文章包括对数字取证、隐写术、密码学、网络安全、多媒体安全等方面的原创研究成果，它在信息取证和安全领域具有较高的声誉和影响力，被推荐为CCF-A类期刊。

论文介绍

刊物/会议名称：IEEE TRANSACTIONS ON INFORMATION FORENSICS AND SECURITY

论文题目： Verifying in the Dark: Verifiable Machine Unlearning by Using Invisible Backdoor Triggers

论文作者：郭宇，赵钰，侯赛辉，王聪，贾小华

通讯作者：侯赛辉

论文概述：随着云计算与机器学习的快速发展，机器学习即服务(Machine Learning as a Service， MLaaS)也得到了广泛应用。在MLaaS系统中，用户可将数据外包给云服务提供商进行模型训练，进而使用训练得到的模型完成推理预测等服务。鉴于恶意的云服务提供商的存在,欧盟、美国等国家提出用户具有“遗忘权(right to be forgotten，RTBF) 。它要求MLaaS提供商在用户发起数据删除请求时按要求删除训练数据。然面，遗憾的是，现有研究在兼顾模型训练效率和服务质量的同时，尚未能有效实现机器学习遗忘的验证。此外，如何设计一套机制来防止云服务提供商通过伪造删除证据来欺骗用户，仍是一个亟待深入研究的课题。

本文提出了一种基于后门触发器的机器遗忘学习验证方案。该方案巧妙结合了后门攻击技术和增量学习理念，使用户能够在不牺牲模型性能和服务质量的前提下，有效验证MLaaS提供商是否确实执行了数据遗忘操作。通过在用户的隐私敏感数据中嵌入难以察觉的后门触发器作为隐形标记，我们成功防止了云服务提供商通过识别后门数据来伪造删除证据的行为。用户只需简单分析模型的预测结果，即可明确判断提供商是否遵守了数据删除请求。此外，我们还通过数据-模型的索引结构将验证方案融入高效的增量学习方法中，以进一步提升数据删除后模型重新训练的效率。在多个常用数据集上的评估结果证实了本文提出的可验证机器遗忘学习方案的高效性和有效性。