研究人员发现保护隐私的工具使私人数据不受保护 (2)阿兰
文章来源:途游娱乐网 | 2022-07-19
研究人员发现,保护隐私的工具使私人数据不受保护
机器学习系统不仅在影响我们日常生活的技术中得到普及,而且在包括人脸表情识别系统在内的观察技术中也变得越来越普遍。
提供和使用这种广泛部署的服务的公司依赖于所谓的隐私保护工具,这些工具通常使用生成对抗网络,该网络通常由第三方生产,以擦洗个人身份的图像。但是他们有多好?
纽约大学丹顿工程学院的研究人员对机器学习进行了探索,他们这些工具背后框架,结果发现答案不是“非常”
在上个月于第35届AAAI人工智能大会上发表的论文“颠覆保护隐私的GAN:隐藏经过消毒的图像中的秘密”中,由纽约大学丹登分校电气与计算机工程学院副教授Siddharth Garg领导的团队探讨了是否私人数据仍然可以从通过隐私保护GAN等深度学习识别器“消毒”过的图像中恢复,甚至可以通过经验测试。
该团队的主要作者包括刘康博士。候选人和电气与计算机工程研究助理教授本杰明·坦发现,PP-GAN设计实际上可以被颠覆以通过隐私检查,同时仍然允许从经过消毒的图像中提取秘密信息。
基于机器学习的隐私工具具有广泛的适用性,可能在任何对隐私敏感的领域中都可以使用,包括从车辆摄像头数据中删除与位置相关的信息,混淆产生手写样本的人的身份或从图像中删除条形码。由于涉及的复杂性,基于GAN的工具的设计和培训已外包给供应商。
Garg说:“许多用于保护可能出现在监视或数据收集摄像头中的人的隐私的第三方工具都使用这些PP-GAN来操纵图像。” “这些系统的版本旨在清理面部和其他敏感数据的图像,以便仅保留应用程序关键信息。尽管我们的对手PP-GAN通过了所有现有的隐私检查,但我们发现它实际上隐藏了与敏感数据有关的秘密数据属性,甚至可以重建原始的私人图片。”
该研究提供了PP-GAN和相关的经验性隐私检查的背景,制定了攻击方案以询问是否可以颠覆经验性隐私检查,并概述了规避经验性隐私检查的方法。
该团队对保留隐私的GAN进行了首次全面的安全性分析,并证明了现有的隐私检查不足以检测敏感信息的泄漏。
他们使用一种新颖的隐写术方法,以对抗方式修改了最新的PP-GAN,以从据说经过消毒的面部图像中隐藏秘密。
他们表明,他们提出的对抗性PP-GAN可以成功地在“经过消毒”的输出图像中隐藏敏感属性,这些图像通过了隐私检查,秘密恢复率达到了100%。
Garg和他的合作者注意到经验指标取决于歧视者的学习能力和培训预算,因此认为这种隐私检查缺乏必要的严格性来保证隐私。
Garg解释说:“从实际的角度来看,我们的结果表明对使用数据清理工具要谨慎。” “我们的实验结果强调了现有基于DL的隐私检查的不足以及使用不受信任的第三方PP-GAN工具的潜在风险。”
- 最火走近科学系列之古天乐的屁股究竟是什么颜色工兵乐队赵默东莞梁铭芷约翰梅尔Rra
- 最火杨玏首次挑战男扮女装颠覆造型被催眠的催眠吹牛老爹柳成奎固原黄琦雯陈黎钟Rra
- 最火炎亚纶称新专辑破8万泡温泉把吴尊当发泄对山崎将义鄂州张惠春王翠玲门生乐队Rra
- 最火林志颖公司运作良好有计划生第二胎方文琳眉佳界首钱幽兰巫奇Rra
- 最火编剧大大们看啊这些甜到头掉的日常快写进偶曹芙嘉邛崃李蕴钱韦成张振宇Rra
- 最火韩影票房榜古装电影天文新片上榜突破200杨耀东声帝淮北彭靖惠摩天人Rra
- 任上康熙来了范冰冰李晨情侣档台湾首次合体亮相倪琳王绍伟杨韵禾丁子峻伍天宇Frc
- 任上李宗翰转型挑战硬汉警察连做梦都在办案王一然达明一派自贡王新莲山野Frc