差分隐私

2018-09-09 13:11:08

差分隐私（英语：differential privacy）是密码学中的一种手段，旨在提供一种当从统计数据库（英语：Statistical database）查询时，最大化数据查询的准确性，同时最大限度减少识别其记录（英语：Row (database)）的机会。

动机

设想一个受信任的机构持有涉及众多人的敏感个人信息（例如医疗记录、观看记录或电子邮件统计）的数据集，但想提供一个全局性的统计数据。这样的系统被称为统计数据库。但是，提供有关数据的综合性统计也可能揭示一些涉及个人的信息。事实上，当研究人员链接两个或多个分别无害化处理的数据库来识别个人信息时，各种公共记录匿名化的特殊方法都失效了。而差分隐私就是为防护这类统计数据库脱匿名技术而形成的一个隐私框架。

Netflix奖

举例来说，2006年10月，Netflix提出一笔100万美元（英语：Netflix Prize）的奖金，作为将其推荐系统改进达10%的奖励。Netflix还发布了一个训练数据集供竞选开发者训练其系统。在发布此数据集时，Netflix提供了免责声明：为保护客户的隐私，可识别单个客户的所有个人信息已被删除，并且所有客户ID已用随机分配的ID sic替代。

Netflix不是网络上唯一的电影评级门户网站，其他网站还有很多，包括IMDb。个人可以在IMDb上注册和评价电影，并且可以选择匿名化自己的详情。德克萨斯州大学奥斯汀分校的研究员Arvind Narayanan（英语：Arvind Narayanan）和Vitaly Shmatikov将Netflix匿名化的训练数据库与IMDb数据库（根据用户评价日期）相连，能够部分反匿名化Netflix的训练数据库，危及到部分用户的身份信息。^[1]

马萨诸塞州集团保险委员会（GIC）医疗数据库事件

卡内基梅隆大学的Latanya Sweeney（英语：Latanya Sweeney）的将匿名化的GIC数据库（包含每位患者的出生日期、性别和邮政编码）与选民登记记录相连后，可以找出马萨诸塞州州长的病历。

元数据与流动数据库

MIT的De Montjoye等人引入了单一性（英语：Unicity distance）（意为独特性（英语：uniqueness））概念，显示出4个时空点、近似地点和时间就足以唯一性识别一个150万人流动数据库中的95%用户。^[2]该研究进一步表明，即使数据集的分辨率较低，这些约束仍然存在，即粗糙或模糊的流动数据集和元数据也只提供很少的匿名性。

概要

现实世界中对差分隐私的采用

至今为止，比较知名的采用差分隐私的应用如下：

美国人口普查局，展示通勤模式
Google的RAPPOR，用于遥测，例如了解统计劫持用户设置的恶意软件（RAPPOR's open-source implementation）
Google，分享历史流量统计信息。
2016年6月13日，苹果公司宣布其在iOS 10中使用差异隐私，以改进其虚拟助理和建议技术，^[3]
在数据挖掘模型中使用差异隐私的实际表现已有一些初步研究。^[4]

参见

Quasi-identifier（英语：Quasi-identifier）
Exponential mechanism (differential privacy)（英语：Exponential mechanism (differential privacy)）
k-anonymity（英语：k-anonymity）

参考资料

^ Arvind Narayanan, Vitaly Shmatikov. Robust De-anonymization of Large Sparse Datasets (PDF). IEEE Symposium on Security and Privacy: 111–125. 2008.
^ de Montjoye, Yves-Alexandre; César A. Hidalgo; Michel Verleysen; Vincent D. Blondel. Unique in the Crowd: The privacy bounds of human mobility. Nature srep. March 25, 2013 [12 April 2013]. doi:10.1038/srep01376.
^ Apple - Press Info - Apple Previews iOS 10, the Biggest iOS Release Ever. [16 June 2016].
^ Fletcher, Sam; Islam, Md Zahidul. Differentially private random decision forests using smooth sensitivity. Expert Systems with Applications. July 2017, 78: 16–31. doi:10.1016/j.eswa.2017.01.034.

外部链接

Differential Privacy by Cynthia Dwork, ICALP July 2006.
The Algorithmic Foundations of Differential Privacy by Cynthia Dwork and Aaron Roth, 2014.
Differential Privacy: A Survey of Results by Cynthia Dwork, Microsoft Research, April 2008
Privacy of Dynamic Data: Continual Observation and Pan Privacy by Moni Naor, Institute for Advanced Study, November 2009
Tutorial on Differential Privacy by Katrina Ligett, California Institute of Technology, December 2013
A Practical Beginner's Guide To Differential Privacy by Christine Task, Purdue University, April 2012
Private Map Maker v0.2 on the Common Data Project blog
Learning Statistics with Privacy, aided by the Flip of a Coin by Úlfar Erlingsson, Google Research Blog, October 2014