一家名不见经传的初创企业正在帮助执法部门将陌生人的照片与他们的在线图像进行匹配——有人说,这“可能会导致反乌托邦式的未来”。
Hoan ton-That开发的一个特效软件很热门,使用这个应用程序,用户能够把特朗普标志性的黄色头发移到自己的照片上。
后来,身为澳大利亚科技开发者和曾经的模特的Ton-That做了一件更重大的事情:他发明了一种工具,这种工具让人们无法再隐藏身份行走在大街上。他把这一工具提供给数百个执法机构,包括从佛罗里达州的当地警察到联邦调查局和国土安全部。
他的小公司Clearview AI设计了一款开创性的人脸识别应用。你给一个人拍了一张照片,上传到软件后就可以看到这个人所有的网络公开照片,以及那些照片出现的链接。这个系统的主干是一个包含30多亿张图片的数据库,Clearview声称这些图片是从Facebook、YouTube、Venmo和其他数百万个网站上搜集而来的,远远超出了美国政府或加州硅谷巨头曾经构建的任何照片数据库。
美国联邦和州执法官员表示,虽然他们对Clearview的运作方式和幕后主使只有有限的了解,但他们已经利用它的应用程序帮助解决了入店行窃、身份盗窃、信用卡欺诈、谋杀和儿童性剥削等案件。
然而,到目前为止,根据每个人的面部图像识别其身份一直是禁忌,因为它严重侵犯了个人隐私。一些有能力发布这种工具的科技公司也因此一直没有这样做;2011年,谷歌当时的董事长表示,这是该公司一直保留不发布的一项技术,因为它可能被“用在非常糟糕的地方”。包括旧金山在内的一些大城市已经禁止警察使用面部识别技术。
但据Clearview称,在没有公众监督的情况下,过去一年已有600多家执法机构开始使用Clearview。该公司拒绝提供名单。
《纽约时报》分析了其应用程序的计算机代码,其中包括将其与增强现实眼镜配对的编程语言;用户将有可能识别出他们看到的每一个人。该工具可以识别参加抗议活动的活动人士或地铁上有吸引力的陌生人,不仅可以显示他们的名字,还可以显示他们住在哪里,做了什么,认识谁。
另外,除了执法部门之外,Clearview还出于安全考虑向至少几家公司授权了该应用软件。
“该软件的武器化可能性是无穷无尽的,”圣克拉拉大学高科技法律研究所的联合主任Eric Goldman说,“想象一下该应用程序这样被应用:一个流氓执法官员想要跟踪潜在的浪漫伴侣,或者一个外国政府利用这一点来挖掘人们的秘密,敲诈他们或将他们投入监狱。”
Clearview一直将自己笼罩在神秘之中,避免就其突破边界的技术展开辩论。当我去年11月开始调查这家公司时,它的网站只有一个空页,上面显示着一个并不存在的曼哈顿地址,作为它的办公地点。该公司在领英上仅列出了一名员工,是一名名叫“John Good”的销售经理,此人原来就是该程序的开发者Ton-That,只不过用了一个假名。在我咨询后的一个月的时间里,这家公司的员工没有回复我的电子邮件或电话。
当公司躲避着我的时候,它也在监视着我。在我的请求下,大量的警察已经通过该公司的应用软件扫描了我的照片。他们很快就接到了公司代表的电话,询问他们是否在与媒体交涉,这表明Clearview公司有能力,也有意向监控执法部门在寻找谁。
面部识别技术一直存在争议。这让人们担心自己的个人隐私权。它有时会为某些群体提供错误的识别结果,比如有色人种。且警方使用的一些面部识别产品,包括Clearview的产品,还没有经过独立专家的审查。
Clearview的应用程序带有额外的风险:执法机构正在将敏感照片上传到一家公司的服务器上,而这家公司保护数据的能力尚未经过测试。
终于,这家公司开始回答我的问题,称它之前的沉默只是处于隐身模式的早期初创企业一向会做的。Ton-That承认设计了一款可用于增强现实眼镜的原型,但他说公司尚且没有发布计划。他还说,我的照片引起了他们的注意,是因为该应用程序“标记了可能的异常搜索行为”,以防止用户进行它认为的“不恰当的搜索”。
除了Ton-That之外,Clearview的创始人还包括Richard Schwartz,他是Rudolph W. Giuliani在担任纽约市长时的助手。此外公司还得到了Peter Thiel的资金支持,Peter Thiel是Facebook和Palantir的风险投资人。
公司的另一个早期投资者是一家名为Kirenaga Partners的小公司。Clearview的创始人David Scalzo对Clearview造成的相关隐私担忧不予理会,他说这是一个有价值的犯罪解决工具。
“我得出的结论是,由于信息不断增加,永远不会有隐私,”Scalzo表示,“法律必须决定什么是合法的,但你不能禁止技术。当然,这可能会导致一个反乌托邦式的未来,但你仍不能禁止技术。”
沉迷于人工智能
31岁的Ton-That在远离硅谷的地方长大。在他的祖国澳大利亚,他听着他的皇室祖先在越南的故事长大。2007年,他从大学辍学,搬到了旧金山。当时iPhone刚刚上市,他的目标是尽早进入他所预期的充满活力的社交媒体应用市场。但他早期的创业从未获得真正的成功。
2009年,Ton-That创建了一个网站,通过网站,人们可以与所有的通讯联系人分享视频链接。后来,该网站被贴上“网络钓鱼骗局”的标签,Ton-That只好关闭了它。2015年,他推出了“Trump Hair”软件(意为特朗普的头发),这个特效软件可以让人们在普通人的头部加上特朗普特征的金发。Ton-That还开发了另外一个照片分享工具,但是这些软件产品基本上都失败了。
沮丧之余,Ton-That于2016年搬到了纽约。他说,自己又高又瘦,留着一头长长的黑发,曾考虑过从事模特工作,但在尝试做了一次模特后,他又回到了工作中,试图挖掘出科技领域的下一个大事件。他开始阅读有关人工智能、图像识别和机器学习的学术论文。
Schwartz和Ton-That于2016年在保守派智库曼哈顿研究所的一场新书发布会上相识。现年61岁的Schwartz曾在上世纪90年代为Giuliani工作,积累了不错的人脉,并在21世纪初担任《纽约每日新闻》的社论版编辑。两人很快决定一起开发面部识别业务:由Ton-That开发应用程序,Schwartz利用他的人脉来吸引外界的商业兴趣。
其实,各国的警察部门已经使用面部识别工具将近20年了,但是在过去仅限于搜索政府提供的人脸图像,比如脸部照片和驾照照片。近年来,面部识别算法的准确性有所提高,亚马逊等公司提供的产品可以为任何图像数据库创建面部识别程序。
Ton-That想要做的远不止这些。2016年,他开始招募一些工程师。其中一人帮助设计了一个程序,可以自动收集互联网上的人脸图像,比如就业网站、新闻网站、教育网站,以及Facebook、YouTube、Twitter、Instagram甚至Venmo等社交网站。但这些公司的代表表示,他们的政策禁止这种人脸图像采集行为,而Twitter则明确禁止将其数据用于面部识别。
另一名工程师负责完善一种从学术论文中衍生出来的面部识别算法。最终,他们创造出了一个被Ton-That所描述为“最先进的神经网络”的系统,它能基于面部几何形状——比如一个人的眼距有多远,将所有的图像转换成数学公式或向量。 Clearview创建了一个巨大的目录,将所有带有相似向量的照片聚集到“社区”中。当用户上传一张脸的照片到Clearview的系统时,它会将这张脸转换成一个矢量,然后显示出该矢量领域中所有采集到的照片,以及这些图片来源的网站链接。
Schwartz支付了服务器成本和基本费用,但公司运作十分简单——每个人都在家工作。“我靠信用卡过日子,”Ton-That说,“另外,我是比特币的信徒,所以我有一些比特币。”
该人脸识别程序通过警方的试用引起轰动
到2017年底,该公司已经开发出一个强大的面部识别工具,叫做Smartcheckr。但是Schwartz和Ton-That还不确定他们要卖给谁。
也许它可以用来审查家里雇佣的保姆,或者作为监控摄像头的附加功能。酒店大堂的保安也能够利用这个工具直接识别出客人身份,或者帮助酒店员工识别出客人的名字,怎么样?“我们考虑了所有的想法。”Ton-That表示。
该公司很快将其名称改为Clearview AI,并开始向执法部门营销软件。那时,该公司获得了第一轮外部投资者的资金:Thiel和Kirenaga Partners。值得一提的是,Thiel还因秘密资助Hulk Hogan的诉讼而出名,那起诉讼导致广受欢迎的网站Gawker破产。Thiel和Ton-That都是Gawker网站上负面新闻的主人公。
Thiel的发言人Jeremiah Hall称,“2017年,Thiel给了一位才华横溢的年轻创始人20万美元,两年后这笔钱转化成了Clearview AI的股权。”这是Thiel对该公司唯一的贡献——他与该公司无关。”
追踪初创企业投资的网站Pitchbook的数据显示,即使在2019年进行了第二轮融资之后,Clearview的规模仍然很小,累计从投资者那里筹集了700万美元。该公司拒绝向媒体确认投资金额。
今年2月,印第安纳州警方开始对Clearview进行试验。他们在使用这款应用的20分钟内解决了一起案件。两名男子在公园里打架,其中一人朝另一人的肚子开枪。一名旁观者用手机记录了犯罪过程,因此警方可以通过Clearview的应用程序查看枪手的其他图片。
他们很快就找到了匹配的人:这名男子出现在有人发布在社交媒体上的视频中,他的名字也出现在了视频的字幕中。“他没有驾照,成年后也没有被逮捕,所以他不在政府的数据库中,”时任印第安纳州警长的Chuck Cohen说。
这名男子被逮捕并受到指控;Cohen表示,如果没有在社交媒体上搜索他的脸的能力,他可能不会被认出来。据Clearview称,印第安纳州警方成为该公司的第一个付费客户。(警方拒绝置评,只是说他们测试了Clearview的应用。)
Clearview找了现任和前任共和党官员来接近警察部队,提供免费试用和年度许可证,费用低至2000美元。据Ton-That称,Schwartz利用他的政治关系向政府官员介绍了这个面部识别系统。(“我很高兴有机会帮助Hoan把Clearview打造成一个以使命为导向的组织,帮助执法部门保护儿童,加强全国各地社区的安全,”Schwartz通过发言人说。)
该公司最有效的销售技巧是为警察提供30天的免费试用,然后警官鼓励他们的采购部门注册软件,并在会议和在网络向其他警察部门的警官称赞该工具。就这样,Ton-That开发的软件终于引起了轰动。
7月,美国新泽西州克利夫顿的一名侦探在一封电子邮件中敦促他的上司购买该软件,因为它“能够在几秒钟内识别出嫌疑人”。在该部门的免费试用过程中,Clearview利用软件指认出了商店扒手、苹果商店窃贼和一名见义勇为的人,这名见义勇为的人殴打了一名持刀威胁他人的歹徒。
这名侦探在电子邮件中写道,“我们可以用长焦镜头秘密拍摄照片再传到软件上进行识别,而不使用警方的跟踪监控操作。”这封邮件是由两位研究人员提供给时报的。去年年底,他们在调查当地警察部门如何使用面部识别时发现了Clearview。
据《纽约时报》看到的一份Clearview销售报告显示,该应用程序帮助识别了分类人群:一个人被指控性虐待儿童的人,他的脸出现在了别人健身房里的镜子里;亚特兰大一系列邮箱失窃事件的幕后黑手;阿拉巴马州人行道上发现的死亡的无名氏;以及多起银行身份欺诈案件的嫌疑人。
去年夏天,在佛罗里达州的盖恩斯维尔,美国警探Nick Ferrara在Clearview在CrimeDex上做广告时听说了这家公司。CrimeDex是专门为金融犯罪调查人员提供的。他说,他以前只依赖于国家提供的面部识别工具FACES,该工具是从佛罗里达州3000多万张脸部照片和机动车辆管理局的照片中提取信息。
Sergeant Ferrara发现Clearview的应用程序更高级。它的全国图像数据库要大得多,而且与人脸不同,Clearview的算法不需要人们直视摄像头的照片。
“使用Clearview,你可以使用不完美的照片,”费拉拉警官说。“一个人可以戴着帽子或眼镜,也可以是侧面照或脸部的局部特写。”
他把自己的照片上传到系统,系统就调出了他在社交支付网站Venmo的个人资料页面。他上传了一些老旧案件的照片,从而确认了30多名嫌疑人的身份。9月,盖恩斯维尔警察局支付了10000美元购买了一年的该软件的许可证。
据该公司和政府官员说,包括联邦调查局和国土安全部在内的联邦执法部门以及加拿大执法部门也在试用该软件。
尽管Clearview越来越受欢迎,但直到2019年底,Clearview才被公众所知,当时佛罗里达州的检察官指控一名女子犯有重大盗窃罪,原因是她在克莱蒙特的一家王牌五金店偷了两个烤架和一个真空吸尘器。警方将监控录像上传到Clearview,从而找到了她的Facebook页面,随后确认了她的身份。根据该案的相关文件,监控视频和Facebook照片中都可以看到的纹身证实了她的身份。
“我们都完蛋了”
Ton-That说这个工具并不总是有效。Clearview数据库中的大多数照片都是在与眼睛水平的高度拍摄的。警方上传的大部分材料来自安装在天花板或高墙上的监控摄像头。
“他们把监控摄像头放得太高了,”Ton-That感叹道。“这个角度不适合人脸识别。”
尽管如此,该公司表示,它的工具在75%的情况下都能找到匹配项。但目前尚不清楚该工具提供虚假匹配的频率,因为它还没有经过美国国家标准与技术研究院等独立机构的测试,这一家评估人脸识别算法性能的联邦机构。
“我们没有数据表明这个工具是准确的,”乔治敦大学隐私与技术中心的研究员Clare Garvie说。“数据库越大,‘二重身’效应导致的错误识别风险就越大。他们指的是在互联网上随机找到的大量人群的数据库。”
但现任和前任执法官员表示,该应用程序是有效的。“对我们来说,试用过程的重点是它是否有效,”前印第安纳州警长Cohen表示。
Clearview流行的一个原因是它的服务是独一无二的。这是因为Facebook和其他社交媒体网站禁止人们抓取用户的图片——Clearview违反了这些网站的服务条款。
“很多人都在这么做,”Ton-That耸了耸肩。“Facebook知道的。”
Facebook发言人Jay Nancarrow表示,公司正在与Clearview一起审查这一情况,“如果我们发现他们违反了我们的规定,将采取适当的行动”。
Clearview的投资者Thiel是Facebook的董事。Nancarrow拒绝就Thiel的个人投资置评。
一些执法官员说,他们没有意识到自己上传的照片被发送到Clearview的服务器上并存储在那里。Clearview试图通过向潜在客户提供一份F.A.Q.文件来消除人们的担忧,该文件称其以客户为先的员工不会查看警方上传的照片。
Clearview公司还聘请了George W. Bush总统时期的任美国总检察长的Paul D. Clement,以减轻人们对该应用程序合法性的担忧。
在Clearview今年8月提供给潜在客户(包括亚特兰大警察局和佛罗里达州皮内拉斯县警长办公室)的一份备忘录中,Clement表示,执法机构“在出于既定目的使用Clearview时,不违反联邦宪法或相关的现行州生物特征和隐私法”。
Clement现在是Kirkland & Ellis律师事务所的合伙人,他写道,当局没有必要告诉被告他们是通过Clearview被指认的,只要这不是获得逮捕令的唯一依据。Clement没有回复记者的多次置评请求。
备忘录似乎很有效:亚特兰大警察和皮内拉斯县治安官办公室很快开始使用Clearview。
Ton-That表示,他的公司只使用公开的图片。他说,如果你改变了Facebook的隐私设置,使搜索引擎无法链接到你的个人资料,你在Facebook上的照片就不会被包括在数据库中。
但如果你的资料已经被搜罗了,那就太晚了。尽管这些图片后来可以被删除或撤下,该公司仍保留所有被采集的图像。但Ton-That表示,该公司正在开发一种工具,可以让人们在图片从网站上撤下后要求删除公司采集的图像。
位于波士顿的东北大学的法律和计算机科学教授Woodrow Hartzog认为Clearview是美国应该禁止面部识别的最新证据。
Hartzog称,“我们依靠行业的努力进行自我监督,不接受这种有风险的技术,但现在这些大坝正在破裂,因为金钱的诱惑。”他说:“我不认为在不严重滥用监视器的情况下,我们利用面部识别技术有什么未来(我认为大量利用面部识别技术随之而来的可能是监视的泛滥)。阻止它的唯一方法就是禁止它。”