在美国新泽西州泽西市区的哈德逊河上空,一位名叫 Peter Cavicchia 三世的美国前特工为 J.P. 摩根运营着一项特殊业务。
大多数金融集团都有这样的机构,它们使用计算机算法来监控银行员工,防止公司受到内部背信弃义者或其它不法分子的损害。
Palantir Technologies 是一家从事数据挖掘的公司,2009 年,摩根大通成为其首家非政府客户。
它曾派遣 120 名现场工程师,帮助的 Cavicchia 团队收集摩根大通员工的信息,包括电子邮件、浏览器历史记录、公务相关智能手机的 GPS 定位、打印机的 GPS 定位、下载活动的 GPS 定位、通话录音的文本记录。
Palantir 利用软件对这些记录进行了汇总、搜索、分类和分析,找出 Cavicchia 团队认为可能滥用公司资产的关键字和行为模式。
例如,Palantir 的算法会提醒 Cavicchia 的团队,当员工比平常更晚开始上班时,意味着一种潜在的不满情绪。银行保安人员可能会在数小时后对该员工进行进一步审查并有可能对其进行人身监视。
然而,随着时间的推移,Cavicchia 自己也开始变得流氓起来。当时供职摩根大通的同事们将公司环境描述为华尔街版的《现代启示录》,其中,Cavicchia 扮演着 Kurtz 上校的角色,他的办公室套房比银行其他安全团队高八层,他从那里俯视一切。
他团队内部的人们感到无比的震惊,因为整个摩根大通竟然没有任何人设置任何数据访问的限制。他们暗地开玩笑说,Cavicchia 正在监听他们的通话、查看他们的电子邮件、监视着他们的一举一动。一些人故意在通话中放出一些假信息,看看卡维奇亚是否会在会议上提到它,而他的确这样做了。
当银行的高级管理人员了解到他们也被监视时,这一切都结束了,而大数据的专家和全球金融本来很有前景的一次联姻最后却变成了监视的丑闻。
这次从未有过的失败事件,也标志着 Palantir 这个作为硅谷最具有价值的创业公司之一将出现逆转。为全球反恐战争设计的情报平台却被用来监视普通的美国人民众。
2004 年,Peter Thiel 和一些 PayPal 的同事成立了 Palantir,公司干的第一件事就是在阿富汗和伊拉克为五角大楼和中央情报局工作。该公司的工程师和产品并不涉及任何间谍活动;他们更像是一个间谍的大脑,收集并分析从手,眼睛,鼻子和耳朵收到的各种信息。
该软件通过不同的数据源 - 财务文件,航班预订,手机记录,社交媒体消息的仔细搜索 - 寻找人类分析师可能会错过的联系。然后,将分析的结果通过色彩丰富,易于解读的图形呈现出来,整个分析结果看起来如同一个蜘蛛网。
美国的间谍和特种部队很快就喜欢上了这家公司;他们委任 Palantir 对战场情报的风险进行搜集整理。它帮助规划者避开路边炸弹,追踪暗杀叛乱分子,甚至被用于追捕本拉登。
军事上的成功为公司带来了有关平民监视的联邦合同。美国卫生及公共服务部利用 Palantir 检测医疗保险欺诈。联邦调查局利用其进行刑事调查。美国国土安全局部署它来筛选航空旅客并对移民进行密切关注。
纽约、新奥尔良、芝加哥和洛杉矶的警察和治安部门也使用了它,一些并没有被怀疑犯下任何罪行的人也经常被这种数字拉网式搜索所监控。
在 Palantir 屏幕上,人员和物体会基于关系打上各种标签:「某某同事」,「与...... 一起生活」,「[电话号码] 的所有人」,「车辆所有者」,「某某的兄弟姐妹」,甚至「某某的情人」。如果当局有一张照片,其余的一切就会很容易。通过查看驾照和身份证照片数据库,执法机构目前可以找出美国成年人一半以上的人。
摩根大通过去曾算是 Palantir 的研发实验室,通过一个名为 Metropolis 的产品成为了 Palantir 在金融领域的一个测试平台。
这两家公司的合作看起来很奇怪。Palantir 的软件工程师经常踩着滑板就出现在了银行。领带和发型没有太多的过问,但摩根大通对 T 恤衫进行了限制。程序员必须同意穿待领子的衬衫,并且尽可能将衬衫塞到裤子里。
随着 Metropolis 的安装和完善,摩根大通对 Palantir 进行了股权投资,并将该公司引入其 Hall of Innovation,而其高管在媒体上也是对 Palantir 大肆宣扬。
当时的摩根大通首席信息官 Guy Chiarello 在 2011 年告诉彭博商业周刊,该软件将「数据垃圾填埋场变为金矿」。
Cavicchia 负责银行的法庭证据调查。通过 Palantir,他获得了企业所有的安全数据库的管理访问权限,而这些数据库以前需要单独授权和特定商业理由才能获得。
通过一个分析平台,他可以随时随地访问所有内容,可以说是史无前例。他是由一个人组成的国家安全局,Palantir 工程师为其提供保驾护航,这些工程师每人每天花费银行高达 3000 美元。
高级调查人员偶然发现了间谍活动的全部范围。2013 年 5 月,该银行的领导层下令进行内部调查,以了解谁向《纽约时报》泄露了一份关于摩根大通可能操纵美国电力市场而受到联邦调查的文件。
有证据表明,泄密者可能是 Frank Bisignano,他最近辞去了摩根大通联合首席运营官的职位,成为 First Data Corp(大型支付处理商)的首席执行官。
Cavicchia 曾使用 Metropolis 获得有关泄密调查的电子邮件,其中一些调查是部分高层管理人员撰写。银行相信,他在 Bisignano 离开银行后与 Bisignano 分享了这些电子邮件和其他通信的内容。(在 JPMorgan 内部,Bisignano 被认为是 Cavicchia 的支持者,Bisignano 是一位保护他,给他升职的高级管理人员。)
摩根大通的高层间也曾就这一问题有过讨论,究竟是否要向银行监管机构提交内部安全违规的可疑交易报告,而依照法律,当银行怀疑企业有监管违规行为时,企业要向银监机构递交上述材料。从银行多个渠道获得的消息称,摩根大通高层决定不递交这份报告——这项决定在摩根大通内部也是颇有争议。
Cavicchia 与公司协商了离职协议,被迫辞职。随后 Cavicchia 加入了 First Data 与 Frank Bisignano 一起工作,现在是高级副总裁。Chiarello 同样也加入了 First Data,任总裁一职。
据一位坚持匿名的摩根大通高管透露,在 Cavicchia 与 Chiarello 双双离职之后,摩根大通大幅削减了 Palantir 的使用,其中部分原因是「Palantir 未达到其承诺的潜力。」
银行、First Data 以及 Bisignano、Chiarello 和 Cavicchia 等人未对针对本文邮件发送的问题作出回应。Palantir 在回答有关摩根大通等如何使用软件的问题的声明中,拒绝对具体问题作出答复。声明写道,
「我们意识到强大的技术有被滥用的风险,我们耗费大量的时间精力来确保我们的产品被积极的力量所使用。」
然而好/坏很大程度上是由公司来定义的。
今年 3 月,前剑桥分析(一家政治咨询公司,曾在 2016 的美国大选中为特朗普工作)计算机工程师在英国议会上作证时表示,Palantir 的员工曾为了协助剑桥分析开发单独选民的心理统计档案而使用了多达 8700 百万 Facebook 用户的私人数据。
Palantir 表示,公司有严格的政策,明令禁止参与包括竞选活动在内的政治问题,Palantir 还向彭博社出示了一些邮件证明公司曾多次拒绝剑桥分析的合作请求。至于那个与剑桥分析合作的员工,Palantir 解释道,他是在自己的时间中与剑桥分析进行的合作。
但是,这并不影响理解此次事件造成的影响:在互联网时代,所有的人际关系均被记录在案,并且随时可以被智能的算法事无巨细地揭露出来。每个人都代表着一幅人际关系的蛛网图。
今年十月即将年逾半百 Thiel 长期以来一直被视为左倾的硅谷中自由主义的害群之马。他为美国总统特朗普的大选胜利贡献了 125 万美元,并曾在共和党大会上发言,还与特朗普在白宫共进晚餐。
但是,Thiel 告诉朋友,他已经受够了湾区「单一文化」的自由主义。他放弃了长期以来在旧金山的基地,并且今年把个人的投资公司搬到了洛杉矶。他计划在洛杉矶建立他的下一个项目,一个保守的媒体帝国。
随着 Thiel 财富的增长,他变得愈发强硬。
在 2009 年一篇写给卡托(Cato)研究所的文章中,Thiel 怒斥税收、政府、女性、穷人以及社会默许死亡的必然性等(Thiel 并不接受死亡无法阻挡这一说法。)
他在文章中表达了他的激进结论:
「最重要的是,我不再认为自由和民主是可以相容的。」20 世纪 20 年代,那是美国人民最后一次怀揣着「真正的乐观」来看待美国民主,他如是写道。此后,
「社会福利收益者的大量增加以及特许经营权向女性的扩张——对自由主义者而言这两个选择难以割舍——使得『资本主义民主』的概念成为了矛盾混合体。」
Thiel 从斯坦福法学院毕业之后没能在最高法院谋得职位,随即 Thiel 进军科技行业。他与其他人联合创立了 Paypal,随后在 2002 年 Thiel 将其出售给 eBay 公司,一举增加胜利的资本并由此迈向风险投资的领域。
他早早就在 Facebook 上押注(现在他仍然是董事会的一员),他把大部分身家(据彭博社估计,Thiel 身价 33 亿美元)都投在了 Facebook 上,并且开始了其作为大型创意投资人的职业生涯——包括私人太空旅行(通过对 SpaceX 进行投资),酒店替代方案(Airbnb)和浮岛国度(海洋家园协会)。
Thiel 在「911」事件发生三年后开始了创立了 Palantir 公司——他以 J.R.R. 托尔金所著小说指环王三部曲中那个无所不知的水晶球 Palantir 来为公司命名。中央情报局下属的科技创投公司 In-Q-Tel 就是一个种子投资者。对于首席执行官的角色,Thiel 选择了一位法学院的老朋友,自称新马克思主义者的 Alex Karp。
Thiel 在 2011 年彭博社的采访中表示,民权自由主义者应该欢迎 Palantir 的出现,毕竟数据挖掘可不像 911 事件后借反恐之名提出的「疯狂滥用和严厉政策」那么压抑。
Thiel 辩称道,既不想成为极权国家,又要预防另一次灾难性的袭击,那么最好的方法就是给政府提供最好的监控工具,并同时建立防止滥用的保护措施。
坊间传说称,Thile 的联合创始人之一 Stephen Cohen 仅在两周内就写出了 Palantir 的程序原型。但是之后,公司却花了数年的时间劝说客户远离情报分析市场的长期领导者,软件公司 I2。
在 Palantir 早期兴起时辉煌瞩目的成就下却隐藏着一个污点,I2 公司曾指责 Palantir 通过 Palantir 高管家族成员注册的皮包公司盗取其知识产权。
一家自称是 private eye 的公司在获得 I2 软件和开发工具的授权,随即就将这些工具推送给 Palantir 长达 4 年之久。I2 表示,这家空壳公司的注册人是 Palantir 商业发展负责人 Shyam Sankar 的家人。
这次 Facebook 和剑桥分析的隐私泄露事件带给我们一些启示——对科技公司以数据获利等不当行为施加的压力将永不停歇。
I2 在联邦法庭起诉了 Palantir,指控其存在欺诈、阴谋和版权侵犯。在其法律回应函中,Palantir 认为它有权为了更大的善而使用 I2 的代码。
Palantir 在驳回 I2 的诉讼中表示:
「这里关键的是国家安全,国防和情报机构可以获取他们自己的数据,并选择在任何平台上使用它们,从而最有效地保护公民。」
该指控被否决。Palantir 同意向 I2 支付约 1000 万美元来解决诉讼。2011 年 I2 被 IBM 收购。
Palantir 的 13 号员工,现担任公司高级管理人员的 Sankar 也在 Palantir 的另一个丑闻中出现:
该公司 2010 年提议美国商会对其自由派阵营的反对分子进行秘密破坏活动。黑客组织 Anonymous 发布的电子邮件指出,Palantir 和另外两个国防承包商为组织外聘了律师,计划窥探进步积极分子的家属,制造假身份渗透左倾群体,利用机器人程序破坏社交媒体,在自由派组织中植入虚假信息,随后对其进行诋毁。
新闻发布之后,Palantir 给出了一个类似于它在三月份为其英国员工对 Cambridge Analytica 提供帮助时的解释:这是一个流氓雇员做的事情。该公司从未解释 Sankar 的参与。
Karp 发布了公开的道歉声明,表示他和 Palantir 致力于进步的事业。Palantir 成立了一个由前 CIA 律师领导的隐私和公民自由问题咨询小组,并由一个叫做隐私和公民自由的工程团队予以支持。
公司现在大约有 10 位 PCL(隐私与公民自由团队)工程师随时准备审查客户访问数据库的请求,并提供有关法律、道德和机器的建议。
作为一家成立了 14 年的创业公司,Palantir 为那些想要解决恐怖主义和人口贩卖等重大问题的杰出工程师打造了一个神秘的避风港,他们不受一般观念(如赚钱)的束缚。Palantir 的高管吹嘘说,他们不聘用一个销售人员,仅仅依靠口碑宣传。
公司早期的数据挖掘令风险投资者眼花缭乱,2015 年公司估值 200 亿美元。但 Palantir 从未报告过盈利。
它的运作方式和传统的软件公司不同,它更像是一个咨询公司,2000 个工程师中一半都部署到了客户站点。对于寻求专业应用、资金充裕的政府间谍机构,这样的模式很奏效。但是,针对企业客户,效果却不尽如人意。
Palantir 高昂的安装和维护成本,让 Hershey Co. 这样的客户望而却步。Hershey Co. 曾在 2015 年宣布了与 Palantir 的合作关系,但在两年后就分开了。可口可乐、纳斯达克(Nasdaq)、美国运通(American Express)和家得宝(Home Depot)也弃用了 Palantir。
Karp 认识到,在公司进军企业市场的早期,高度的技术个性化(从个性特点方面注意顾客或客户的要求)模式行不通,但是一直没有找到合适的解决方案。
2012 年,他在一个欧洲会议上说道:
「我们不想成为一家服务公司,而是希望做一些具有成本效益的事情。当然,我们没有发现,这比我们早先意识到的要难得多的多。」
Palantir 的最新产品 Foundry 旨在更多地实现自动化,减少对现场工程师的需求,最终突破盈利障碍。
欧洲大型飞机制造商空中客车使用 Foundry 来处理有关特定机载组件的航空数据,以跟踪使用情况和维护情况,并预测维修问题。制药业巨头默克集团(Merck KGaA)和 Palantir 签署了使用 Foundry 的一份关于药物开发和供应链管理的长期合同。
商业市场更广泛地使用 Foundry,对 Palantir 获取高额利润至关重要。
一些投资者已经疲倦,下调了他们对 Palanir 的估值。Morgan Stanley 现在对该公司的估值为 60 亿美元。根据 Bloomberg 的数据,2006 年就持有股份的 Fred Alger Management Inc. 今年十二月对 Palantir 的重新估值为 100 亿美元左右。
最近,一位沮丧的投资者 Marc Abramowitz 赢得了一份法院命令,要求 Palantir 向其展示名册,他控告道,公司为了 Palantir 的股份而试图寻找一位买家,这位买家持有公司股份已经十多年了,但是 Palantir 试图阻止他。
正如 Facebook 和 Cambridge Analtica 隐私违规一样——Thiel 和 Palantir 与等式的两边都有关系——对于科技公司来说,让数据盈利的压力,没有止境。
Facebook 并不是靠剥离个人数据,而从一家大学生联谊网站壮大为估值 4780 亿美元的用户信息供应商 。Palantir 表示,其隐私和公民自由团队十分警惕不适当的数据需求,但是这个团队仅由这家公司 2000 个工程师中的 10 人组成。
没有人对摩根大通(JPMorgan)说不,也没有人对 Palantir 中那些自愿帮助 Cambridge Analytica 或洛杉矶警察局(另一个对先进数据科学兴趣的机构)的人,说不。Palantir 于 2009 年开始与洛杉矶警察局(LAPD)合作,联邦资助推动了这次合作。911 事件发生后,各级执法部门要求分享更多的情报,资金开始流向 Palantir,从洛杉矶开始,为所谓的的融合中心建立数据集成系统。
目前,已有 1300 多名经过培训的 Palantir 用户,分布在南加州六家以上的执法机构,包括当地警察、警长部门以及酒精、烟草、火器和爆炸物局。
洛杉矶警局将 Palantir 的 Gotham 产品用于 Operation Laser,这是一个识别和阻止潜在犯罪分子的项目。
Craig Uchida 的顾问公司(司法与安全策略公司)设计了这套系统,将前科档案、假释报告、警局记录和其它来源的信息输入系统,就能生成一份所谓的长期违规(慢性违法者)的名单。
该名单会被分发给巡逻人员,命令他们尽可能多地监视和阻止犯罪前的嫌疑犯,借口包括乱穿马路或修理票。在每次接触中,警官都会填写一张面试卡,上面有姓名、地址、车辆、物理描述、邻居提供的任何情报以及警官自己对这个问题的观察。
卡片会在 Palantir 系统中进行数字化处理,然后融入进一个不断扩大的监视数据库。在没有搜查令的情况下,也可以完全可以进入这个数据库系统。而明天的数据点会自动连接到今天的数据,目的是为了生成调查线索。
比如,一位慢性违法者被标记为一位因车灯坏了而停下来的车上乘客。两年后,自动车牌阅读器在距离州 200 英里的犯罪现场附近发现了同一辆车。只要车牌接触到系统,公司系统就会给可以最先拦截这辆可疑汽车的警官发出预警。
另外,还有一个被社会学家 Sarah Brayne 称为二级监控的网络,对这个平台系统进行补充:一个与谁有关、朋友是谁或和谁一起过夜的网络。比如,系统中的一名女士,没有被怀疑有任何的罪行,被确定在同一个朋友网络中有多个男朋友。
Brayne 曾在洛杉矶警局花了两年半的时间来完成普林斯顿大学大数据警务的学位论文,现在,她是德克萨斯大学奥斯汀分校的副教授。
「任何登陆系统的人都可以看到所有这些亲密关系」,她补充说,为了扩大可能的联系范围,洛杉矶警局还尝试购买私人数据,包括社交媒体、丧失抵押品赎回权和收费公路信息,医院、停车场和大学的录像以及 Papa John's International Inc 和必胜客(Pizza Hut LLC)的交付信息。
合宪性问题:为何法院尚未裁定 Palantir 分析工具的合法性
民权运动倡导者称,对个人数字档案的编纂缺少法院授权,是侵犯美国宪法的行为。执法官员称,情况并非如此。
目前,该问题尚未解决,这可能不是偶然。
民权律师正在寻求一个案例来质疑 Palantir 使用的合宪性,但检察官和移民局一直尽量不用该软件来处理证据文件,全国律师协会国家移民项目副主任 Paromita Shah 称。「Palantir 靠那个秘密为生。」她说。
自 20 世纪 70 年代以来,最高法院对个人住所或汽车的搜查与开放或共享区内物品的搜索进行了明确区分,前者需要搜查令,而后者不需要。随着新技术的兴起,法官们的思想似乎正在演变。
在 2012 年的美国诉琼斯案(U.S. v. Jones)中,法官们说,在未得到授权的情况下,对一辆汽车植入 GPS 进行为期 28 天的追踪,就能够刻画出该车主的生活全景,这违反了公众对隐私的合理预期。
类似的还有 2014 年的瑞利诉加利福尼亚案(Riley v. California),法院认为,智能手机包含如此多的个人信息,是窥探用户心智的一把虚拟密钥,因而需要法院的搜查令。
首席法官 John Roberts 在他的多数意见中写道:
「手机中包含的所有内容和所有可能被透露的内容,都是很多美国人的『私生活。』」
86 年前,Louis Brandeis 法官在一个窃听案件中写了一篇尖锐的异议,似乎可以完美预见 Palantir 的出现。
「也许某天会有解决办法,」Brandeis 警告说,「在不调取证据文件的情况下,政府可以在法庭上复制这些文件,这样就可以使陪审团接触到最为私密的事件。」――Peter Waldman
洛杉矶警察局拒绝就此事发表评论。Palantir 向彭博社提交了一份声明,有关其与执法机构的合作:
「我们的(前线工程师)和(隐私与公民自由方面的)工程师与执法部门的客户(包括洛杉矶警察局)一起工作,以确保我们的软件得到妥善部署,以及软件与其源系统的集成符合该部门的法律和政策义务,同时还需要考虑隐私权和公民自由权,这方面可能目前还没有相关的法律背书,但在未来会得到解决。作为一家公司,在对上述情况进行全盘考虑后,我们才会定义软件的合同类型和一般应用。警察机构的信息系统使用方式要与其政策和法律程序相一致,他们对此负有天然的责任。」
Operation Laser 项目令洛杉矶警方的办事方式更有针对性,社区活动人士称其难以招架。一旦目标被锁定,他们就在劫难逃了。
22 岁的 Manuel Rios 住在他祖母的房子后面,房屋位于洛杉矶东部的一座小山山顶上,处于该市帮派区的中心。他身材高大,肤色苍白,头发稀疏,高中时饱受抑郁和学习障碍的困扰,便辍学去超市工作。
与他一起成长的小伙伴们纷纷加入了 Eastside 18——第 18 街帮派在当地设立的分支机构,加利福尼亚南部最大的犯罪集团之一。Rios 说他从未「涉入」18 街的团伙。他沉溺于冰毒数年,一度因持枪而遭逮捕,并被判处缓刑。但是,除了由于入室抢劫城市档案中心而在郡监狱里呆了一段时间外,他避免了更多麻烦,并称已于去年戒掉了毒瘾。
2016 年,Rios 与一个 Eastside 18 的朋友坐在一辆停着的车里,这时一辆警车停了下来。他的伙伴跑了,警察在后面追,但 Rios 没有跑。
「我为什么要跑?我又不是帮派成员,」他一边在家附近的 IHOP 吃着牛排和鸡蛋,一边说到。警察回来后也给他铐上了手铐。其中一人用手机给他拍了照片。「欢迎加入帮派数据库!」警官说。
他说,从那以后,自己被逮捕过十几次,并被告知如果不爽就搬家。他无处可去。他的女朋友刚生了一个小女孩,他想和他们在一起。
「他们说你的信息就在那个系统里,所以你骗不了我们,」他说,「我告诉他们,『我又没有加入,为什么会在那里?你们能分辨出谁是谁干的吗?』他们依据的是他们的事实,而不是真正的事实。」
在 Palantir 的指引下,警方正把 Rios 带到他的帮派朋友们那儿去,而不是驶离他们。这让 Mariella Saba 很担心,她是 Rios 的邻居以及社区组织人,就是该组织帮助 Rios 戒的毒。像洛杉矶东部这样,当整个社区都被算法严密审查,用以找出犯罪嫌疑人,此时就是数据决定命运,Saba 说道,
「这些都是系统性的过程。当人们不断遭受帮派骚扰时,就会被推向帮派。他们被告知自己很糟糕,而这些人会将这一外部评价内在化。」
据两起联邦诉讼案可知,在芝加哥,由于移民和海关执法人员依据的团伙数据库信息有误,至少有两名移民被驱逐出境。
ICE(移民和海关执法局)自称发现了芝加哥的帮派关系,但芝加哥是一个避难所,所以目前还不清楚个中缘由。但 Palantir 是一个可能的因素。
该公司为库克郡治安官办公室提供了一个「智能管理解决方案」,以整合来自至少 14 个不同数据库的信息,包括州和地方警察部门根据郡记录编制而成的团伙名单。
Palantir 还与 ICE 签订了一份价值 4100 万美元的数据挖掘合同,用以建立该机构的「调查案例管理」系统。
其中一名被拘男子叫 Wilmer Catalan-Ramirez,是一名 31 岁的车身车间技工,去年有 6 名 ICE 人员未经批准闯入了他的家,使其受了重伤。他曾两次入列当地帮派数据库——处于敌对帮派。
Catalan-Ramirez 在联邦拘留所呆了 9 个月,直到芝加哥市承认这两份名单有误,并同意向联邦政府请愿,让他继续留在美国。ICE 于一月将他释放,并正在批准新的签证申请。
西北大学 MacArthur 司法中心的律师 Vanessa del Valle 说:
「数据库若充斥着未经证实的信息,并且这些信息常常是虚假的,就会破坏人们的生活。这些案例是展现这一假设的完美例证。」
相较于大多数被收购或上市的初创公司,Palantir 的年龄是它们的 2 倍。这家公司需要弄清楚的是,如何在不欺负老百姓的情况下获得华尔街的青睐。这或许是不可能的。
就所有 Palantir 口中对个人隐私的关注而言,唯一的也是最重要的一个防止信息滥用的保障,就是采用人力裁决,这也是该公司希望通过自动化来极力消减的部分。
由于 Palantir 试图获得企业客户,而将自身定位成一家更为传统的软件公司,因此较少的前线工程师就意味着更少的人力决策。
对于一些敏感问题,比如对人们生活的窥探程度,将越来越多地由人工智能和机器学习算法来回答。负责隐私与公民自由方面的工程师小团体可能会发现,自己的影响力在缩小,因为客户对于无所不能的追求欲望压倒了任何自我强加的约束。
计算机不会问道德问题;而人会问,John Grant 说到。他是 Palantir 的顶尖 PCL 工程师之一,同时极力倡导对工程师进行强制性伦理教育。
「在一家像我们这样拥有数百万行代码的公司里,每一个微小的决定都会产生巨大的影响。」Grant 在去年伯克利的一次隐私权会议上说到。
摩根大通的经验仍具启发意义。
「当每个人都可以被 Palantir 锁定时,世界已经变了,」一位前摩根大通网络专家说到,他曾与 Cavicchia 在网络信息内部威胁小组中合作过一次。
「邪恶想法的实施变得微不足道;每个人都是嫌疑犯,所以我们监视一切。这是一种非常可怕的感觉。」Michael Riley 说。