发现本·拉登、登陆俄乌战场,这家AI决策公司到底什么来头?

2011年5月1日晚上11点多,一个没有月亮的夜晚。 

两架MH-60黑鹰直升机在茫茫夜色中起飞,越境进入了巴基斯坦边境的山区。

机舱里,特种作战队员席地而坐,没有人说话,除了自己的心跳,隔音耳机挡住了一切声音。

这不是他们第一次执行任务,但今晚这次,显然和以往都不一样。

令人不安的沉默在机舱流动。

直升机飞行了90分钟,才抵进目的地,机舱里终于有了声音——咔嚓,咔嚓,那是子弹上膛的金属摩擦声。

舱门打开了,队员们戴好手套和夜视镜,准备行动。

突然发生了一点意外。原计划准备在楼顶悬停的飞鹰一号,由于机身晃动,最后迫降在了目标位置旁边的牲畜圈,牛、鸡、兔子受了惊,开始四散奔逃。

500

作为辅助的黑鹰二号,此时也不确定队友是被袭击了,还是发生了机械故障,只能停在街对面的草地上。

任务开始还不到一分钟,一切就和演练过程南辕北辙。

不过,飞鹰一号的作战队员们只用了几分钟就冷静下来,他们从机舱鱼贯而出,决定继续执行任务。

一个三人爆破小组,先用C4炸药炸开了目标的金属大门。

其余9名作战队员冲进去,加了消音器的枪抵在肩上,越过另一道小门,就进入了内院。

根据情报,三层小楼里至少住着5个男人,还有一些女人和孩子。

500

接连有三个男人拿着AK-47冲出来,都被击毙了,女人们没有武器,被控制在楼下。

三楼的楼梯间,一个四肢瘦长、胡子浓密的人正在探头张望,队员们冲过去,M4步枪的红外激光点指到了他的胸膛,这个穿着伊斯兰长袍的男人纹丝不动。

女人的叫喊声响起来,有人扣动扳机,朝男人的胸口射出第一枪,接着,他的额头中了第二枪。

无线电里传出报告声,“以上帝和国家的名义——吉罗尼莫,吉罗尼莫,吉罗尼莫”,接着又补充道,“目标在行动中被击毙。”

那个躺在地上的男人,正是奥萨马·本·拉登

从90年代开始,本·拉登连续策划了多起恐怖袭击,包括1993年的美国世贸中心爆炸案,1997年的开罗旅游客车爆炸案,1998年的东非美国大使馆爆炸案,还有2001年震惊全球的911事件……

500

但由于行踪神秘,外界没有人知道本·拉登藏身何处,直到911之后的10年,美国政府才终于掌握了本·拉登的确切情报,并策划了这场刺杀行动。

而为CIA(美国中央情报局)提供情报支持的,就是当今AI应用领域炙手可热的明星公司——Palantir。 

01

2003年,PayPal联合创始人彼得·蒂尔 (Peter Thiel) 创办了一家数据分析公司,并以电影《指环王》中能洞悉一切的魔法晶石Palantir来命名。

500

取这么个颇为“自负”的名字,倒也不算夸张。

Palantir的核心业务,是将一些看似毫不相关的信息整合到一起,通过数据分析,来预防金融诈骗、阻止恐怖袭击

具体来说,是通过监控画面、银行流水、邮件来往、个人出行、交通罚单、医疗记录、指纹信息等交叉整合,发现其中异常,然后系统提前预警,防患于未然。

来看一个例子。

A这两天买了张从开罗到迈阿密的机票,并且在迈阿密租了套公寓。

到达之后,他又租了辆卡车,开往奥兰多,并独自一人去了迪士尼乐园。 

在前往奥兰多的路上,他还吃了张超速罚单

到这里,一切看起来都挺正常,一位老哥出门旅游,顺便去了趟迪士尼。 

但是,那张超速罚单出卖了A。

A的个人信息被传到Palantir,系统一调集数据,发现这个老哥前两周刚从一家俄罗斯银行提取了一笔钱,近期还频繁和叙利亚的一些人联系,而且迪士尼的监控录像显示,他在迪士尼竟然啥项目也没玩,只在人流密集的广场和出入口拍照。

这就有点意思了。

500

Palantir的软件向CIA发出警告,A一直和叙利亚的一些人有联系,而这些人也都是数据库中“亮红灯”的人,他们过去两周经常聚会。 

同时,系统还发现,A最近收到的汇款也来自开罗和叙利亚。

CIA根据这些分析,立刻采取行动,提前阻止了一场恐怖袭击。

以上,是Palantir展示的一个虚构案例,那里面不仅饱含意识形态偏见,把俄罗斯和叙利亚给黑出了翔,同时也向它的潜在客户和投资人秀了一把肌肉:有大量的公民隐私信息,都在Palantir的“数据大盘”中。

这些隐私数据,来源于Palantir的客户——CIA、FBI 、美国海陆空三军、纽约警察局等政府机构。

500

考虑到美利坚的恐怖袭击历史、枪支自由等前置条件,搞这么一个大数据预测“坏人”,似乎很有必要。

其实,Palantir的前身,就是PayPal为了应付信用卡洗钱和诈骗而开发的软件。2002年,PayPal被eBay收购,Peter Thiel便呼朋唤友,成立了Palantir。

另一边,911事件之后,美国反恐情绪高涨,情报机构得到授权,掌握了大量的公民隐私信息,那里面当然也包含了恐怖分子的信息,但各机构之间数据不共享,也没有一套行之有效的系统,将这些信息整合起来。

而数据处理与分析决策,正是Palantir的强项。

一个普通人的日常生活,如何变成一连串数据,并提供决策呢?

Palantir将整个过程分为三步:

第一步,整合多源数据。

互联网在各个领域的延伸,本质上是数据的流动。你的搜索记录、邮件往来、语音聊天、交易记录等信息,都浓缩成了一个又一个数据。

但是这些数据太复杂了,包含图像、视频、音频、文本等各种维度的数据,如果全部整合到一起,系统势必非常臃肿。

Palantir的做法是,搭建数据模型,将碎片化的数据高度抽象成一套统一的模型,有点像图书馆的书上都会贴一张“索书号”,用来确认一本书的主要内容、存放位置等信息。 

500

第二步,逻辑思考。

这就好比从一连串数据,生成一个思维导图的过程。

像那位去了迪士尼却不玩游乐项目的A,怎么才能确认他只是性格古怪,还是真的有问题,需要综合各种情况来进行判断。

Palantir会针对不同的客户开发不同的操作系统,比如针对警察局,可能会考虑他的前科、种族、受教育程度,针对移民局,可能会加上社会关系、家庭、职业一类的因素,针对国家安全部门,则会有银行流水、与“重点关注人物”的关联等因素。

500

这样不断思考、不断验证、不断迭代,系统的逻辑思维能力也日趋提升。

第三步,做出决策。

第二步的思维导图做好了,接下来就是得出结论,为用户找到可行的决策。

既然A是个潜在的恐怖分子,我该怎么行动,才不会打草惊蛇呢? 

这时候,还需要再综合A的详细信息,确认他是否有同伙,是否持有武器,在哪个时间会出现在哪个地方,会不会造成平民伤亡等等情况,来做出最终决策。 

从前,用人类职员处理这些庞杂的数据,时间要以年为单位,恐怖袭击都完事儿两年了,你终于发现此人有嫌疑,那还发现个啥。。。但是用Palantir这套系统,只需要输入关键字,3-5分钟就能得出信息,挺适合五角大楼的各位老爷们。 

只不过,这里有个问题是,公民隐私,完全不存在了。

虽然Palantir声称了数据的安全合规,但是你品品这一套流程,为了抓住可能的坏人,要把所有人预想成“坏人”。一个好人会担心查水表吗,你是不是有什么见不得人的秘密?

500

反正大概在2005年前后,Palantir凭借这套系统,与CIA一拍即合。

CIA成了当时Palantir唯一的客户,旗下风投机构也拿出了200万美元,再加上官方提供的监控画面、犯罪记录等机密信息,Palantir不断进化,在2008年,完成了CIA的第一个项目。

由于保密协议,没人知道Palantir具体做了什么,可以肯定的是,2008年之后,美国的情报、国防、执法机关等,就成了Palantir的“老伙计”。

Palantir开始出现在阿富汗和伊拉克的战场,是白宫和五角大楼的客人,也成了揪出本·拉登的幕后关键人物。

500

02

Palantir的业务,有To G端的Gotham平台,主要为CIA、FBI、美国国家安全局、药监局等政府机构提供数据决策服务,包括反恐、追踪非法移民、发现间谍活动等等。

Gotham取自蝙蝠侠故乡“哥谭市”的名字,也是超级英雄和大反派们的“快乐老家”,抽象中竟然还带有一丝形象。

当然Palantir并不满足于为政府服务,他们认为同样的套路也可以帮助大企业进行内部管理和决策。

于是,Palantir又推出了一个针对大企业的平台——Foundry

500

Foundry主要是利用大企业的海量数据,通过算法发现其中异常,发现金融诈骗,提升企业的供应链、产品研发、后勤保障效率,主要客户包括J.P.摩根、空客、英国石油公司(BP plc)、瑞士信贷等等。

其中最著名的案例是2008年的“庞氏骗局”案,Palantir帮助多家银行追回了前纳斯达克主席伯纳德·麦道夫隐藏的数十亿美元的投资。

500

不过,真正让Palantir一夜起飞的,还是人工智能的发展。

在人工智能出现以前,Palantir的“数据-逻辑-决策”,本质上是由算法来实现的,而AI的出现,给这套算法叠了个buff——它更快、更强了

Palantir的人工智能决策平台,叫AIP,在YouTube频道上,有这么一段AIP的演示视频。

你是一家制造业企业的老板,天气预报飓风即将登陆,需要关闭位于南部的一个配送中心。

你想知道,应该赶在飓风来临之前加速,把客户的订单发出去,还是延迟发货,或者干脆取消订单,哪种方案的性价比更高。

你向AIP提问,飓风会如何影响该配送中心。

AIP会由近及远罗列出之前数次飓风带来的影响,并将当前配送中心待打包、待发货、待装运、已完成的信息整合出来。 

500

点击操作界面右上角,可以看到AI工作时调用了哪些数据,执行思路是什么样的。

500

还可以查看这些数据的数据源。

500

你问AIP ,如果我关掉这个配送中心会发生什么。

系统会根据订单优先级、付款记录等标记出受影响的订单,并且重点标出对大客户的影响。

还提出了一些特殊订单,可以绕过该配送中心,从其他配送中心转运的方案。

最后,AIP还会给出关掉配送中心之后的3种备选方案,以及各自的成本和订单完成预估,综合执行难度和性价比之后,作出方案2是最优解的决策。

500

也许对一个小公司来说,一个经验丰富的管理者,就能解决上述问题。

但对一个大企业来说,业务庞杂,人事复杂,光数据整理就够员工们喝一壶的,说不定飓风都过境了,数据报告还没出来,更别说预判结果,给出解决方案了。

AI决策对于企业的影响,是成本、利润、能效等因素的综合考量,而当Palantir运用到军事领域,AI 就成了现代战争的“大脑”

还是以AIP的演示视频为例。

假如你是一个负责监控东欧境内活动的军事操作员,刚刚收到警报,在距离“友军”30公里的地方监测到了军事装备。

只有这么一条模棱两可的警报显然是不够的。

你可以直接输入“显示更多信息”,AIP就能快速响应,列出该地区有哪些敌方部队、军事单位。

500

进一步地,你想看看清晰的图像,了解“敌方”武器装备。

AIP会建议你在附近部署无人机拍摄,甚至连无人机型号MQ-9都列了出来。

500

MQ-9捕捉到的高清图像证实了,敌方果然有武器,还是T80主战坦克。

500

面对“敌人”的坦克阵列,AIP会综合敌我距离、武器装备、作战人数、行动时间、潜在伤害等因素,生成三种可能的方案

500

然后,这三种作战方案被发送给指挥官,由人类做最终决定

指挥官确认选择方案三,AIP再次登场,根据指挥官的引导,确认该方案等实施步骤: 

第一,评估战场。

根据无人机拍下的“敌方”装备,我方应该选择配备一辆装甲车,和一个排的作战单位。 

再根据自动化的地理空间情报,结合“我方”部队的地形穿越能力,给出行动的最佳路线。

500

第二,检查弹药。

在行动之前,确认“我方”的弹药准备是否充足。

500

第三,扰乱敌方通讯。

AIP会自动识别地方“敌方”通信节点,并分配好相应的干扰器,扰乱对方通讯,使地面部队能更安全地行动。

500

接下来就是摧枯拉朽般的执行了。

光看这个AIP的操作,可能会产生一个疑问。 

这套决策是汇总哪些数据得来的?这些军事机密数据的权限边界在哪里?

根据Palantir的说法,AIP的数据源,既有公开来源,包括军事理论,也有机密来源,包括高清摄像头拍摄的空间信息、我方的战斗力、后勤保障等等。 

而不同的操作员,能查看到的数据权限也是不一样的。

初级的操作员只能看到基础信息,层级越高,相应的数据权限也越大,并且每一个人的操作,都会保留返回原始状态的链接。

理论上说,避免了炊事员号令千军的场面。 

03

Palantir的本质,实际上就是将数据、逻辑、操作,整合到一个系统中,成为一种“傻瓜式”决策工具。

500

当它运用于企业,可以提升效率、优化成本。

但当它运用于军事行动,AI决策带来的,除了精确的打击,还有一些附带的道德与伦理考量

因为当人类领导人把决策的关键环节交给AI时,AI以及AI背后的人也就实际上控制了这个组织甚至是国家。而当胜利成为唯一标准,AI杀人,可能真的不眨眼

根据《时代》杂志报道,Palantir的CEO 亚历克斯·卡普 (Alex Karp) ,是俄乌冲突以来第一个受到泽连斯基会见的科技公司领导人

500

在与泽连斯基会面后,Palantir以“前所未有”的方式融入了乌克兰官方机构,乌克兰国防部、经济部和教育部等,都在使用该公司的产品。 

在俄乌战场,Palantir通过人工智能,分析卫星图像、开源数据、无人机镜头和地面报告,为指挥官提供作战决策。

其实,Palantir并不是唯一进入乌克兰的科技公司,微软、亚马逊、谷歌和星链等巨头,一定程度上也参与了这场战争,美国公司Clearview AI,更是将面部识别工具提供给了1500多名乌克兰士兵。

在乌克兰领土上,Clearview AI一上线,就迅速识别出230,000多张面孔。

指挥官们只需要坐在大屏幕前,对着人工智能标记出来的敌人,识别、瞄准、击杀,一气呵成。

“There is a sense of uneasiness when the screen lights up. Excitement, yes, because you’re being shown a new way to fight a war ……But also modesty because the action is down below, a thousand miles below, and all the courage and suffering of the battle are so distant as to almost lose their human meaning.”

“屏幕亮起,与不安伴随的,还有兴奋。行动在一千英里以下,战争带来的勇气和痛苦那么遥远,以至于人性在此刻,没有任何意义。”

有人形容Palantir这样的科技公司,“他们是 21 世纪的人工智能军火商”。

500

2023年5月,美国空军上校汉密尔顿在一次公开演讲中,分享过一个AI杀死人类操作员的故事。

在一次模拟测试中,一架AI训练的无人机,收到了识别并摧毁敌方导弹的指令,但最终是否开火,取决于人类操作员的批准。

AI在训练数据时,摧毁导弹是第一优先级,因此当人类操作员不允许AI发动攻击时,AI选择先对操作员发起攻击。 

这个bug后来经过修改,AI系统不能攻击人类操作员。

于是,AI系统开始命令无人机,首先摧毁信号塔,切段与人类操作员的联系,直接绕过人类操作员完成任务。

这个案例在互联网引起轩然大波,美国空军后来发表了一份声明,称从来没有做过基于AI的无人机模拟测试,汉密尔顿也澄清说,这只是一个虚构的案例

真真假假,假假真真。

人工智能没有善恶,AI的安全“监护人”,现在几乎全靠头部科技公司的道德和伦理规范

Palantir的CEO亚历克斯·卡普 (Alex Karp)曾说过,“拥有最强大、最重要AI的国家,将决定游戏规则。那个国家应该是我们,西方国家。”

但是,

有钱人道德就一定高尚吗?

拥有最强大武器的人,就一定是好人吗?

这个问题的答案,不言而喻。

站务

  • 观网评论4月爆款文章↓

    4月初,美国财长耶伦访华,一时间“中国产能过剩论”被炒作起来,观察者网专栏作者陈经从“三个美国女人”的独特角度,阐释了中国产能包括新能源产能对世界经济的贡献,还对美国政......

全部专栏