移动互联网

安德鲁·摩尔接替李飞飞,谷歌AI与美国军方的界限划得清吗?

2018/9/19 10:04:00

文|李星

公众号|靠谱的阿星

“人工智能是一个全新的领域,作为一个科学家,我也诚惶诚恐。”斯坦福大学教授李飞飞在9月17日举行的2018世界人工智能大会上说道。“我们从未创造过一种如此接近人类的技术,但对它的未来影响还知之甚少。”这是李飞飞自宣布卸任谷歌云AI负责人之后的首次演讲,继续呼吁人工智能应该“以人为本”。

9 月 10 日,谷歌云CEO戴安?格林(Diane Greene)宣布,李飞飞将于2018年年底卸任,重返斯坦福大学任教。而接替她的正是卡耐基梅隆大学(CMU)计算机系系主任安德鲁?摩尔(Andrew Moore)。 值得一提的是,摩尔是一名谷歌老员工了,他曾在2006年至2014年在谷歌工作。

而格林却没有对外提及,摩尔也是目前新美国安全中心(CNAS)的人工智能特别工作组的联合主席,该组织与美国军方有着密切的联系。据悉,与摩尔同为该特别工作组联合主席的是罗伯特?沃克(Robert Work),沃克是前美国国防部副部长,纽约时报称其为“美国国防部Maven计划创建背后的推动力量”,而Maven计划则是美国“算法战跨部门小组”利用AI技术挖掘作战数据而成立的。

恰逢中美贸易战、中美两国在人工智能领域的争夺,李飞飞的离任、摩尔的回归,重新引发了一场关于AI原则的讨论——AI究竟是以人为本的科技,还是与国家军事力量纠缠在一起。

(左图为李飞飞教授、右图为安德鲁?摩尔教授)

1

摩尔的回归是对Maven反对者的一记重拳

Maven计划目的在于加速美国国防部对人工智能与机器学习技术的集成,将国防部海量可用数据快速转变为可用于行动的情报。

2017年12月,“Maven计划”首批算法在美国非洲司令部部署。2018年3月,在美国总统特朗普签署的2018财年综合支出法案中,美国国会为“Maven计划”增加1亿美元经费,使其在2018年获得的经费总额度达到1.31亿美元,这笔资金将主要用于改进算法读取全动态视频信息的能力。

今年上半年,谷歌公司4000多名员工签署请愿书抗议公司参与“Maven计划”,要求谷歌退出该计划,并起草、公开和执行一项永不发展战争技术的政策,十几名员工辞职以示抗议。今年6月,谷歌CEO皮蔡公布了一份指导公司发展人工智能的7条原则,其中包括永远不将人工智能用于增强武器,确保人工智能应用于对社会有益、安全的应用,并且决定终止该公司同五角大楼的人工智能合同。

如今安德鲁?摩尔的回归无疑会重新引发关于谷歌涉足人工智能市场以及该公司与军方关系的争论。

在卡内基梅隆大学任职期间,摩尔经常讨论人工智能在防御和军事应用方面的积极作用,这位人工智能专家曾在2017年发表的关于人工智能与全球安全的演讲中发表惊世骇俗的言论,“如果我们想要并且需要的话,我们可以用无人机监视整个世界。”这无疑是对很多非美国盟友国家领空权的一次公开挑衅。

当然这一“屁股决定脑袋”的权威发言或许正中美国鹰派人士的下怀,摩尔担任联合主席的特别工作组隶属于新美国安全中心,该组织的使命是“发展强有力的、务实的、有原则的国家安全和国防政策,以促进和保护美国的利益和价值观。”其实,新美国安全中心(CNAS)就是美国的军情智库,今年7月,由安德鲁·摩尔在任期间发布《人工智能与国家安全》的报告。

摩尔的回归,引起了多位反对Maven计划的谷歌前员工的不满。“在内部广泛出现针对Maven计划的异议之后,谷歌决定聘请摩尔,这非常令人担忧”,美国知名科技博客Business Insider引用一位谷歌前员工的话说。

“谷歌员工希望公司尽可能地与军工企业划分界限,而不是更多参与。对于那些签署了取消Maven计划联名信的4000多名谷歌员工来说,这次摩尔的回归就像是一记重拳。”

如果谷歌参与或卷入到美国Maven计划之中,这无论是对谷歌返回中国,还是在AI技术在全球市场本土化落地过程中都将带来极其深远的影响。这一次,谷歌将走进一个十字路口。

2

全世界都盯着,谷歌能否坚守原则?

作为全球人工智能前沿的科研机构,谷歌的大胆投入其实与以往国家力量作为前沿技术研发主导力量有所不同,而谷歌的AI进展牵动着各方人士的神经,首先我们得了解一下安德鲁·摩尔(Andrew Moore)的经历,以及其对于人工智能的价值观。

作为一个出生在英国的美籍科学家,安德鲁·摩尔对于将人工智能带出实验室保持谨慎的保守态度,他曾在接受采访时说过,“即使我知道在一个城市里布置一组自动驾驶汽车可以减少50%的死亡率,我也不会去做,因为还没有一个正式证明能100%地确保它不会导致不必要的死亡。”

尽管如此,他并没有回避与军事部门打交道,新美国安全中心人工智能特别工作组在3月宣布成立时,摩尔成为扛鼎人物。在卡内基梅隆大学公示的简历中提到,摩尔的工作曾涉及“发现和监视恐怖威胁”,他也在一份2017年9月发布的“海军部自动和无人系统”的研究报告中被列为贡献者之一。

看来,摩尔对于AI的民用化与军事化持有者大相径庭的态度,并在各种公开场合鼓吹AI应用于国防的前景和军事用途。

摩尔在2018年一次关于全球安全的讲话中,他谈及将谷歌和亚马逊生产的消费电子产品运用于军事用途的可能性,以“拨开战争迷雾”。谷歌、亚马逊本身已经不仅仅是美国人的公司,而是代表不涉政的国际化技术力量,摩尔入职谷歌,对这家极客文化主导的硅谷公司引发动荡。

反对Maven计划的一派认为,谷歌应该与军方划清界限;而摩尔的加入让一部分“中间派”开始动摇立场,但是很显然,摩尔的到来将会壮大此前参与到Maven计划中的谷歌部门实力,并推动谷歌AI技术的军事化应用。

让人欣慰的是,反对派中的多位学者,曾给谷歌方面的几位负责人写信,这些负责人除了Alphabet CEO拉里?佩奇、谷歌 CEO桑德尔?皮蔡以及谷歌云CEO 戴安?格林之外,还有谷歌云首席科学家李飞飞。李飞飞曾警告谷歌管理层在讨论AI和军方合作时要小心行事。

AI能否参与到军事化,是一场关于技术有没有价值观立场的终极拷问。如果认为技术没有价值观,就像电力应用在军事当中一样是无可厚非的话,那么就不会引起这样的争论和不安了。

2018年3月7日,李飞飞在《纽约时报》网站发表了题为《如何让 AI 对人类有益?》(《How to Make A.I. That’s Good for People》)的文章中写道,许多人说机器并没有价值观,但实际上,机器的价值观就是人类的价值观

AI该体现怎样的价值观?在李飞飞看来,人工智能需要更多地反映我们自身智力的深度;人工智能应帮助人类,而不是取代人类;确保人工智能在发展过程中得到正确的引导。

李飞飞的言外之意是,谷歌开发AI技术应该坚持谷歌人所持有的价值观,而不应受美军方强权摆布。

3

谷歌AI军事化的危机透视

首先,人工智能应用在国家安全、刑事侦查、反恐等领域前景确实非常大,这本身也是AI应用的场景之一。

美国独角兽公司Palantir就是AI安全局等项目服务政府第一个吃螃蟹的独角兽公司,Palantir帮助FBI、CIA、美国国土安全局等部门从海量财务数据、DNA样本、语音资料及世界各地地图等数据中找到了追踪本·拉登行动的一手资料,国防安全辅助服务一直是Palantir现金牛业务。

我国AI应用的人脸识别技术、智能摄像头安防监控现在广泛应用在火车站、机场、交通等公共区域,刑事案件侦查中也开始使用格灵深瞳、明略大数据的数据化分析平台,通过快速构建起人、事、地、物、组织之间的多重关联结构关系能够大大提升刑侦效率。

其次,企业确实能够从服务政府国安及侦查项目中获得数亿订单,但这并不意味着谷歌要这样做。

谷歌作为全球最大的搜索引擎,以及移动互联网安卓源代码开发平台,如果谷歌为美国军方效力,不仅威胁美国本土用户的隐私问题,全球网民的信息安全问题都会令人寝食难安;谷歌本应该成为互联网信息保护的“执剑人”,但是这希望或许将会随着安德鲁·摩尔的加入而变得渺茫,而摩尔到任,本身或许是资本与政治在激烈博弈中达到的某种妥协结果。

此前谷歌在中美贸易战的导火索“中兴事件”中扮演着关键角色,其实已经引发了谷歌为美国军事政治力量所影响的担忧,如今引起国内媒体的警惕亦不无道理。

再次,目前摩尔到任,或许意味着谷歌在2019年将续签Maven计划,谷歌AI技术或许会用在军事演习、武器、飞机、网电攻防等领域为美国军方服务,从而引发全球新一轮的军备竞赛;这实际上是美国本土日益掀起的“美国利益至上”的保守主义的延续;这本身并不利于谷歌之前在AI商业化中所扮演的积极角色。

结 语

尽管最早计算机是起源于二战中炮弹弹道的计算,但是计算机真正发展为互联网则是全球信息高速互联互通的和平年代下发展起来的,商业始终是互联网主流;谷歌作为全球化信息流通的产儿应该捍卫其“不作恶”的价值,尤其是有能力行恶的时候;如今AI对于人类命运前途未卜,谷歌更应该明确对于政府力量介入以及军事专家渗透“Say NO”就像苹果拒绝美国政府要求协助解锁手机一样;如果受限于地域偏见丧失全球用户的信任,或许对谷歌来说才是最大的危机。

作者公众号:靠谱的阿星,硅谷记者:徐鹤,亦有贡献。李星,科技专栏作家,靠谱汇创始人,哲学硕士,CMO训练营导师,个人微信即QQ:1598145405 ,欢迎交流


版权声明
本文仅代表作者观点,不代表艾瑞立场。本文系作者授权艾瑞专栏发表,未经许可,不得转载。

专家介绍

  • 李星

    总访问量:50582
    全部文章:189
作者:李星,公众号:靠谱的阿星,哲学硕士,知名科技媒体专栏作家,靠谱汇创始人,CMO训练营导师,荣获2017年钛媒体年度作者最具人气奖,私人微信号即QQ:1598145405,欢迎交流
  • 合作伙伴

  • 官方微信
    官方微信

    新浪微博
    邮件订阅
    第一时间获取最新行业数据、研究成果、产业报告、活动峰会等信息。
     关于艾瑞| 业务体系| 加入艾瑞| 服务声明| 信息反馈| 联系我们| 广告赞助| 友情链接

Copyright© 沪公网安备 31010402000581号沪ICP备15057083号-1