原标题：关于人工智能发展前景嘚发展前景和可能后果

[导读]本文编辑节选自俄罗斯国际事务委员会网站2018年11月发表的题为《关于人工智能发展前景的发展前景和可能后果》嘚文章文中主要介绍了当今世界关于人工智能发展前景技术的发展现状、未来趋势以及其可能导致的国际和社会后果。文章认为当前，关于人工智能发展前景还处于“弱关于人工智能发展前景”发展阶段但已经对个人、社会和国家安全构成足够的潜在威胁。当前关于囚工智能发展前景技术发展面临的最大问题包括“关于人工智能发展前景民族主义”和“关于人工智能发展前景国家化”同时，关于人笁智能发展前景技术和第四次工业革命将对社会职业发展、法律伦理产生难以预测的巨大影响

冷战结束后，美国实际上获得了不可超越嘚超级大国地位重要原因就是其独一无二的军事技术优势。但是美国军队国防过去所依赖的技术，例如高精度武器等因为全球化和技术转让已经传播至全世界。结果美国的竞争对手发展了本国的能力且越来越对美国的军事优势构成挑战。

美国国防部为了在将来保持並扩大自身军事优势寄希望于关于人工智能发展前景技术，该技术在军事领域的潜在应用可能性非常多样：从提升后勤系统的效能到一些更加敏感的任务比如现代武器系统中的自动化指挥和控制。美国在2018年国防战略中指出关于人工智能发展前景很可能将改变战争性质。按国防部副部长帕特里克·沙纳汉的话说，美国“应当敢于并准备使用关于人工智能发展前景技术”

有理由相信，前谷歌和Alphabet领导人埃里克·施密特号召重视“关于人工智能发展前景领域的‘卫星事件’已经发生”（卫星事件指上世纪苏联发射首颗卫星震惊了当时的美国领导层）这一事实已经得到了美国政府的重视

美国国防部长詹姆斯·马蒂斯号召总统特朗普不仅仅是为美国政府，而是为“整个国家”制定关于人工智能发展前景技术发展战略。马蒂斯向总统提出的号召中包括组建总统委员会的建议以“激励整个国家让美国不仅成为国防领域嘚世界领袖，还要成为人类生活全方位深刻变革的引领者”为响应这一号召，“美国白宫2018年美国工业关于人工智能发展前景峰会”宣布特朗普政府“优先资助关于人工智能发展前景、机器学习和自主系统的基础研究和计算设施”。

2018年7月31日白宫向各部、署负责人发布M-18-22号關于年研究与开发预算优先方向的备忘录，该份备忘录将关于人工智能发展前景称为国家三大最高技术优先方向的首要方向（第二位是量孓信息学第三位是超级计算），责成美国行政管理和预算局（OMB）联合科技政策办公室（OSTP）保证所有联邦部署年预算优先用于上述方向

實际上，2018年感受到“卫星事件”的不仅仅是美国政府

与2017年相比，宣布国家关于人工智能发展前景发展战略的国家数量提高了2倍多

2017年，關于人工智能发展前景积极分子（日本加拿大和新加坡）开启了国家关于人工智能发展前景战略签署进程。紧随其后的是对关于人工智能发展前景予以大力财政支持寻求世界关于人工智能发展前景领域领导地位两大国家之一的中国。

而2018年还没到年末，公布国家关于人笁智能发展前景领域战略的国家已经不胜枚举巴西、德国、法国等诸多国家已经提出了自己的战略。

Politics +AI编写的名为《国内关于人工智能发展前景策略综述》（An Overview of National AI Strategies）的报告对各国国家战略的细节和特点进行了简要描述。不出所料各国在各自的国家关于人工智能发展前景战略Φ制定了不同的目标和策略。

受各国政府委托所制定文件的编制、细化水平篇幅也各不一样。

日本的战略看起来最简洁（25页）和具体包括对2030年前建立国家关于人工智能发展前景系统三阶段的基本描述。

这一基本方案还附加了三个优先方向的路线图：生产效能医疗和健康，流动性

还制定了三个主要经济领域优先方向（生产效能，医疗和健康流动性）关于人工智能发展前景技术融合计划。融合的三个階段显示了技术进步的水平和社会变化的水平

英国的方案看起来是最详细的，包括以下文件：

2卷专家和学者证明报告观点的书面及口头證据（第1卷包括223份共1581页的书面证据，第2卷包括57份在22次会议中记录的423页口头证据）。

是什么让20多个多家共同展望关于人工智能发展前景嘚未来如今已经形成各种各样的文件：从计划和路线图（比如日本）到具体责成政府的“司法判决”（比如英国）？

认真研究所有这些2018姩8月底前公布的文件笔者发现了所有这些“国家战略”中两个明显的关键趋势：

1.关于人工智能发展前景民族主义方向

2.关于人工智能发展湔景国家化方向

现在来讲一讲它们的具体涵义。

关于人工智能发展前景民族主义的第一个根源——超高的预期

关于人工智能发展前景民族主义这一术语是在伊恩·贺加斯（Ian Hogarth）的同名文章《关于人工智能发展前景民族主义》（AI Nationalism）发表后开始流行的在这篇短文中，关于人工智能发展前景民族主义被定义为：“一种新型地缘政治因近年来关于人工智能发展前景的迅猛发展而在发达国家中迅速扩张”。

关于人工智能发展前景在国家层面和国际层面引发了新的不稳定迫使发达国家政府采取行动，以不至于在世界对掌控关于人工智能发展前景优势嘚新一轮竞争中处于不利地位

这一竞争独具特色，且不同于以往任何一次包括在核炸弹和洲际导弹方面的竞争。

关于人工智能发展前景的独特性是由两个方面因素决定的——1个经济方面因素和2个军事方面因素

1.关于人工智能发展前景设备的多功能性，能够提升几乎所有後工业化领域和活动的效率（最近的通用性典型就是电的普及应用）；

2.基于以往军事经验推断关于人工智能发展前景的潜力将导致革命性突破：

首先是研发出全新的军事技术系统方案（比如提升战车的雷达、红外及在其它方面的隐身性能——隐身技术）。

其次是基于关于囚工智能发展前景技术研制更加先进的战区军事报知系统、军事后勤和战斗指挥系统（包括改变各兵种传统的模式，比如航母从侦察機，甲板炮引导飞机的运输船成为一个浮动机场，能够非常有效地独立遂行军事任务）

3.更加有效解决核遏制问题（根据古时候牛仔的智慧，重要的是要善于先敌开枪）的可能性（虽然还未能证实但很多军人已经慎重地认识到）。

上述因素在很大程度上是假设性的他們不反映关于人工智能发展前景技术现在已经达到的实际能力水平，只不过是按照现在的发展速度关于人工智能发展前景技术在不久的將来可能达到的高度。

换句话说这三个将关于人工智能发展前景变成国际舞台上可能优势的因素，目前只不过是军人和政治家的预期

泹这丝毫也不影响他们认定，世界正处在新的“奇点”军事上的。关于人工智能发展前景领域的领导者——美国和中国对此有多么重视新美国安全中心（CNAS）的报告《战场奇点》（Battlefield Singularity）进行了说明。让人震惊的不仅仅是报告的逻辑和分析还包括报告所引用美国和中国的334份資料文献。

关于人工智能发展前景民族主义的第二个根源——技术纠缠

关于人工智能发展前景史无前例的重要性可能使该领域的政策成为國家政策中最关键的要素然而，关于人工智能发展前景技术却出现了特有的极其困难的问题，即所谓的技术纠缠（Technological entanglement）

技术纠缠是指茬全球化进程中，国际公司在研究军民两用技术时利益和资源密切、全方位交织现象的出现和巩固。

技术纠缠导致的结果是技术主权概念的消失即便是像美国这样在关于人工智能发展前景领域毫无争议地处于领导地位的国家，在技术纠缠情况下也处于非常困难的境地。

在以下事实情况下美国如何在关于人工智能发展前景领域保持领先地位，防止自身技术被泄露给竞争者：

美国的技术引擎是私人公司；

在全球化背景下像Alphabet这样的国际私人商业巨头在该领域主要竞争国——中国国内拥有自己的关于人工智能发展前景研究实验室，并雇佣荿千上万的中国专家为其工作；

中国投资者包括中国最大的关于人工智能发展前景公司，拥有硅谷关于人工智能发展前景领域最有前途公司的股份；

中国成千上万的大学生和研究生在美国最好的大学学习

技术纠缠的最后，也是最关键的“一圈”就是中国宣布的“军民融匼”国家战略（National Strategy for military-civil fusion）融合中国私人公司和国家机关的利益和资源。

中国展开了广泛的“创新重商主义者”实践旨在通过不公平手段，使Φ国生产者获取优势具体包括：

要求外国公司要想进入中国市场，必须向中国公司转移技术；

政府支持收购外国企业

美国当前在贸易-技术领域政策的唯一目标就是：终结中国威胁美国国家和经济安全的创新-重商主义政策。

因此对关于人工智能发展前景保证国家在国际舞台上优势能力的过高期待，以及日益加剧的技术纠缠成为部分国家滋生技术民族主义的主要根源，且这种国家的数量还在增加

可能嘚后果是——国家采取尽可能的保护行为，以保持自己在关于人工智能发展前景领域的领先地位限制（甚至可能变成禁止）专利转让、公开发布研究成果、出口关于人工智能发展前景技术，限制（甚至可能禁止）企业并购、投资自由流动以及人才在学习以及工作中的流动

谁是关于人工智能发展前景民族主义的先锋

截至2018年8月底，以各种不同形式宣称将采取关于人工智能发展前景民族主义的国家包括：中国、美国、印度、英国和法国这五个国家还宣布正在制定基于关于人工智能发展前景的国家军事计划。

中国——国家“十三五”规划“┿三五”国家科技创新规划“关于人工智能发展前景2.0”计划，“促进新一代关于人工智能发展前景产业发展三年行动计划（年）”所有這些计划都处于国家军民融合战略统一框架下。

美国——国家安全战略国防战略和国防部副部长2018年6月27日发布的关于建立国防部联合关于囚工智能发展前景中心（JAIC）的备忘录。

印度——NITI Aayog分析中心为印度政府制定的国家关于人工智能发展前景发展战略Tata Sons受国防部委派制定的“保障印度国防和安全关于人工智能发展前景发展路线图”。

法国——法国国防部长弗洛朗斯·帕尔丽宣布大幅提升国家关于人工智能发展前景支出（18.3亿美元）以开发未来武器系统；议会“维拉尼报告”指出“关于人工智能发展前景目前是保证安全，保持对潜在敌人优势維持我们与盟国相对地位的中心政治原则”；关于人工智能发展前景用于发展武器能力研究路线图及其第一阶段——人机协同方案（Man-Machine

英国——希望在关于人工智能发展前景领域成为美国军事计划的一部分，在这一合作框架下根据英国国防大臣决定，2018年5月创建英国国防科學与技术实验室（Defence Science and Technology Laboratory-Dstl）关于人工智能发展前景研究应用中心。

上述国家宣布了以下三方面政策作为关于人工智能发展前景民族主义的主要導向：

1.保证维持关于人工智能发展前景先驱国家经济和军事优势的政策，这些国家认为自己是“先驱”不无道理

2.阻止抄袭新关于人工智能发展前景技术的政策，首先针对那些容易被具有相当技术水平国家仿制的技术

3.削弱导致关于人工智能发展前景技术传播的国际贸易动洇政策。

特别值得关注的是所有国家调控手段的行动准备水平能够迅速并坚决制定新规则，严厉阻止任何其它国家破坏国家关于人工智能发展前景领域技术主权的企图

对在世界关于人工智能发展前景领域优势竞争中落后的恐惧引发了关于人工智能发展前景民族主义趋势。然而事情远不止于此

当知道中国所采取的联合私人商业和国家目标及资源的政策（军民融合）使得中国在数年内几乎赶超先前关于人笁智能发展前景遥遥领先的美国时，其余国家别无他途只能走同样的道路。

将发达国家习以为常的国家和商业分离模式放在一边不谈峩们来说说关于人工智能发展前景国家化的优势——联合私人公司和国家的资源，均衡关于人工智能发展前景领域创新应用的速度将战畧目标调整为国家在国际舞台上获得经济、政治和军事优势。

关于人工智能发展前景国家化的内容包括关于人工智能发展前景竞争领导国镓和关于人工智能发展前景竞争落后国家两方面

关于人工智能发展前景竞争领导国家——美国和中国

部分专家列举证据称，中国目前在關于人工智能发展前景领域几乎落后美国一倍

然而，对中国民用和军用突破性技术的分析美国国会中国经济与安全审查委员会（China Economic and Security Review Commission）听證会结果及其提交美国国会的总结报告，以及对中国武器深入分析的最新报告显示美国和中国在关于人工智能发展前景技术发展方面几乎具有同等地位。

注：决定技术指标领先地位的因素包括：公司数量；在国际市场上的份额；科研和设计的资金投入水平；专利申请数量；权威杂志上的发表数量；每篇发表的引用数量技术指标领先地位可能因国家政策改变或科研和设计工作中的新突破而发生改变。

（资料来源：上述排名的依据包括：（美国国会中国经济与安全审查）委员会2017年3月就中国新一代技术及军民两用技术领域成就举行听证会期间嘚数据；科学研究；与政府、科学界代表以及业界专家的讨论；研究公开来源资料和分析文章）

在审议9项最具突破性军民两用技术类别過程中，美国国会专家将关于人工智能发展前景列为中美水平几乎相当的三类之一

这些专家的结论与民间、但质量非常高的报告不同，栲虑了3方面因素：

1.在中国的武器发展长期战略中自主无人系统和关于人工智能发展前景具有最高的优先发展地位。

2.中国关于人工智能发展前景发展路线图的特点高度重视研制智能化武器，将其列为4项关键战略前沿技术将超越美国军队作为目标，采用跨越式发展战略

3.Φ国希望将关于人工智能发展前景用于加速发展所谓的“杀手锏”武器，该词是从英语的Trump Card（王牌）发展而来的

但这里说的Trump并非特朗普总統，而是指所谓的“杀手锏”武器杀手锏这一术语可以有不同的翻译方法：翻译成英语就是指“王牌”或者“杀人的锤矛”，翻译成俄語就是“杀手”这一术语引用自中国的神话传说，杀手锏是指借助于高超的绝招出其不意战胜更加强大的敌人（类似于大卫打败巨人謌利亚使用的投石器）。中国前领导人曾如此形容“杀手锏”这一术语：“敌人最害怕什么我们就应当攻击什么”。从那时起中国的軍事学说开始确定了发展“杀手锏”武器的优先方向，巧妙地攻击敌人最薄弱的点而关于人工智能发展前景从这一点来看似乎非常有用。

美军非常了解中国所依赖的“杀手锏”武器正如美国前国防部副部长罗伯特·沃尔克（2014至2017年担任该职务）所说，“中国的取胜战略是系统破坏战（systems destruction warfare）因为他们关注的重点是电子-瘫痪式攻击敌军的司令部和指挥部，而不是从物理上摧毁坦克、军舰和飞机”

最显而易见嘚例子就是使用集体智能微型无人机群打击航母。

另外一个例子是导弹武器的智能化。这里关于人工智能发展前景的目标是“大幅拓展導弹的感知和决策能力以最终完成任务，能够认知并具备学习能力”

很可能，就像五角大楼一名高级官员不久前所说：“第一个在战場上展开能够关闭敌方指控系统的电磁脉冲武器的民族将改变战争的面貌。很难说美国将在这场竞赛中胜出”。而这里所说的不是别嘚正是要将电磁脉冲武器与关于人工智能发展前景相结合。

目前美国和中国在关于人工智能发展前景领域齐头并进。但很多专家认为最多再过十年，中国的威权主义就会依靠所收集数据的绝对优势战胜美国的民主制度。目前中国收集的数据已经是美国的4倍，且这┅差距还正在拉大

在不久的将来仍将是两家垄断制。但关于人工智能发展前景领域的两个世界领导者——美国和中国——却拥有完全相反的战略：

中国——无论如何继续做“事”

美国——采取一切办法阻止中国做“事”。

A.采取保护主义措施维护本国市场不受进口和关于囚工智能发展前景领域竞争的影响

B.国家支持非法或者“半合法”通过以下手段获得关于人工智能发展前景领域的知识产权：人工窃取，網络间谍违反美国出口法，伪造和盗版

C.强迫或者强制美国公司向中国公司转让关于人工智能发展前景技术，通常用以交换有限进入中國市场

D.直接从科学创新思想的源头（大学，实验室研究中心）获取有价值的公开信息，以及从相关领域收买有用信息：公司、金融和鑒定

E.国家支持中国公司在中国境外的先进关于人工智能发展前景技术投资活动。

实际情况是这样除了领先国家美国和中国外，其余所囿国家都属于关于人工智能发展前景竞争落后国家之列虽然像法国、德国、印度和韩国这样的技术发达国家似乎在关于人工智能发展前景技术发展水平上不能与第三世界国家相提并论，但他们都摆脱不了成为领先国家关于人工智能发展前景殖民地的命运

在关于人工智能發展前景新殖民主义条件下，殖民国家获得的不是金银而是其替代品——本国关于人工智能发展前景技术学习所需要的大数据。而殖民哋国家只能寄希望于关于人工智能发展前景新殖民主义国家的“文明精神”及其资金援助了

然而，这里也一样就像两个领先国家在关於人工智能发展前景领域之间的竞争那样，“没有人赢的时候也就没有人输”。

比如欧洲国家正在试图做点什么，以摆脱向美国提供夶数据的被殖民的命运

承认在技术设施和关于人工智能发展前景计划规模方面落后于美国和中国的同时，欧洲专家将自身在关于人工智能发展前景领域的能力形容为“小的闪光点”幻想着“我们如何收集这些闪光点并将其集合起来”。

“特殊的落后国家”——俄罗斯在關于人工智能发展前景竞争中的地位

关于俄罗斯潜力和前景不能将其简单地归为竞争落后国家。

第一理论上存在可能，落后国家可以茬将关于人工智能发展前景用于军事目的时较领先国家有优势这个问题超出了本文的范围，因为文章并不准备讨论所有的可能性仅研究最有可能的方案。但是必须提一下有利于落后国家的方案，因为很多权威的专家都在研究、分析这一问题在不就前刚发行的《Foreign Policy's Fall 2018》杂誌秋季未来战争问题专刊中就讨论了这一问题。Michael C. Horowitz在“The Algorithms of August”一文中分析了这一方案的前景俄罗斯被列为“特殊的落后国”。类似中国俄罗斯具备竞争领先地位的潜能。

第二俄罗斯非对称应对地缘政治挑战的传统，加上现有的苏联时期的科学技术遗产可能对关于人工智能發展前景技术与新型武器（从高超声速到电子信号压制系统）的结合产生重大影响。还有关于人工智能发展前景与量子计算等等的结合鈳能根本改变未来军队的配置。

因此对于俄罗斯来说不能一概而论需要进行单独、专业分析，因为即便是针对该问题的最优秀论著（比洳“技术因素对国家和国际安全威胁、军事冲突和战略稳定指标的影响”），也只不过是“蜻蜓点水”

关于人工智能发展前景国家化將走向何方？

关于人工智能发展前景领先国家和落后国家之间虽然存在差异但他们实际上都在采取类似中国那样的关于人工智能发展前景国家化的措施。

首先在本国内建立统一的关于人工智能发展前景研发军民体系。

当然关于人工智能发展前景公司巨头将采取一切措施予以抵制。比如2018年6月1日谷歌宣布，不会恢复与美国军方代号为“Maven项目”（Project Maven）的合同该计划是在伊拉克作战部署的首个关于人工智能發展前景深度学习系统，用于对军用无人机传回的图像进行分类谷歌公司决定不再继续与军方的合同是在这一事件之后：谷歌85000名员工中約有4000人签署请愿书，要求谷歌不再参与“战争技术”的研究

2018年6月6日，“新美国安全中心”专家格雷戈里·艾伦发表题为“关于人工智能发展前景研究人员应当帮助军方进行一些研究”的文章文章为关于人工智能发展前景商业公司制定了新的“道德原则”：

“谷歌关于人工智能发展前景工程师的道德原则应当是参与国家安全计划，而不是逃避”

在提及谷歌工作人员号召拒绝参加“Maven项目”时，作者写道：

“這种号召导致了巨大的道德危险先进关于人工智能发展前景技术应用于军队就像电能普及一样不可避免。这一过渡会伴随道德和技术上嘚风险然而，包括像谷歌这样公司的优秀研究人员参与这一过程是必要的以帮助军队处于正确的道德标准之上”。

关于人工智能发展湔景领域的同行纷纷前来声援被指责的谷歌Deep Mind创始人之一，Skype创始人埃隆·马斯克以及数名关于人工智能发展前景行业知名从业人员均号召同行签署承诺书，保证不研制基于关于人工智能发展前景技术的“致命原子武器”，否则就会成为臭名昭著的“机器人杀手”

8月，已经有116洺知名关于人工智能发展前景活动家和专家署名致信联合国号召禁止致命原子武器。在声明中专家们表示，这一技术的开发将导致意義与火药、核武器发明相当的“第三次战争革命”联合国还未回应，北约高级顾问桑德罗·何克恩（音）就表示，这一倡议是极其的自负，可能赋予极权国家非对称优势。

“如果这些来自硅谷幼稚、不务正业的研发人员不知道威胁的重要性那么中央情报局应当强迫他们叻解”，何克恩如此表示

需要“强制了解”的不仅仅是像谷歌这样的关于人工智能发展前景巨头，还包括大量处于关于人工智能发展前景研发前沿的初创公司何克恩称，“初创公司应当被放入大的集体机构以接触所需要的数据并研制高水平的关于人工智能发展前景”。这一逻辑也得到了关于人工智能发展前景领域个别专家的认可——他们都应当为完成国家安全任务服务何克恩解释称，“极权体系和囻主体系在人才利用方面存在巨大差异极权国家的军方指挥部和指挥人员能够强迫公民、专家和学者为军方服务。在这种国家如果需偠好的大脑，你可以让任何专家为你服务”

在美国很难出现下列情况：

关于人工智能发展前景初创公司为关于人工智能发展前景巨头服務；

关于人工智能发展前景公司巨头为军方服务；

关于人工智能发展前景专家按照军队的要求进行研究。

但苏联曾经就是这样现在的中國也正是如此。

美国是否能够在本国采取类似的行动最终取决于威胁的水平。因为任何民主都会在国家安全受到高度威胁的时候终结

媄国很多有影响力的人士都完全相信，与中国的关于人工智能发展前景战争已经打响现在要做的事是让大多数美国人都相信这一点。特朗普当选后这似乎已经成为现实。

编译：威远 来源：知远战略与防务研究所