军用人工智能竞争中的先行者优势1
作者简介 About authors
罗易煊,清华大学国际关系学系硕士研究生电子邮箱:
李彬,清华大学国际关系学系教授电子邮箱:
关键词:
本文引用格式
罗 易煊, 李 彬.
一、 研究问题的提出
人类对人工智能的研究始自20世纪中叶,此后人工智能的应用陆续进入社会生活。随着近年计算机技术以及计算方法的进步,人工智能发展速度迅速加快,其应用更加普及,人工智能军事应用也受到国际社会的普遍重视。由于人工智能军事应用可能会带来各种问题,本文主要关注人工智能军事应用中的先行者优势(first mover advantage)对相应国际竞争烈度的影响。
在国际技术竞争中,先行者相对于后来者可能获得一些优势。先行者如果抢先将新技术应用于军事领域,就可能在军事实力上获得相对优势。在对手眼里,先行者的军事优势会是潜在的安全威胁,进而带来安全压力。为此,对手可能会被迫做出回应,以弥补其安全损失。这就是典型的安全困境,也是军备竞赛的一个根源。如果先行者优势不大,持续时间很短,后来者较易在技术和军事上实现追赶,则上述担忧将不那么强烈,各方之间的竞争激烈程度也将较低。如果先行者优势很大,持续时间很长,后来者难以追赶,则各方围绕技术优势的忧虑程度将更加强烈,各方之间可能形成激烈的技术竞争,甚至出现军备竞赛。在一些情况下,即使竞争各方未必了解对手军事技术发展的实际程度与效果,对先行者优势的担心本身也会推动安全困境和军备竞赛的发展。
目前,人工智能军事应用的先行者优势已经受到一些国家政府、智库和学者们的关注。相关讨论较为普遍、笼统地认为,在人工智能军事应用上先行者优势显著且重要,因此人工智能的军事应用必然引发剧烈的竞争乃至军备竞赛。例如,美国宾夕法尼亚大学学者迈克尔·霍洛维茨(Michael C.Horowitz)对人工智能直接应用于军事领域的不可控后果提出了担忧。他在研究中直接使用了“先行者优势”一词,并认为受该特性影响,人工智能的军事应用极易引起国家间竞争。
如果人工智能军事应用的确具有明确、重大和持久的先行者优势,那么激烈的人工智能军备竞赛将不可避免,与军用人工智能相关的伦理、国际法、非授权升级、军事稳定性等问题可能也将难以获得有效解决。更为严峻的情况是,如果存在“赢者通吃”,即一个国家在人工智能军事应用上的先行者优势将会一直保持甚至扩大,并使其他国家再无机会缩小差距,那么决策者将不惜一切代价抢占先机,该领域的国际竞争将会极其激烈。反之,如果人工智能的部分军事应用并不具有明显的先行者优势,那么相关国际竞争最终会走向缓和。
本文认为,不同领域和类型的军用人工智能受到各种复杂因素的影响,其先行者优势可能各不相同。因此,本文对军用人工智能进行分领域分析,具体考察各领域潜在的先行者优势。在此基础上,我们可以更有依据地推测这些军用人工智能国际竞争的激烈程度及其原因。
二、 文献回顾
(一) 关于军备竞赛激烈程度的传统理论
本文认为,目前理解军备竞赛现象最有力的理论工具是安全困境模型,军备竞赛的激烈程度也可通过安全困境的严重程度得到解释。长期以来,国际关系学者对安全困境模型以及影响机制进行了大量研究。英国历史学家赫伯特·巴特菲尔德(Herbert Butterfield)以及美国政治学家约翰·赫兹(John H.Herz)和乔治·霍兰·萨拜因(George H.Sabine)
阿诺德·沃尔夫斯(Arnold Wolfers)等学者从安全困境的严重程度推测军备竞赛的激烈程度,将注意力集中到了军事技术的攻防属性这一因素
目前,从攻防角度来考察人工智能军事应用国际竞争的激烈程度还比较困难,原因有两方面。第一,从范围上来看,不同于机关枪、坦克、导弹、导弹防御等专用武器技术,人工智能军事应用是一个大范围的赋能技术。我们可以根据机关枪、坦克等军备的技术特征判断它们对攻防平衡的影响,从而推测其如何影响安全困境以及相关军备竞赛的激烈程度。然而,人工智能可以全方位地赋能武器、军事训练、侦察、指挥以及后勤等系统,降低人力成本,提高其效率,因此人工智能对攻防平衡的影响将是全方位的。在军用人工智能仍在全面发展的当下,很难根据局部和有限的数据考察攻防平衡的全局改变。
第二,从时间上来看,攻防平衡理论关注特定时间点的攻防关系,但这个理论并不关注攻防关系随时间发生的变化。杰克·列维(Jack S.Levy)已经认识到这种局限性,他认为,在某一时期起到稳定作用的武器特性可能在另一个时期造成不稳定。
与此相对的,先行者优势这一动态因素会显著影响安全困境的严重程度,并进而影响军备竞赛的剧烈程度。20世纪70年代美苏军备竞赛激烈程度的变化在一定程度上正是受到核武器先行者优势变化的影响。在美苏刚获得核武器的时期,该技术上的先行者优势较为明显,双方一方面担心对手的先行者优势,另一方面力图保持自己的先行者优势,双方的核武器数量竞赛非常明显。在20世纪70年代之后,由于核武器的数量优势已经不能够带来明显的军事优势,因此双方的数量竞赛转为缓和。
这一波人工智能军事应用是包含人工智能的一系列新的军事技术。从范围上来说,这些技术应用极广,涉及军事领域的很多方面;从时间来说,这些技术的应用前景可能会比较长远。因此,目前很难简单地总体概括当前人工智能军事应用的攻防特性。为此,我们需要一些新的视角来考察军用人工智能国际竞争的发展演变。
(二) 关于军用人工智能国际竞争的已有研究
如前所述,人工智能的军事应用已经引起广泛关注,关于人工智能军事应用引发竞争的研究不断增多。这些研究普遍认为,人工智能的军事领域竞争较为激烈,抢先取得优势非常重要。
一些学者将人工智能军事应用的相关国际竞争直接称为“军备竞赛”(arms race),贾斯汀·汉纳(Justin Haner)和丹尼斯·加西亚(Denise Garcia)详细分析了人工智能在自主武器系统上应用的竞争,他们认为这种竞争已经构成了美、中、俄等国之间的军备竞赛。
另一些学者没有直接使用“军备竞赛”一词,但在进行研究时也隐含了人工智能的军事应用会引发剧烈竞争这一看法。马蒂亚斯·马斯(Matthijs M.Maas)研究了在人工智能军事应用领域进行军备控制的可行性,该学者用核武器来类比人工智能的军事应用。
兰德公司等智库机构也发布了大量关于人工智能军事应用的报告,这些报告对人工智能可能应用的军事领域进行了调研,考察了具体应用领域的划分
前文提到,人们对人工智能军事应用的先行者优势有一些猜测和判断。例如,美国前总统特朗普在2019年签署的行政令中曾提道:“美国在人工智能领域持续性的领导地位对于维持美国经济和国家安全至关重要。”
三、 概念、模型与分析要素
(一) 核心概念
军备竞赛是指对手之间竞相发展军备的状况,常常指各方军备数量上关联性的增长。本文则使用“国际竞争”的说法,不仅包括军备数量上的关联性增长,还包括对技术发展的竞相投资。
在军事技术相关的国际竞争中,存在一些有利于先行者的因素。例如,先行者可以更早建立有经验的团队,从而在后续竞争中占据有利位置。另外,有些因素使得后来者有利。例如,后来者可以参考先行者的成败得失,避免走弯路,降低成本。因此,先行者不一定总是能够获得明显的军事优势,也不一定能够长期保持这个优势。军事技术发展的决策者需要根据利弊的计算来决定在军事技术的发展上是抢先行动还是后发制人。
“先行者优势”的概念原本出自棋类比赛:先行者在棋局上具备一定的优势。后来这个概念用于市场分析:抢先进入市场能够带来一定的贸易优势。在关于军事技术国际竞争乃至军备竞赛的讨论中,已经有安全专家提到先行者优势。本文将这一概念用于分析军用人工智能技术国际竞争的激烈程度。
本文中,先行是指早于其他行为体进行某项军事技术的开发、军事技术的应用或军事设施的部署。先行者是指:在国际社会中,较早进行某项军事技术开发、军事技术应用或军事设施部署的行为体。在一些情况下,竞争各方几乎同时进行某项军事技术的开发、应用或设施部署。但在有些情况下,其中一方由于资源充沛、技术路线准确或者较为努力,较早取得了明显进展。相对于先行者的是后来者、后发者、追赶者,这几个说法含义相同,都是在军事技术发展的某个阶段中相对滞后的一方。目前阶段的案例更多来自人工智能军事技术的研发,应用和部署方面的先行者优势的经验尚不成熟,因此以下分析将更多利用人工智能研发的案例。
先行者优势指竞争中一方在军事发展上抢先行动,因此它在军事能力上的收益高于后来者的收益。本文所述先行者优势需要区别于先发制人的优势,前者是动态交互中的概念,是指军事技术、军事设施(尤其指武器)上取得的优势;而后者是某个时间点上优先发动打击或进攻所带来的攻防平衡优势,后者仍是一个静态上的概念。
测量先行者优势有两个维度,分别是强度和持续时间。强度是指后发者开始追赶前先行者优势的大小,即一方先进行某项军事技术开发后在军事实力上获得的收益与追赶者的收益之间的差距,这是一个是较为直观的特征。先行者优势的持续时间指的是后发者开始追赶后,双方收益差距消失所需要的时间,这是静态视角下易被忽视的一个特征。人工智能军事应用中的先行者优势也会体现在强度和持续时间两方面。具体而言,人工智能军事应用的先行者优势是抢先发展这项技术的国家获得明显的军事优势,军事优势持续时间很长,对手将极难追赶,因此现阶段围绕军用人工智能技术的国际竞争非常激烈。
(二) 分析要素
人工智能可以应用于许多军事领域(如作战、后勤等),先行者优势在不同领域中可能不完全一样。每个领域的军用人工智能可以还原成人工智能的各种技术成分,如算法、数据、算力(硬件)等。由于人工智能的每种技术成分受到不同因素的影响,其先行者优势的特征也会不同。因此,可以按照分步骤还原的方法,对人工智能军事应用进行技术成分分解,对其进行分项考察,最后通过综合分项考察结果,得到各个军事领域人工智能应用中的先行者优势。本文主要的分析要素有:影响先行者优势的主要因素、人工智能的技术成分与人工智能军事应用的领域。本文的分析逻辑与人工智能军事应用中先行者优势形成和传递的逻辑是一致的,如图1。
图1
图1表示了军用人工智能先行者优势形成和传递的基本逻辑。本文的分析也将按照该逻辑展开:首先从影响因素分析人工智能技术成分中的先行者优势,再根据军事领域中人工智能的技术成分分析先行者优势的传递,并最终由此推测军用人工智能各领域国际竞争的激烈程度。下文将具体介绍上述各分析要素。
1. 影响先行者优势的主要因素
本文将考察影响先行者优势的七类因素,它们分别是:(1)技术独立、均匀发展的指数规律,(2)不同技术路径的替代,(3)零和资源的占有,(4)规模效应,(5)试错成本与模仿学习,(6)维护成本,(7)其他次要因素。
2. 人工智能的技术成分
人工智能军事应用的技术成分有以下五类,它们分别是:(1)算法,(2)数据,(3)专用硬件,(4)外围硬件,(5)人机结合。这五类技术成分的先行者优势各不相同。
3. 人工智能军事应用的领域
本文采用美国国会研究服务部于2020年向国会提交的一份报告
情报监视与侦察(ISR)一般被认为是人工智能应用最显著的部分,主要基于人工智能的大数据处理能力。该领域的人工智能赋能可以使情报分析工作通过自动化提升效率。其具体功能包括嘈杂环境中的多语种讲话识别和翻译、无关联元数据下的图像地理位置确认、融合平面图像创建三维模型以及根据生活模式推断建筑功能等。美军在对极端组织“伊斯兰国”(ISIS)的作战中的Project Maven就是该类应用的体现。
后勤(logistics)需要利用人工智能处理综合数据的能力。例如,通过分析所有的运输请求,规划最省时、经济的运输方案,以提高效率、节省成本;或者分析军事设施部件的传感器数据,进行预测性修理或零部件替换。
网络空间作战(cyberspace operations)是通过训练人工智能检测网络活动中的异常情况,从而提供全面和动态的攻击屏障。人工智能具备快速响应大量信息的能力,尤其适合应对网络攻击,同时也能发动攻击。
信息战(information operations)中可以利用人工智能具有的“深度伪造”等能力,即通过合成照片、视频等进行深度的虚假信息制造,用于进行虚假新闻报道,从而影响公众话语,削弱公众信任等。
指挥控制(command and control)中人工智能算法能够基于对战场的实时分析为指挥官提供可行的行动路线选项,从而提高战时决策的质量和速度。
半自主和全自主运载工具(semiautonomous and autonomous vehicles)中人工智能被运用于战斗机、无人机、地面车辆、海军舰艇等,类似于商用无人驾驶汽车,可以感知环境、识别障碍物、融合传感器数据、计划导航甚至与其他运载工具交换信息。
致命性自主武器系统(LAWS)则是使用人工智能赋能的传感器套件和计算机算法独立识别目标,使用搭载武器系统交战并摧毁目标,从而不完全需要人工控制系统。
上述七个军事人工智能领域中,每项技术都可以逆向还原出所使用的人工智能技术成分,如算法、数据等;对每个人工智能技术成分,又可以进一步考察影响先行者优势的因素。通过这种还原分析,我们可以推测各个领域人工智能军用技术的先行者优势,从而理解这些领域国际竞争的激烈程度。
四、 先行者优势的产生与传递
一些影响因素会导致技术竞争中先行者优势的产生与持续,这些先行者优势会具体体现到人工智能的技术成分中,使得不同技术成分具有不一样的先行者优势。在人工智能应用于不同军事领域的过程中,先行者优势又会被带入不同军事领域。本节根据先行者优势在人工智能军事应用中的产生和传递规律,推测各类军用人工智能领域中的先行者优势。
(一) 影响先行者优势的因素
先行者优势是一个动态的概念,有很多因素会影响其强度和持续时间。一些因素会改变其强度,而另一些可能会改变其持续时间,从而影响追赶者的追赶困难程度。本文将影响先行者优势的因素归纳为六个主要因素和其他一些次要因素。这些因素分别是技术独立并均匀发展的指数规律、不同技术路径的替代、零和资源的占有、规模效应、试错成本与模仿学习、维护成本以及其他次要因素。这些因素会从不同方向影响先行者优势的持续时间,互相叠加。在具体问题中,往往一两个突出因素会主导先行者优势的持续时间。
1. 技术独立并均匀发展的指数规律
某项技术独立并均匀发展的速度与相关技术基础、对该技术的投入以及对该技术提出的需求成正比。一项技术的相关技术基础包括已有的研究成果、研究队伍以及产业链基础。这些基础能够促进技术的持续发展,因此技术发展的速度与技术基础成正比;技术发展之后,又会反过来拓展技术基础。在不考虑其他因素(如资源和市场约束)的情况下,技术发展速度与技术基础互相促进,会使得技术发展呈现出指数增长的规律。随着这种指数型增长,追赶者与先行者的差距将一直增大,从而出现所谓“赢者通吃”的现象。
另外,投入和需求也会促进技术的发展速度,但是,投入和需求明显受到先行者和追赶者主观意愿影响,更多地体现在双方对竞争的态度中,属于本研究要考察的因变量。综合而言,技术独立并均匀发展的逻辑特别有利于先行者优势,甚至出现“赢者通吃”的局面。如果该规律起主导作用,军事技术的国际竞争将会非常激烈。
2. 不同技术路径的替代
在微观层面上,技术发展并不总是均匀的,有时会有突如其来的突破,继而转化为一种新的技术路径。这种突破在先行者与追赶者之中都有可能出现,但在基础更好的先行者国家中出现的可能性更大。一些新技术路径的使用会使技术发展速度获得大的跃升,先行者国家便更容易维持优势,或使优势持续时间增加。然而,一旦追赶者国家获得了这种突破,也很有可能迅速抹平先行者优势。在这种层面上看,很难确认不同路径的替代是否会使先行者优势增强或是持续更长时间,这需要具体问题具体分析。
同时,也有一些新技术路径的出现并不必然马上带来技术发展速度的飞跃。新技术路径的最终结果有时候需要较长时间来检验。最显著的例子就在无人驾驶领域中,激光雷达与纯视觉两条技术路径至今仍处于争论阶段。特斯拉公司CEO埃隆·马斯克(Elon Musk)曾表示,旧技术路径激光雷达相较于纯视觉这一新技术路径并无前途。
在技术路径复杂竞争的情况下,可能的规律性因素在于先行者调整技术路线的成本更大。在两种技术路径优劣未分的情况下,一旦选定一条技术路径全面铺开,而后续该技术并未更为高效,那么先行者就需要承担一定的先期投资损失,即可能面临更大成本。若将这种风险成本考虑在内,不同技术路径的替代会使先行者优势衰减甚至消失,从而使得“赢者通吃”的可能性极低。
3. 零和资源的占有
在追赶者尚未进行技术开发或技术开发尚未成功时,先行者拥有优先抢占资源的时机。这种资源可以是传统意义上的矿物等实体资源,也可以是空间资源、市场资源等不具象资源。如果这种资源总量是固定(零和)的,那么先行者对资源的优先抢占将意味着追赶者后续面临资源较少乃至无资源可用的情况。举例而言,地球静止卫星轨道能容纳的卫星总量是有限的,一定程度上属于零和资源。依照国际电信联盟(ITU)制定的规则,该领域在事实上形成了“先发先占有利位置”的局面
因此,如果一项技术发展所依赖的资源具有零和的属性,那么先行者优势的持续时间就会延长。
4. 规模效应
“学习曲线”是源于二战时期飞机工业的一个工业领域概念。它描述了当产量上升时,生产每架飞机的劳动时间会极大下降的现象。之后的研究表明许多领域都存在这种现象,而技术的发展往往也符合这一规律。随着新技术的发展,继续研发的成本会下降,发展速度自然就会上升。与之相似的“规模效应”指出,当一个领域发展到一定的经济规模时,产业链的完整性、资源配置与再生效率的提高能够提高该领域的收益能力。依据这两个理论,先行者率先发展技术,也可以更快地降低成本,形成能够提升效益的规模,进而拉大与追赶者的差距。
学习曲线与规模效应有利于先行者优势的前提是这一领域能够形成一定的规模,具体而言则是指能够形成一定的产业链。由于并非所有军用人工智能都有大规模应用,所以这个因素并不总是能够发挥作用。
5. 试错成本与模仿学习
技术发展都会面临试错与走弯路的可能性,而先行者走弯路的可能性更大,试错成本更高;追赶者通过模仿学习,可以主动规避一些试错成本。前述讨论中技术路径替代的一些情形就属于试错与走弯路的情况,但有所不同的是,技术路线的替代往往具有随机性,而通过模仿减少试错成本是追赶者的有意策略。例如,在20世纪的超声速客机领域中,英国、法国以及苏联在这项技术应用上成为先行者,但这项技术受多重因素影响,在21世纪初停用。这使得这些国家并没有获得先行者优势,甚至付出了额外的成本,而这项技术中的追赶者就不必支付这些研发投入。因此,这个例子中的先行者优势为负。
另外,先行者的试错能够为追赶者提供负面教训,而先行者也可能提供正面经验。无论先行者是否有意供应,追赶者或多或少都能获取到一些正面的发展经验,从而通过模仿学习降低发展成本,提升发展速度,因此这个因素也会削弱先行者优势强度和持续时间。
6. 维护成本
先行者率先进行技术开发,并将技术应用于军事领域。由于军事应用需要维护和更新,所以先行者需要更早支付维护成本,这会削弱部分先行者优势。同时,即使进行维护和更新,军事应用的实体部分还是会老化,因此先行者的军事设施往往比追赶者的军事设施更老旧,这也会削弱一部分先行者优势。但是,不同软件和硬件的老化速率并不相同,因此需要针对具体对象确定其维护成本和折旧率。简而言之,可以通过一项技术应用的维护成本和折旧率判断该因素对于先行者优势的削弱程度。
7. 其他次要因素
最后,还有一些其他因素可能影响先行者优势。如果一项技术的军事应用会带来负面后果,那么先行者优势的持续时间就会受到削弱。例如,若一项军事技术容易出现安全事故以及环境、伦理等问题,先行者随着该技术发展认识到这种后果之后,则会选择放弃或者克制该项技术的继续研发、部署或使用;同时追赶者也会进行类似的克制。此时先行者优势就会被削弱,甚至完全消失。
此外,还有存在较大争议的规则制定这一因素。很多学者和研究报告认为,制定规则可以使得先行者优势无限扩大。“中国战略小组”的内部报告中就提到了制定规则对于维持“竞争护城河”的重要性。
人工智能军事应用范围非常广泛,所选取的技术路线也会相对复杂。在研发和部署的过程中,一些项目成效显著,也有一些项目由于技术不够成熟或者技术路线错误而效果不佳。在成效显著的项目中,先行者优势相对较强;在成效不佳的项目中,先行者优势则较弱。从宏观角度来看,那些成效不佳(先行者优势较弱)的项目会被自然淘汰,成为竞争热点的项目通常是成效显著(先行者优势较强)的项目。因此,本研究将重点关注先行者优势持续的时间,并假定各方竞争的军用人工智能技术中先行者优势都较强。当评价先行者优势时,除非特别说明,都是指这个优势持续时间的长短。如果一项军用人工智能技术的先行者优势保持的时间很长,那么先行者就可以在较长时间内享受优势,而其他国家也需要较长时间追赶。后发国家由于担心这种长时期的劣势,必然也会尽早发展相应技术,进而导致各方之间展开激烈竞争。在考察先行者优势持续时间时,本文假定先行者与追赶者的技术基础和投资力度相当,只是双方在进行研究或应用的时间上有先后。
(二) 人工智能技术成分中的先行者优势
军用人工智能的技术成分大体包括两类:第一,通用人工智能的技术成分;第二,相应军事设备中的技术成分。通用人工智能技术底层的三要素是算法、数据与算力。本文将算力部分的硬件(如芯片)称作专用硬件。军事设备包含人工智能外围设备的发展与人员培训所花费的时间。因此,总时间花费包含算法、数据、算力(专用设备)、外围设备和人机结合这五个技术成分。每个技术成分中的先行者优势以不同的方式受到上述七类因素的影响。本小节根据这个逻辑,考察这些技术成分中的先行者优势。
目前,关于军用人工智能发展的时间特征的数据和案例相对缺乏,部分原因在于这些数据的敏感性与非公开性;也有部分原因是军用人工智能发展的时间特征尚未完全得以体现。为了提供实证依据,本文的替代方案是使用通用人工智能或者以往军用设备(不包含人工智能)发展的案例。这些案例可以给出粗略的测算基准(benchmark),用于检验本文的核心观点。
1. 算法
算法是人工智能技术的基础,是对数据进行深度分析的工具。一方面,人工智能算法的发展符合独立、均匀发展的规律,即其独立发展速度与基础成正比。这个因素有利于先行者优势。另一方面,算法研究中不同路径的替代非常频繁。为了实现一种功能,较短的时间内就可能出现多种技术路径的算法。以最广为人知的“深度学习”围棋算法为例,AlphaGo的开发者曾介绍了其发展历经的四个版本:自2015年10月击败欧洲围棋冠军的版本到2016年3月击败世界冠军李世石的版本,再到2016年底的Master版本,最后到2017年的最新版本AlphaGo Zero。短短不到两年时间迭代了四个版本,并且每一个版本在能力上都有跨越式的提升。
依照前文分析,频繁的路径更迭意味着技术突破大量产生。先行者的确引领了其中一部分突破,但在算法优劣不明晰的情况下,先行者承担更大路径低效的风险成本,因此这种更迭会一定程度上削弱先行者优势的持续时间和强度。对于追赶者而言,一旦获得一个优势算法,便能在算法层面抵消先行者优势。
算法领域发展所依赖的资源并不存在零和的属性,因此算法领域的先行者无法利用资源控制来维持其优势。由于人工智能正处于发展风口,尤其是在民用领域已经形成了不小规模的产业,学习曲线和产业规模会增强算法领域的先行者优势。那些与民用关联较强的军民两用人工智能技术可以依赖民用人工智能的规模效应,因此其先行者优势会比较明显。
虽然算法领域的试错成本相对较小,先行者不必付出高昂的试错成本,但其模仿学习的难度较其他领域更低。即使先行者不公开算法的全部细节,只需知道其实现的功能和算法的基本原理,追赶者就能较快开发出类似功能的算法。
就维护成本而言,算法不具备实体,不存在传统意义的设备维护成本,其维护成本几乎可以等同于持续研发成本,投入的人力成本能在此过程中进行一定的维护。因此,算法中的先行者优势不会被其维护成本削弱。
根据上述分析,可以知道算法中的先行者优势持续时间非常短,这一判断也能获得案例分析支持。仍以“深度学习”围棋算法为例,AlphaGo于2015年10月击败欧洲围棋冠军,成果于2016年1月27日发表于《自然》杂志
总的来看,各种因素对算法中的先行者优势的综合影响如表1所示。技术独立、均匀发展的指数规律会提升算法的先行者优势;路径更替这个因素会降低先行者优势;作用最大的是试错成本与模仿学习,该因素使具有实力的追赶者能于较短时间内在算法上追赶上先行者。根据已有案例,算法这个技术成分中,先行者优势的持续时间不到1年。
2. 数据
人工智能的研制和训练需要大量数据。数据积累越多,人们今后获取数据的渠道也会变得越便捷,因此,从技术独立、均匀发展的规律来看,数据积累中也存在着一定的先行者优势。但是,数据与传统意义上的技术有一定区别,数据获取与整理的速度与已经积累的数据的量并没有明显的正比关系,数据的积累并不会按照指数规律急剧地增长,而是随着时间比较平直地增长。也就是说,数据积累中的先行者优势的扩展并不十分迅速。
数据的获取与积累很大程度上是在数量层面上,不同技术路径的更替并不明显,因此先行者优势不会被削弱。与矿产等实体资源不一样,数据来源大多不会因为使用而消失,因此数据领域通常不具有实体资源的零和属性。只要数据来源继续存在,先行者获取的数据往往也能被追赶者获得,因此资源是否零和这个因素不会增加先行者优势的持续时间。
就学习曲线与规模效应而言,数据的收集能力一定程度上符合学习曲线,即随着收集经历的增长,其能力会不断上升;但数据的规模效应并不明显,因为数据的获取与积累是一个数量层面的过程,很难形成一个产业链或者一定的规模经济,因此先行者提升数据收集与积累的速度将不明显。总体而言,从这个角度看,数据领域具有先行者优势,但是并不显著。
数据领域的试错成本几乎不存在,数据的收集与积累不存在试错的概念。由于量的积累必须依赖时间,追赶者也很难通过模仿学习来快速缩小差距。这个因素并不会明显削弱数据领域的先行者优势。
多数情况下,数据也并非一个实体概念,维护成本不是很高,因此,数据领域的先行者优势不会被维护成本的因素削弱。
此外,数据领域面临一些制定规则的压力,这种规则主要是基于对个人信息的保护而制定的一些政治性规则,但这种规则不具有排他性,因此先行者和追赶者受到的规则约束是相似的。这种压力不会很大程度上影响数据领域的先行者优势。
简言之,从表2可以看出,数据领域独立、均匀发展的指数规律提供比较平直的先行者优势,其他因素并不会明显增强或者削弱先行者优势的持续时间。不同的问题涉及的数据量和数据获取难度不完全一样,因此,数据累积中先行者优势的持续时间也不相同。对于较大型的数据累积,我们可以根据算法与数据累积的工作量之间的关系来估算其先行者优势的持续时间。一项关于数据科学研究小组的调查统计指出,数据相关研究中数据的搜集、整理和处理环节一般占到80%左右。
3. 专用硬件(芯片等直接为人工智能提供算力的硬件)
人工智能的专用硬件主要指人工智能实现功能所需的传感器、控制器、芯片,以及传统信息通信技术硬件和物联网技术相关硬件,并以芯片为核心。这些技术的发展符合独立、均匀发展的指数规律,因此具有比较强的先行者优势。在没有其他因素干扰的情况下,该优势会持续较长时间。
包括计算芯片在内的专用硬件领域中不同技术路径的更替并不明显,CPU、GPU、FPGA、ASIC等不同芯片类型的应用场景几乎各不相同,相互替代的情况不多见。芯片计算能力的发展主要在于制作工艺的提升,而非技术路径的更替。目前,专用硬件领域的先行者优势不易被突如其来的路径更替削弱。
专用硬件领域所使用的原材料尚不存在资源零和的限制,但其市场容量可能受到零和效应的影响。由于实体化芯片、传感器等都是特定领域应用设备,虽然其应用领域不少,但总的市场资源依旧是有限的。这些硬件技术的发展高度依赖于市场,而市场在一定程度上具有零和特征。当先行者抢占了市场,发展出完整的产业链,追赶者将更难依赖市场养育出完整的硬件技术产业链,而先行者与追赶者的差距会持续扩大。因此,专用硬件领域先行者优势强度很高,而且持续时间很长。
在民用市场中,专用硬件领域早已形成完整的产业链和合适的经济规模,学习曲线和规模效应都非常明显。先行者通过持续的生产和适当的规模降低成本、提升效率,与追赶者的差距持续扩大。这个因素提升了专用硬件领域中的先行者优势。
芯片等专用硬件的发展和生产受到专利、工艺保密、设备的出口管制等因素影响,追赶者很难避免试错成本。芯片等专用制作工艺技术水平的提升需要整个产业链而非单一某项技术的升级,追赶者很难通过模仿学习快速缩小差距。从试错成本和模仿学习的角度来看,专用硬件这个领域中的先行者优势持续时间比较长。
芯片等硬件不仅有一般意义上的维护成本,其成本折旧也比较高。摩尔定律认为,处理器性能每两年可以翻一番,虽然这一规律在近年来并非十分精确,但是芯片等硬件的性能提升速度依旧很快。这意味着先行者优先发展并使用的硬件面临很高的折旧成本,这会在一定程度上削弱专用硬件领域的先行者优势。
表3对上述因素的作用进行了总结,独立并均匀发展的指数规律、市场一定程度上的零和属性以及模仿学习的困难都使得先行者优势的持续时间非常长,折旧成本虽然会削弱先行者优势,但是作用并不大。因此,专用硬件领域中,先行者优势的持续时间非常长,结合芯片专家的判断,可以推测这个领域先行者优势的持续时间在10年左右。
4. 外围硬件
本研究中,外围硬件指被人工智能赋能并需要特别改造或者特别设计的军事设施,如军用无人机、雷达、军用机器人等。值得强调的是,由人工智能赋能的外围硬件需要很多专门领域的技术作为基础,如自动驾驶的军车以车辆制造技术为基础。本文的分析中假定先行者与追赶者的技术基础是相当的,他们只是在人工智能方面开展新的竞争。例如,双方的汽车制造技术相当,但双方开展自动驾驶研究的时间出现了先后差别。
从技术独立、均匀发展的指数规律来看,外围硬件领域的先行者优势比较明显。先行发展了外围硬件设备的国家在技术上基础雄厚,便于开展下一阶段研发,增加了后发者追赶的难度和时间。不同技术路径的替代会削弱先行者优势,使局部弯道超车成为可能。目前,人工智能军事应用刚刚兴起不久,一些新兴技术路线(如军用机器人、无人驾驶军车等)存在很多选项,先行者必须付出更多成本来预防竞争对手实现未曾预计到的技术突破。技术路径的替代会削弱先行者优势,缩小追赶者的追赶时间,但是,追赶者是否能够找到最合理的追赶路径,也存在着较大不确定性。
一些军民两用技术和设施可以从市场获得反哺,如无人驾驶汽车的研发可以通过市场获得部分经费和实践经验。一些敏感程度较低的军事技术和设施(如低端无人机)受到的出口管制限制不多,它们对市场也存在依赖。对于这些可供出口的产品,先行者有机会大规模占领市场,并从市场获得反哺;而追赶者从市场获得反哺的机会较少。因此,市场的零和属性会增加追赶者的难度。此外,也有一些军用设施和技术受到出口管制的限制,出口量非常小。在这类设施和技术的竞争中,市场对先行者优势的帮助作用较小。因此,在外围硬件这个领域,先行者能否通过对市场等零和资源的占有维持和延长其优势,其结果较不确定。总体而言,军民两用品和低端军用品受到市场的帮助更大,而敏感设施和技术受到市场帮助较小。
先行者有机会提高外围硬件的使用规模,从而降低单位成本,这有利于先行者优势;外围硬件需要维护成本,这对先行者优势存在显著削弱。
在外围硬件中,不同军事设施需要的改造程度各不相同。有些军事设施在接受人工智能赋能时需要专门设计,例如作战机器人。这类人工智能设备研发中的先行者优势持续时间可能会超过专用硬件,达到10年左右。
总之,如表4所示,在外围硬件领域中,技术独立、均匀发展的指数规律和规模效应会有利于先行者优势的维持;路径更替、试错成本和维护成本的因素会削弱先行者优势。由于该领域中对已有设备的改造程度差别较大,由此形成的先行者优势也存在明显差异,其优势持续时间大约在1~10年之间。需要重新设计、制造的比例越高,先行者优势持续时间将越长。
5. 人机结合
得到人工智能赋能的军事设施仍然需要军事人员进行设置、部署、启动、维护和评估,这些人机结合的活动是军用人工智能技术得以发挥作用的重要环节。人机结合的相关军事人员需要经过专门培训,该环节的竞争也由此产生。率先在军用人工智能领域进行人机结合培训的一方将能形成先行者优势。
技术独立发展的指数规律在该领域上的表现非常平直,并不会形成逐渐放大的先行者优势。规模效应在一定程度上可以降低培训成本,有利于形成先行者优势。追赶者通过模仿学习、减少试错成本也可以在一定程度上减少先行者优势。其他因素在人机结合这个领域对先行者优势的影响都不十分明显。因此,该领域的先行者优势持续时间较短。一些专业性军事训练的时间大约是1年或更短。
五、 不同领域军用人工智能技术中的先行者优势
人工智能军事应用由人工智能的各个技术成分(例如算法、数据等)组成,因此人工智能技术成分中的先行者优势通过这一途径传递到各军事应用领域。各领域所包含的技术成分并不一致,有的领域主要依赖算法和数据等“软件”,有的领域则需要完全设计和制造新的硬件。因此,各技术成分对各领域的先行者优势的贡献不同。本节将根据各领域技术成分的主次关系以及各技术成分中的先行者优势,综合评估人工智能军事应用各领域的先行者优势。
同时,有些技术成分的先行者优势持续时间可以相互重叠,有些则不能。其中,算法是人工智能的基础部分,人机结合主要用于技术和设备完成后的操作人员培训,这两者均需要单独计算时间;当其他技术成分与算法、人机结合等组合时,这些技术成分与算法、人机结合的时间不能重叠,需要累加;而其他技术成分的时间可以重叠计算。
(一) 情报监视与侦察
在情报监视与侦察领域,人工智能的主要用途是处理和分析数据。人工智能对数据的分析依赖特定算法(如图像识别、自然语言处理等技术以及其他情报处理的算法),从而实现情报分析工作自动化,提升效率。因此,算法的先行者优势会传递至情报领域。先行者在算法上的优势持续时间不长,这是因为先行者所开发的相关算法较易被追赶者模仿学习。因此,这一部分对情报领域先行者优势持续时间的贡献很小。
情报监视与侦察领域中另一重要技术成分是数据。数据的来源分为三种情形:一是提供数据的设备并不需要人工智能赋能;二是数据设施的软件需要系统性改造和升级,以便获取人工智能算法能够处理的数据,并对人工智能进行训练和标度;三是数据设备需要根据人工智能的需求专门设计和制造。
美国国防部负责信息系统和网络技术的理查德·林德曼(Richard W.Linderman)指出,由于可供分析的数据集已大量存在,人工智能在情报领域非常有用。
第二种情形需要按照人工智能的需求进行新的数据收集与累计,这是为了对特定的人工智能进行训练和标度。美国情报界已经或者正在开发不少运用人工智能的项目,仅中央情报局正在开发的相关项目就超过一百个,这些项目能够利用人工智能完成图像识别和预测分析等任务。
在第三种情形中,需要根据人工智能的需求和引导专门设计和制造侦察设备。可以设想,今后可能出现按照人工智能优化后的专用侦察设备,其获得的数据将非常适合人工智能系统的要求。这属于前文讨论过的外围硬件,这些外围硬件涉及的先行者优势与硬件需要改造的程度正相关,可以达到1~10年。
综合来看,在情报监视与侦察领域,人工智能赋能所获得的先行者优势持续时间跨度较大。在仅用人工智能算法处理原有设备就可获取数据上,先行者优势持续时间不到1年;在需要重新获取和积累数据上,先行者优势持续时间会增加至最多4年;如果需要研制新的侦察设备,先行者优势持续时间会增加至最多10年。
(二) 后勤
人工智能应用于后勤领域的技术成分主要包括算法和人机互动,而该领域既有数据仍可在人工智能环境下使用,因此积累新数据的需求较小。这一领域的一个典型案例是美国空军通过人工智能分析F-35飞机发动机等部件传感器数据,以进行预测性修理或零部件替换。
在算法这一技术成分中,先行者获得的优势持续时间不到1年。例如,一旦用于优化运输方案的算法付诸应用并获得成功,追赶者很容易开发出类似算法。而在人机互动部分,其先行者优势持续时间也不到1年。综合考虑,将人工智能率先应用于军事后勤领域,其产生的先行者优势持续时间不到2年。
(三) 网络空间作战
网络空间作战的人工智能既可用于进攻,也可用于防御。由于人工智能赋能的网络防御(cyber defense)部分更易获得公众的理解和宽容,且具有军民两用特性,因此获得更多公开讨论。相对而言,公开出版物中对网络作战进攻部分的细节讨论较少。但是,人工智能对于网络空间作战中攻防两端的赋能是相通的,如使用人工智能所找到的网络漏洞既可用于防御,也可用于进攻。因此,本小结以网络防御为考察对象,但结论也可适用于网络进攻。
在人工智能的各个技术成分中,算法对网络空间作战最为重要。有学者分析表明,广泛适用于网络防御的人工智能技术与算法由人工神经网络研究提供,较少需要新数据
网络空间作战人工智能赋能的根本目标是网络攻击智能化和自动化,以大幅提升效率。该领域人工智能运用的实例也表明其主要依赖于算法部分。2016年,美国国防部高级研究计划局(DARPA)举办了网络挑战赛,并与获胜者——主营软件算法的ForAllSecure公司签订了研究合同,开始实施“Voltron”计划,其主要目标在于利用人工智能自动发现和修补军用网络、系统和软件漏洞,这正表明人工智能运用于网络空间作战主要依赖于算法领域。
总的来看,网络空间作战中的先行者优势主要来源于算法,而算法提供的先行者优势持续时间不到1年。
(四) 信息战
人工智能在信息战中主要用于干预信息产生和传播,如通过推送、裁剪或伪造一些文本、照片、视频等信息影响公众话语。其中,人工智能换脸算法已比较成熟,并于民用领域获得广泛应用,甚至引起一定争议。信息战领域中该算法的应用尚无获得公开承认的重大案例,而更多是专家对其破坏性的推测。有学者指出,深度造假技术可能被用于制造虚假新闻报道、影响公共话语、削弱公众信任以及勒索外交官。
信息战比较依赖于算法、数据和人机互动这三个技术成分。算法为信息战提供必要的工具;数据可用于训练和校准专用的人工智能,提升信息投送精准性;人机互动也是信息伪造的必要部分。而专用硬件和外围硬件对于信息战的作用不大。
算法上的先行者优势持续时间不到1年,追赶者能较快模仿同样方式的信息战算法。但是,由于先行者率先掌握和积累了大量数据,追赶者并不能很快就与先行者在信息战中全面抗衡。追赶者需要大约4年的时间才有机会掌握全局数据,实质性削弱先行者的全面优势。在人机互动方面,先行者优势的持续时间将近1年,但这种培训可以与算法升级和数据积累同步进行。综合来看,信息战中先行者优势的持续时间大约为5年。
(五) 指挥控制
指挥控制是指根据已有信息对军力、火力调配和使用做出决定,并将决定传达到基层的过程。这一过程涉及多个层面,多数可通过人工智能赋能提高效率、降低成本、提升准确度。由于面临着责任归属、误判等种种问题,能否将决策的权力从人转交到人工智能已经历了相当一段时期的争论,甚至至今仍在相关规范制定讨论中存在很大争议。笼统而言,指挥控制中人工智能应用的好处可能导致人类对人工智能的依赖甚至盲从。尤其在数据量大、时间紧迫的情况下,人类未必有能力核对与纠正人工智能的判断,人工智能误导决策的机会增多。因此,在指挥控制领域使用人工智能,人类需要克制使用程度,但这一限度目前尚无定论。本文在此不讨论这一限度问题,仅假定最终决策者是人。
人工智能对指挥控制领域的赋能涉及所有5个技术成分:算法、数据、专用硬件、外围硬件与人机结合。算法用来处理有关敌情资料,优化作战方案,是指挥控制中最不可缺少的部分。数据包括敌我双方和环境的数据,有些数据是客观生成的数据(如三维地图等),有些数据是人工智能手段推测的结果(如敌我双方的航路等)。有些决策过程需要在极短时间内处理大量特殊数据,因此需要芯片等专用硬件来承担计算任务。为了便捷、保密地传递决策信息,还需要专门建设一些通信设备等外围硬件。此外,指挥控制不仅涉及高层指挥员。中国指挥与控制学会理事长戴浩曾从态势认知、筹划决策、平台控制、军事训练四个方面提出人工智能在指挥控制领域的赋能形式。以态势认知为例,人工智能可以借助“深度学习”等算法,形成一组面向特定作战任务的战场态势理解分析工具,辅助各级指挥员提高对战场态势的认知速度和准确度。
先行者优势的持续时间在算法中不到1年,在数据中不到4年,在专用硬件中为10年,在外围硬件中为1~10年,在人机结合中约为1年。对于指挥控制领域而言,硬件部分对其先行者优势的贡献最为主要,其次为数据,而算法和人机结合的贡献并不显著。专用硬件、外围硬件和数据的发展时间可以互相重叠,因此综合先行者优势的持续时间并不需要对这三类技术成分的对应时间进行叠加,即约为10年。
(六) 半自主和全自主运载工具
半自主和全自主军用运载工具的人工智能应用与民用无人驾驶有一定的相似性,这也是人工智能军事应用发展最为明确和可预见的领域。人工智能对于这一领域的赋能同样涉及所有5个技术成分,包括:无人驾驶相关的算法,各种航路的数据,人工智能芯片等专用硬件,搭载人工智能的飞机、舰船、导弹等外围硬件,以及相关的人机互动技术。其中,硬件部分的先行者优势占主导性地位。与指挥控制领域相似,由于各技术成分的发展时间可以互相重叠,可以推测半自主和全自主运载工具这个军事领域中人工智能赋能的先行者优势持续时间也约为10年。
需要注意的是,外围硬件对该领域的先行者优势贡献较大,而外围硬件涉及一些早已存在的军备,如军舰等。本文讨论的先行者优势是人工智能与原有军备耦合发展带来的,原有军备发展中也存在的先行者优势不在本文讨论范围之内。
(七) 致命性自主武器系统
致命性自主武器系统用人工智能赋能仍是一项争议非常大的应用,因为其可能造成的杀伤存在伦理上的问题。但就这一应用本身来看,其涉及的人工智能技术成分与半自主和全自主运载工具、指挥控制等军事领域是相类似的,由其带来的先行者优势也是相类似的,不再作单独讨论。
综合考虑,将人工智能运用于致命性自主武器系统的先行者所能获得的先行者优势很强,持续时间也大约在10年。
六、 结论与讨论
本文的核心研究问题是,军用人工智能发展中的先行者优势是永远增加,还是只能持续一段时间。本研究采用分解和还原的分析框架,按照先行者优势传递的逻辑,考察了人工智能军事应用的七个领域中的先行者优势的持续时间。这七个领域中,先行者优势持续时间不完全相同,最长的大约10年,这与“赢者通吃”的判断显然不同。“赢者通吃”的观点认为,一个国家一旦在人工智能军事应用中取得优势,就能持续保持并扩大该优势,而其他国家再无机会赶上。本文认为,一些因素促进和延长先行者优势,而另外一些因素削弱和缩短先行者优势。这些因素竞相发挥作用,使得人工智能军事应用与其他技术发展一样:先行者不能一劳永逸,永葆优势;追赶者则可以通过努力消除与先行者之间的差距。本文推测得出的先行者优势持续时间具有不确定性,但这种不确定性不影响对核心问题的回答,即先行者优势不会永久持续。
本文提出了一个分析框架:首先从影响先行者优势的因素考察人工智能技术成分中的优势持续时间,然后根据人工智能军事应用各领域所包含的技术成分,推测各领域中该优势的具体持续时间。本研究的一个中间结论如下:算法和人机互动技术成分中的先行者优势持续时间非常短,只有1年;人工智能专用硬件和外围硬件技术成分中的先行者优势持续时间比较长,甚至可以达到10年;数据积累技术成分中的先行者优势居中,大约持续4年。尽管这些估算结果具有一定的不确定性,但仍具有意义。在算法和人机互动等技术中,一时获得优势并不能维持长久,后发者总有机会。因此,维持技术队伍和发展条件极为重要。在人工智能专用硬件和外围硬件技术中,抢先发展获得的优势能够维持比较长的时间,一旦落后,追赶难度较大,因此相关竞争会较为激烈。
本文的分析逻辑适用于军用人工智能的研发、应用和部署。在目前阶段,仅有研发方面的经验与案例可供参考,因此,对军用人工智能技术的应用和部署方面,先行者优势的持续时间更不确定。
在人工智能军事应用的七个领域中,有些领域较多依赖硬件建设,这些领域中先行者优势持续时间较长;有些领域仅仅依赖算法更新,这些领域中先行者优势持续时间较短。可以看到,在后勤和网络空间作战领域中的先行者优势持续时间非常短,后发者能在较短时间内追上先行者。因此,这两个领域中国际竞争的结果无法起到决定性的作用,相关竞争的激烈程度较低。在指挥控制、半自主和全自主运载工具以及致命性自主武器系统等领域,先行者优势的持续时间较长,因此这些领域的国际竞争会比较激烈。信息战领域中的先行者优势居中,就此开展的国际竞争的激烈程度也相对居中。
上述分析为根据科学原理进行的成本—收益分析,属于理性分析的范畴。但事实上,国际竞争的激烈程度并不直接源于科学原理和事实,而是受到主观感知的影响。每当新科学技术出现并应用于军事领域时,人们往往会产生对先行者优势的焦虑感,期望极力延续自己过往的军事优势,或是担心对手在新领域获得持久的先行者优势。这种担忧的直观表现正是“赢者通吃”“抢占科技高峰”等理念的宣扬。它们可能通过塑造人们的主观判断影响人们对新兴科技的投资,进而影响新兴科技国际竞争的激烈程度。
在人工智能军事应用领域,目前较为普遍的认知是先行者优势极为明显,而且会延续很久。这种感知和焦虑感可能已经影响了该领域国际竞争的激烈程度。竞争各方都担心对手获取优势后自己再无机会赶上,并为此加快投资和发展,以免被动。这类情绪互相影响,逐渐放大,会加剧人工智能军事应用领域竞争的剧烈程度,值得警惕。
夸大人工智能军事应用领域的先行者优势,会提升焦虑感,并推动不成熟、错误的技术发展和投资,造成资源浪费,甚至走进技术发展的死胡同,变优势为劣势;焦虑感还会推动不必要的国际竞争,出现不必要的对抗升级。漠视人工智能军事应用领域的先行者优势同样也会带来负面后果,如错失发展良机,在该领域长时间落后,导致后续追赶代价极大。为此,需要尽可能根据科学技术的原理,客观推测人工智能军事应用领域中的先行者优势,减少误判。
本文结论有助于客观认识人工智能军事应用领域中的先行者优势,并据此推测和理解该领域国际竞争的激烈程度。由于人工智能军事应用正在兴起,相关实证材料不够充分,因此,本文的一些推测仍存在较大的不确定性。在人工智能军事应用发展轨迹更加明晰之后,本论文提出的研究框架可以用来进一步准确理解该领域国际竞争的激烈程度。