国外社科 理论研究

人工智能与未来十年的国际关系

袁文坤

2021年03月12日 01:57

黄忠
《当代世界与社会主义》2019年第6期

近年来,以人工智能为代表的新技术正引领第四次科技革命创新,推动着人类社会进入智能时代。(1)毫无疑问,它不仅会以超乎我们想象的程度再次塑造人类生活的方方面面,而且会极大改变我们对于社会科学的认识。在全球化时代,深入考察人工智能这一新技术对于未来十年国际关系的影响,无疑意义重大。

一、人工智能的内涵与特征

(一)人工智能的内涵

人工智能源于人类的梦想,诞生于计算机学科。1651年,霍布斯在其著作《利维坦》一书中,就设想制造出一种“人造的动物”。也正因此,科技史学家乔治·戴森(George Dyson)称其为人工智能的始祖。(2)1950年,英国数学家、计算机科学之父阿兰·M.图灵(Alan M.Turing)首次提出“机器是否可以思考”的问题,开创了人工智能研究的先河。(3)经过数十年的发展,人工智能已经成为一门以计算机科学为核心,涵盖机器人制造、统计学、物理学、数学、生物学、哲学与社会科学等诸多学科的新型交叉学科。当前,尽管它已经成为一门显学,但在技术层面如何界定仍存在诸多争论。这里仅从社会科学的视角出发,认同一般性定义,即人工智能是研究开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学,英文中的Artificial Intelligence和Machine Intelligence被统称为人工智能。(4)

人工智能有三个发展阶段。其一,弱人工智能(Artificial Narrow Intelligence)阶段,此时计算机只能在某些特定的工作领域超越人类智能;其二,强人工智能(Artificial General Intelligence)阶段,此时计算机和人类智能一样能够通过学习或推理来广泛解决问题;其三,超人工智能(Artificial Super Intelligence)阶段,此时计算机实现了对人类智能的全面超越,拥有“完美的记忆力和无限的分析能力”。(5)当前,尚处于弱人工智能阶段,根据谷歌工程总监、未来学家雷·库茨韦尔(Ray Kurzweil)的估计,2029年,人工智能就可以实现与人类智商并驾齐驱,2045年,它则能够达到超越人类智能的“奇点”(singularity)。(6)鉴于现实,本文对人工智能与国际关系相关问题的探讨都限于十年内的弱人工智能时代。

人工智能的基本功能大致可以分为四类:感知(Perception),即通过搜集和解读信息来感觉和描述世界,例如,语言、图像和声音识别;预测(Prediction),即通过推理来预知特定群体的行为与结果,例如,为设计精准定向广告而专门分析特定消费者群体偏好的技术;决策(Prescription),即为帮助实现目标而提供方案,例如,路径规划、药物开发和动态定价等;提供集成解决方案(Integrated Solutions),即人工智能与其他技术相结合,发挥彼此特长综合解决问题,例如,无人驾驶就是人工智能和汽车、飞机与轮船制造技术等相结合的产物。(7)

(二)人工智能的特征

尽管“人工智能”一词于1956年首次提出,但其真正引起广泛关注却是最近几年的事,主要原因在于,之前的研究受到了计算机运算速度低下、智能算法(8)落后和数据不足的困扰。2006年左右,随着互联网的广泛普及、大数据的积累、云计算技术的成熟、计算机芯片的不断升级和机器学习(machine learning)的持续进步,人工智能终于迎来新一轮突破。(9)整体而言,现阶段的人工智能有着以下特征:

超强的学习与进化能力。机器学习是当前人工智能的核心,以往的人工智能难以达到人类预期,关键在于智能算法不足以满足机器学习的需要,这个局面直到2006年深度学习的出现才得以改变。深度学习是机器学习的一个分支,其要旨是模拟人脑的神经网络结构,建构多层次的人工神经网络,然后以此为基础,通过对海量数据的分析发现规律,揭示数据内在的关系,进而达到最优化解决问题的目标。(10)比如,2016年3月,以4∶1击败世界围棋冠军韩国棋手李世石的阿尔法狗版本(AlphaGo Lee)就利用了数百万人类围棋专家的棋谱,用几个月时间进行了3000万盘的自我练习。但是,阿尔法狗的进化并未止步,深度学习也不是机器学习的终结。2017年1月,阿尔法狗第一次进化版阿尔法大师(AlphaGo Master)以60∶0的战绩横扫包括世界第一围棋手柯洁在内的中日韩顶尖棋手团队。2017年10月,再次进化版的阿尔法元(AlphaGo Zero)在用三天进行了490万盘的练习之后,以100∶0的战绩成功战胜曾击败李世石的阿尔法狗版本。然后,经过40天的自我对弈,阿尔法元又击败了阿尔法大师。更为重要的是,阿尔法元的学习不以任何人类经验为基础,无须额外导入大数据,它对围棋的认识从一张白纸出发,按照人类设定的围棋基本规则,借助一张单一的神经网络和一个强力搜索算法,就完成了史无前例的再进化。(11)相对而言,1997年击败国际象棋大师卡斯帕罗夫的“深蓝”所依靠的只是快速的运算能力,无法做到自我学习,因此不属于人工智能范畴。

强大的任务处理能力。相对于人类智能而言,人工智能具有三个优势。首先,它有着快速的数据处理和反应能力。互联网的爆发推动了大数据的发展。早在2013年,人类每天就约生产2.5艾字节的数据量。(12)目前,世界数据正呈现出指数增长势头,预计每年增长40%。(13)对这些数据的分析检索,人力无法企及,只有依靠人工智能。其次,它不受心理、体力等主观条件的限制,也不受时间和空间的局限。这就意味着相对于人类而言,它可以高效地排除多种负面因素的干扰,提升分析可信度、决策质量和行动执行力。最后,它可以尽最大可能避免人类组织体系中由于忠诚度问题而引起的低效现象。全球人口的大规模流动是当今世界的常见现象,企业的发展也常常受到员工离职或者被挖角的困扰。人工智能则对使用者绝对忠诚,不用担心其因故迁徙或者因对手的诱惑而背叛,能够从事长期、重要甚至秘密的工作。(14)

广阔的社会应用前景。近几年,人工智能的研发已经走出象牙塔,展现出了强大的社会应用价值。这方面最为经典的例子就是,智能手机使用率的提升,甚至还在挤压电脑的生存空间。事实上,人工智能在图像识别、语音合成、语言翻译、教育培训、金融会计、医药法律和自动驾驶等诸多领域同样拥有着重要市场价值。预计到2025年,全球企业对人工智能的采用率将达到86%。(15)

二、人工智能对世界经济发展的影响

科学技术是第一生产力。人工智能对于国际关系的影响,首先在于它会对未来十年的世界经济发展产生重大影响。

(一)人工智能对全球经济增长的影响

人工智能将会成为全球经济增长的新支点。与蒸汽机、电力和互联网一样,人工智能同样会渗透进人类经济活动生产、分配、交换和消费等环节的每一个领域,于微观层面改变人类日常生活的同时,在宏观层面也成为全球经济发展的新发动机。目前,它能够以三种方式推动经济发展。首先,通过智能自动化为经济发展提供一种新的虚拟劳动力,自动驾驶汽车就是其中的代表。其次,使既有的劳动力和资本运转得更为有效。据估计,智能技术未来有可能会使律师的效率提升500倍,使诉讼成本下降99%。(16)第三,在不同行业中的技术扩散所带来的规模经济效应。人工智能的一个优势在于它能够整合其他行业,尤其是传统工业部门的技术与设备,使其功能、成本和利润进一步优化。

咨询公司普华永道预测,人工智能会使全球经济在2030年增长至少14%,约15.7万亿美元,这比当前中印两国GDP的总和还要多。(17)企业界已经从中看到了机遇,他们对人工智能产业的投入正呈现出爆炸式增长的势头。其中,人工智能芯片主要制造商英伟达(Nvidia)的股票价格于2014-2017年间增长了逾700%。

然而,人工智能给世界带来的绝对经济收益并不能掩盖人类相对获益差距较大甚至会继续扩大的现实,它极有可能产生的结果是“我们的社会可能会变得很富有,但是大多数人却没有过得更好”(18)。

首先,区域和行业收益程度的差异。普华永道认为,在区域方面,到2030年,由于人口、制度、资金和技术等方面的原因,人工智能会使中国和北美地区的经济获益最大,分别占其届时GDP的26.4%(7万亿美元)和14.5%(3.7万亿美元),非洲、大洋洲与亚洲不发达地区(5.6%,1.2万亿美元)和拉美地区(5.4%,0.5万亿美元)则获益较小;在行业方面,金融服务业、零售业和医疗健康产业会受益最大。(19)值得注意的是,在这一过程中,和人工智能相关的互联网技术制造商也将会摆脱以往的技术辅助角色,真正成为市场的塑造者。(20)

其次,人群受益的差异。在一个逐利的全球市场体系中,拥有资本的富人会因为人工智能的普及而成为最大获益者,而那些仅拥有可以被人工智能替代的劳动力的穷人则只会被更加边缘化。善于利用新技术的华尔街金融资本家是获利的典型代表,人工智能首先更加方便了他们操纵国内外金融市场。目前,智能股票买卖系统高频交易占美国股市日常交易的50%,其特长是能够迅速分析市场行情,利用低价买进高价卖出的策略收割中间利润,速度可以几乎达到于0.1秒的时间内完成差不多10万笔交易。(21)可以说,在人工智能推动下,全球金融市场动荡的可能性会进一步增强,诸多国家被国际金融寡头劫掠的风险会提高到前所未有的程度。

人工智能的普及会大大提高一些劳动密集型产业的员工失业的概率,甚至一些高度需要人类智慧的职业,例如医生、律师和教师等,也会遭遇部分失业的危险。需要强调的是,人工智能带来的失业问题连发达国家也无法做到置身事外。麦肯锡全球研究院认为,基于目前的人工智能发展程度,全球46个国家中有49%的带薪工作岗位存在不同程度自动化的潜力。在美国,住宿与餐饮业、制造业、农业、交通运输与仓储业和零售业这五个最具自动化潜力行业的相关数据分别为73%、60%、58%、57%和53%。(22)

(二)人工智能对全球经济发展的挑战

一些以劳动密集型产业为主的发展中国家有可能会面临灭顶之灾,而以往的那种依靠劳动力比较优势来发展经济的思路也会终结。对于采取类似美国总统特朗普那样强迫制造业回流以增加国内就业的人而言,人工智能的发展意味着这种措施只会失败,因为政府虽可以用行政手段逼迫跨国公司增加在本国的投资,却无法阻止它们使自己的企业走向自动化。与此同时,如何防范金融投机风险将会成为所有国家面临的难题。

表面上来看,人工智能带来的这些挑战是技术引起的,但就根本而言,它们仍然由不公正的全球资本主义体系造成。人工智能非但不能改变资本主义的基本矛盾,反而会加剧生产社会化与生产资料私人占有之间的矛盾,让穷者的消费力永远赶不上富者的产品生产速度。曾经有人希望利用人工智能从根本上解决全球贫困问题,而实际上,早在2010年,在饥饿和营养不良夺走约100万人生命的同时,肥胖却让300万人失去生命。(23)

按照资本主义经济危机发生的规律,从2017年全球经济复苏开始,经过约十年时间,到2027年左右,全球有很大可能会再次发生大规模经济危机,而且破坏性将会更大。此次危机一旦发生,与以往不同的地方在于:首先,金融寡头在人工智能的支持下会更加猖狂,诸多国家好不容易取得的经济建设成果极有可能再次被他们窃取,国家将深陷发展困境。其次,资本主义生产相对过剩造成的失业与人工智能普及所造成的失业相叠加,造成更大规模失业潮,更为严重的贫富分化则会助推其在全球范围内再次引爆社会危机,推动新一轮逆全球化运动兴起。再次,此次危机正好处于中国经济赶超美国的重要节点,也是世界经济格局再次大调整的重要节点。中国社会科学院预测中国经济在总量上追上美国大约要到2034年左右,(24)在这一过程中当然也存在着诸多不确定因素,人工智能这个新技术和新一轮全球经济危机的影响都在其中。由于中美两国在技术层面享受人工智能所带来的机遇和挑战基本相同,因此谁能够在经济制度层面利用好人工智能的发展潜力,并消除其风险隐患,谁就能够优先化解经济危机带来的负面影响,在竞争中笑到最后。由于美国已经视中国为战略竞争对手,因此在未来十年中,它必定会采取各种手段阻止中国的崛起。其中,在人工智能领域抢占制高点并伺机对中国发动金融战必定会在优先考虑的手段之列。对于中国而言,社会主义经济制度追求公平的内在特性可以让中国更有效地处理经济危机和失业问题,但能否有效地实现体制创新,充分享受人工智能所带来的技术红利并应对好国际投机资本的掠夺,却是一个巨大挑战。另外,过多资本对人工智能的盲目跟风和过热投资也值得注意,它极有可能会助推更大的经济泡沫肆虐全球,以往的互联网泡沫就是教训。(25)

三、人工智能对全球武装冲突的影响

人工智能会成为人类军事变革史上又一座新的里程碑,它在推动现代战争进入智能化时代、让各国掀起新一轮军备竞赛的同时,虽然暂时不能让全球军事力量对比产生根本变化,但也会在短期内加剧世界范围的武装冲突与战争,恐怖袭击与核扩散的风险同样会进一步加大。

(一)人工智能在战争进程中的作用

人工智能将会极大改变传统战争的面貌,智能化会成为现代战争的发展方向。战争过程中,在情报分析、决策控制和武器系统这三大主要领域,人工智能都将得到充分应用。(26)

在情报分析领域,人工智能的优势在于它能够迅速处理海量数据,帮助指挥员更为快捷准确地搜集战场信息、把握敌我战场态势。美国国家地理空间情报局已经提出了利用深度学习来对重复耗时的图像分析任务进行自动化处理的构想。(27)

在决策控制领域,人工智能有助于使指挥员从纷繁复杂的决策细节中解脱出来,专注主要决策,提升决策的科学性。它改变了以往的作战指挥主要依赖指挥员的经验、直觉和战前计划等传统,能够辅助指挥员随机应变,设计多种兵力部署和作战实施方案,然后选择最合适的部队于最恰当的时间、最优的地点以最高的效率完成作战任务。在这一过程中,人工智能的优势不仅在于它的速度和自我纠错能力,还在于它能够克服人类在面对压力时的种种心理局限,以纯理性方式权衡得失,并且它能够打破人类常规思维的限制,创造性地提出新思路帮助指挥员来拓宽视野。(28)在美国空军装备司令部发布的《2016年战略规划》中,研究人工智能用于高层指挥决策就被当作一项重要内容提出。(29)

在武器系统领域,人工智能所带来的最大改变是智能武器的使用。其实在智能武器之前,就已经出现了无人侦察和攻击飞机,只是它们依然由人远距离实施操控。智能武器的差别在于,它一旦启动,就可以在无人干预的情况下自主搜索目标,进行威胁评估,确定并摧毁打击对象,再最终完成效果评估。(30)其优势在于:首先,速度和准确率大为提高。传统无人攻击系统在打击目标时,依赖于情报人员的主观判断,因此随意性较强,也有一定滞后性,甚至免不了让平民受到无辜牵连。比如,美国情报人员和军队在通过SIM卡等定位方式发现疑点时,就直接给无人机下达攻击指令,而不会去确定疑点身份,也不考虑其周围是否有平民。其直接后果就是,美军的每次相关打击,都会平均致死28名无辜人员。(31)与之形成对比的是,2017年,联合国展示的一段视频显示,智能武器可以在无人监督的情况下,通过人脸识别系统迅速锁定目标,瞬间杀人。(32)其次,可以突破人类身体机能的限制,拓展传统军队的活动空间与时间,代替人类执行危险和自杀性任务。运输机器人、战斗机器人和排雷机器人就是其中的代表。再次,将多个智能机器人进行有效组合,形成蜂群,可以将智能系统的整体效能最大化,进而在战场上相对敌手形成在规模、协调与速度等方面的绝对优势。(33)目前,美国国防高级研究计划局正计划打造一支在小部队的指挥下,由至少250个机器人组成的可以在复杂城市环境下执行多样任务的蜂群。(34)

展望未来,随着人工智能与纳米技术、生物技术、新材料技术和量子技术等其他前沿科技的进一步创新、融合及其在军事领域的广泛应用,战争的各个环节都会发生重大变化,战争的基本面貌、过程、机理乃至作战指导思想也会发生颠覆性变化。可以这样说,人工智能领域取得优势的国家,在战争中能够获得更多先机。但是,人工智能在军事领域暂时仍不能完全代替人类。因为它只有在完全信息博弈的环境中,按照给定的规则行事才能发挥出相较于人力的优势,围棋博弈就是类似代表。但是,战争恰恰是在不完全的信息环境中展开的,作战的双方往往只能知己,并不确定能否把握对方的所有信息,而且战争的规则也不确定,甚至可以说毫无规则可言。因此,在人工智能时代,实行人机协同,把二者的优势相结合将会是赢得战争的基本保证。

需要强调的是,在智能战争时代,智能与反智能的斗争将会非常激烈。例如,美国虽然有强大的网络进攻能力,但同样也研发了针对网络入侵的智能诊断信息系统,它能够自动诊断网络入侵来源,评估己方网络受损程度并进行数据恢复。(35)事实上,围绕人工智能在军事领域的应用,各国已经掀起了新一轮军备竞赛的步伐,今后这种竞争只会更加激烈。军事上,人工智能应用较好的强国固然能够在与对手的战争中获得更多优势,但是如果后者能够在人工智能的某些领域获得局部优势,利用不对称战争,仍然有可能会给前者造成物质与心理的重创。

(二)人工智能与世界战争面貌的变化

人工智能的发展,无疑会刺激美欧强国发动战争的意愿。冷战结束以来,制约它们发动战争的最大因素是巨大的人员伤亡数目和高昂的战争物质成本。然而,人工智能的出现,有助于大幅提升具体战斗获胜的概率,降低物质损失程度尤其是战斗人员的伤亡数字。在面对亚非拉等技术落后的中小国家时,这种优势会更加突出。根据以往的经验,在国内发生重大危机的时候,发动嫁祸于人的战争是资本主义强国的惯用手段,用暴力手段推广西方价值观和自由市场经济制度以及打击恐怖主义也是它们的一贯偏好。人工智能的发展,无疑为它们提供了发动战争的有力工具。再加上十年后,世界可能面临更为严重的经济危机,欧美强国发动战争的意愿只会更加强烈。与此同时,当弱小国家的政权无力与列强进行对抗而被打压或者消灭时,恐怖主义也会借机获得更多滋生的土壤。虽然在正面战场上,他们无力与正规军队进行决战,但是随着人工智能的普及,他们利用非对称手段成功发动恐怖袭击的可能性却在增加。自互联网诞生以来,虽然网络监管技术不断升级,但未能有效阻止恐怖主义借助网络四处泛滥,人工智能自然也不能从根本上消灭恐怖主义,相反它同网络一样会为恐怖分子所用,在世界制造新的恐慌。可以预期,恐怖分子利用无差别杀人机器人袭击所造成的伤亡数字与美国普通的持枪袭击事件相比,绝不会在一个数量级上。其结果就是,一些大国发动战争的强烈意愿和恐怖分子发动袭击的坚定意志遥相呼应,世界陷入新一轮局部战争和冲突的风险会进一步加大,诸多国家内部面临恐怖袭击风险与损失的可能性也会进一步提升。

人工智能暂时无法改变世界军事力量对比的基本格局。核武器及其载体的数量与质量仍然是影响当今大国军事实力的决定性变量。核武器载体的智能化对核武器质量的提升,尚不足以达到根本改变全球核威慑态势的程度,也没有改变核武器作为一种最后使用的报复工具这一功能。“威慑本质上是一个在实力基础上进行心理较量的过程。”(36)就过程而言,在两个敌对拥核国家中,人工智能上占据优势的一方无疑会在情报搜集、分析和心理博弈上获得优势。但是,一旦试图将核武器投入实战,那么人工智能仍然存在难以克服的短板。虽然通过这一技术,主动发起核攻击的一方在对目标的精确打击和时间的选择上会占据优势,但其优势相对有限。由于核武器本身就是大规模杀伤性武器,因此它对精确性的要求并不很高,0.001米的精度与1000米的精度没有本质差别,这就意味着进攻者的核杀伤优势并不明显;现代导弹防御系统已经将针对攻击核武器的预警时间缩短为秒级,这等于说只要一方发射核武器,对手仍然有可能在极短时内做出反应,在拦截的同时予以报复。即使拦截和报复都失败,核武器的特殊毁灭效果仍然会使试图攻击者心存忌惮——只要对手采取核捆绑与核扩散战略,世界仍然免不了被毁灭的危险。就算这两种手段失效,大规模核战争所引发的负面环境效应仍然非地球所能承受,核冬天依然会造成人类的自我毁灭。在这种情况下,不仅是核大国之间发动大规模核战争的可能性依旧几乎为零,就连核大国在对核小国进行讹诈时也还是要心存忌惮,防止对手不理性的行为给自己带来灾难性后果。就是在有核国家对无核国家使用战术核武器的考量中,人工智能也不能让试图攻击者毫无顾忌,来自其他有核国家的多重博弈和国际法、国际规则和国际道德等因素仍会限制战术核武器的使用。甚至可以这样说,人工智能的使用强化了核武器在国家生存中的作用,弱小国家和恐怖分子借核武器进行不对称报复的动机会更加强烈,国际核扩散的风险自然也进一步加大。此外,在核恐怖平衡的维系下,国际体系的无政府状态也将持续。

四、人工智能对国际政治互动的影响

人工智能的诞生与普及,正在让人类进入智能政治时代。这种智能政治是传统网络政治的升级版,它们之间的差别在于,在智能政治时代,网络的操作主体是智能算法程序机器,利用的核心对象是大数据,而在传统网络政治时代,网络的操作主体则是人,利用的核心对象则是相对有限的可接触信息。这对于国际政治互动的影响同样广泛而深刻。

(一)人工智能在政府运转与国家外交活动中的作用

人工智能对于政府效能提升的意义不言而喻。首先,人工智能对于国家整体运转情况大数据的实时跟踪和分析,有助于政府更为精准地把握国家社会生活的各方面问题,提升决策科学性。其次,人工智能能够帮助政府更为有效地设计工作流程,优化工作程序,能够代替人力从事简单重复但又耗费时间的资料搜集、文本写作、公众咨询与公共建设等方面的工作,减少不必要的资源浪费、人员冗余和腐败问题,提升决策执行力。再次,人工智能可以帮助政府针对不同公民的需要提供个性化的服务措施,使政府与民众之间的关系更为融洽,提升政府形象,也有助于公民更好地参与国家政治事务。(37)

人工智能在提升政府效能方面的作用也同样适用于外交领域。例如,传统外交谈判往往费时费力,但是如果将人工智能引入谈判过程,很多事情就会变得简单。在一场双边或者多边谈判中,智能机器能够克服语言障碍,同步利用可接触的各种数据,节约各方代表冗长的发言时间和博弈过程,与对方的智能机器一道提出一系列可供接受的方案供双方做出决定,其时间和成本相较于外交官之间的面谈可谓微不足道。不仅如此,智能机器还能够尽最大可能避免人的工作失误和自我偏见,能够为有心于合作的各方提供最大可能的共赢方案。(38)

(二)人工智能对国际权力角逐的影响

首先,大数据将成为国家权力的战略资源之一,智能鸿沟将成为国际政治不平等的新来源。

《经济学人》认为,如果说过去国家最重要的资源是石油,那么现在无疑是数据。(39)这不仅仅是因为通过这些海量数据能够扶植起一大批新兴科技企业,引领世界经济发展和军事变革的潮流。更为重要的是,它们蕴含着影响国计民生的核心信息,是记录着国家社会生活面貌的真实档案,也是国家制定大政方针的重要依据,一旦为对手所掌握,后果将不堪设想。

不仅如此,计算机芯片、智能算法和大数据是人工智能的核心,其发展需要投入大量人力、物力,再加上计算机芯片和智能算法能够以超快速度升级的技术特征,人工智能还极有可能造成赢者通吃局面的出现,技术落后者不仅会在科技、经济与军事层面,也会在政治和文化上付出沉重代价,国际地缘政治的版图同样会因此而改变。(40)法国总统马克龙特别重视人工智能在维护主权、保障普世价值中的作用,认为它有可能改变国家的民主进程。(41)可以预期,借助智能网络,西方国家会对广大发展中国家开展新一轮政治、文化与价值观攻势,后者在维护自身主权独立、政治稳定和民族特性的问题上也将会面临更为艰巨的挑战。

其次,国家权力的权威性会受到进一步侵蚀,被金融资本绑架的风险进一步提高。

一方面,大型人工智能科技公司、非政府组织和个人对政府权力的挑战在加大。互联网本身就在不断削弱政府对社会信息的控制力,并且让政府置于更多的社会监督中,人工智能则强化了这个趋势。在本轮人工智能发展大潮中,谷歌、脸书、微软和亚马逊等大型跨国公司无论是在技术研发还是在对数据资源的掌控利用上都走在了政府前面。与此同时,政府凭自身的力量不足以应对人工智能发展的步伐,典型的例子就是,“美国国安局或许能够监控每个人说的每句话,但看到美国外交纰漏不断,就知道华盛顿虽拥有所有数据,却没人知道该怎么运用”(42)。这样,这些人工智能巨头凭借自身在全球范围内的技术和资源优势就获得了相对于以往更多的权力,它们干预国家事务和国际政治的能力随之提高。甚至,行事低调的“剑桥分析”公司都被认为是利用大数据干涉英国脱欧和2016年美国大选的重要推手。(43)此外,借助人工智能和其他技术相整合的超强能力,非国家行为体能够更多监督国家的内政外交事务,更多突破国家的网络封锁进行跨国联系、自由表达,公民对国家的忠诚度也会进一步削弱。

另一方面,金融资本绑架国家权力的意愿大幅增强。目前的国际体系其实就是以金融资本为主导的国际资本主义体系,金融资本家通常是国家政权的重要控制者。面对人工智能带来的高额利润诱惑,以华尔街为代表的金融大鳄会更加有动力通过国家的力量来让它为自己的利益服务。在美国,就曾经出现过最大的铁路建设项目让位于耗资巨大的光纤隧道项目的案例,原因在于建设这条光纤可以减少芝加哥期货市场和纽约证券交易所三毫秒的通信时间,方便金融资本家利用时间差进行投机交易,攫取利润。(44)如果国家再不能对此有效应对,付出的就不仅仅是产业结构失衡、实体经济萎缩和国际经济竞争力削弱的代价,甚至国家权力分配格局和政治结构都会面临遭遇根本颠覆的危险。

再次,智能安全成为国际安全的新领域,智能治理也会成为国际治理的新疆域。

人工智能同样会给国际社会带来新的公共安全风险。一是人工智能存在着被黑客攻破和干扰的风险。比如,在2017年的“极棒”(GeekPwn)国际安全极客大赛上,人脸识别,声纹、指纹与虹膜认证,甚至签名笔迹都被破解。(45)二是出于对利润的追逐,人工智能可能被用于非法目的。脸书首席执行官马克·扎克伯格(Mark Zuckerberg)就曾因为用户信息泄露问题不得不亲赴美国国会和欧洲议会接受质询,也遭到英国国会的传唤威胁。(46)三是人工智能自身可能存在的技术缺陷,或者其他外在客观不确定因素,让它在应用时造成难以理解和无法弥补的损失。就内部因素而言,人工智能的技术问题既有可能是软件漏洞,也有可能是硬件故障,还有可能是软硬件突然出现不兼容等。就外在因素而言,人工智能相互之间可能会配合很好,但它在与人类合作时,极有可能会出现因为人类自身的失误导致双方协调失灵的情况。(47)2016年3月,微软就出现过新研发的智能聊天机器人Tay于24小时内就在与人的聊天过程中被“教坏”,出现满口脏话和种族歧视的情况。(48)

在这种情况下,有关人工智能的国际治理问题自然而然要提上议事日程。到目前为止,相关研究和表述主要集中于人工智能使用的原则与伦理,而相应的国际规则和法律尚处于待定状态。2018年3月,G7成员国在加拿大蒙特利尔市只是就人工智能的发展提出了一份“共同愿景”,并无具体方案。(49)但可以预期的是,随着人工智能的快速大规模应用,其治理问题必定会在未来几年内成为热点,相关问题上的国际博弈也会异常激烈。

(三)人工智能在宣传战中的作用

宣传机器人能够伪装成人类,通过使政治参与自动化来影响公众舆论。相对于人类,其优势在于:首先,成本更低。宣传机器人能够以非常低的成本同时操纵数以万计甚至百万计的用户账户,在推特上就有大约4800万(15%)的账户为机器人控制。其次,时效性更强。它能够对网上的特定事件进行实时跟踪,然后几乎同步做出反应,创作出相关内容,并有计划地大量散布,进而在第一时间塑造舆论场。这在信息时代尤为重要,因为人们往往只能想起与事件相关的第一条叙述,即便它是错误的。当然,对于不利于己方的信息,它也能够做到同步刷屏、舆论围攻和制造杂音,将其负面影响降到最低。目前,社交媒体网站逾10%的内容和62%的流量,都由机器人产生。再次,更具针对性。它能够通过跟踪用户经常使用的网站和关注的内容,在线分析出用户的性格、政治偏好、宗教信仰与兴趣爱好等个人数据,动态创建和发送专门符合其特定心理特征的内容,潜移默化地诱导他们支持自己想要的政策目标。(50)

宣传机器人的这些优势在外交公关与干涉中能够发挥重要作用。2018年3月,布鲁金斯学会发布的一份研究报告认为,俄罗斯就利用人工智能干涉了2016-2017年间美国、法国和德国三个国家的大选,它们与其他相关活动一起,旨在破坏西方民主制度,在西方国家内部挑拨离间,削弱跨大西洋共识。例如,在2016年美国大选期间,俄罗斯在脸书的相关账户上就美国的敏感社会问题,如种族、移民、宗教和性别歧视,散布了大量信息。这些账户以精确定位的方式,借助脸书和其他社交软件既有的广告工具插件,被持有类似观点的用户所接收。其成本极为低廉,俄罗斯仅花了10万美元就让脸书和Instagram上的1.5亿用户收到了信息,其目的就是借这些热点问题诱发西方的社会分裂。(51)可以这样说,随着人工智能的进一步成熟,它将在未来的外交舆论公关和外交干涉中起到更为显眼的作用。

在宣传战当中,西方国家会凭借自身的技术优势更加肆无忌惮地对弱小国家发动各种舆论攻势。虽然美国在不断强调俄罗斯干预西方国家大选,但是“棱镜”计划却暴露了美国政府对自己的盟友都进行监听的行为。以往,发达国家对其他国家进行网络渗透的主要手段是雇佣网络水军、控制当地网络传播企业和培养代言人等,但是借助人工智能的技术优势,它们完全可以运用新型网络智能机器人以更低成本和更高效率达成扰乱对方舆论、制造社会混乱与分裂的目标。对此,技术落后的弱国几乎无法应对,除非彻底隔断本国网络与外界的联系。

注释:

(1)《张亚勤:人工智能是第四次工业革命的技术基石》,参见环球网https://tech.huanqiu.com/article/9CaKrnJTl8p。

(2)参见[英]托马斯·霍布斯《利维坦》商务印书馆1985年版引言第1页;Nils J.Nilsson,"The Quest for Artificial Intelligence:A History of Ideas and Achievements",see from https://ai.stanford.edu/~nilsson/QAI/qai.pdf。

(3)See Alan M.Turing,"Computing Machinery and Intelligence",in Mind,New Series,Vol.59,No.236,1950,pp.433-460.

(4)腾讯研究院等《人工智能》中国人民大学出版社2017年版第23页。

(5)The Cylance Data Science Team,Introduction to Artificial Intelligence for Security Professionals,Irvine:The Cylance Press,2017,pp.Ⅺ-Ⅻ.

(6)Dom Galeon and Christianna Reedy,"Kurzweil Claims That the Singularity Will Happen by 2045",October 2017,see from https://futurism.com/kurzweil-claims-that-the-singularity-will-happen-by-2045/.

(7)Dominic Barton,Jonathan Woetzel,Jeongmin Seong and Qinzheng Tian,"Artificial Intelligence:Implications for China",2017,see from https://www.mckinsey.com/featured-insights/china/artificial-intelligence-implications-for-china.

(8)参见[以色列]尤瓦尔·赫拉利《未来简史》中信出版集团2017年版第75-81页;[美]佩德罗·多明戈斯《终极算法》中信出版集团2017年版第1-9页。

(9)万赟《从图灵测试到深度学习:人工智能60年》,载于《科技导报》2016年第7期。

(10)参见陈庆修《深度学习与大数据解析》,载于2016年12月5日《学习时报》;陈云霁《从人工智能到神经网络处理器》,载于《领导科学论坛》2017年第1期;The Cylance Data Science Team,Introduction to Artificial Intelligence for Security Professionals,Irvine:The Cylance Press,2017,pp.115-155。

(11)王心馨、虞涵棋《阿尔法狗再进化:自学3天,就100∶0碾压李世石版旧狗》,参见澎湃新闻网http://www.thepaper.cn/newsDetail_forward_1828509;虞涵棋、王心馨《阿尔法狗之父揭秘最强“狗”如何炼成:3天走完人类千年棋史》,参见澎湃新闻网http://www.thepaper.cn/newsDetail_forward_1829941。

(12)"What is Big Data?",see from https://www.ibm.com/blogs/insights-on-business/consumer-products/2-5-quintillion-bytes-of-data-created-every-day-how-does-cpg-retail-manage-it/.

(13)《数据创新促进发展》,参见联合国网站https://www.un.org/zh/sections/issues-depth/big-data-sustainable-development/index.html。

(14)[英]尼克·波斯特洛姆《超级智能》中信出版社2015年版第98页。

(15)《国家信息中心联合华为发布研究报告推动人类社会迈向智能时代》,参见环球网https://smart.huanqiu.com/article/9CaKrnKmtph。

(16)腾讯研究院等《人工智能》中国人民大学出版社2017年版第349页。

(17)"Sizing the Prize:What's the Real Value of AI for Your Business and How Can You Capitalise?",2017,see from https://www.pwc.com/gx/en/issues/analytics/assets/pwc-ai-analysis-sizing-the-prize-report.pdf.

(18)[美]杰瑞·卡普兰《人工智能时代》浙江人民出版社2016年版第XVIII页。

(19)"Sizing the Prize:What's the Real Value of AI for Your Business and How Can You Capitalise?",2017,see from https://www.pwc.com/gx/en/issues/analytics/assets/pwc-ai-analysis-sizing-the-prize-report.pdf.

(20)Mirko Schiefelbein and Holger Friedrich,"The Empire Strikes Back",July 2017,see from https://core.se/fileadmin/user_upload/coreinstitute/content/Reports-White_Papers/COREinstitute_Whitepaper_The-Empire-Strikes-Back_EN.pdf.

(21)[美]杰瑞·卡普兰《人工智能时代》浙江人民出版社2016年版第49-57页;Gregory Meyer,Nicole Bullock and Joe Rennison,"How High-frequency Trading Hit A Speed Bump",in Financial Times,January 1,2018,see from https://www.ft.com/content/d81f96ea-d43c-11e7-a303-9060cb1e5f44。

(22)McKinsey Global Institute,"A Future That Works:Automation,Employment,And Productivity",January 2017,see from https://www.mckinsey.com/~/media/McKinsey/Global% 20Themes/Digital% 20Disruption/Harnessing% 20automation% 20for% 20a% 20future% 20that% 20works/MGI-A-future-that-works-Executive-summary.ashx.

(23)Stephen Adams,"Obesity Killing Three Times As Many As Malnutrition",in The Telegraph,December 2012,see from https://www.telegraph.co.uk/news/health/news/9742960/Obesity-killing-three-times-as-many-as-malnutrition.html.

(24)鞠旻辰《经济学人调查:中国2034年与美国经济总量持平》,参见经济观察网http://www.eeo.com.cn/2017/0615/306594.shtml。

(25)Gil Press,"45 Numbers to Keep Track of the AI Bubble",in Forbes,April 2018,see from https://www.forbes.com/sites/gilpress/2018/04/02/45-numbers-to-keep-track-of-the-ai-bubble/#42e65 eca7a75.

(26)Elsa B.Kania,"Battlefield Singularity:Artificial Intelligence,Military Revolution,and China's Future Military Power",November 2017,see from https://s3.amazonaws.com/files.cnas.org/documents/Battlefield-Singularity-November-2017.pdf? mtime=20171129235804.

(27)Sandra Erwin,"With Commercial Satellite Imagery,Computer Learns to Quickly Find Missile Sites in China",in Spacenews,October 2017,see from http://spacenews.com/with-commercial-satellite-imagery-computer-learns-to-quickly-find-missile-sites-in-china/.

(28)See Kareem Ayoub and Kenneth Payne,"Strategy in the Age of Artificial Intelligence",in Journal of Strategic Studies,Vol.39,Iss.5-6,2016,pp.793-819.

(29)贺昕《人工智能开启的新一轮军事变革不容小觑》,载于《赛迪智库专报》2016年第34期,参见http://www.ccidwise.com/uploads/soft/160803/1-160QG54J9.pdf。

(30)李大光《“大师”来袭,让作战样式向无人化发展》,参见中华人民共和国国防部网站http://www.mod.gov.cn/jmsd/2017-01/23/content_4770692_2.htm。

(31)陈立希《曝光:美无人机反恐基本为“盲炸”》,参见新华网http://www.xinhuanet.com/world/2015-08/06/c_128101086.htm。

(32)《联合国曝光杀手机器人视频:场面血腥恐怖》,参见新浪科技http://tech.sina.com.cn/it/2017-11-21/doc-ifynwhww5813368.shtml; Ian Sample,"Ban on Killer Robots Urgently Needed,Say Scientists",in The Guardian,November 2017,see from https://www.theguardian.com/science/2017/nov/13/ban-on-killer-robots-urgently-needed-say-scientists。

(33)Paul Scharre,"Robotics on the Battlefield Part II:The Coming Swarm",October 2014,see from https://s3.amazonaws.com/files.cnas.org/documents/CNAS_TheComingSwarm_Scharre.pdf? mtime=20160906082059.

(34)David Grossman,"DARPA Is Seeking Ideas for Drone Swarms to Assist Troops",in Popular Mechanics,October 2017,see from https://www.popularmechanics.com/technology/robots/a28764/darpa-wants-your-ideas-on-swarms-of-drones/.

(35)范奇飞等《人工智能将影响国防建设?要高度重视》,参见中国军网http://www.81.cn/jmywyl/2017-08/09/content_7710957_6.htm。

(36)朱明权、吴莼思、苏长和《威慑与稳定——中美核关系》时事出版社2005年版第10页。

(37)何哲《人工智能时代的政府适应与转型》,载于《行政管理改革》2016年第8期。

(38)Hamid Akn nver,"Computational Diplomacy:Foreign Policy Communication in the Age of Algorithms and Automation",November 2017,see from http://edam.org.tr/wp-content/uploads/2017/11/bilisimsel_diplomasi_EN.pdf.

(39)"The World's Most Valuable Resource Is No Longer Oil,But Data",in The Economist,May 2017,see from https://www.economist.com/news/leaders/21721656-data-economy-demands-new-approach-antitrust-rules-worlds-most-valuable-resource.

(40)Stephan De Spiegeleire,Matthijs Maas and Tim Sweijs,"Artificial Intelligence and the Future of Defense",2017,see from https://hcss.nl/sites/default/files/files/reports/Artificial%20Intelligence% 20and%20the%20Future%20of%20Defense.pdf.

(41)"Emmanuel Macron Talks to WIRED about France's AI Strategy",in WIRED,March 2018,see from https://www.wired.com/story/emmanuel-macron-talks-to-wired-about-frances-ai-strategy/.

(42)[以色列]尤瓦尔·赫拉利《未来简史》中信出版集团2017年版第339页。

(43)潘秋辰、纪双城等《5000万脸书用户信息被盗探访这场舆论风暴中的“剑桥分析”》,参见环球网http://world.huanqiu.com/exclusive/2018-04/11767613.html; Vyacheslav W.Polonski,"How Artificial Intelligence Conquered Democracy",in Independent,August 2017,see from https://www.independent.co.uk/news/long_reads/artificial-intelligence-democracy-elections-trump-brexit-clinton-a7883911.html。

(44)李彦宏等《智能革命》中信出版集团2017年版第296-297页。

(45)《GeekPwn 2017,人工智能凸显安全风险》,载于《中国信息安全》2017年第11期。

(46)Jim Waterson,"MPs Threaten Mark Zuckerberg with Summons over Facebook Data",in The Guardian,May 2018,see from https://www.theguardian.com/technology/2018/may/01/mps-threaten-facebook-chief-zuckerberg-with-summons-over-data; Guy Verhofstadt,"Mark Zuckerberg Failed to Address European Concerns about Facebook",in CNN,May 2018,see from https://edition.cnn.com/2018/05/23/opinions/mark-zuckerberg-european-parliament-facebook-verhofstadt-intl/index.html.

(47)William A.Carter,Emma Kinnucan and Josh Elliot,"A National Machine Intelligence Strategy for the United States",March 2018,see from https://csis-prod.s3.amazonaws.com/s3fs-public/publication/180227_Carter_MachineIntelligence_Web.PDF? CLlXGgQQQoc78akgCk.2StKO7NsrC2J1.

(48)郑怡雯《微软聊天机器人上线24小时被教坏,变身满嘴脏话的不良少女》,参见澎湃新闻网https://www.thepaper.cn/newsDetail_forward_1448368。

(49)"G7 Nations Agree on a ‘Common Vision’ for AI",in Digital Journal,March 2018,see from http://www.digitaljournal.com/news/world/g7-nations-agree-on-a-common-vision-for-ai/article/518528#ixzz5Fj4QZa88.

(50)Shawn Powers and Markos Kounalakis(eds.),"Can Public Diplomacy Survive the Internet?:Bots,Echo Chambers and Disinformation",May 2017,see from https://sml.stanford.edu/ml/2017/06/can-pd-survive-the-internet.pdf.

(51)Alina Polyakova and Spencer Phipps Boyer,"The Future of Political Warfare:Russia,the West and the Coming Age of Global Digital Competition",March 2018,see from https://www.brookings.edu/wp-content/uploads/2018/03/the-future-of-political-warfare.pdf; Colin Stretch,"Hearing before the United States Senate Committee on the Judiciary Subcommittee on Crime and Terrorism",October 2017,see from https://www.judiciary.senate.gov/imo/media/doc/10-31-17% 20Stretch% 20Testimony.pdf.


]]>

2021年03月12日 09:37
457
世界经济有望出现恢复性增长 复苏不稳定不平衡性凸显