人工智能将如何影响国际规范
赵庆秋
2020年01月07日 00:00
傅莹
《国际政治科学》2019年第1期人工智能可能对现行国际规范带来一系列冲击。
第一，人工智能有可能改变战争的内涵和形式。美国学者斯蒂芬·平克指出了人类相互间使用暴力减少的历史大趋势，认为“今天我们也许处于人类有史以来最和平的时代”(20)。王缉思对当今世界战争明显减少的现象给出了5个方面的解释，包括：大国发动战争可能付出的成本和代价大大高于可能的收益，通过非战争手段也可以获得过去需要通过战争才能获得的收益，国家间相互了解的增加以及危机预防和管控机制的普遍建立，国际军控机制的建立，和平作为一种国际价值观的深入人心。(21)而人工智能的发展有可能使国家和非国家行为体在是否使用军事手段解决矛盾的选择中，顾虑下降。至少从理论推演的结果看，人工智能能够从决策者、军队、民意3个层面减少对战争的制约，降低战争门槛。无人武器使得战争行为者的人员伤亡预期可以降到近乎“零”。人工智能技术的快速迭代和新材料的广泛运用将极大地压缩战争的物理成本，让战争的经济适用性上升，甚至变得有利可图。这使得决策者发动战争的诱惑增大、顾虑减少。“超视距”作战的可能性和机器人战士的出现，将进一步从心理上解放士兵。未来战争中，士兵或许不必上战场，作战任务可以通过事先设计好的算法，由“人工智能将军”指挥无人自动武器完成。“极速战”可以极大压缩战争时间，在出现民意的反弹之前战争就可以结束了。这些可能改变人们对战争的立场，让暴力回潮。
2018年10月，美国陆军协会陆战研究所发布的报告《影响力机器——让自动化信息作战成为战略制胜机制》称，在人工智能的帮助下，利用算法生成内容，实施个性化的目标锁定和采用密集的信息传播组合，可以生成“影响力机器”，实施信息作战，由此能产生指数级的影响效应。该报告认为，“影响力机器”信息作战在战略层面上的影响力远胜于人工智能技术在其他领域的应用。因为它可以在机器学习的辅助下，对情感、偏见和价值观等指标进行筛选，并锁定那些心理最易受到影响的目标受众，然后将定制的“精神弹药”快速密集的“射向”目标群体，达到影响其心理、操纵其认知的目的。(22)
第二，人工智能可能冲击全球战略稳定。约瑟夫·奈曾经谈到，核武器的出现使军事力量作为维护安全的手段走到了极限，甚至走向其反面。人们认识到，在核战争中没有赢家，核武器可能使全人类面临灭亡的危险。(23)而人工智能将挑战经典的“相互确保摧毁”理论。兰德公司在2018年发布的《人工智能对核战争风险的影响》报告中分析认为，到2040年，人工智能技术的进步使报复性核反击力量成为目标并被摧毁的可能性大大增加，从而削弱“相互确保摧毁”的基础，打破核战略平衡。即使各国无意发起先发制人的攻击，也会倾向于追求先发制人的能力，以此作为与对手讨价还价的手段，而这无疑将破坏战略稳定。(24)
第三，人工智能的自身特点让建立相关国际军控和防扩散机制变得困难。在2018年7月清华大学第七届世界和平论坛“人工智能与安全”分论坛的讨论中，《智能时代的战略竞争》报告的作者之一格里戈利·艾伦(Gregory C.Allen)说，人工智能也有军民两用性，但其军事应用不同于核，更像电。如果可以认为核是一种黑白技术，只存在“有”或“没有”两种状态，一国要么是有核国，要么是无核国。而电则是一种光谱技术，就像红橙黄绿蓝靛紫七色光有不同的波长和媒介反射率一样，不同的国家都可以用电，只是应用方式和程度会有很大差异。人工智能在军事上的应用更像电，无法禁止哪一个国家使用人工智能。就像美苏冷战期间的军备竞赛一样，未来很可能出现人工智能强国之间的算法竞赛。问题是，当年美苏通过军控谈判签署了一系列核导军控协议，确定了基本规则，未来的人工智能强国间能否本着同样的精神达成算法控制协议呢？艾伦认为，从目前大国关系态势看，达成这样的共识几无可能；然而，考虑到未来无序发展的风险，大国又必须认真考虑就此进行共同探讨的必要性。
第四，人工智能给国际法带来了一系列的问题。在应用人工智能武器的条件下，国际人道法和战争法的有关原则是否能够继续适用？比如，区别对待军民目标的“区分原则”、禁止过分攻击的“比例原则”、非军事手段无法达成目标的“军事必要原则”，对作战手段的限制等。有没有必要针对人工智能武器制定专门的规则？在智能化战争条件下，如何区分战斗人员和非战斗人员？战争机器人是否享有人道待遇？人工智能武器是否对其造成的损害有承担责任的能力？如果它不具备承担责任的能力，那责任主体应该是武器的制造者还是使用者？当人工智能武器侵犯国家的主权原则时，它的行为能否触发国家责任？
第五，人工智能可能冲击国际关系民主化。人工智能的发展有可能固化国际权力结构，深化小国、弱国对强国、大国的科技、经济和安全的依赖。当“赢者通吃”的人工智能技术竞争和商业竞争规律复制到国际关系上时，必然会冲击大小、强弱国家间的主权平等关系。当主要大国之间的竞争加剧时，结盟关系是否会再度成为弱国的必然选择呢？而结盟本身就是一种盟主和盟友之间的不平等关系。
第六，人工智能对全球治理提出了新的课题。人工智能的发展对于解决当今世界面临的三大困境(老龄化、数字化和气候变化)都具有意义。(25)而更大的挑战也许是人工智能带来的对于“人”的价值的进一步思考。(26)一些国家和城市也开始探索试行“普遍个人收入”制度(UPI，universal personal income)。(27)但这必定是一个需要汇聚全球智慧与力量共同去思考和实践的问题。
在规则与制度层面上，以数据为例，在近代人类历史上，国际社会先后就自然人的跨境移动、船只和飞行器等交通工具的跨境移动、资本和商品的跨境移动等，形成了普遍认同的规则和制度安排。当前，数据作为一种资源的重要性与日俱增，随之而来的问题是：数据跨境转移应遵循什么规则、在什么样的制度安排下进行？数据的产生方、使用方、输出方、接收方等利益相关各方分别享有什么权利、承担什么义务？数据本土储存和跨境转移之间是什么关系？国家与数据企业之间是什么关系？这些都将是未来全球治理的难题。2019年G20的东道主日本已经提议将全球数据治理列入G20的议程。
注释略
]]> 2020年01月07日 11:22