2017年8月21日，特斯拉CEO埃隆·马斯克和谷歌深智公司共同创办人，以及应用人工智能总监穆斯塔法·苏莱曼等硅谷精英，联合来自26个国家的116名专家，共同呼吁联合国禁止开发致命性自主武器，引发外界高度关注。近年来，随着人工智能（AI）技术的迅速发展，其潜在威胁引发越来越多有识之士的担忧。在马斯克们看来，人工智能将成为人类存亡的最大威胁，甚至可能引发第三次世界大战。在此背景下，不久前，哈佛大学肯尼迪学院比尔弗科学与国际事务研究中心，发布了一份名为《人工智能与国家安全》的长篇报告，呼吁关注AI技术的长期变革性影响。
AI对国家安全的影响
报告认为，AI技术过去五年取得重大突破。未来10年，AI技术将继续发展。现有的AI技术对于国家安全大有裨益，例如，机器学习技术可以实现卫星图像分析、网络防御等劳动密集型工作的高度自动化。今后，AI技术将可能发展成为一项变革性国家安全技术，堪比核武器、飞机、计算机和生物技术。这几项技术的出现，都曾导致美国国家安全界对战略、组织、资源分配等进行重大调整。AI技术对国家安全的影响，至少与这些技术相当，其影响主要体现在军事、信息和经济三方面。
在军事方面，AI技术的发展将带来新的能力，并导致现有军事技术的扩散。借助AI实现的远程无人机快递等商用技术，将可能使弱小国家和非国家行为体获得远程精确打击能力。当前，商用和军用机器人的市场规模正呈指数级增长。尤其值得关注的是，过去几年，无人驾驶飞行器（无人机）的商业价格暴跌。今后，人们也许只需花费50美元，便能获得一架现今价值1000美元的高品质无人机。
机器学习技术的广泛使用，加上市场发展和价格下降，将使机器人系统对国家安全的影响大幅增强。在不远的将来，机器人和自主技术的“寒武纪大爆发”式发展，很可能产生类似于互联网的影响。最初，技术的发展使那些资金充足、技术先进的军队获得最大优势。美军在伊拉克和阿富汗的军事行动，无人机和无人地面车辆的表现已经证明了这一点。此后，随着价格的降低，预算有限、技术欠发达的军队也将采用新技术。非国家行为体同样如此。事实上，这种情况如今已显现出来——“伊斯兰国”在其军事行动中便使用了遥控无人机。今后，该组织或其他组织很可能更频繁地使用自主载具。
从长远看，AI技术的发展将导致军事力量和战争的转变，使作战人员能获得更多来自自主机器人的支援，加速作战任务从有人向无人的转变。尤其值得关注的是，AI和机器人学习技术，将对网络安全和网络战产生变革性影响。智能自动化将提高发现漏洞的能力，并改进监控系统，因此，AI技术有助于增强网络防御能力。不过，同理，AI技术的发展，也将带来网络进攻能力的增强。
短期看来，AI技术运用于网络空间，将使那些强大的国家行为体受益。但从长远看，最终的力量对比如何仍不明确。原因在于，一些现阶段需要大量高技术劳动的活动，如高级持续性威胁（Advanced Persistent Threat，APT是黑客以窃取核心资料为目的，针对客户所发动的网络攻击和侵袭行为，是一种蓄谋已久的“恶意商业间谍威胁”）行动，未来可能实现高度自动化，并且其技术很容易在黑市上获得。
在信息领域，AI将大幅提升数据收集、分析和生产能力。值得关注的是，AI本身还可产生数据，包括自动生产的图片、视频和文本。目前，借助AI技术，人们可以做到：仅凭廉价的网络摄像头，便逼真地实时改变视频中人物的面部表情和嘴部动作；只要拥有足够的音频数据，便可以人工合成任何人的讲话录音，且效果逼真；根据民调、选举结果、财政报告、体育竞赛统计资料等结构数据，生成文本新闻；根据一张或多张2D图片，生成目标（如人脸）的3D图像；自动为无声影像进行逼真的配音，等等。
在不远的将来，即使是业余爱好者，也可大规模生成画面逼真的高清视频、音频和文本伪造品，且制作成本会不断降低。大量由AI伪造的音视频和文本资料，将被用来混淆视听，从前可靠的证据变得极度不可靠，目标社会中人与人之间的信任将因此崩塌。
在经济领域，人工智能或将成为一项独特的变革性经济技术。由于AI领域的很多进展都有着通用技术的特征，因此，借助该技术可提高众多不同产业的生产率。同时，AI作为一种人类创新发明成果，它的应用反过来可大幅提升发明和创新本身的速度。例如，AI技术可实现科学实验的自动化，综合数千份科学论文的成果，或自动生成工程设计方案并对其进行优化。在AI研究中取得领先地位，很可能加快包括AI在内的很多领域的研发进展。因此，人工智能的作用堪称“创新增压器”。
报告认为，AI技术的发展还可能导致新一轮产业革命。美国前财长拉里·萨默斯预言，AI与相关技术的发展将导致对劳动力的需求大幅降低，以致到本世纪中叶，美国将有多达三分之一的25至54岁年龄段的人失业。同第一次产业革命一样，这将重塑世界各经济体内资本与劳动之间的关系。不断提高的劳动自动化水平，可能导致技术先进的发达国家陷入“资源诅咒”困境。同时，人口规模对于国家实力的重要性将降低。在AI技术方面发展出巨大优势的小国，将拥有远远超出其人口规模的实力。
历史上五大经验教训
面对AI技术的发展，报告通过对人类历史上此前出现的四项变革性军事技术（核、航空航天、网络和生物技术）进行案例分析，总结出五大经验教训。
首先，突破性技术变革，往往会产生突破性的政府政策理念。历史上，核武器技术的变革性影响，加上冷战这一时代大背景，曾导致美国政府想出一些特别的政策措施，如规定只有总统有权发起核战争、通过军控框架自愿限制发展核武器技术（如禁止制造某类核武器和开展某类核试验）、制定对对手进行先发制人或报复性核打击的核毁灭战略，等等。同样，其他几项变革性技术也曾促使美国政府做出重大改变。例如，为利用航空航天技术，美军成立全新的军种——空军；为应对网络挑战，美军成立了网络司令部。
AI技术究竟将在何时全面显现出其对国家安全的影响，这种影响会是什么样子，目前还是个未知数。一些专家认为，人工智能可能创造出一个最终导致全人类灭绝的超级智能。今后，如果AI技术继续飞速发展，一些国家可能会考虑出台类似于核武器出现后早期的激进政策。
其次，军备竞赛或将无法避免，但可以得到控制。1899年，对空投炸弹的恐惧，导致国际社会制定条约禁止使用武装飞机，但这并未阻止一战期间出现空战。今后，AI技术在战争和间谍活动中的运用，很可能也像飞机一样让人难以抵制。想要阻止AI被更多地用于军事，很可能无法实现。历史上，航空航天技术最终几乎成为军事实力的同义词，AI技术似乎终将走上同样的发展道路。
当前，企业为了竞争，别无他法，只能选择发展机器学习技术。同样，军队和情报部门也去扩大军用人工智能应用的范围。尽管直接禁止在国家安全领域使用AI技术不太现实，但对其进行安全、有效的控制，仍是必要的。历史上，禁止飞机的努力虽告失败，但美国及其盟友甚至是对手仍发展出管控航空航天技术风险的框架体系。如今，尽管AI技术有待进一步成熟，但美国和其他行为体将被迫制定相关制度，来限制军用AI技术扩散的风险。
再次，政府在鼓励商业活动的同时，须处理好军民关系。仍以航空航天技术为例，历史表明，促进商用航空产业的经济增长和保守军事秘密，往往不可兼顾。二战结束时，英国拥有世界领先的喷气发动机技术，但面临严峻的经济挑战。为了出口创收，英国发动机制造商将25台“商用”罗尔斯·罗伊斯“尼恩”发动机出售给苏联。后者很快进行了仿制，并在此基础上研制出朝鲜战争中的空中霸主——米格-15战斗机。
英国发动机制造商曾向苏联出售罗尔斯？罗伊斯“尼恩”发动机
当前，拥有世界上最大、最先进的数字技术产业，是美国的一项巨大优势，但如何处理好商业和国家利益之间的关系，仍是严峻挑战。过去，在航空航天技术和核技术产业，美国政府是最主要的客户，且业内很多科学家都直接受雇于政府。因此，政府的地位无人能比，拥有强大的话语权，能有效地对行业进行调控。如今，在AI产业，情形大为不同。一方面是因为政府不再是最主要的客户，另一方面也是因为绝大多数AI领域内的顶尖研究者并不为政府工作。数据统计显示，2015年，整个美国政府对非保密AI研发项目的投入仅为11亿美元，对算法和计算机科学的研发投入为30亿美元。
更糟糕的是，美国政府和数字技术产业间的关系目前颇为紧张，在斯诺登事件后尤其如此。例如，谷歌旗下的DeepMind公司，被很多人视为尖端AI研发领域的世界领头羊，但该公司强烈反对将AI技术用于军事或政府监视活动。波士顿动力公司和沙夫特公司，是两家行业领先的机器人研发公司，曾得到美国防部高级研究计划局的大量资助，但在被谷歌收购后均明确表示，不再同军方和情报部门签订任何新合同。鉴于政府和一些领先研究机构摩擦不断，今后，美国的AI技术政策制定者须有效处理好军民关系。
第四，政府必须正式制定AI技术的发展目标，并为此提供充足的资源。核、航空航天、网络和生物技术的发展历史表明，当政府成立专门负责在相关领域提高技术安全的正式机构，并提供所需资源后，技术的安全性将会得到改善。当前，美国正着手实施“第三次抵消战略”，并试图针对AI技术在商业和民事政府部门中的更广泛运用制定规范。在此背景下，白宫应当考虑成立正式的研发机构，负责在整个政府范围内调查AI技术的安全性。
第五，随着技术的发展，美国的国家利益也会随之变化。历史上，生物武器成本和复杂性的不断降低，导致美国将生物武器战略从积极研发调整为主动加以克制。
对战略技术的发展施加导向性影响，符合美国的战略利益。隐形飞机的研发就表明，战略投资有时可以使美国影响到某一领域的攻防平衡，形成长久的技术优势。在第四次中东战争中，拥有最先进美式飞机和电子设备的以色列空军面对苏制“萨姆”导弹，损失惨重。美军从这场战争中得出结论，苏联的防空力量能大量歼灭北约的进攻性战机和轰炸机。于是，美国启动新的飞机研发项目，最终导致隐形飞机技术的出现。1981年，F-117问世，隐形能力使得天平再次偏向美方的进攻性力量。
今后，美国应当考虑如何引导人工智能在军事和情报领域的技术发展？目前，美国防部战略能力办公室，正在研发微型无人机自主蜂群。对此，五角大楼首先应当想到，这能让美国获得可持续的军事优势，还是会促使其他国家很快获得类似能力？鉴于商业和学术界也在研究微型无人机蜂群技术，可能出现的情况是，军方无人机蜂群项目取得的任何进展，都可能被轻易复制。美国政府当前投入的金钱，最终会加速技术形势的恶化。
美国具体应对之策
报告认为，美国针对AI技术的国家安全政策应设定三个目标：保持美国技术优势、支持AI技术的和平使用和管控灾难性风险。
关于如何保持美国的技术领先地位，报告提出四点建议。
一是，国防部应当组织实施聚焦人工智能的军演，以发现可能的颠覆性军事创新。例如，一架价值1000美元的四轴无人飞行器在美军看来或许毫无用处，但对于一支小国军队或非国家行为体而言，则可利用其获得原本昂贵的军事能力，如侦察或远程投送火力。随着AI相关能力的不断提高和价格的降低，出现这种创新的机会今后将越来越多。
二是，美国防部应当着眼长远，对AI技术及其影响进行战略分析。过去，兰德公司等机构曾对美国的核武器战略进行全面评估。今天，美国也需要对AI技术及其影响做长远的战略思考。需要回答的问题包括：率先发展AI技术的优势是什么？后发者能否有效参与竞争？哪些商用AI技术可以“军民两用”？哪些研发投资能影响到AI应用在军事和情报领域的攻防平衡？哪些AI投资能扩大大国对弱国或非国家行为体的优势？人工智能能力的增强，如何影响国际经济力量对比？等等。
三是，国防部应重点对能带来长久优势并降低关键风险的AI技术领域，进行研发投资。报告指出，AI使很多新型的低成本、高效能军事技术成为可能，其中一些技术可能会使美军目前的投资失去意义，比如美军当前投入大量资金采购的飞机和海军平台。以造价高昂的航母为例，在未来冲突中，面对大量廉价的自杀式远程自主无人机发起的“蜂群”攻击，航母很有可能变得无用武之地。
四是，国防部和情报界应当投资发展进攻性及防御性反AI能力。报告指出，在传统软件开发过程中，程序是一长串由手工编写、按顺序执行指令的代码，机器学习系统则不然，由电脑程序自身根据训练数据库中的数据进行算法运算，有着超强的非结构化数据分析能力，但同时也存在特有的弱点，如一旦遇到不在训练数据库中的数据，就会做出不可预测的行为。目前，研究人员已开始探索机器学习系统的漏洞和可能被利用的地方。在发展所谓反AI能力的过程中，美国国防和情报界应当谋求领先地位。
为管控灾难性风险，报告提出四点建议：一、国家安全委员会、国防部和国务院应开展相关研究，以确定美国政府该限制哪些AI技术的应用。报告认为，通过条约全面禁止在军事和情报领域使用AI技术，可能性极低，但大国之间可能达成协议，同意不发展或使用某些AI技术。二、国防部和情报界应成立专门负责AI技术安全的机构。三、国防部高级研究计划局应资助相关研究，开发AI系统防故障技术。四、美国国家标准与技术研究院和国家安全局应寻找办法，以防备AI生成的伪造音视频和文本文件。
联系我们请点击：
数邦客
