互联网与人工智能发展：风险及治理

　　人工智能的发展与互联网有密切的关系。当前人工智能已进入整体发展的第三波，而这一波的兴起与以下因素有密切关系：第一，由于互联网技术的发展，在互联网上形成的数据量不断增加，为人工智能的发展提供了数据基础；第二，各种智能设备的计算能力在不断提高；第三，算法模型特别是深度学习算法在近年来取得重要突破。前两点都密切反映了互联网发展对人工智能的重要支撑作用。就未来而言，人工智能的进一步发展同样需要与互联网互相借力。

　　人工智能可能催生三类风险

　　第一，技术风险。首先，人工智能技术存在算法黑箱问题。目前人工智能技术在算法上主要体现为深度学习技术的不断深化，而深度学习技术本身存在算法黑箱的问题。因为神经网络中的不可解释性，使得这一技术很难用在一些不可逆的决策领域。例如在司法和医疗等领域，一旦通过算法进行最终决策，那不可解释的问题就会变成严重的问题。因为智能不能做出充分而有效的解释，所以基于这一技术的医疗诊断或者司法裁决很难令人信服。其次，存在周期性风险。人工智能发展到今天，从世界范围内看已经是三起两落。而在这一次人工智能的发展过程中，很难判断低谷期何时会出现。最后，存在成本与收益比例问题。目前许多人工智能产品的效果非常出色，但是却无法做到量产或者大规模推广，其具体原因就是产品的成本过高。例如，波士顿动力的类人机器人技术十分先进，但是其机械骨骼关节需要通过3D打印来实现，就目前而言其量产仍然有很大的困难。因此在实际应用中，这些技术会面临巨大的成本挑战。

　　第二，隐私风险。由于目前的人工智能发展高度依赖大数据，所以今天的人工智能公司首先是数据公司。因此，人工智能的领头企业都在绞尽脑汁研究如何对各种维度的数据进行采集。不少投资公司在判断公司或项目的未来时，所依据的也是产品所能获得的数据量。通过一些霸王条款的设计，一些公司对个人信息的过度采集，可能导致严重的隐私泄露。2017年12月，有美国消费者保护组织发布了一份报告称，亚马逊和谷歌的智能音箱可能被用来监听用户的大量信息并用作广告推广。人工智能企业应当高度重视这一问题，决不能低估民众对隐私权利的重视。政府也应当积极出台相应的法律规范，避免一些舆论事件的发生，在整体上保护科技公司的发展。隐私问题在智能医疗领域也有重要的探讨意义。由于医疗数据的特殊性，数据权究竟是应该属于个人还是企业存在很大的争议。欧盟出台的《通用数据保护条例》试图对这一问题进行有效的界定，但是我国的相关法律还没有明确的规定。

　　第三，安全风险。人工智能技术本身可以用于正当的领域。例如，近年来在演唱会上，我国公安机关便通过人脸识别技术成功抓获嫌疑犯。另外，用人工智能技术也可以更加有效地鉴别出图片有没有被伪造或变更等。但与此同时，人工智能技术也可以被用于伪造。比如，语音合成技术可以用于伪造声音。犯罪分子可以通过掌握当事人的语音信息，利用技术伪造当事人语音，用于诈骗、勒索等。此外，犯罪分子也可以生成对抗网络的技术来伪造视频。因此，人工智能技术在防范犯罪的同时，也为犯罪分子提供了新的犯罪方式。由于黑色经济等一系列问题，人工智能被用于犯罪的动机更加明显，因此我们不能低估人工智能所产生的安全风险。随着人类社会逐渐进入智能社会，大量的智能产品进入家庭，由此产生的安全风险就会更加突出。以往存在的网络安全问题在智能社会中会更加显著。当大批自动驾驶汽车出现后，黑客更可能会攻入无人驾驶的系统，从而产生巨大的风险。因此在智能时代，网络黑客行为产生的社会风险可能会更加显著。

　应对人工智能风险的两个着力点

　　第一，在理念方面，要将目前越来越流行的算本主义转向人本主义。算本主义也可以称之为计算主义，就是以计算为中心。计算有三个要素，算力、算法和算料。算力就是计算能力，算法就是解决问题的方法和模型，而算料就是我们今天讲的通过传感器采集的各种数据，计算即通过数据分析帮助人们做出各种决策。人们会通过不断提高算力来降低计算的成本，同时人们的行为轨迹也会被记录下来成为计算的算料。因此这三者间会形成紧密的循环，使得人们越来越重视计算。但在这一个过程中，人们很容易忘记计算的目的是什么。

　　现在已经出现以算法为中心的倾向。在许多领域，随着智能设备进入日常生活，人们在进行决策时会高度依赖算法。例如，导航系统的出现使得一些人不再去学习辨别方向和记路。智能设备的出现在某种程度上会使得人类的一些能力退化。因此，我们在使用人工智能的时候，还是要不断地去拷问：我们为什么要用这些智能系统；我们用这些智能系统的目的是什么；智能系统可以帮助我们解决什么问题，不可以解决什么问题。这其中最重要的问题是决策。如果我们把大量的决策交给算法，那可能最终会丧失人类的中心地位。

　　第二，在技术层面，解决隐私和安全两大风险最有效的方法是发展区块链技术。笔者认为，人工智能和区块链是智能技术的一体两面。人工智能实现的是物的智能化，而区块链所实现的是关系的智能化。人工智能的不断发展，会有助于区块链技术的突破。同时，区块链在某种程度上有助于规避人工智能发展所面临的诸多问题。例如，通过非对称密钥技术可以有效地解决隐私保护的问题。此外，区块链的可溯源性、不可篡改性等特性都会对网络安全问题的解决有所助益。

　　目前，无论是在互联网还是在人工智能领域，中国都越来越走在世界的最前沿。特别是在这一轮人工智能的发展过程当中，许多人工智能应用有可能在中国率先落地。智能安防的发展就是最典型的例证。另外，在智能医疗以及智能驾驶等领域，中国都可能会有杰出的表现。因此，人工智能技术的发展使得中国进入某些科技领域的“无人区”，这就使得风险治理和相关的规则制定变得至关重要。但是，由于在全世界范围内还没有成熟的风险防控制度或措施，这就使得我们在互联网和人工智能的创新方面面临巨大的压力。因此，社会科学在其中的作用会更加显著。人工智能要得到充分的发展，不仅需要智能科学与工程的学科建设和努力，还需要智能社会科学的保驾护航。习近平总书记在2018年中共中央政治局第九次集体学习中强调，要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。所以，新时代的新文科建设正当其时。社会科学不仅要回答传统的经典命题，同时也要在新兴科技发展和落地的过程当中，发挥重要的预警和保障功能。