聚焦人工智能与大数据时代的法律问题

　　信息产业发展战略研究院作为南京邮电大学专门从事信息产业领域软科学研究的机构，一方面关注大数据和人工智能背景下隐私保护问题，另一方面重点研究网络空间安全战略与法律问题，着力打造信息通信领域高端智库。

　　2018年10月19日，由亚太地区隐私保护学者联盟主办、南京邮电大学信息产业发展战略研究院和科研院承办的第七届亚太地区隐私保护学者联盟国际会议在南京邮电大学三牌楼校区召开。南京邮电大学副校长张志华出席会议，会议开幕式由南京邮电大学科研院副院长胡纵宇主持，学术报告环节由南京邮电大学信息产业发展战略研究院院长黄卫东主持。来自中国香港、中国台湾、澳大利亚、新西兰、意大利等国家和地区，浙江大学、西南政法大学、重庆邮电大学等国内知名高校，蚂蚁金服、高通律师事务所、方达律师事务所、360企业安全集团、阿里巴巴集团、江苏省高级人民法院的专家学者，以及南京邮电大学师生，共100余人参加会议。南京邮电大学教授王春晖、奥克兰大学Gehan Gunasekara和Alan Toy、浙江大学教授程乐、麦考瑞大学John Selby、高通律师事务所主任敬云川、奥克兰大学Benjamin Liu、西南政法大学教授张建文、蚂蚁金服李海英、台湾“中央研究院”Chih-hsing Ho、方达律师事务所律师张毅、香港中文大学Angela Daly和香港大学Philip Kwok，先后就“人工智能的伦理、法律与监管”“大数据时代的法律服务重构”“个人信息保护的立法与司法实践”“人工智能与个人数据保护”等议题进行主题演讲。学者们围绕大数据和人工智能背景下隐私保护的法律监管、法律服务重构、互联网治理、立法和司法实践、数据权利保护等展开了深入的探讨交流。

　　2018年11月18日，由中国通信学会主办，南京邮电大学、中国政法大学、浙江大学、法制网、360集团、世纪互联集团和中国云体系联盟联合承办的首届“网络空间安全战略与法律”学术研讨会在北京举行。本届研讨会的主题为“构建网络空间命运共同体 实现网络强国战略目标”，中国工程院院士倪光南、中国通信学会副理事长兼秘书长张延川、中国铁塔公司副总裁兼中国通信学会副理事长高步文、中国政法大学副校长时建中到会致辞。研讨会设立了“国家网络空间安全战略”“数据安全与个人信息保护立法”“网络平台责任与治理”“人工智能的伦理、法律与监管”“提升网络空间防护能力”五个单元。来自中国社会科学院法学研究所、南京邮电大学、清华大学、上海交通大学、东方航空集团、中共中央党校（国家行政学院）、中国人民大学、教育部网络空间安全教育指导委员会、国务院发展研究中心、北京邮电大学、同济大学、重庆邮电大学、西南政法大学、中国云安全联盟的专家学者，从网信战略、技术和法律融合的角度深入分析了构建网络空间安全的战略路径和法治保障。来自政府监管部门、高等院校、研究机构、电信运营商、著名互联网公司、网络安全企业以及相关领域从事信息通信、网络安全、网信法律等领域的领导、专家、学者和实务工作者200余人参加本届学术研讨会。

　　专家观点》>

　　数据保护：技术与立法并行

　　南京邮电大学副校长、教授 张志华

　　数据保护已成全球性问题。在互联网及大数据技术的极速发展过程中，信息安全问题逐渐成为涉及政治、经济、文化、社会、军事等各个领域的综合问题，越来越多地与政治外交、经贸发展、个人隐私权益等交织在一起，涉及政府、企业、个人等各个方面。信息安全问题在当今时代日益凸显，随着大数据和人工智能技术的发展，数据的挖掘、整合、交易越来越便利，各种数据使用主体对个人信息掌握和使用越来越深入，大量个人信息在网络上存储、生成、使用和交换。随着人工智能及大数据相关技术日益深入我们的日常生活，技术变革带来数据获取渠道与使用方式的多样化，用户隐私权、安全面临越来越严峻的挑战。

　　数据保护应该技术与立法并行。数据的价值就在于能够把人的特征、行为、选择等信息化，反过来为人类的社会、工作、生活提供方便，但大数据时代不能变成没有隐私、没有禁忌的时代，而应该是更加注重保护隐私的时代。这就要求隐私的保护在技术上要保证数据来源与处理方式的透明性、可控性以及载体的安全性，在立法方面应当尽早明确数据与个人信息的法律规定与保护，通过完善相关立法，依法严厉打击非法泄露和出卖个人数据等行为，构建统一有序的法律环境。我国相关技术研究与立法研究都着眼这方面进行不断努力。随着越来越多的现实生活内容连接到原本虚拟的互联网上，日益敏感的且具有挖掘价值的公民个人信息被各家企业存储到云端设备，数据隐私保护日益严峻。我们能做的是让这些信息交换过程变得可控，在造福社会的同时维护人们原本和谐的生活场景。

　　AI发展与监管：以人为本

　　南京邮电大学信息产业发展战略研究院首席专家、教授 王春晖

　　人工智能（AI）的发展出现了三次浪潮：第一波浪潮（1956—1976年），核心是逻辑主义（符号主义）；第二波浪潮（1976年到1980年代中期），主要是连接主义，即“出自大规模连接的命令”；第三波浪潮（2006年至今），其代表性的成果就是基于大数据的深度学习。高速并行运算、海量数据、更优化的算法共同促成了人工智能发展的突破。

　　AI领域应重点研究机器道德（Machine Morality）、机器伦理学（Machine Ethics）、道德机器（Moral Machine）、价值一致论（Value Alignment）、人工智能道德（AI Morality）。我们应当将人类的规范和道德价值嵌入AI系统：首先，要识别特定社会或团体的规范和价值；其次，将这些规范和价值编写进AI系统；最后，评估被写进AI系统的规范和价值的有效性，即是否与现实的规范和价值相一致、相兼容。

　　人工智能的监管，应遵循三个原则：1.AI的发展应当体现对人权的保护；2.优先考虑AI对法律、社会伦理和侵犯个人隐私的冲击；3.通过立法和强制性标准的制定，削弱AI对人类的风险和负面影响。人工智能的本质是服务人类社会（AI as a service，AIaas），而人类社会的核心价值就是“以人为本”，应当设计人工智能的定制政策依据，然后完善权利保护，特别是隐私的保护，包括默认保护隐私，以及加密保护隐私等技术。总之，人工智能技术的发展应当造福人类，贯彻“以人为本”的原则，这是发展人工智能的基石。

　　构建国际信息通信制度性话语权

　　南京邮电大学信息产业发展战略研究院首席专家、教授 王春晖

　　国际信息通信制度性话语权，是指我国在参与联合国国际电信联盟和其他区域性国际信息通信组织的相关国际规则制定中的话语权及其影响力，也是确立我国国际信息通信制度性话语权，即在参与审议、制定、修订国际信息通信规则中的影响力。

　　“制度性话语权”是党中央确立的中国参与全球治理的一项重要国际战略，是一种新型的、间接发挥作用但更为持续性的话语权。它具有三大特征：1.制度性话语权是一种新兴的全球治理的话语权形式；2.制度性话语权是一种间接性权力，是国家行为体通过国际组织，间接影响或塑造其他行为体的行为；3.制度性话语权是一种以参与国际规则制定而形成的可持续性话语权。

　　结合参与国际电信联盟《国际电信规则》审议的经历，我国在参与国际信息通信规则制定中存在以下问题：1.缺少统一组织参与国际信息通信规则制定、国际法建设、条约缔结工作的部门；2.缺少国际信息通信法与国内信息通信法衔接处理的规范和机构；3.缺少了解、熟悉和掌握现有国际法话语体系、深刻理解国际信息通信法治一般原理和标准，特别是缺少具有全球信息通信发展新趋势洞察力的高层次人才；4.缺少一套融合现代国际法方法论和观念，同时引入中国在国际信息通信法体系内的经验、地位、目标与诉求的国际信息通信法教材。

　　数据驱动：法律服务重构

　　浙江大学教授 程乐

　　大数据时代，数据已成为最有价值的资产。一方面，大数据的规模性、多样性、复杂性、高速性、可变性和价值性导致有关数据纠纷愈来愈多。通过之前所进行的“基于语料库的网络安全法律研究”，发现数据（信息）是美国、中国和欧盟三个司法管辖区网络安全法律的重点规制对象。另一方面，欧盟于2017年9月发布了《非个人数据自由流动条例（提案）》，可充分挖掘数据的价值性从而促进数字经济的发展。大数据时代，律师可基于数据驱动的方法通过分析类似案件中的结果分布来回答此类问题。可以数据驱动下的合同分析、ROSS Intelligence和无讼三个案例说明大数据时代数据是如何被应用到法律服务中去的。

　　大数据时代背景下需要对法律服务进行重构。首先是法律服务模式的重构，基于个性化法律的聚合将颠覆传统法律服务，通过人工智能分析和数据清洗机制，按照个性化需求聚合相关的信息和应用，并以此对信息进行深度智能分析，以实现用户个性化的、动态的需求；其次是法律服务跨界融合的重构，大数据时代传统产业将自我颠覆，大数据的运用促进了不同行业、不同领域的数据交换和相互融合，传统产业互联网化与互联网企业传统化正在打造“法律生态服务体系”；再次是用户体验价值模式的重构，1.0服务与2.0服务的最大不同在于：从单向向双向转变——所有服务成为OAO的服务模式，用户的体验和评价将颠覆服务的运营模式，法律大数据应用最核心的竞争力——未来预测。通过大数据关联关系分析受众需求、偏好及行为模式，提升用户体验价值。

　　隐私权利：综合保护

　　西南政法大学教授 张建文

　　从新兴权利保护的角度看，隐私权在我国逐渐引入、接受、发展的历程，是研究新兴权利保护方式的最佳标本。从最初的附属于既有人格权的方法、值得法律保护的合法利益的方法、援引宪法基本权利条款的方法、司法判决创设权利的方法，到民事立法上的法定权利、宪法上的隐私权、行政法上的隐私等实在法权利的方法，纷繁不一，杂然有序。由于隐私权规范的立法局限，隐私权的保护方法问题至今仍未定型，不断有以新兴权利面目作为隐私权内容的或与隐私权紧密相关的诸如个人信息、被遗忘权等“隐私”利益出现。这不仅成为我国民事立法和司法实践面临的重大问题之一，而且也是世界各国在当前人工智能发展领域中所面临的共同挑战。对于隐私权、个人信息、被遗忘权等相关利益之间的关系，及其是否应予保护以及如何保护的问题，无论是法学理论还是司法实践仍处于多样化探索之中。

　　尽管我国在民事立法上规定了隐私权和个人信息保护二元并立格局，但由于个人信息保护所依赖的借助国家公权力强化保障的现代保护机制（即个人信息主体权利保护主管机关制度）并没有在立法上确立，导致现代个人信息保护机制所具有的借助于公共机关补强私人寻求救济的意愿、动力和能力之不足的特点没有彰显出来，反而在个人信息保护上和隐私权的保护上均严重依赖于私权所具有的个人主动性和参与性，使得二者之间的共同性似乎远远大于其差异性，而且使用隐私权来解释个人信息保护的理由也较为便宜和可接受。从我国隐私权保护的司法与立法实践看，隐私权的保护成为使用保护方法最具多样性、最具发展性的新兴权利保护试验区。