我今天演讲的题目，是基于我在新南威尔士大学科技、法律和创新艾伦中心和同事们正在进行的一项研究。我们研究了政府是否可以利用技术来促进甚至保障法治，以及法治能否被设计成技术体系。之所以提出这些问题，是因为技术不仅可以提高政府效率，它还可以提供重要价值设计的前景。如果保护隐私和法律合规可以通过设计来实现，那么为什么法治价值比如透明度、公信力、可预测性、一致性和平等待遇不能呢？ 举两个很好的例子，一个是区块链，它被认为是抵制腐败的杀手锏，另一个是投票技术，它被营销为可以改善选举过程的工具，包括投票的公平性、可访问性和透明度。其他技术也被认为可以提供可预测的、一致的、和平等的法律实施方案。 我们最近发表在《杜兰法律评论》的论文中，研究了这些嵌入法治中的技术解决方案，并通过案例研究和当前的发展，询问这一设想是否成立。政府是否有可能设计法治价值来真正实现我们所期待的结果？ 我们的分析结果是积极的，在一定程度上，在政府系统中设计法治价值是可以实现的。设计良好的制度可以更有效地实现法律适用的一致性，从而增强公信力，并使公民在法律实施时得到平等对待。它们还可以帮助解决法治面临的一些严重威胁，例如帮助消除某些体系中的腐败。 然而，我们还发现，实现这些目标是一个复杂且相互关联的过程，需要在很多方面对法治保持敏感度，特别是如何选择使用的技术及其设计和实施方案。我们需要考虑到技术本身的局限性，包括其中一些技术是否会引起新的紧张事态和新的问题，从而引发更多的法治问题。这是因为技术有其自身的限定，既它们本身并不一定是善或恶，而是取决于它们的使用方式。 事实上，技术问题很可能会恶化法治问题，而不是解决这些问题。它们还可能使情况变得更糟，而我则尽量清除其中在适用法律方面时的人性弱点，清除建立的偏见和其他现有问题，以遵守法治。 我们的研究表明，在实践中，政府往往无法通过实施新技术以实现法治价值。我们发现，设计出来的法治在实施时，往往产生系统性风险和危害。包括公职人员在内的人们都可能会在事实上犯错，可能会错误解读先例，也可能被毫无关系的因素影响。这些弱点在构建技术系统时也同样会出现，那么这类社会技术系统肯定不是完美的解决方案。 举一个例子，利用区块链打击腐败。一方面，公共区块链系统可以带来显著的成效，但另一方面，如果选择了私人区块链系统，它们则会损害公信力、透明度和可预测性。类似地，在选举中，如果所选择的技术无法被验证，或是封闭源代码软件，在实践中它可能会引入新的错误和问题，从而使选举被操纵，并产生其他系统性问题，破坏我们追求和保护的法治价值。 另一个问题是，政府往往缺乏解决这些问题的资源和人力。这些新技术的成本往往很高，因此，政府经常寻求将其外包给私营企业，以给这些系统提供支持。原因是可以理解的，尤其考虑到成本因素，但他们其实可以减少一些新的法治问题。私营企业的技术解决方案往往不太可能反映法治价值，比如公信力。它们会更多的从私营企业的角度考虑，比如盈利性以及确保专有软件的保密性。也就是说，外包带来的新挑战破坏了政府保护法治的愿景。 综上，我们的分析表明，在政府系统中嵌入法治价值时，技术确实提供了有效的帮助，但这取决于如何去操作以及是否选择了正确的技术？又或者，这些系统通过算法仅仅复制了人类的偏见？ 通过设计实现法治可能会带来很多益处，要确保政府和公民以正确的方式实施这些制度，还有很大的空间待我们去进一步研究和探索。谢谢大家。感谢您的倾听。感谢邀请。再见。 主持人华清 国家互联网信息办公室网络法治局局长 感谢乔治·威廉姆斯先生。下面，请浙江省委常委、政法委书记王昌荣同志致辞，大家欢迎。 感谢王书记。下面，请中央网信办副主任、国家网信办副主任盛荣华同志致辞，大家欢迎。 感谢盛部长。第一项议程到此结束，下面，请清华大学法学院院长申卫星教授主持第二项议程。谢谢大家！ 主旨发言 主持人申卫星 清华大学法学院院长、教授 尊敬的盛部长、李院长、王书记、王校长和各位嘉宾、听众，大家上午好：再次欢迎各位参加本届网络法治论坛。接下来进入我们的主旨发言环节，将有8位嘉宾做主旨发言。 第一位发言嘉宾是国家网信办网络法治局副局长、一级巡视员侯云灏局长。数字经济的快速发展激发了许多新的立法需求，网络法治局在个人信息保护、数据安全、新技术新业态治理等方面做了大量的立法工作。 我们有请侯局长给我们解读数字经济的法治之道。 侯云灏 国家互联网信息办公室网络法治局副局长、一级巡视员 尊敬的各位嘉宾，女士们、先生们、朋友们：上午好！非常高兴与大家相聚在乌镇，一起参加2021年世界互联网大会乌镇峰会网络法治论坛，共同探讨数字经济的法治之道，发挥法治助力数字经济的积极作用。 当前新一轮科技革命和产业变革加速演进，5G、大数据、人工智能、智慧城市等新技术、新业态、新平台蓬勃兴起，数字经济发展日新月异，正在深刻重塑世界经济和人类社会生活，特别是面对新冠疫情的肆虐，数字经济在恢复发展，创造就业机会，增进民生福祉等方面成绩亮眼，贡献突出，展现旺盛活力和强大韧性。数字经济成为全球经济复苏、推动可持续发展的新动能、新引擎。同时我们也清醒地看到，伴随数字经济的迅猛发展，个人信息泄露、网络安全危胁、平台治理、算法滥用等问题日益凸显。数字经济治理面临重大挑战，加强数字经济治理，营造数字经济健康良好的发展环境成为各国高度关注的重要议题。 法律是治国之重器。提升数字经济治理能力，激发数字经济活力，推动数字经济高质量发展，迫切需要发挥法治的引领、促进、规范和保障作用。近年来，我们深入学习贯彻习近平法治思想，积极推进网络空间法治建设，会同有关部门为强化数字经济治理，营造开放、健康、安全、有序的数字生态开展了大量工作，取得了明显成效。 一是加快推进网络立法，提供坚实制度保障。坚持促进发展与规范管理相统一，以重点立法项目为牵引，以新技术新应用新业态为重点，及时推进引领性、针对性、系统性、储备性战略谋划，完善网络法律规范体系。我们推动制定出台了网络安全法、电子商务法等多部法律法规，特别是今年以来，推动制定出台了数据安全法、个人信息保护法、关键信息基础设施安全保护条例、汽车数据安全管理若干规定(试行)等法律法规，研究起草了互联网信息服务算法推荐管理规定(征求意见稿），为数字经济健康发展提供了有力的制度支撑。 二是持续强化网络执法，营造清朗网络空间。坚持依法依规，精准执法。自2019年起，连续三年会同工业和信息化部、公安部、市场监管总局开展App违法违规收集使用个人信息专项治理活动，对群众反映强烈的违法违规收集使用个人信息问题进行集中整治。开展“清朗·算法滥用治理”专项行动，规范滥用算法推荐进行信息定向传播的行为和秩序，严肃查处利用算法从事违法违规行为，为数字经济健康发展营造良好法治环境。 三是广泛开展网络普法，提升数字法治素养。连续举办国家网络安全宣传周，开展全国网络普法进校园、进企业、进网站等系列普法活动，重点加强对数据安全和个人信息保护领域相关法律法规的宣传推介。通过普法，网民法治观念和规则意识不断增强，数字技能和数字素养不断提升，数字经济共建共享共治的新格局正在形成。 今天我们举办网络法治论坛，就是邀请各位嘉宾交流经验，碰撞思想，贡献智慧，共同探讨发挥法治的护航作用，保障数字经济健康长远发展。借此机会我谈三点认识： 一是以法治引导促进数据合理有效利用。数据具有双重属性，一方面数据是国家基础性战略资源，没有数据安全就没有国家安全。另一方面数据是数字经济的关键生产要素，是驱动数字经济技术创新和模式创新的核心力量。发挥数据的基础资源作用和创新引擎作用，让数据聚合流动起来，赋能经济社会高质量发展、高品质生活，推动产业数字化和数字产业化，必须完善数据安全治理体系，建立健全权责明确、保护有效、利用规范的数据安全保护管理和个人信息保护法律制度，规范数据处理行为，强化个人信息保护力度。以安全保发展，以发展促安全。 二是以法治维护数字经济公平公正市场秩序。数字经济是市场经济，核心是公平竞争，只有竞争环境公平，才能持续激发数字市场的创新活力，实现资源优化配置，维护各类主体和消费者的合法权益。规范平台竞争秩序，营造公平高效有序的数字市场环境，必须夯实法治基础，完善数字经济公平竞争监管法律制度，提高监管效能和监管执法力度，推动平台企业合理有序发展。 三是以法治推动引领算法应用向善向上。智能化是数字经济发展的趋势，算法是实现智能化的重要环节，当前智能算法广泛应用于各类新业态新模式，在提高内容传播精准度、提升用户体验、改善经济运行效率的同时，也带来了大数据杀熟，算法歧视，算法困境，信息茧房等问题。治理算法应用乱象，引导算法科技向上向善发展，必须制定完善算法推荐、深度伪造等新技术新应用的规范管理制度，依法依规加强算法监管，切实保护用户对算法的知情权和自主选择权，促进数字经济良性发展。以上发言不妥之处请批评指正，谢谢大家！ 主持人申卫星 清华大学法学院院长、教授 感谢侯局长的精彩发言。下一位发言的嘉宾是新加坡国立大学法学院院长Simon Chesterman 教授。 Chesterman 教授长期从事隐私保护、人工智能治理、数据利用等领域的研究，最近刚出版了一本新书《人类与机器人：人工智能规制与法律的局限性》（We, the Robots? Regulating Artificial Intelligence and the Limits of the Law）。 有请 Chesterman 教授从新加坡通过实时连线的方式分享他对AI治理的看法。 Hello, Professor Chesterman, we are very glad to have you online, we can see you on the screen, you can start your speech now. Simon Chesterman 新加坡国立大学法学院院长、教授 各位朋友好，很高兴参加这个会议。我希望将来能有机会拜访中国，也欢迎各位到新加坡来。我目前研究人工智能治理，今天想跟大家分享一下我在这方面的研究进展，以及我的新书：《人类与机器人》。 人工智能的发展带来了巨大的好处，但与此同时，人类也希望最小化其带来的影响和损害。人们经常会对新技术的发展产生担忧，诸如埃隆马斯克、比尔盖茨、史蒂芬霍金这些名人也有关于AI发展的告诫。总的来说，AI对人类发展的影响主要在以下三个方面： 第一是速度。2010年5月6日，纽约交易市场上30秒钟失去了1万亿美元，没有人知道为什么。之后发现，出现该问题的很大原因在于高频率交易的算法，算法之间的互动特别快，因而事情就失控了。 第二是自动化，如果AI系统可以在人类不干预的情况下做出决策，那么当问题出现时，我们就很难责怪人类。例如谁该为自动驾驶的汽车撞到人负责？技术的发展会引发新问题，新问题也与产品的可靠性相关。自动化是挑战传统法治的一个重要属性。 第三是不透明性。不透明是一个很大的问题，在很多时候我们不清楚决策是如何作出的。有些公司也不愿意解释决策作出的具体程序，因而也带来了法律规制的难题。此外，不透明性和机器学习系统的复杂性有关，人类可能也无法理解他们是如何作出具体决定的。 1942年，科幻作家阿西莫夫在作品《我，机器人》中第一次明确提出了“机器人三原则”，到现在依然有很多人引用该原则，但并没有使问题得到解决。技术发展到今天，很多国家也想制定通用规则，但总是囿于问题太难的想法，总觉得要完全重塑我们的法律系统才能应对AI挑战。实际上并不需要，很多AI引发的问题可以在既有的法律框架内解决。此外，也存在一些人认为问题太简单。实际上我觉得AI带来的真正挑战并不是需要我们制定很多新的规则，而是如何实施他们。5年前我做研究的一个很重要的原因，就是发现了技术的影响，不仅是偏见，不仅是身份盗窃，而是人工智能可以改变人类的历史。我在这里列出了6项相互交叉的伦理原则。 第三点安全我觉得不是必要的，如果我们产品满足可靠性的话就不需要第三点。第四点负责性，如果我们有了民法和刑法来规制的话，也可以解决这个问题。第五点非歧视性，刚刚乔治威廉姆斯也提到，这是人权问题。隐私应该由隐私法律来进行保护，唯有个人进行控制和透明性的确需要新的法律来限制AI系统的发展，这样才不会超出我们的控制。我们要解决市场失灵，还要支持社会和其他方面的政策，如果我们进行过度管制的话，可能会限制创新。当前，全球正在进行一场激烈的讨论，我们抵制对科技公司的过度限制。但不同国家和地区的重点不一，欧盟非常专注于人权、非歧视，美国非常专注于市场自由竞争，中国非常专注于国家主权，持续专注于数据的本地化。 中国非常重视个人信息的保护，那么我们什么时候需要进行人工智能规制呢？对人工智能的规制实际上是一个困境，也即科林格里奇困境。早期当控制是可能的时候，没有足够的知识来证明需要放慢发展速度。而当发展的后果显现出来时，控制已经变得昂贵而缓慢。其次是采取预防性原则。第三是采取“精明无为”（Masterly Inactivity）政策，在产业当中采取监管沙盒。同样人工智能在供求方面也存在一些问题，需要进行风险管理。对于自动驾驶来说，我们想管控风险，想确保自动驾驶的安全，有一些红线是不能跨越的。比如说像终结者的机器人，自动杀人机器人是不能逾越的红线。第三是过程合法性，必须设计人工智能的系统来确保他们可控，确保他们不能跨越这个红线。比如说我们需要设计问责制，政府和公司都要对AI负责。现在欧盟已经把理论付诸实践，出台了关于人工智能的法律法规。最近也有相应的案例，澳大利亚联邦法院作了一个裁决，判定人工智能（AI）可以跟人类一样被认定为发明者，但同时也应有相应的法律法规和专利申请方面的保护条例。我的分享就到这里，我的书更详细和大家解释了这些问题，非常荣幸做此次演讲，希望大家一切顺利，谢谢。 主持人申卫星 清华大学法学院院长、教授 感谢 Chesterman 教授的精彩发言。下一位发言的嘉宾是欧洲法学会主席、维也纳大学法学院教授 Christiane Wendehorst。 Professor Wendehorst领导的欧洲法学会在2015年成立了专门的数字示范法研究小组，他们有一个包含12个子小组的任务组，与美国法学会合作制定了“数字经济的法治原则”（Principles for a Data Economy）。我们有请Wendehorst教授通过视频发言方式分享她们的最新研究成果。 Christiane Wendehorst 欧洲法学会主席、维也纳大学法学院教授 大家下午好，十分有幸受邀参与本次论坛，向大家介绍数字经济的原则（ALI-ELI Principles for a Data Economy）。
这实际上是一项由美国法学会（American law institute，ALI）和欧洲法学会（European law institute，ELI）共同实施的项目，我十分荣幸能成为该项目欧洲方的报告人。本项目旨在保障现行规范相互协调，并为理解身处不同法律文化之中的数据经济，提供不存在国别限制的通用基础概念。我们的目标是，助力企业（尤其是中小型企业）进行合约起草，对当前的最佳实践案例进行通报，通过这种方式对法院、立法者、标准化组织等主体进行启示及引导。我需要强调的是，其将只作为一种原则发挥作用，而非作为示范规则（model rules）或示范条款（model terms）。这意味着这些原则被建议用作一种框架，其可以与任何形式的数据隐私或数据安全法规、知识产权法规或商业秘密法规相共存。这些原则在设计时已考虑到其将会被应用于各种法律环境之中，并被用于实现各种目的。这是该项目当前的领导团队。我是欧洲方的报告人，十分感谢美国方的联席报告人，来自 Brooklyn Law School 的 Neil Cohen，以及我们杰出的主席先生们，Lord Thomas 勋爵和 Steve Weise，Thomas 勋爵曾任英格兰和威尔士首席大法官， Weise 则是一名美国的执业律师。 这些原则聚焦于将大量的信息作为一种资产、资源或可交易的商品的记录。值得注意的是，我们并不讨论功能性的数据，例如软件，我们的讨论与软件合同无关；我们也不讨论代表性的数据（representative data），例如加密资产，我们的讨论与比特币等也并无关联，尽管它们在当前的经济之中有着非常重要的地位。这些原则也不适用于公共机构（public bodies），所以我们也不会讨论执法或情报工作的问题。此外，我们一般不讨论救济问题，并将其视作一个留待法律适用环节解决的问题。 现在给大家展示一下这些原则的组织框架，这些原则分为五个部分，第一个部分是总则，最后一个部分是多边问题（multi-state issues）。主体是第二至四部分，分别关于数据合约、数据权利、数据活动中的第三人。数据合约部分涉及对不同类型的数据交易进行区分，并提供缺省条款作为示例。有关数据权利的第三部分涉及对不同类型的数据权利（如访问权或可携带权）进行区分。有关第三人的第四部分对涉及如何处理数据价值链条中的数据利用限制问题，例如采取对抗下游接收者的直接措施的适用条件。 请允许我首先解释一下，我们如何得出这些原则以及我们为何选定了当前的这些议题。用一个非常简化的数据经济模型开始我的讲解，该简化模型的起点是数据控制者，其也被经常称为数据占有者。数据控制者或数据占有者指能够访问数据并决定处理的方式及目的的人。数据控制者经常使用数据处理者所提供的服务。数据处理者是代表数据控制者处理数据的服务提供者。但是控制者自身通常并不生产数据，数据通常由其他主体所生产，或者至少可以说数据的产生可以归因于此类主体。这里主体可能以不同的方式提供数据，例如作为被编码于数据之中的个人信息之主体，或者通过实施网联汽车驾驶活动来提供数据。当然，包括控制者在内，参与处理活动的主体当然地获得其中的衍生数据和推断数据。当数据控制者与接收者分享数据时，后者可能成为新的数据控制者或仅仅获得对数据的访问权限。前者此时将成为数据提供者，其通过买卖等方式向数据接收者提供数据。它们也可能通过数据联营安排的方式与数据合伙人进行数据共享。当然，它们也可能开发各种数据库服务，并将此种服务提供给其他主体。你在数据经济简化模型中所看到所有交易，均可被数据受托人、数据代管协议持有者、数据市场提供者等数据中介所进一步促进。这里同样涉及到我之前所提及的数据权利，其既可能包括数据访问权，同时也可能包括其他类型的数据权利。这些权利可能由对数据产生有所贡献的主体所实施，我们将这些权利称为“共同生成数据中的权利”。数据权利也可能由与数据产生无关的第三人所实施，这些权利通常因法律规定而产生，且通常涉及公共利益。最后一点，数据活动通常可能影响那些享有与数据相关权利的第三人（如数据主体或知识产权权利人）的利益。这些第三人的权利对于数据经济同样非常重要，应当受到保护并予以重视。 我并没有时间来介绍这些原则的具体细节。有关数据合约的第二部分关注有关数据供应或数据共享的合约，其中将数据共享分为了五种具体类型。举例而言，向新的控制者传送数据与在受提供者控制的安全环境之中为他人提供数据访问是两种不同的类型。我们同样关注有关数据服务的合约，诸如数据处理合约、数据信托合约、将数据交第三者保管的合约、数据交易场合约等。对于以上所有类型的合约，我们提供了缺省的术语及条款，其既可为当事人所使用，也可为法院或立法者所使用。回到我们的数据经济模型之中，在这些环节之中不同的原则可以用来处理未来的各类数据交易活动。第三部分与数据权利有关，由于这是目前为止最具影响的部分，并且已经对世界上其他地方的研究工作产生了启发，我将会在这个问题上多说几句。在第三部分的第A章中介绍了一个非排他性的数据权利清单。具体而言，包括访问数据与迁移数据的权利、请求停止数据使用的权利、请求更正数据的权利以及极其特殊的从数据衍生利润中获取一定份额的权利。第B章涉及共同生成数据的数据权利问题，第C章涉及与公共利益相关的数据权利问题。 我想简要介绍一下我们在第B章中考虑到了哪些背景问题。让我们想想有一个航空公司A，该公司运营由飞机制造商P所制造并销售的飞机，还存在着一个引擎制造商E。假设引擎性能的数据从联网的引擎处被直接传送给数据分析公司D，该公司与E公司隶属于同一家集团。假如现在航空公司A想要访问引擎数据以更好地判断是否能以更加有效率的方式进行保养作业，但其他的参与方出于其自身的经济利益考量，拒绝了A的访问请求。A与实际占有数据的主体之间也不存在着合同关系。该场景是我们的原则可能发挥作用的一个典型场景。我们定义了一些在决定是否以及在多大程度上特定数据应当被视作共同生成数据时应被纳入考量的因素，其包括当事人在多大程度上是信息的主体或拥有信息的客体，在多大程度上数据由当事人的活动所产生（如驾驶网联汽车）或者由对当事人所拥有或运营的产品或服务所产生，在多大程度上数据由当事人所收集或汇编，以及其他因素。但是，在何种意义上数据由当事人所共同生产，也即是数据生产中的份额问题，并不是在考虑是否以及在何种条件下授予数据权利所需要被考虑的唯一问题。行使数据权利的主体同样是重要的考量因素，还存在着其他主体的合法权利、公共利益、相关主体之间的相对权力问题。在考虑是否授予数据权利以及在何种条件下授予数据权利时，以上五个因素应一并被加以考量。回到先前举的关于航空公司的例子，根据我们的第20条原则，本案是一个适用访问权的典型案例，在本案中，访问数据为产品或服务的用户从事与其目的相符的正常使用、维护或转售所必需，且控制者是供应网络的一部分，并且这种必要性是可被合理预期到的。 很不幸，我没有时间来遍历我们的原则中的所有条款。请允许我简单提及一下第四部分的内容，其同样非常重要。
