薛澜：人工智能发展要让创新驱动和敏捷治理并驾齐驱

来源：财经网、信息化百人会
本文约4000字，建议阅读10分钟
科技发展同时还要有人文关怀，去主动解决新兴技术研发与应用带来的风险与挑战。

近日，信息化百人会成员、清华大学苏世民书院院长薛澜在《财经》年会2022：预测与战略”上的演讲中表示，现在前沿科技将给人类生活带来巨大的收益和便利，但科技发展同时还要有人文关怀，去主动解决新兴技术研发与应用带来的风险与挑战。

他指出，在具体实践过程中价值观非常关键，在确保人工智能安全和平等的底线上推进创新驱动，鼓励企业创新，利用人工智能赋能经济社会的发展，来服务于我们的可持续发展目标的实现。同时要及时识别人工智能带来的风险，在适当的时候给予规制，从治理的基本价值理念上说，创新驱动和敏捷治理要并驾齐驱。

薛澜表示，人工智能已经在各个应用领域有很广的拓展，包括智能机器人新冠期间在医院的应用、人工智能用于新冠诊断。但人工智能的发展不仅仅是这些应用，也意味着科研范式和业态的重塑，大大节约了人力物力，大大提高了科研和生产效率。

在生命科学领域，他指出，人类对生命的认识也在经历着从解读、修饰到创造的过程。并列举几个例子，如首个单条染色体酵母人工合成，以及今年研究人员首次合成可正常分裂的细胞、最新的日本研究人员用3D生物打压技术打造出人造和牛等等。

从可能的风险来看，从具体技术应用来看，如人脸识别技术在高通量检查，社区治理等方面给我们带来巨大的便利，但社会上也有一些担心，对个人数据的收集会不会有其他负面的影响。从更加宏观的角度看，新兴科技的广泛应用长远是否会对人类带来积累性风险，如就业问题，世界经济论坛近期的一份报告就提到近年来我们首次看到新兴科技创造就业落后于消除就业，这是必须高度关注的。

他强调，新兴技术治理背后有一个生成逻辑和治理实践。从结构上来看应该有四个层面，首先是核心驱动层，所有的新兴技术在初期的时候背后有知识的重大发现或技术上的关键创新导致新产品的产生，形成核心驱动；第二是环境变革层，新技术的应用必须跟应用环境不断交流互动，找到新的应用场景和新的需求，形成技术的应用领域和范式；第三是认知适配层，这是一个技术的社会认知过程；最后就是治理范式层，明确价值导向，参与主体及治理工具。

最后谈人工智能的治理，薛澜提出“敏捷治理模式”。从基本的框架来讲，要识别治理对象，就是数据的问题、算法的问题、平台企业的问题。治理理念是在效率公平安全自由等基本理念上做出平衡。参与的主体不但是政府、企业、公众，很多的社会组织等都是我们需要依靠的治理主体。治理工具的应用要靠法律法规、行业标准、各种技术手段、社会的共识。

在具体实践过程中价值观非常关键，在确保人工智能安全和平等的底线上推进创新驱动，鼓励企业创新，利用人工智能赋能经济社会的发展，来服务于我们的可持续发展目标的实现。同时要及时识别人工智能带来的风险，在适当的时候给予规制，从治理的基本价值理念上说，创新驱动和敏捷治理要并驾齐驱。

以下为部分发言实录：

薛澜：非常高兴参加今天的论坛，前面几位院士已经进行了非常精彩的演讲，包括基础研究和几个方面的应用，遥感和智能汽车，非常精彩，陈院士讲到了人文在科技发展中的重要性，怎么样在科技发展过程中把人文的思考、伦理的思考带到创新治理过程中，使得科技能够为人类社会做更好的服务。新兴科技前沿有很多新的非常重要的趋势，我下面关于科技发展PPT中有几张是借用中科院副院长周琪前段演讲中用的，我觉得非常棒。

首先是人工智能，大家知道人工智能从2017年AlphaGo战胜了柯洁，之后不断发展演变，到2020年AlphaFold解决了国际生物学界预测蛋白质折叠的结构问题，超出人类科学家的水平。当然，人工智能还在其它应用领域有很广的拓展，包括新冠期间在医院的应用、提高对新冠的诊断。但是它不仅仅是这些应用，也意味着科研范式和业态的重塑，人工智能机器人化学家每天工作21.5小时，不需要人类指导，很多实验室的工作都可以由机器人帮助完成。8天催化效率提高10倍，在10维参数空间，有1亿多个候选实验方案中可以确定668个实验搜索，大大节约了人力物力，大大提高了科研效率。

在生命科学领域，人类对生命的认识也在经历着从解读、修饰到创造的过程，这一点大家都知道，我们从世纪之交破译人类的基因密码之后，现在的发展日新月异。举几个例子，首先是改造，原来是异养的大肠杆菌，现在可以改造成自养型生物，是这两年的新成果；人类历史上首个单条染色体酵母人工合成，还有今年研究人员首次合成可正常分裂的细胞。最近大家也看到中科院天津工业生物技术研究所的科学家发表了颠覆性成果人工合成淀粉，有可能会带来人类食物的革命。现在这方面已经有很多创新，把传统的从饲养到生产到消费的过程变成在实验室培养让纤维生长成人造肉，已经有各种各样的创新，像美国企业的人造肉产品已经在新加坡获得批准上市，日本的研究人员也用3D生物打压技术打造出人造和牛。

还有很多领域互相交叉，如生命科学与计算机技术交叉产生的脑机结合，马斯克的公司实现了猴子用“意念控制”光标打游戏；美国的FDA2019年已经发布了脑机接口设备指南；2020年8月份还批准了脑机接口产品的临床研究性器械豁免申请。这些工作的不断开展对人类生活各方面的影响是巨大的。当然，科技发展同时还要有人文关怀，新兴技术研发与应用也会带来风险与挑战，如人工智能在人脸识别方面给我们带来巨大的便利，另外也有很多担心，对个人数据的收集会不会有其他负面的影响。

刚才是局部的，另外科技的应用从长远的考虑会不会对人类带来积累性风险，比如关于就业的问题，世界经济论坛近期的一份报告就提到近年来我们首次看到新兴科技创造就业落后于消除就业，这是必须高度关注的。还有一些技术可能改变我们人类自身，像基因编辑技术的应用，最近我们刚有一篇发表在PNAS的文章谈到当前关于基因编辑技术的全球治理，这方面的治理机制需要进行新的改变。

刚才是把新兴技术可能带来的巨大收益和潜在的风险做了简单的介绍，下面谈谈新兴技术怎么去治理，新兴技术治理背后有其生成的逻辑和治理的实践。如果我们看所有的技术、不管是现代科技还是传统科技，几百年前当时的新兴技术在现在来讲是传统技术，但它背后都有一个治理体系形成的过程。

从结构上来看应该有四个层面，首先是核心驱动层，所有的新兴技术在初期的时候背后有知识的重大发现或技术上的关键创新导致新产品的产生，形成核心驱动；第二是环境变革层，新技术的应用必须跟应用环境不断交流互动，找到新的应用场景和新的需求，形成技术的应用领域和范式；如电动汽车在上世纪初汽车刚兴起的时候也是当时的新产品，但当时因为其他条件因素，燃油汽车被市场选择。第三是认知适配层，这是一个技术的社会认知过程；社会怎么认识新兴的技术，背后的制度逻辑、技术逻辑、文化逻辑、资本逻辑使得社会认为这个技术对于社会是友好的还是带来风险的，我们必须得服从这个技术还是技术服从人类，这也是在技术发展尤其在应用过程中有这样一个认知适配过程，我们曾经有一些技术在发展过程中在社会认知方面产生了问题，最后导致这个技术的应用产生了很大困难。最后就是治理范式层，在社会认知过程中不同的治理模式逐渐在形成，在社会认知过程中形成的议题跟人类的价值导向、治理的主体、路径选择、工具依赖的过程就是新兴技术的治理范式。

为什么以前我们并没有感到背后这样的过程，应该说前几次的工业革命过程中中国直接享受到最后这一层，因为最核心的技术产生、应用过程、社会认知都是在其他发达国家产生的，我们落后了，但我们可以享受技术的应用，同时，我们也把相关的治理模式接受下来。但是在第四次工业革命新一波浪潮中，中国本身也在头班车上，所以很多新兴技术我们也是开发者，是最先的应用者，同样我们在社会认知、治理范式方面也必须得尽快跟上来。

具体有很多问题都可以讨论，以人工智能作为一个技术来考虑，这也是最近这些年大家讨论的比较多的。人工智能的治理，我们提出敏捷治理的模式，怎么样能够让我们的治理模式有重大的改变改革去适应人工智能技术的高速发展，因为，中国对新兴技术的治理从根本上说是要促进新兴技术更加健康的发展。从基本的框架来讲，首先要识别治理对象，对人工智能来说就是数据的问题、算法的问题、平台企业的问题，这是治理的对象。治理理念是在效率公平安全自由等基本价值目标上做出平衡。参与的主体不但是政府、企业、公众，还有很多的社会组织等都是我们需要依靠的治理主体。治理工具的应用要靠法律法规、行业标准、各种技术手段、社会的共识。把这个框架建立起来之后我们就可以推动敏捷治理的运行机制，研究在新技术带动下的新经济特征，跟踪市场的发展，加强监管跟市场的沟通，灵活运用多元工具。

在具体实践过程中，刚才谈到我们的价值观念是非常关键的，所以我们在确保人工智能安全和平等的底线上创新导向，这点是需要坚持、毫不动摇的。我们要鼓励企业创新，利用人工智能赋能经济社会的发展，服务于可持续发展目标的实现。同时我们要及时识别人工智能带来的风险，在适当的时候给予规制，从基本价值理念上，创新驱动和敏捷治理两个轮子要并驾齐驱。

治理主体要积极参与到协同互动的过程中，在传统治理过程中政府跟企业相当于猫和老鼠的关系，但在新兴技术的发展过程中，企业和政府应该坐到同一个桌子上大家进行有效的对话，让政府更好的了解技术发展的过程和走向，政府要让企业了解政府代表公众有什么样的担心，从而找到更好的治理方式。治理对象也有一个分层，对应用场景对不同类型的问题有不同方式的治理。最后治理工具要灵活运用刚柔并济。从宏观层面要有一些原则性普适性的法律法规。国家最近出台了个人信息保护法，中观层面要有行为准则等软法，国家新一代人工智能治理专家委员会2019年出台的人工智能治理准则就属于这一类。微观层面也需要有相应的技术标准和监管技术，在这些工具的综合运用下为我们的新兴技术更好的发展、更健康的应用提供更好的治理。