站在计算时代，应该如何看我们的未来
转载自公众号：道哥的黑板报
一个月前，在澳门参与了 TEDxMacauUST，我分享了一些我对于计算的观点。简言之，我将未来我要投身的事业总结为四个字「计算时代」。
从2009年阿里云成立的第一天起，到现在投身于城市大脑、人工智能的工作，这十多年时间我不断在思考王坚博士带给阿里以及全社会的命题 -- 「计算」。越思考和实践，感悟就越多，就越发觉得「计算」的博大精深。
如果站在大历史的角度来看计算，会惊叹于这么巧妙的事物是多么的神奇与不可思议，惊叹于先贤们的奇思妙想。但计算的故事才刚刚开始，未来还有更多的篇章需要一代代人去谱写。在这波澜壮阔的背景下，我们能为此做点什么，并以此来推动社会的进步？这是促使我开始学习、思考和总结关于「计算」的初衷。幸运的是我身处「阿里云计算」这样一家以计算为使命和初心的公司，让我能近距离接触到最懂这件事情的人与最前沿、最核心的技术。我想在这个噪音嘈杂的年代，我们需要在更多的场合不断向大家阐述我们的使命和愿景。
从澳门回来后，我将这次的内容分享给了我的团队「阿里云A组」的一些同学，他们给了我很多很好的反馈。A组有一群志同道合的朋友，团聚到了一起，希望做一点不一样的事情。
其中A组的陶芳波（念公）在看完我的演讲视频后，专门写了一篇文章，阐述了一些他对计算的观点，我认为非常值得拿出来分享和探讨，因此我将他的文章也顺带贴到这里。陶芳波（念公）是人工智能方面的专家，他的工作专注于通用人工智能（AGI）的领域，正在构建一个充满野心的系统。
陶芳波（念公）的评论文章如下：
一：从形式系统和复杂系统看计算的必然
关于莱布尼茨的万物计算是否可以实现 - 数学系统是一种对世界的形式化表达，本质上和世界产生了一种同构。所以当一个形式系统即是一致又是完备的时候，就意味着整个形式系统和所刻画的外部世界是一一对应的了。也就是数学家们理想中的世界。简单的数学系统可以做到一致又完备，但是这个系统离可以描述所有真理还差很远，所以是一个弱系统。而哥德尔不完备定理说的是一个强系统是不完备的，即存在某些为真的陈述，在系统内不可证，也就无法通过形式系统中的推理演绎来得到。换句话说，莱布尼茨那种完全模拟世界的想法可能不具有理论可行性。
首先，我们确实应该更多地从公理系统和形式化的方法来理解世界。这是非常有意思的视角，是一个元数学视角。生活中有两个最常用的形式系统，一个是语言，一个是数学。其实这两个都是用来刻画现实世界的，其中他们的构造是被一种非常复杂的和现实世界的"同构"来决定的。更广泛地说，而且无论是世界的运转规律，人类智能的运行机制，还是说头号玩家那种构建的虚拟世界，本质上都可以被解释成公理系统，而且其内部对象之间具有相互作用性，所以又是一个复杂系统。所以从更广义的计算的角度讲，物理世界的运转，大脑中的智能的实现，复杂系统，都是可以被形式化的计算。形式化方法可以帮助我们划定 真理、计算和现实世界 之间的对应关系和边界，对于做AI从业者，尤其可以从这个角度来探索智能能达到的能力边界。
另外，从复杂系统的角度来看计算的必然。在复杂系统中存在一个概念叫 Computational irreducibility，也就是一个复杂系统在计算上无法被规约成一些简单的理论（模式）来解释，我们可以拓展这个概念，不仅是一个复杂系统，是任何可以被形式化或者公理化的系统（比如我们的世界），某种程度上无法被系统内的算法简化地解释。而且是一种无法被规约的计算。人工智能从一个角度看就是试图用一种规约后的结构来描述一个系统，对于复杂系统或是看上去混沌的系统都是无能为力的，这也解释了对于强相互作用的系统，AI往往解决不了问题。所以，当我们面对一个复杂系统，其底层的原子动作往往非常简单的，但在复杂计算之后却变成不可理解，所以说，计算（或称模拟）可能是唯一可以真正达到理解的路径。举一个例子，正如交易行为本身是一个简单的原子行为，但数以亿计的各种层面的交易构建出的商业世界却极其复杂一样，并不存在一个简化的模式来解释或者这个系统，只有计算过程本身才能解释这个系统。所以可计算的复杂系统，在未来或许会成为一个更为重要的学科，帮助我们理解现实世界和虚拟世界。
二：智能计算的趋势
AI计算在云计算中所占的比例已经开始逐年上升，在可预见的未来，智能计算可能会成为全世界算力最大的消耗源。（如果把大脑的思考也看做计算，这个结论早已成立）
当然，这背后将无法仅仅是由以深度学习为主的感知计算来支撑，需要从更多的角度来思考智能计算。首先，虽然目前的深度学习已经加入了很多有效的归纳偏置，并且类似于AlphaGO这样的工作已经把神经网络作为一个更系统的计算和决策体系的一部分。但目前我们仍然缺少一种相对通用的人工智能框架，可以在更高的认知层面（符号层面）和人以及环境进行无障碍沟通，并完成更通用的任务。如果说云计算会让AI更深入地渗透到生活和生产当中，那么AI本身必须具有解决更广泛认知任务的能力。这里蕴含着一个巨大的新机会，而且学术界这两年已经开始往更通用更认知的AI去发力，比如Yoshua Bengio一直在推动。当然我认为工业界，因为其离场景更近，计算资源更充足，资本组织力更强，在这个领域的机会更大。
其次在另一个角度，冯诺依曼结构是否是最好的智能计算体系结构？目前看已经展现出一些不足，比如计算和存储过于分离，而对于AI而言，数据的结构很多在计算模型中被蕴含；比如实现通用智能必须要探索的记忆机制，比如情景记忆的存储和提取，都需要一些新的设计。这里会有在体系结构层面为通用智能重新设计的机会。
三：交互革命，以及人类社会虚拟化
人类社会的生活方式，往往随着交互革命的发生，而不断地产生变革。有一个有趣的视角来理解交互的趋势：如果说大脑是生物计算的大本营，那么过去和未来的交互革命，都在一次次让交互发生在离这个大本营更靠近的位置，从书信（远距离）、到电脑、到智能手机（手）、到AR/VR（眼睛）、到脑机接口（大脑皮层）。
这种交互趋势也必然导致了人类社会虚拟化的不断加深。手机和电脑是给了我们一部分“虚拟体感”，进入到了初级的虚拟商城和虚拟社会，但还远远不够。在生活方式上，我们可能长时间会处在虚拟世界和现实世界共同存在的未来当中，再慢慢过渡到完全的虚拟世界，因为完全的精神性的虚拟世界，依赖于一些生物层面的突破，如记忆的数字化，意识永生，通用脑机接口等等。但是虚拟的比例会逐渐上升，而且必然会以新的交互方式来让我们获得更好的“虚拟体感”。因为如此，这当中就蕴含了巨大的商业机会，无论是对AI提出的更高的要求，还是对计算能力进一步的需求，还是直接去改造交互体验，提升虚拟体感。
从生产的角度我们常常提数字化，在生活的角度我认为我们应该提“虚拟化”。从人本身的体验出发，我们其实是在不断地虚拟化，这个潮流是无法被逆转的。那如果无法改变，就应该跳到这个潮流里。在交互、计算、智能 这三个维度做出重新的设计，来真正定义下一个计算时代。
四：与AI共舞 – 混合智能时代
如果仅仅称人类这样具有高度认知能力的智能为“智能”，那么当前地球上所有的智能，100%都来自于人类智能。但在未来，一个无法避免的趋势是，人类智能的占比会逐渐下降，而非生物的智能的占比会逐渐上升，甚至因为其可复制性远远高于生物智能（依赖繁殖），非生物智能可能会成为这个星球上占绝对主导比例的智能形式。我们暂且称那个时代为“混合智能时代”。
混合智能时代，其蕴含可能远远超出了过去任何一次工业革命。人类文明从过去的人和工具相处，将第一次变成人和智能体相处，这是一个巨大的跨越。这种共存会从各个角度，生活方式、商业、教育、科技、金融 来彻底改变我们过去几千年来制定的社会秩序。随着这种底层逻辑的改变，社会秩序如何被重新定义，社会结构如何在新秩序下完成优化，是包括我们在内的未来几代人面临的巨大社会挑战。我们不仅要去关心如何创造强人工智能，也要关心这种创造带来的对上层建筑的影响。
当然，也有一些人已经开始行动。Neuralink 认为我们应该把AI作为一个"外脑"来帮助人进行更高层次的认知和计算，但这假设了"AI外脑"仅仅展现了其计算形态，而不具备意识形态，所以其智能计算的能力可以被人类意识捕获。伯克利教授Stuart Russell 在《Human Compatible》一书中则指出，我们应该将机器的本能意识编码成永远为人类的偏好服务。当然这些都是理想的情况，如果一种非生物智能，一旦具有人类那样对于“意义”的哲学思考能力，那么所有设定的“本能”也有可能被打破。所以，一群具有意识形态的智能体和人类如何共存？这是个大问题。
