书摘：人机冲突——人类与智能世界如何共处（下）

本文继上一篇，书摘：人机冲突——人类与智能世界如何共处，完结这本书。

第六章 从神奇、疯狂到中毒

对于我们大多数人来说，手机及其应用已经成为头号技术魔法了：每当我们在生活中遇到题，只要我们的手机足够强大、能联网（几乎总能满足要求），就总会下意识地想什么应用能解决这个问题？

“必须把人类精神置于技术之上。”

阿尔伯特·爱因斯

现在，有很多人用类似“爱因斯坦1939”的论点，来为加速高风险指数技术的行为辩解，这些技术包括广义人工智能、生态工程（通过技术手段控制天气）、部署自动化武器系统、修改人类基因等。我最常听到的论点就是：“如果我们不去做，别人（可能是坏人）肯定也会做，那样我们就落后了。”“除了这些危险以外，这些技术也会给世人带来好处一一不加限制地使用是愚蠢的。”“没办法把发明出来的事物倒回去，或者停止发明。如果一个事物有可能被发明，那就去尝试发明它，这是人类的天性。”

第七章 数字肥胖：我们的最新流行病

我相信，我们切需要精确且不断革新的公共政策、新的社会契约、全球数字健康标准、本地化的响应性规则，营销人员和广告商也要有更深层次的参与，承担起更多的责任。技术提供商需要（我相信很多公司也想这么做）支持均衡数字权利或数字健康的全球宣言，它们需要主动进行自我约，并转向更加全面的商业模式，确实把人放在首位。要牢记，就像高效率不能成为商业的唯一目的一样，超级链接并不是我们的最终目的地。以人为本意味着要把人类的幸福放在首位，我认为这是在商业和社会中创造持久价值的唯一途径。

第八章 预防性原则与主动性原则

预防性原则，是指我们在探索、开发技术之前，先行预测可能会发生什么，可能会产生什么样的结果与意外情况。主动性原则则提倡在所有潜在风险和结果明朗之前，积极采取应对措施。

第九章 让幸福不再靠运气

如果人类繁荣只是指在技术的推动下，生活更愉快、生意更好更高效、利润更多并稳定增长，那么我们一定同意通过机器和算法来实现。在我们螺旋式上升发展，通往不可避免的超级高效甚至可能毁灭资本主义的富足社会时，这在一段时间内可能奏效。

幸福无法追求，一定是随之而来，只有作为投身高于自已的事业带来的意外作用或者屈服于他人的附带产物，幸福オ会随之而来。愉悦是并且必须是一种意外作用或者附带产物，一旦成为目标，就被毁了。

幸福无法写入机器，不能自动化或者出售。幸福无法复制，不能编纂成文或者通过深入学习获得。幸福生长于我们的内心，自然溢出，它存在于人与人之间，技术只是帮助我们的工具。我们是使用技术的物种，不是注定会成为技术的物种。

第十章 数字伦理

现在，十分必要的一项工作是把我们和机器区分开来。重新认识一些重要事实，例如所有知识都是属于人的，机器不能出现所谓的理想，这只属于人类。

没有伦理约束，一切人工智能都不是真正的智能，因为如果没有伦理，人工智能在解决难题时，就有可能找不到人类会考虑的最后几块伦理碎片，因而总是在最关键的时刻失败。例如人工智能自动驾驶汽车时很难判断什么时候可以撞死路上的动物，什么时候不可以。

数字时代的5项新人权

1. 保持自然生理状态的权利
   

2. 在人之所以为人的关键方面，可以效率低下的权利
   

3. 断网的权利
   

4. 匿名的权利
   

5. 雇佣人类或者人类参与而非机器参与的权利
   

我们一定要非常小心，如果只是基于效率决策的话，就几乎一定会牺人的工作、夺走人的权威，要么就得让人习自动化、接受安排、最终退位让出主导权。

第十一章 2030年的地球：天堂还是地狱

虽然地球上的很多重大改变会被欣然接受一一比如为激情而不是为生存而工作，但是我们过去习以为常的一些最基本的特权，比如自由选择消费品和自由独立的生活方式，可能会成为消失的回响或者超级富豪的专利。

人类独有的工作越来越稀少，不过总体来说，凡是不能数字化、自动化、虚拟化或机器化的东西始终更宝贵。人机搭配是新标准，大多数情况下，人机协作仍然优于无人类参与的一切机器。

收入开始与工作脱离，工资正在与工作时长分离。主要的薪酬模式是根据结果、成果和绩效支付酬劳。工作时间减少最终成为新标准（对很多人来说当然是天堂）。

越来越昂贵的产品只有一个，那就是选择一直不被追踪和监视。

第十二章 抉择时间

“站在人性一边”对我来说意味着：

• 把全人类的繁荣放在首位

• 继续重视大脑算法，即想象力、巧合、犯错、效率低下等人类独有的特性，哪怕技术不希望这些特征出现或者与技术相矛盾

• 反抗机器思维的传播，即不要改变我们拥护的东西和人类的需求，因为这可能会让身边的技术更便利

• 别被骗去爱好神奇的技术，否则模拟现实就会凌驾于现实之上；不要沉迷技术

• 对屏幕和机器的喜欢，切勿胜于对我们的同伴