想读这本书的初衷是近几年的两个事件：一个是阿尔法狗战胜了李世石；一个是写诗程序小冰出现。他们都表明了原来在人类能够优势处理的环节上，机器也能够插上一脚了。

想看这本书的原因是，总想知道，如果人工智能能够代替人在智能方面的很多的能力的时候，智能中还有哪些部分是无法被还原的。最近看的侯世达的访谈提到了情绪是界定智能的标准，也有作者认为是自反性或者对自身的自觉。我的一个模糊的预设是，人工智能对人类来说既是帮助人类理解自身认知的一种途径，同时也从反面促使人去思考到底人类的心智中什么是无法被还原的。之前也有阅读一些基本的读物，比如塞尔的《心、脑与科学》、霍夫斯塔德编的《心我论》等，但总觉需要在历史脉络或者问题史的维度来理解这些问题。

翻开书，其实有点失望，因为本来以为是讲述人工智能的历史，或者至少是关于“智能”或“心智”问题的理解史。作者恰恰绕开了这个问题，将智慧定义为设定目标的能力，而将智能理解为搜素和检验的来获得达到目标途径的能力。不知道这种区分智慧和智能的方式是基于什么？但这样的处理方式，在回避了很多心灵哲学式的提问之外，实际上也从棋类软件开发的角度来谈人工智能将会遇到的问题，以及如何克服这些问题，本书也是按这一逻辑展开的。

实际上无论国际象棋、将棋还是围棋，他们都是一种游戏，因此都需要一定规则，纵然千遍万化，与人类直接处理外界信息的能力的能力相比，仍然相对单纯，并且可以计算，作者也提到了如何将棋谱图像化处理的问题，从而使得棋类游戏能够被评估。从这一点可以看到，作者涉及的人工智能所处理的问题是被高度被这一类“智能”运用方式所规定的。有一个更有意思的讨论对象实际上是小冰写诗，因为这涉及到人工智能无法直接处理的问题，就是“创造性”是否能被模拟的问题，然而我们称“随机生成”是创造性的体现么？在小冰之前，已经有了一些能够模拟音乐的随机生成的软件。对于这一点，首先不应该抱残守缺的认为，艺术创造性的载体必须是具有天才的艺术家，需要将创造性的权力扩展；但仍然会派生的问题就是，如果一切随机生成的因素都是创造的话，那么创造性的将会是没有难度的。没有难度也意味着，人和艺术质料之间的关系将会发生根本的变化。

在接下来的篇幅中，作者通过了程序员设定标准、科学还原主义、人类天才、人类的基本范式等几个角度，讨论了人工智能的深度学习、强化学习以及人工智能中设定目标的问题。作者认为，人工智能模仿的是人类神经元的认知方式，这种模仿即是深度学习的方式，但获得智能的过程首先需要摆脱人为的帮助设定标准，达到自我评估。同时作者认为人工智能不是科学，因此无法用还原主义解释，因为其中有太多“黑魔法”（不可解释）的部分，正如人类智能目前也仍然是一个黑箱。当人工智能能将深度学科和强化学习相互结合的时候，就能在一定领域内超越这个领域内人类天才的水平，比如阿尔法狗的诞生。同时因为人工智能的进步速度是成指数级的时候，一定时间就会达到奇点，从而超越人类能够想象的边界。作为文科生，这些部分都是以前了解不够的地方，看了之后也多有启发。

关于奇点问题，我认为真正应该担心的不是奇点以后的人工智能超越人类的控制，而是到了奇点之后，人类当下社会的结构性的问题是否会因此被更加固化，正如近年来互联网发展所展示的那样，互联网在拆除一堵堵围墙的同时，用VIP、正版、知识付费、甚至直接的权力介入建了另外的更严厉的高墙。在我看来，激进的社会变革的维度至少不应被智能的快速变革所忽视。更加激进的方式是让急速的智能进化成为社会革命的助力，至少严肃的思考者不应该拉在技术变革想象后面。这就涉及技术和人文的关系。

作者随后提到了人工智能的伦理问题，即人工智能需要被设定伦理标准，但有可能会被认为是复制了人类的偏见和恶劣的部分，他举例说到翻译程序中机械复制社会上的性别标准的刻板印象；将大猩猩标注为黑人以及人工智能学会了黄色笑话等等地方；这里不经哑然失笑，程序员眼中的社会还是挺单纯的。。。

最后一点，作者写到，人类的意义和叙事即是人类设定目标时候的优点，同时也是人类的限制。这一点很有意思，也毕竟给我最初的疑问有了一些初步的解答。

是啊，人有善意、会心碎；既有极为抽象的感情，也有只指向具体对象爱。我们自然希望自己所经历过的一切都能够被解释，被讲述成一个供自我参照，有反思性的故事。但这一切又都会构成自身的限制，阻碍行动。作者举了一个有意思的例子，就是人在下棋的时候，常常会为自己每一步棋寻找意义，比如这一步是进攻，下一步是防守，这一招又是试探。但人工智能棋手在下棋的时候，完全不管这些，所以下出了令人吃惊的棋路。而人类棋手也从这些机器的棋路中学习到很多，已经出现了许多学习机器棋手棋路的人类棋手。

原来游戏比我们原来想象得还要复杂。