读过 AI 3.0 🌕🌕🌕🌕🌑
梅拉妮·米歇尔的这本书，原题《Artificial Intelligence: A guide for Thinking Humans》,引进中国是被命名为《AI 3.0》。本书梳理了现代人工智能研究中，DNN的进展进步和其在视觉识别，博弈游戏，自然语言理解与翻译，虚拟助理的应用。

DNN，是Deep Neural Network，深度神经网络。此人工智能方法属于亚符号人工智能，它们模拟人脑处理信息的方式，而非用计算机编程实现人类可以用符号表征的任务算法。它们的应用已经给人类带来了巨大便利，比如谷歌翻译，地图，人脸识别，商品推荐。

DNN的简要发展史：罗森布拉特受到人脑中神经元处理信息的方式的启发发明感知机，福岛在20世纪70年代开发了被称为认知机（Cognitron），多层感知机/认知机构成“深度网络”，通过结合“反向传播”​（back-propagation）的通用学习算法和并行分布式处理，使得DNN获得其可用性。ConvNets在基于ImageNet的图像数据中赢得了计算机视觉竞赛，是这个领域的突破性事件。之后这些算法被应用于多种数据，开拓了其在网络搜索、自动驾驶汽车、人脸识别、虚拟助手、推荐系统等领域的落地。

DeepMind团队将强化学习与DNN相结合，加上蒙特卡洛树搜索的加持，开发出了AlphaGo，在围棋界已经无敌。20世纪80年代出现的“递归神经网络”​（recurrent neural network, RNN）模拟人脑对语言的理解。类似的算法对于音乐这种时序性数据也取得可观的成就。

人工智能的概念，是在1956年提出的，到现在还不到百年。人类的在这方面的进步，可称是跨越式的。

梅拉妮·米歇尔是《GEB》的作者侯世达的博士生。最后还介绍了作者自己的对人工智能在知识、抽象和类比方面的工作。并没有涉及大语言模型。

书的开篇引用了侯世达对AI抱有的对恐惧。在大语言模型出现之后的今天，他对AI的担忧仍然未变。他对AI的最大批评，是AI并不真的理解他所产生图像或文字。证据是“对抗样本”攻击。

凡是利用了DNN相关算法的模型，都很容易被“对抗样本攻击”击败。对抗样本，就是在模型能准确识别的样本中加入噪点或者混淆重排样本元素，将样本转成人类无法识别的新样本，此中“对抗样本”会被算法误判。换句话说，会画画的模型并不知道自己在画画，会玩儿游戏的模型也不知道自己在玩儿游戏。因此他们并不是智能。人类极少犯那样的错误。

基于大语言模型的人工智能在本书中没有涉及，但说起来，大语言模型并非算法上的突破，其本身仍可算是DNN的变种和发展。带来大语言模型时代的，不仅是算法，还有大数据和算力（芯片，数据中心，电力等）的集中。现在很少有大学实验室能搞大模型了，这方面的推进必有工业界的算力和资本的支持。