《人工智能往事》这本书我挺喜欢的（推荐给对计算机和AI史有考古兴趣的同学们）。我是几年前读的英文版《This Could Be Important: My Life and Times with the Artificial Intelligentsia Pamela McCorduck》很高兴发现国内推出了译本。
作者帕梅拉·麦考黛克已经过世了，但在1960s~70x的CMU，她身边围绕着几乎所有AI领域最伟大的先驱人物。早在1979年她就写出了《思考的机器》，实际上就是人工智能发展前20年的一部编年史。
这本书是回忆录 +科学史 + 名人写照 的混合文体。（文体很特别，叙事结构跟大量第一视角叙述以及帕梅拉个人经历交织。不要预期这本书是那种每章描写一个人的传记简史。）
她采访和接触了AI早期的几乎全部核心人物，并作为费根鲍姆的助手参与了一些事件。除了AI技术发展之外，作者还格外思考了她所身处的人文科学对AI的排斥和不理解。
帕梅拉深厚的人文视角和感性的文字让这本书拥有非常丰富的层次，金句迭出。时间线跨度从 1960年的 赫伯特·西蒙、费根鲍姆和约翰·麦卡锡 到 2019年的 GPT2。
下面是一些随手的读书笔记。有时间我再整理整理。
“More than forty years ago, Ed Fredkin, then at MIT, said he expected that, to mature AIs, humans would be dull—maybe they’d keep us as pets. This possibility played out in Spike Jonze’s 2013 movie, Her, where the AIs didn’t revolt against humans or try to conquer them as they had in so many classic tales. Instead, the bored AIs abandoned humans (and left humans yearning for the return of their brainy pals).”
四十多年前，当时在麻省理工学院的埃德·弗雷德金说，他预计对成熟的人工智能来说，人类会很无聊——也许他们会把我们当作宠物。这种可能性在斯派克·琼斯 2013 年的电影《她》中得到了体现，在这部电影中，人工智能并没有像许多经典故事中那样反抗人类或试图征服他们。相反，感到无聊的人工智能抛弃了人类（并让人类渴望他们聪明的朋友们回来）。
“分布式智能和多代理软件遍布全球的电子系统，获取可以研究、分析、操纵、重新分配、重新呈现、利用和学习的信息。人类的知识和决策正迅速从书本和头脑中转移到可执行的计算机代码中。然而，警告和恐惧也随之而来：那些将大数据视为理所当然的算法强化了数据中已经存在的偏见。
你自愿提供的数据（例如提交驾驶执照）被收集、汇总和营销，这已经够糟糕了；更糟糕的是，从你的在线行为（购买记录、使用公共交通工具等）中收集的非自愿数据也被广泛用于商业盈利和监控。黑云已从暗处浮现：撒谎和误导的社交媒体机器人、毫无良知的trolls，以及那些可能造成灾难性后果的App们。
UCSD 加州电信与信息技术研究所的创始主任拉里·斯马尔称这种分布式智能和多代理软件为全球计算机的等价物。“人们根本不了解，当所有关于所有人的数据能实时输入时，AI 将会变得多么不同凡响，”
通过共享数据，整个世界正在以最快的速度帮助创建人工智能，而不是由几个 Lisp 程序员零散地工作。未来几年将会看到深刻的变化。简而言之，AI 已经包围了我们。AI 就是我们。
半个多世纪来，AI先驱们已为一个将历经多代人完成的宽阔而优雅的结构奠定了基础。就是一座中世纪大教堂的地基和框架，它将成为新的圣智殿堂。这个框架将把无论在大脑、心智或机器中，还是在细胞、树木或生态系统中发现的各种智能实例——纳入通用的原则之下。这一结构正逐步揭示智能的新定义，凭借观察、实验、建模和示例，细致构建。它甚至可能最终产生一个真正的智能度量标准，而在智力测试开始一个多世纪后，这一标准仍然难以捉摸。
就像牛顿探索运动定律一样发现智力的法则。牛顿之前，人们未能察觉 “散步、河流湍流、风、潮汐、血液循环、车轮滚动、炮弹轨迹或行星轨道”之间的共性，而牛顿找到了这些现象背后的通用原理。智能的多样性可能超过运动的种类，但若找到其基本法则，这些法则将是简洁的，能够优雅地涵盖无限的多样性。
计算理性 computational rationality, a converging paradigm for every kind of intelligence 成为了计算机科学家描述这一结构的术语，它是一种融合各种智能形式的新范式。即智能并不是由承载它的媒介——无论是生物的还是电子的——所决定的，而是由系统中元素之间的交互方式所决定的。
智能始于系统确定一个目标（我想去看电影；我需要学习解析几何），通过（从老师、训练集、自身经验或他人的经验）学习，然后自主地前进，适应复杂、多变的环境。或者你可以将智能实体想象成网络，通常排列成智能系统的层级结构——人类无疑是其中最复杂的，但人类的集合体则更为复杂。
智能的三个核心理念包括：智能体设定目标，并规划行动；在许多现实问题中可能难以实现的最优解，但可以通过算法近似解决；这些算法可根据具体需求调整，either off-line through engineering or evolutionary design, or online through metareasoning mechanisms that select the best strategy on the spot for a given situation 无论是通过工程或进化设计的离线方式，还是通过元推理机制的在线方式，这些机制可以在特定情况下选择最佳策略（Gershman 等，2015）
Our unfinished—our barely begun—grand structure of computational rationality is already large and embraces multitudes. 我们未完成的——我们刚刚开始的——计算理性宏伟结构已经很大，并且包含了众多内容。生物学家现在能轻松讨论从细胞到符号层面的认知，神经科学家识别人类和动物共有的计算策略，树木学家发现树木可以通过交流预警危险或传达信息。
人文学科也找到了自己在这一结构中的位置，虽然大多数人意识到这一点花了很长时间。当然，人工智能在此发挥了关键作用，作为启示者、灵感来源和挑衅者。
要往前走得更远，我们必须首先放弃旧的信念。一个旧信念认为，只有人类才能体现真正的智能（或哲学家约翰·塞尔所说的强智能）。人工智能，无论取得什么成就，都是不同的，因此是较低级的——弱智能。
我们还必须放弃那种认为智力仅存在于个人头脑中的旧观念。对于在西方文化中长大的人来说，这是一个艰难的重置，因为西方文化传统上强调个人智力而非其集体性质。
异想天开一些说，智力应该被视为一个连续体。在连续体的一端是简单的细胞，它们在思考如何生存以避免自我毁灭。在另一端是人类，他们在许多不同的情况下展示了广泛的智力，并通过讲故事和制作图像来操纵符号，这是其他生物似乎无法做到的。
人类表现出两种类型的智力，心理学家丹尼尔·卡尼曼称之为快速思维和慢速思维，因为人类从我们与所有生物共享的智力连续体的末端进化而来。目前，机器学习应用（快速思维）虽然狭窄，但比比皆是，并且似乎将永远繁荣。符号认知应用（慢速思维）虽然人工智能诞生于这些应用中，但却寥寥无几。
不止一位人工智能研究人员最近告诉我，机器学习在研究方面几乎已经走到了尽头。媒体几乎每天庆祝的“突破”实际上是机器学习的新应用范式，尽管这些应用非常聪明和有用，但它们无法击穿不同领域，如果初始条件稍有改变，它们就会失败。机器学习还掩盖了一个令人尴尬且深远的事实，即研究人员往往无法解释其数学模型的内部工作原理。由于缺乏对其工具的严格理论理解，著名的机器学习研究员阿里·拉希米（Ali Rahimi）表示，深度学习研究人员像炼金术士而不是科学家一样工作。
另一方面，麻省理工学院的帕特里克·温斯顿表示，符号认知具有特定的特征。它可以合并两个表达式，形成一个更大的表达式，而不干扰这两个合并的表达式。符号认知的这一方面使人类能够构建复杂的、高度嵌套的符号描述，包括类别、属性、关系、动作和事件。build complex, highly nested symbolic descriptions of classes, properties, relations, actions, and events.
智力的整体是多样化的、集体的、分布式的，甚至是突现的。理解和知识只有在更大的系统中才能实现。没有什么仅仅存在或诞生于单个人的头脑中。
“我第一次意识到这一点是在 20 世纪 70 年代初期，从一位年轻的科学家（他的名字我已经记不清了）那里得知的。我们在奥克兰米尔斯学院校园的桉树下散步，他试图向我解释系统方法与智能行为的关系。他没有使用这个词汇；他可能也不知道这个词。你和我认为自己是聪明的，他说，但我们并没有发明我们所说的语言。无论我们多么聪明，与我们依赖过去和现在无数其他人的发明和创新相比，我们自己发明的东西少之又少。
我停了下来。我立刻知道他是对的。几个世纪以来，西方思想一直强烈偏向于赞美个人、他的意识、创造力、洞察力或才华，而不提及这种意识、创造力、洞察力和才华所处的环境、从中汲取并重新组合以创造新奇事物。”
认为智力仅仅是个人的属性这一假设在西方思想中是如此根深蒂固，在人文学科中几乎没有人想到要质疑它，而科学和数学，在平衡前人贡献和个人工作方面做得更好，通过引用的形式明确提到一系列前例。是的，一些有天赋的个人有时会出色地推动一切向前发展。但他们是在一个他们自己并未独自发明的系统内做到这一点的。
随着人工智能研究填补了智能连续体中几乎空白、思维缓慢的部分，即符号部分，我相信计算理性结构——智能的原则和法则——最终将被揭示。 the symbolic part, I believe that the structure of computational rationality—the principles, the laws of intelligence—will at last be revealed
