整理 | 郑丽媛
出品 | CSDN（ID：CSDNnews）
伴随着近期 ChatGPT 的火爆出圈，AI 再次成为了科技圈中的爆款话题。回想上次 AI 引来如此广泛关注，似乎还是 2016 年 AlphaGo 击败世界顶级棋手李世石的时候。
AlphaGo 有多强？它以 4：1 战胜李世石，唯一输掉的那局让李世石成为唯一战胜过 AlphaGo 的人类棋手，甚至让他在 2019 年宣布退役时仍耿耿于怀：“就算我排名第一，也会有台电脑是无法被击败的。随着 AI 在围棋比赛的登场，我意识到就算通过努力成为第一名，我也不会是最顶尖的……”
自 AlphaGo 问世后，至少在围棋界逐渐形成了一个共识：人类是打不过 AI 的——然而，据《金融时报》最新报道，近来一名人类棋手以 14：1 的比分，全面打败了顶级围棋 AI 系统 KataGo，即：人类战胜了 AI。
抓到了围棋 AI 的弱点
一般看到这种比分差距，我们会猜测两种可能：要么这位人类棋手太强，要么这个围棋 AI 系统 KataGo 太弱。然而：
战胜 KataGo 的这个人，不是世界冠军，甚至不是职业棋手，他只是一位名叫 Kellin Pelrin 的美国业余棋手，结果与 AI 对战的 15 场比赛中，他赢得了 14 场。
KataGo 也并不弱，它是一款很强大的开源围棋 AI，将 AlphaGo 和 AlphaZero 技术作为开发基础，由哈佛大学 AI 研究员 David J. Wu 所研发，曾参与第 12 届 UEC 杯世界计算机围棋大会并获得第三名。
既然 Kellin Pelrin 不强，KataGo 也不弱，那么 14：1 的巨大分差到底是怎么来的？《金融时报》给出了答案：Kellin Pelrin 抓到了围棋 AI 的弱点——准确来说，这个弱点是加州研究公司 FAR AI 开发的一个软件程序发现的。
FAR AI 用这个软件与 KataGo 下了 100 多万盘棋，并在此过程中分析 AI 棋手的弱点，从而找到人类棋手可以利用的 “盲点”。对此，FAR AI 首席执行官 Adam Gleave 表示：“对我们来说，利用这个系统出乎意料地容易。”
针对已发现的 KataGo 弱点，Kellin Pelrin 进行了学习理解：“该软件所揭示的获胜策略不仅可行，而且也不是很难，差不多中等水平的棋手就可以用它来击败 AI。”
对围棋有所了解的人都知道，对战双方需要在 19x19 的棋盘上交替放置黑棋和白棋，大方向就是要围住对方的棋子。包围范围的或大或小，应对方式的灵活多变，注定了 AI 很难预估所有可能的棋局走向。
至于 Kellin Pelrin 采用的策略，说起来很简单：慢慢将棋子串成一个“环形”，期间时不时落子在棋盘的其他角落以分散 AI 的注意力。Kellin Pelrin 对此评价道：“即便我几乎都要完成那个环了，AI 机器人都没有发现问题。但如果对方是一个人类，就很容易看出来。”
通过这种方式，Kellin Pelrin 不仅赢了 KataGo，还战胜了另一个顶级围棋 AI 系统 Leela Zero。
AI 无法真正深入理解围棋？
事实上，这件事虽然乍看之下有些不可思议，但并非不能理解——早已有许多事实证明，AI 从不是“无懈可击”。
2016 年，李世石虽以 1：4 落败，但也确实在 AlphaGo 手中拿下一局。当时是第四局，李世石在第 78 手走了一步 AlphaGo 不曾设想的棋，似乎由此击中了它的 Bug，导致 AlphaGo 开始出现失误，并产生一系列崩溃反应，从而失掉了那局。
或许是从 AlphaGo 唯一输掉的这局收获灵感，去年 11 月几名 AI 研究人员发表了一篇论文，主题跟此次 Kellin Pelrin 采用的策略相似：研究了一种通过利用 KataGo 盲点的对抗性技术来击败 KataGo 的方法，即出乎意料的棋步可以欺骗 KataGo（例如，通过首先对棋盘的一个小角落进行围空，让 KataGo 误以为自己赢了），从而使其输掉比赛。
但也正如 Kellin Pelrin 所说，这种方法能赢顶级围棋 AI，却连人类业余棋手都赢不了。
对此，加州大学伯克利分校计算机科学教授 Stuart Russell 认为：“不断发现这些顶尖围棋 AI 的弱点，这表明了支撑当今最先进的 AI 的深度学习系统有一个根本缺陷。”
也就是说，像 AlphaGo、KataGo 等围棋 AI 系统，哪怕其胜率优越，还是无法真正深入理解围棋，其反馈大多基于训练时接触到的棋局。Stuart Russell 解释道，这些系统只能“理解”它们过去接触过的特定情况，但无法进行概括总结：“这再次表明，我们过于草率地将超过人类的智力水平赋予了机器。”
“AI 需要人类，而人类也需要 AI”
这则时隔七年，人类终于战胜 AI “一洗前耻”的新闻，引发了许多网友的关注与讨论：
“它要打败 AlphaGo 我才能相信人类战胜 AI 了，但我对此保持怀疑…”
“这些 AI 的真正强大之处在于它们所训练的数据，但缺乏总结意识或批判性思维。”
“这只能表明，AI 需要人类，而人类也需要 AI。”
“我想到了过度依赖 AI 系统的风险，因为它们可能都包含这类漏洞。”
那么，对于这件事你又有什么看法呢？
参考链接：
https://www.ft.com/content/175e5314-a7f7-4741-a786-273219f433a1#comments-anchor
https://garymarcus.substack.com/p/david-beats-go-liath
☞字节跳动将双月OKR调整为季度；马斯克批OpenAI违背初心：被微软控制，只顾赚钱；苹果上新348元省电保护膜|极客头条
☞ChatGPT 版 Bing 惨遭微软“脑叶切除”，引大量网友不满！
☞Google 员工愤然离职，剑指这家搜索巨头已迷失方向！
