人工智能在围棋上的落败，能给企业什么启示

你有没有批准过 AI 写的报告，却没核对里面的数字？我有。出过一次问题，那一次就足以改变我的工作方式。这篇文章讲的是 AI 出错却没人发现的那个瞬间，以及一盘围棋，它比任何白皮书都解释得清楚。

七月，世界排名第一的韩国棋手申真谞，让两子战胜了 KataGo，也就是目前最强的围棋程序之一。让子，在围棋里就是先手优势。他拿了优势，然后赢了。这不是人类在同等条件下"击败机器"，谁把故事讲成那样都是夸张。但这仍是个有意思的信号，因为自 2016 年以来，叙事一直是另一套：AI 在围棋上超过了人类，从此再没回过头。

这盘棋真正发生了什么

把事实和标题分开来看。

在没有让子的对局里，KataGo 依然强过任何人类。这一点没变。变的是，世界顶尖棋手花了九年研究 AI 的棋谱，吸收它的风格，学会看出它在哪里迟疑。申真谞不是靠蛮力赢的。他赢是因为他了解对手。

还有一个更古怪的先例。2023 年，一位名叫 Kellin Pelrine 的研究者，水平不错但算不上出众的业余棋手，在十六局中赢了顶级版本的 KataGo 十五局。不是因为他下得更好。而是因为一个研究团队训练了一个对抗程序，专门去找 AI 的漏洞，发现了一种它看不见的特定模式，然后 Pelrine 用手把这个模式复现了出来。

一个业余爱好者用三步棋的小把戏，赢了超人类水平的 AI。那天 AI 并没有下得更差。那个漏洞一直都在。只是没人去找过。

这为什么和从没下过围棋的人有关

围棋是测试人工智能最干净的环境。规则固定，信息完全，结果客观。没有临时改主意的客户，没有填错的表格，没有只用微信回消息的供应商。

如果 AI 在这么干净的环境里都有盲区，想想你的环境会怎样。

你的公司不是一张棋盘。它是这样一个地方：客户资料里的税号打错了，销售把订单记在本子上，折扣规则有个例外只有财务的老马知道。你放进去的每一个 AI，都要在这堆混乱之上运行。

AI 不会在你盯着的地方出错。它在没人想到要看的地方出错。

盲区永远是同一个：平均值对边缘案例

AI 模型是一台模式机器。它学习高频发生的事情，并在这上面做到极好。问题出在罕见案例。

我在一个订单分类项目里亲眼见过。系统按服务类型区分订单，96% 的情况下判断正确。数字拿去汇报很好看。可剩下的 4% 不是随机分布的：几乎全是大额订单，范围混合，来自贡献营收最多的客户。难处理的案例，恰好就是贵的案例。

之前没人发现，因为面板显示的是整体准确率。96% 看起来很棒，直到你发现错误恰好集中在最痛的地方。

围棋给的教训就是这个。KataGo 对人类的胜率高得离谱。与此同时，它有一个业余爱好者就能利用的结构性缺陷。两件事同时成立。

"可 AI 不是会越来越好，自己解决掉吗？"

会变好，没错。陷阱恰恰在这里。

每个新版本都会补上已知的漏洞。Pelrine 的那个缺陷公开之后，KataGo 团队针对那种攻击训练了模型，它就失效了。很好。可同一个研究团队后来又回来，找到了新的、不同的缺陷。

这不是修一次就完的 bug。这是这类系统学习方式的固有特征。你关上一扇门，另一扇就出现了。

这不是不用 AI 的理由。这是别再把"AI 现在更好了"当成"我怎么知道它这次是对的"的答案。这是两个不同的问题。

在你的公司具体该怎么做

不需要治理委员会，也不需要 40 页的政策文件。需要四个习惯。

按出错代价给决策分级。 如果 AI 在建议邮件标题时出错，你改一下继续用。如果它在批一笔授信、给一张发票归类、回复一个生气的客户时出错，损失完全是另一回事。第一类放心自动化。第二类，路径上留一个人。

在痛的地方衡量错误，不要看平均值。 别只盯整体准确率。按细分拆开：按客户规模，按订单类型，按金额。那个 96% 的项目，是在我们开始单独统计一万雷亚尔以上订单的那天，才真正变得有用。

让系统能说"我不知道"。 最糟的 AI 是对自己不懂的东西满怀信心地作答。好的设计有一个出口：当置信度低于阈值时，案例进入人工队列。实现起来很简单，省下的麻烦比任何模型微调都多。

每季度攻击一次你自己的系统。 拿二十个真正奇怪的案例，就是客服同事在茶水间会吐槽的那些，丢给 AI 跑。FAR AI 对 KataGo 做的就是这件事。不需要研究实验室，需要的是两小时，和一个熟悉业务例外情况的人。

几乎没人提到的那个细节

申真谞的故事里，有一部分我觉得比胜利本身更有意思。

他用 AI 训练已经好几年了。他的棋风因此改变。今天在职业棋手中已成标准的很多着法，来自 2017 年没人看得懂的机器对局。也就是说：战胜 AI 的这个人，是被 AI 变强的人。

这才是关于未来的现实版本，比你在外面读到的两种极端说法都平淡得多。机器没有取代棋手，棋手也没有无视机器。他用机器用到足够了解它，知道它在哪里绊倒。

我给客户搭自动化时就是这么想的。AI 处理量、处理重复劳动、做第一版。人做判断、处理歪掉的案例、做那种旁边要签上名字的决定。知道这条线画在哪里的人，两头都赚。把一切都交给机器的人，最后会以最贵的方式发现盲区：客户投诉。

如果你正在把 AI 放进公司的某个流程，却不太清楚它会在哪里背叛你，值得在实际踩坑之前先聊一聊。看看我是怎么工作的。

我批准过 AI 写的报告，没有核对数字。出过一次问题，一次就够了。

七月，世界第一的围棋棋手让子战胜了 KataGo。在此之前，2023 年，一位业余爱好者用一个三步小把戏，对同一个 AI 赢了 16 局中的 15 局。那天 AI 并没有变弱。漏洞一直都在，只是没人去找。

我在一个真实项目里见过同样的事：订单分类准确率 96%。数字很漂亮。可那 4% 的错误，恰好都是大额订单，来自贡献营收最多的客户。

AI 不会在你盯着的地方出错。它在没人想到要看的地方出错。

按细分维度衡量错误，不要只看平均值。每个季度拿二十个真正奇怪的案例，扔进你的系统跑一遍。两小时的工作，省掉一堆麻烦。

如果你正在把 AI 放进某个流程，却不知道它会在哪里背叛你，在客户投诉之前先来找我聊聊。

#人工智能 #自动化 #管理 #数字化转型