科幻小说不是 SaaS 说明书

你一定听过有人在会议上说，这个产品要"一劳永逸地解决问题"。那种许下大承诺的语气。那张写着电影台词的幻灯片。然后半年过去，系统变成了一台没人看得懂、没人修得动的机器，把客户当成表格里的一行数字。

这件事是有名字的。哈佛的历史学家 Jill Lepore 说过，科技行业里有很大一部分人是"糟糕的读者"。他们读了科幻里的反乌托邦，却当成了操作手册。警告变成了剧本。这种思维方式一路往下渗，最后落到你的 SaaS、你的自动化、你的客服流程上。所以这个话题不只跟写代码的人有关，也跟管生意的人有关。

"读错科幻"在现实里长什么样

科幻几乎总是一种警告。自己做决定的机器人，把一切都优化到极致却碾过人的系统，对你了解得太多的公司。作者在说"看，这很危险"。行业里有一部分人读完想的却是"这个产品点子不错"。

在 SaaS 的日常里，它是这样出现的：

• 系统自己做了决定，没有通知任何人。
• 使用的人没法撤销。
• 没人能解释那件事为什么会发生。
• 仪表盘上的效率，比屏幕另一头的客户更重要。

这些都不需要机器人，也不需要电影里的 AI。一段笨拙的自动扣款逻辑就足够闯祸了。

那个莫名其妙消失的客户

这种事我不止见过一次。一家订阅制公司写了一条"聪明"的规则：付款连续失败两次，立刻停掉访问权限，账号进入回收队列。

在幻灯片上看着很合理。实际情况是，一位四年老客户的卡在发卡行那边出了故障。两天里两次尝试。周二早上访问权限被切断，而他的团队正在交付的关键节点上。他发了邮件。回信的是机器人。机器人告诉他账号"正在恢复流程中"。团队里没有一个人看到。

客户取消了订阅。还顺手带走了一笔快要谈成的转介绍。

问题不出在技术上。代码完全按照写好的样子运行。问题出在理解上：有人以为自动化就是把人从流程里拿掉。真正好的自动化恰恰相反。它是把无聊的活从人手里拿走，然后把人留在决定分量最重的位置上。

顺便说一句，修复的成本很低。多加一条规则：入驻超过十二个月、记录良好的客户不自动停权，改成在客服团队的 Slack 里发一条提醒。两个小时的工作量。接下来半年，因为这个原因取消的客户数是零。

好的自动化把时间还给人去做决定。坏的自动化替人做完决定，然后消失。

没人说破的一点：所谓"零摩擦"是一种意识形态

SaaS 行业里有个词几乎成了教条：摩擦。大家都想把它拿掉。更少的点击，更少的页面，更少的确认，更少的提问。

这里说一个我很坚持的看法：不加判断地追求零摩擦，是一件危险的事。摩擦是留给人思考的那段时间。删除整个项目之前那句"你确定吗？"，存在是有很好的理由的。

当你把摩擦全部拿掉时，你并没有拿掉那个决定。你只是把决定转交给了写软件的人。而客户需要帮忙的那一刻，写软件的人并不在场。

真正的功课是选择摩擦该留在哪里。注册流程？拿掉。永久删除数据、解除合同、向全量用户群发？留着。而且要留得清清楚楚。

民主，放到你的场景里：谁有资格反对系统

Lepore 谈的是民主被侵蚀。对一家三十人的公司来说，这听起来很遥远。但它有一个非常直接的翻译。

系统里的民主，就是有一套表达异议的机制。就是能说出"这个结果是错的"，并且有人会听。拿这几个问题去问问你的产品：

• 如果系统对某个客户判断错了，他有申诉的路径吗？
• 这条路径通向一个人，还是通向另一个机器人？
• 团队里有人会去看那些被质疑的自动化案例吗？
• 你能用大白话解释系统为什么做出了那个决定吗？

只要有一个答案是"没有"，你就有一个产品问题。而且看行业，说不定还有一个法律问题在拐角处等着。巴西《通用数据保护法》第 20 条规定，数据主体有权要求对影响其利益的自动化决策进行复核。这不是哲学。这是 2020 年就已经生效的法律。

那 AI 在这中间呢

今天的诱惑非常大。往流程中间塞一个模型，让它去回复、分类、排序、决定。很多场景下确实好用。我自己每天都在用。

只是语言模型出错时的自信程度令人惊叹。它用漂亮的语法犯错，这更糟糕，因为看上去像是对的。所以我在项目里用的规矩很枯燥，也很简单：

出错代价高的时候，AI 只负责建议，人来确认。

按主题给支持工单分类：放心交给 AI，错了顶多重新转一次。决定要不要对某个客户走法律催收：没有人工复核想都别想。写一份提案的初稿：AI 起草，你来审。让它自己把提案发给客户：不行。

标准不是"用 AI 还是不用 AI"。标准是"错了有多疼，以及这笔账谁来付"。通常付账的，是系统里权力最小的那个人。这正是科幻小说想发出的警告，而很多人把它读反了。

给你的系统做个五分钟测试

挑出你今天最自动化的那条流程。可以是扣款、上手引导、邮件群发、注册审核。不要问任何人，自己回答三个问题：

1. 这条流程最坏能对一位好客户误做什么？
2. 团队里要多久才会发现它发生了？
3. 客户在等待的时候能做什么？

如果第二题的答案是"等他来投诉"，那你手上的不是自动化。是一场赌博。

修复通常都很小。一条会被真人看的日志。规则在非常规情况下触发时的一个提醒。一个撤销按钮。一条上限："如果一次会影响超过 X 个客户，停下来先问一句"。这些都不贵。只是没有幻灯片上的版本那么好看。

把幻想拿掉之后，剩下的产品

好的技术之所以经得起时间，是因为造它的人尊重使用它的人。这比"颠覆整个行业"的承诺无趣得多。也让你在凌晨三点少头疼很多。

如果你正在搭建或修补一个 SaaS，并且怀疑自动化替你做的决定太多了，这份怀疑是好事。值得坐下来梳理一遍：哪里该由系统说话，哪里必须由人来说话。这正是找我合作的人常带来的活：来看看我是怎么工作的，然后告诉我是哪条流程让你睡不着。

你的系统把一位四年老客户的账号停掉了，只因为他的卡连续两次扣款失败。代码运行得完美无缺。客户走了。

好的自动化把时间还给人去做决定。坏的自动化替人做完决定，然后消失。

现在流行把产品里的摩擦全部拿掉。可是零摩擦并没有消灭决定，它只是把决定转交给了写软件的人。而客户需要帮忙的那一刻，写软件的人并不在场。

我在项目里的规矩：出错代价高的时候，AI 只负责建议，人来确认。

拿你最自动化的那条流程做个小测试：它最坏能对一位好客户误做什么？多久之后才有人发现？如果答案是“等他来投诉”，那你手上的不是自动化，是一场赌博。

如果你也有这份不安，来跟我说说是哪条流程让你睡不着。

#SaaS #自动化 #数字产品 #人工智能 #技术领导力