字号 17px

上一篇我整理了李彦宏提出下个十年的风口是的“智能组织”,我的判断是:下一个十年的稀缺资源,会从之前十年的“能不能做出来”,转到“能不能验证、能不能负责”。

那篇只列了三条证据,对“普通人怎么办”也只写了几句。这篇把它展开成三件事:这个判断凭什么成立,读到这里的人该有什么意识,以及普通人具体往哪个方向努力、怎么做。

先把判断说清楚

过去十年,AI 领域最难的事是从无到有——“做出来”。要有模型、算力、数据,还要有人才,能做出来就是稀缺的。

我的判断是,这件事从这两年开始正在变得不再稀缺。各种生成越来越便宜,做出一份报告、一段代码、一条客服回复的成本在持续下降。接下来稀缺的是两件事:

  • 如何验证:产出结果交付出去之前,有没有标准,有没有办法判断它对不对、好不好。
  • 负责:如果结果出了错或者不达标,知道该谁负责、怎么追溯、怎么补救。

理由一:各种AI生成变便宜了,但怎么验证没有

上一篇引了两组成本数据。a16z 2024 年 11 月的分析认为,同等性能的模型,成本大约每年降到十分之一。Epoch AI 的数据显示:控制性能后,每年降幅在 10 到 1000 倍之间。但一篇行业分析指出,单个任务的账单降得慢得多,因为推理模型每个任务消耗的 token 更多。

Stack Overflow 2025 年的开发者调查(超过 49,000 名开发者,来自 177 个国家)显示:84% 的开发者在用 AI 工具,但 46% 的人不信任它输出的准确性,信任的占 33%,高度信任的只有 3%。66% 的人把“差不多对,但不完全对”列为最大的困扰,45% 的人说调试 AI 生成的代码比预想的更费时间。

METR 做过一项随机对照试验。16 位经验丰富的开源开发者,在自己长期维护的项目里完成 246 个任务,每个任务随机决定能不能用 AI。结果是允许用 AI 时,任务耗时反而多了 19%。开发者事前预测会快 24%,做完之后仍然估计自己快了 20%。据报道,参与者接受的 AI 生成代码不到 44%。

我的推断是,AI生成变便宜之后,“判断它对不对、好不好”仍然要花人的时间和人的综合判断力。而且人对自己快慢的感觉并不可靠,得靠测量。AI生成变便宜了,如何验证没有变便宜。

理由二:智能体项目卡在价值和风险控制

Gartner 在 2025 年 6 月预测,**到 2027 年底,超过 40% 的智能体项目会被取消。**原因是成本攀升、业务价值不清、风险控制不足。同一份预测还认为,到 2028 年至少 15% 的日常业务决策将由智能体自主做出。

我的解读是,“业务价值不清”可以理解为价值难以验证,“风险控制不足”可以理解为出了问题难以追责。交出去的决定越多,这两个缺口越大。

理由三:出错的责任落在部署方和交付方

2024 年 2 月 14 日,加拿大卑诗省民事纠纷仲裁庭裁定,加拿大航空要为其网站聊天机器人给出的错误信息负责,并驳回了“机器人是独立法律实体”的说法,赔偿和费用共约 812 加元。

德勤澳大利亚为澳大利亚政府的就业与职场关系部交付了一份 237 页的福利合规审查报告,合同金额 44 万澳元。悉尼大学的研究者 Chris Rudge 发现报告里有大量不存在的引用,还有一段编造的联邦法院法官引文。2025 年 10 月,修订版发布,据报道删除了 141 个引用中的 14 个,并承认使用了 Azure OpenAI GPT-4o;德勤同意退还合同的最后一期款项。该部门表示,报告的实质内容保留,建议没有变化。

错误是外部研究者先发现的,交付方在交付之前没有发现。据 Computerworld 报道,AI 的使用也是错误被发现之后才披露的。

我的推断是,这两个案例里,付出代价的都是把结果交给客户的一方。但工具本身没有承担任何责任。

三个理由合起来,指向同一个瓶颈

AI生成变便宜,结果会越来越多;价值和风险控制卡住,组织就不敢把更多事交出去;而责任落在交付方,意味着出错的代价最后由人负责。三条合起来,瓶颈是“这个结果可不可信”,不是能不能生成。

这个判断也有可能被推翻。如果模型可靠性提升得足够快,让验证成本随生成成本一起下降,“验证稀缺”就不成立。

往哪个方向努力

我的判断是,个人该走的方向,是从“把东西做出来的人”,走向“让结果可信的人”。拆开是三种能力:

  1. 定义“好”:能说清一份结果合格的标准是什么。没有标准,就谈不上验证。
  2. 检验:能用抽检、对照、记录等因子来判断 AI 的产出对不对,并知道它常在哪里出错。
  3. 担责:愿意在结果上署名,并能说明依据、追溯来源,出了错知道怎么补救。

斯坦福数字经济实验室 2026 年 8 月的更新研究可以提供一点参考。它没有发现全经济范围的大规模岗位流失;但在最易受 AI 影响的职业里,22 到 25 岁的工作者就业比相对不受影响的同龄人低 19%,主要是招聘减少造成的。AI 主要辅助人的职业,就业持平或上升,有经验的员工尤其如此;依赖默会知识【意为:内隐的知识】的职业,中高年资员工的就业增长更强。

我的解读是,冲击更多落在入门级、以替代为主的位置,而“检验”和“担责”恰好需要经验。

要有什么认知

  1. 做出来不再是门槛,也不再是护城河。能做出来的人会越来越多,只靠做出来,竞争会越来越挤。这是我的推断。
  2. 感觉快不等于真的快。METR 里的开发者做完之后还认为自己快了,实际慢了。评价一个工具或流程,要靠记录,不靠感觉。
  3. 差不多对,是最贵的错。明显错的很容易被丢掉,差不多对的最难发现。Stack Overflow 的调查里,66% 的人把它列为头号困扰。
  4. 工具不能签字,责任不会自动消失。加拿大航空的辩解被驳回,德勤退了款,谁把结果交出去,谁就在为它负责。
  5. 验证和负责要提前设计,不能事后补。德勤的错误是外部发现的,AI 的使用是事后披露的。有专家在 Computerworld 的报道里建议,合同应要求事前披露 AI 的使用、规定人工复核、界定 AI 错误的责任,并保留审计权。

应该怎么做

做法一:把工作结果写成验收标准

我会挑一件反复在做、又要交给别人的事,比如报价单、周报、客服回复,或者一段代码,写 3 到 5 条“合格”的标准。拿报价单来说:数字要和合同一致,必填项齐全,引用的来源查得到,价格的假设写明,有风险的条款单独标出。写下来之后,AI 做得对不对,才算有了依据。

做法二:每次抽检,并记录

AI 产出之后,我会抽检一部分,对照标准检查,并记下六项:日期、任务、抽检了什么、结果、出错类型、耗时。举个例子:11 月 16 日,报价单,抽检数字和来源,2 处不一致,出错类型是引用的价格过期,耗时 12 分钟(示例数据,仅作格式参考)。

坚持几周,就能看出它常在哪一类地方出错,也能比较“用 AI”和“不用 AI”实际差多少,而不是凭感觉去猜。这也正是 METR 那项研究里,开发者缺的一步。

做法三:按风险分级,决定谁来把关

我会用两个问题给任务分级,一个是出错的代价有多大,另一个是出了错能不能撤回。代价小、能撤回的,可以放手让 AI 做,事后抽检;代价大、撤不回的,比如合同条款、对外发布的数字、涉及钱和人的决定,由人逐项核对并署名。

做法四:交付时写明依据和 AI 的使用

对外交付时,我会写明哪些部分用了 AI、谁核对过、依据是什么、来源查不查得到。德勤的处理正好相反,事前说清,比被发现之后再补,代价小得多。

做法五:把出过的错记成案例

每次发现 AI 的错,我会记一条下来:错在哪里,当时是怎么看出来的,为什么会错。时间长了,这些案例就是别人拿不到的判断。依据是斯坦福数据里“依赖默会知识的职业,资深者就业增长更强”这一条。

做法六:刚入行或想转型,用小项目当证据

入门岗位的招聘在减少,被带教的机会也少。我会自己找一个小场景,定好指标,用 AI 做,自己验,把目标、标准和结果写出来,作为能力的证据。这件事本身,就在练“定义好、检验、担责”这三种能力。

如果在带团队或做产品

我的做法是先定标准,再放智能体。流程里设固定的验证点和责任人,对客户说清楚哪里用了 AI、谁对结果负责。

一个 30 天的起步顺序

要从头开始的话,可以按这个顺序走四周。第 1 周,选一件事,写好验收标准。第 2 周,开始抽检并记录。第 3 周,按风险给手上的任务分级。第 4 周,复盘记录,写成一页,写清它常错在哪,哪些可以放手,哪些必须有人看。

个人成长实践者

18 年 IT 与产业数字化经验,正在用 AI 把专业经验变成可以交付的东西。

cronaldo.yang@outlook.com

抖音、小红书和微信公众号搜索「个人商业创造者」