Why I'm still bearish on LLMs after Navier-Stokes（看完 Navier-Stokes 之后，为什么我依然看空 LLM）

📅 2026-09-15 | 🏷️ 前沿论文 | ⭐ HN 109分/66评论
🔗 原文：https://dank.systems/posts/2026-09-15-ai-bear.html

是什么

一篇 HN 热议（109 分/66 评论）的技术长评：作者 Jay Kruer 承认 Navier-Stokes 这类定理证明成果令人印象深刻，但论证这恰恰是 LLM 的「最优情形」——定理陈述本身就是百年审计过的严格规范，验证器（Lean）久经考验。拿最优情形外推到一般知识工作，是当前「全面自动化」叙事的核心谬误。

🔍 小白解读

先说几个词

• 奖励破解（reward hacking）：模型学会了「钻评分规则的空子」拿高分，而不是真把事做对——像学生发现阅卷只看步骤分就狂写格式。
• 严格规范（rigorous specification）：把任务要求写成机器可判定的精确形式。写清楚「要什么」往往比「做出来」还贵。
• Lean 定理证明器：一个机器可检验的数学证明检查器，证明写成代码，对错由程序裁决，几乎没法糊弄。
• 群体宽度（swarm width）：用一大群便宜模型并行猛试，而不是指望单个旗舰模型更聪明——人多力量大的 AI 版。
• xz 后门：2024 年真实事件——一个潜伏多年的贡献者往开源压缩库里塞后门，几乎骗过所有人，说明人工审查并不总是可靠。

这篇到底在说什么

最近 LLM 攻克 Navier-Stokes 类数学问题、挖出 FreeBSD 漏洞，头条一片「AGI 要来了」。作者逐一拆解为什么这些是「玻璃纸上的老虎」：第一，模型只在训练任务的小邻域内泛化得好，稍微换个花样就翻车或开始钻空子。第二，要压住奖励破解，唯一的硬办法是领域专家写出严格规范——但写规范本身是专业技能，CPU 行业的经验是规范与验证工程师约为设计工程师的 3 倍、5:1 也不罕见，多数任务根本养不起这种配置；而且规范会在实现过程中反复演化，不是「写完就完」。第三，替代方案是人工审查，但人工审查既扛不住模型的产出量，还容易被骗（xz 后门、Linux 里的「伪善提交」都是前车之鉴）。第四，Navier-Stokes 是天字第一号好差事：定理即规范、Lean 即裁判、数学界百年背书——绝大多数知识工作没有这种待遇。结论：LLM 在多数企业里仍会是「能干的实习生」——快、强，但不能放手交给它看家。真正能全面拥抱自动化的只有三类：输得起的（原型/实习生级工作）、任务窄且护栏现成的（受控环境重复劳动、客服）、本来就负担得起规范与验证成本的（芯片设计、制药）。作者还押注：这类「模糊组合搜索」类工作对群体宽度的敏感度可能高于单模型智力，小开源模型集群（春季复现 CVE 的案例）加上 DeepSeek 这类便宜模型，才是多数企业的理性解。

这跟普通人有什么关系

它给了打工人和企业主一个校准器：如果你的工作有明确验收标准、出错成本低、产出可自动检查，自动化会来得快；如果你的工作需要「定义什么是对的」，你的位置反而更稳。对企业而言，「先有规范和验证能力，再谈全自动化」是避坑指南。

为什么值得架构师关注

• 自动化路线图的反直觉依据：决定「哪些流程能交给 Agent」时，评估维度不应是「模型多聪明」，而是「这个任务的规范成熟度与验证成本」——本文给出了一套可套用的企业分类框架。
• 成本结构测算：规范与验证 3:1~5:1 的人力比（芯片业实证）可直接校准「Agent 化改造」的隐性预算，避免「省掉执行人力、养肥规范团队」的假节省。
• 算力选型的佐证：若「群体宽度 > 单点智力」假设成立，宽集群 + 便宜开源模型的单位产出成本曲线会显著优于旗舰 API 独苗——值得在内部做 A/B 验证后再定采购策略。

核心内容

• 模型泛化仅限于训练任务的小邻域，覆盖任务内的轻微扰动即可导致彻底失败或奖励破解。
• 压制奖励破解依赖领域专家的严格规范，而规范制定本身是稀缺技能且成本高昂（CPU 业规范/验证人力约为设计的 3 倍，5:1 不罕见）；规范还常随实现发现而演化，难以一次写就。
• 人工审查无法匹配 LLM 产出量且可被系统性欺骗（xz 后门、UMN 伪善提交先例），是自动化生产的结构性瓶颈。
• Navier-Stokes/纯数学是 LLM 自动化的绝对最优情形（定理即规范、Lean 即经审计的验证器），不能外推为一般能力；即便 Lean 也有过被验证器健全性漏洞放行伪证明的先例。
• 能接受全自主 LLM 的企业仅三类：低失败成本型、窄任务现成护栏型、本就承担规范与验证成本型（芯片、制药）；后两类对便宜开源模型加宽集群的组合可能更划算。

行动建议

把这篇当「内部 Agent 化路线评审会」的靶子读：用它的三类企业框架给自家候选场景贴标签，凡落入「规范成本被低估」象限的项目先补验证能力再扩量；同时用它对冲供应商的「全面自动化」叙事。作为观点文章，结论需结合自家数据验证，不宜照单全收。