ChatGPT创造者反思大模型局限：只判不成的Jev与AI资讯

type

status

date

slug

summary

核心矛盾：为什么AI一边如爱因斯坦般超人，一边如憨豆先生般荒谬

在当前的 AI 与大模型讨论中，行业明显分化成了两个阵营：一派紧盯公开评测基准，认为 AGI（通用人工智能）触手可及；另一派则着眼于旧金山之外的广阔现实世界，发现传统产业的基础运转流程几乎没有因为大语言模型的爆发而产生本质颠覆。

为什么会出现这种前沿参差不齐的断层？Diogo Almeida 指出，今天 AI 表现出“好到令人难以置信”的领域——例如代码辅助编写、长篇文本总结、深度研究调研等，其本质全部属于“人在回路（Human-in-the-Loop）”的协作任务。用户提出 Prompt 提示词，AI 给出回答，即便回答中存在瑕疵，人类也可以迅速修正或挑拣可用部分。这种交互模式追求的是“让人满意”，属于助手形态。

然而，企业后台真正的全流程自动化所追求的不是漂亮的措辞，而是绝对严格的确定性。如果一个财务自动化系统在 95% 的时间里像爱因斯坦一样精明，却在 5% 的时间里像憨豆先生一样胡乱记账，且外界无法预测它究竟何时犯错，那么没有任何一家严肃的企业敢把有实际成本与法律责任的流程交由它处理。大模型在后台自动化领域的无力，不是算力不够庞大，而是可靠性的严重缺失。

根源剖析：RLHF塑造了完美助手，却扼杀了后台端到端自动化

令人深思的是，造成这一局面的关键推手，恰恰是奠定现代对话大模型基础的核心技术——RLHF。

作为当年亲手将 RLHF 引入工业界应用的研究者之一，Diogo 直言不讳地指出：RLHF 中的“HF”正是人类反馈，这项技术的初衷是通过人类偏好对齐，把冰冷的预训练语言模型打磨成善解人意、回答得体的对话助手。目前市面上 100% 的主流大模型都是沿着这条轨道进行优化的。

但这种对齐方式带来了不可调和的工程代价： * 模型被训练得极具表达欲与讨好倾向，即便在缺乏确凿事实时也会编造看似合理的生成内容。 * 助手的交互界面是自由文本生成，而后台业务系统需要的是结构化、确定性的逻辑分流。 * 追求生成的多样性与拟人感，必然稀释对边界条件和极端情况判断的绝对精准度。

换言之，今天的大模型从骨子里就是为了“人机对话”而生的。将一个为对话优化的助手硬塞进高精密度的后台决策流中，无异于用精美的羽毛笔去充当发动机内部的精密齿轮。随着全球 AI新闻对大模型落地困境的持续报道，行业开始清醒地意识到：自动化任务所蕴藏的产业价值远超问答助手，但通往自动化的技术栈必须另辟蹊径。

突破路径：任务选择大于一切，从RLHF到RLCD的范式转移

在经典的强化学习文献中，Rich Sutton 曾提出过著名的“苦涩的教训”：从长期来看，算力和通用方法远比人类设计的人工先验更重要。而 Diogo 则在大会现场给出了更深一层的工程铁律：算法不如算力，算力不如高质量数据，而数据最终服务于“选对任务”。

历史反复证明，每一次人工智能的质变飞跃，核心都是任务目标的根本性重构： 1. 预训练领域，从 BERT 的局部掩码语言建模转向自回归式的 Next-Token 预测，释放了生成连贯自然语言的能力。 2. 对齐领域，早期 InstructGPT 仅仅凭借少量的指令跟随数据和任务目标定义，便让 13 亿参数的小模型在用户体验上碾压了未对齐的 1750 亿参数 GPT-3。 3. 决策领域，Typesafe 推出的 Jev 走出了另一条名为 RLCD（基于校准决策的强化学习）的全新路线。

与不断生成字符、猜测下一个词的传统生成式 AI 不同，Jev 完全放弃了文字生成、邮件撰写或对话交互。开发者只需要向模型传入上下文，并预先列出待选项、分值区间或布尔判断，Jev 便会在毫秒级别内一次性输出严格校准后的结构化概率分布与决策结果。它不做发散式的创作，只做确定性的判别。这种将任务边界极度收窄的策略，不仅换来了比传统大模型快数十倍、成本低数百倍的性能优势，更重要的是换来了工业级落地最渴望的特质——输出结果的高可靠性。

软件重构：放弃即时软件狂热，AI作为系统的“第四种逻辑门”

伴随生成式大模型的狂飙突进，技术圈一度盛行一种激进的观点：未来的软件将全部消亡，代码不再必要，一切业务逻辑都将被自然语言提示词和即时运行的大模型所替代。然而，这种将复杂逻辑完全托付给不可控黑盒的做法，很快在工程实践中遭遇了严峻的反噬。

在深入的架构剖析中，软件形态的演进应当分为三个阶段： * 传统软件：由固化的代码和确定性的规则流程构成，稳定可靠但缺乏对非结构化世界的理解力。 * 即时软件：过度依赖大型模型临时推演全流程，导致系统延迟高昂、成本巨大且充斥着幻觉风险。 * 聪明软件：底层业务主干依然由稳健的代码架构掌控，而在必须依赖语义理解的决策分支节点上，嵌入一个轻量、极速且高度可靠的判别式 AI 模块。

这就如同半导体物理学中蓝光 LED 的发明——在仅有红光和绿光 LED 时，人类只能制造简单的指示灯；只有补齐了蓝光 LED，三原色结合才催生了全彩显示屏与现代照明革命。在传统的软件工程中，所有的程序都由“与、或、非”等基础逻辑门搭造而成。而能够精准理解语义、衡量意图的判别模型，本质上充当了现代软件系统的“第四种逻辑门”——语义逻辑门。

开发者不再需要为复杂的文本提取编写成百上千行容易崩溃的正则表达式，只需调用一个语义门即可判定“这是否为有效地址”或“该操作是否越权”。程序的核心状态管理、事务回滚和控制逻辑依然牢牢掌握在代码本身，智能被有机地融入软件的内部循环，而非悬挂在界面边缘充当鸡肋般的聊天挂件。

产业启示：告别低质Slop泥潭，大模型时代的工程落地与商业变现

大模型的不可靠性，不仅阻碍了企业深层业务的自动化，还直接催生了当前互联网生态中愈演愈烈的数字垃圾（Slop）泛滥。

当一项 AI 技术由于缺乏确定性而无法用于需要团队承担实际代价的内部决策时，部分主体便会利用其极度廉价的生成能力，将生成内容的代价转移给外部世界：满屏同质化的抓取洗稿、真伪难辨的营销软文、充斥垃圾邮件的收件箱。这种负外部性正在迅速消耗公众对生成式 AI 的信任与耐心。

要实现健康的 AI变现与真正的产业落地，开发者和企业决策者必须建立清晰的工程防线： * 拒绝盲目的全盘托管：不要把整个产品的业务逻辑全盘塞进系统提示词中交给第三方模型托管，否则不仅让渡了产品核心壁垒，还会导致系统鲁棒性急剧下降。 * 坚持任务分阶段解耦：将庞大、模糊的业务目标拆解为可被单步验证的小任务，让传统程序负责确定性状态流转，让专用判别模型负责语义检查与质量关卡。 * 构筑实时安全防护墙：在多智能体（Multi-Agent）协作日益复杂的当下，利用极低延迟的语义检测机制，在沙箱运行、指令路由以及敏感操作前置拦截等场景建立准入闸门，确保系统不失控。

无论是探索前沿的 AGI 理论，还是投身火热的应用研发，关注优质的 AI门户并持续追踪每日 AI日报，能够帮助工程师和创业团队在喧嚣的概念炒作中保持敏锐，少走弯路。

结论

大语言模型的爆发为人类掀开了智能化时代的一角，但 ChatGPT 创造者的反思与 Jev 的横空出世，清晰地指明了整个行业的风向正在发生深刻转变：盲目堆砌参数、追求聊天语气的“助手时代”正在迎来边际递减，而以高确定性、极致可靠和低成本运行为核心的“后台自动化时代”才刚刚拉开序幕。

对于广大开发者和科技从业者而言，未来的核心竞争力不再是写出多么繁复花哨的 Prompt，而是能否站在第一性原理的高度，清晰区分“生成”与“判断”的工程界限，将语义智能转化为像逻辑门一样坚固可靠的基础设施。唯有回归可靠性本身，走出低质生成的泥潭，软件工程与人工智能的深度融合才能真正迎来属于它的黄金时代。