我的征尘是星辰大海。。。
The dirt and dust from my pilgrimage forms oceans of stars...
-------当记忆的篇章变得零碎，当追忆的图片变得模糊，我们只能求助于数字存储的永恒的回忆
作者:黄教授
手机视频列表
编程能力是AI突破原生缺陷的终极底座
视频
音频
原始脚本
编程能力才是 AI 突破原生缺陷的终极底座。 自然语言仅负责复杂决策依据于下列三个基本的判断。 一、大语言模型依靠概率生成文本完成思考。 天生自带歧义、记忆失真、执行不稳定的硬伤，它绝非万能执行工具。 二、一切字符串处理、状态流转、固定流程运算都属于确定性工作。 交由正则状态机脚本程序完成，远比反复调用 LLM 高效可靠。 三、 AI 长期演化的核心出路是是让 llm 扮演决策大脑，自主编写执行程序，把机械工作彻底外包，仅在无固定解法的难题节点触发回调推理，实现算力精准分层。 一、底层本质矛盾。 概率推理与确定性计算天生无法兼容自然语言处理，几十年的困境早已说明，凡是规则明确、输入固定、结果唯一的任务。 自然语言永远不是最优解。 正则匹配、文本批量清洗、迷宫坐标记录、路径循环检测、结构化数据读写。 属于低熵确定性计算，程序执行千次结果完全一致，算力消耗微乎其微。 而 llm 是高熵概率系统，依靠 token 预测生成内容。 没有固定内存地址，没有持久化全局状态，上下文窗口是脆弱的短期记忆。 即便关闭随机采样，长时序状态追踪依然会出现记忆溃散、逻辑漂移、幻觉错误。 用概率模型硬做机械执行，等同于拿骰子做精密算术。 既浪费昂贵的推理算力，又无法保障工程层面的稳定性。 这和人脑逻辑高度契合，人脑擅长理解、判断、联想。 却不适合重复检索，精确计数，持久记录。 人类才造出计算机检索工具分担体力运算。 如今，LLM 正在复刻这套分工逻辑。 二、迷宫案例具象化。 双层分工是最务实的落地范式。 以迷宫自主探索为例，这套架构可以清晰切分为执行层与决策层。 边界清晰且不可混淆。 底层执行层由 llm 一次性生成专属状态机程序，全权处理所有机械化动作。 坐标实时更新、墙体碰撞判定、走过路径存档、死胡同标记、循环行走逻辑。 这套代码独立运行，全程不再占用大模型算力。 不会出现上下文膨胀、路径遗忘、随机出错的问题。 完成任务后便可销毁，轻量化且无冗余。 顶层决策层仅保留 L L L M 作为回调核心。 只处理程序无力解决的开放式难题，多岔路口全局最优路径判断、隐藏机关解读、谜题语义辨析、突发异常场景推理。 只有遇到规则无法覆盖的不确定性问题时，才临时唤醒 LLM 完成思考，其余时间模型完全休眠。 延伸到所有文本处理、数据运维场景亦是同理。 批量格式转换、关键词检索、日志解析这类基础 NLP 工作，无需反复让 llm 逐行处理，仅需一次需求转代码。 后续大批量执行全部脱离大模型。 传统 nlp 困于规则，无法穷尽奇异场景，而新分工模式完美互补。 确定性程序接管所有标准化工作。 LLM 专职功课非结构化、高歧义、无成熟算法的复杂问题，从用自然语言包办一切转变为 LLM 充当传统算法的设计者与调度者。 三，这套分工架构的三大不可替代价值。 第一是算力经济学层面的根本性节约。 当前一次简单字符串替换调用 LLM 需要数十上百 token。 正则运算仅消耗纳秒级通用算力。 在高频高并发任务中，纯自然语言循环的成本会指数级膨胀，将可程序化任务剥离。 本质是把稀缺昂贵的 AI 推理算力替换成低成本通用计算资源，这是商业化、规模化绕不开的硬性约束。 第二是系统工程可靠性的质变。 代码具备可调试、可复现、可长期迭代的特性。 程序出错可以断点排查，修改逻辑。 而纯自然语言工作流的误差源于概率本身，只能依靠反复优化 prompt 不存在标准化纠错方案。 未来工业化 ai 系统的稳定性。 必须由确定性代码底座兜底。 第三是彻底解决 L L L M 两大原生绝症，上下文溢出与状态丢失。 长期运行的流程状态由程序持久化存储。 不再挤占对话上下文，从根源上杜绝长任务推理失效的问题，大幅拓宽 Agent 的任务生命周期。 四、客观看待现状。 当下纯自然语言循环只是阶段性过渡，并非长久形态。 目前绝大多数 AI Agent 停留在每一步行动都调用一次 LLM 的浅层循环。 并非这套分层架构逻辑错误，而是行业整体仍处于原型验证阶段。 现阶段首要目标是证明 llm 具备自主拆解目标。 理解环境，完成复杂决策的基础能力。 算力成本、并发效率、长期可靠性并非核心考核指标，相当于汽车工业早期。 大家重心是造出能行驶的原型车，而非打磨油耗、耐久性、传动效率。 二者分属两个发展维度，有无阶段比拼智能决策能力。 成熟阶段比拼执行效率与工程稳定性。 一旦 ai 从实验原型走向大规模商用部署，高并发、低成本、高可靠成为刚需。 自然语言全包的模式会自然被淘汰。 LLM 动态编译执行程序加回调式决策将成为所有成熟 Agent 的统一收敛形态。 结论十分明确，自然语言是 LLM 思考的媒介。 绝非系统运行的底层指令。 编程能力不是 AI 的附加技能，而是它挣脱概率缺陷，实现可靠落地的核心武器。 好钢用在刀刃上。 让大模型只做它最擅长的不确定性推理，把所有确定、机械、重复的工作交给自己生成的程序。 编程能力不是 AI 的附加技能。 而是它挣脱概率缺陷，实现可靠落地的核心武器。 好钢用在刀刃上，让大模型只做它最擅长的不确定性推理，把所有确定、机械、重复的工作交给自己生成的程序。 这既是对 LLMs 能力的合理定位，也是 AI 工程化最清晰的演化主线。
修正脚本
编程能力才是 AI 突破原生缺陷的终极底座。 自然语言仅负责复杂决策，依据下列三个基本的判断。 一、大语言模型依靠概率生成文本完成思考。 天生自带歧义、记忆失真、执行不稳定的硬伤，它绝非万能执行工具。 二、一切字符串处理、状态流转、固定流程运算都属于确定性工作。 交由正则状态机脚本程序完成，远比反复调用 LLM 高效可靠。 三、 AI 长期演化的核心出路是让 llm 扮演决策大脑，自主编写执行程序，把机械工作彻底外包，仅在无固定解法的难题节点触发回调推理，实现算力精准分层。 一、底层本质矛盾。 概率推理与确定性计算天生无法兼容自然语言处理，几十年的困境早已说明，凡是规则明确、输入固定、结果唯一的任务，自然语言永远不是最优解。 正则匹配、文本批量清洗、迷宫坐标记录、路径循环检测、结构化数据读写。 属于低熵确定性计算，程序执行千次结果完全一致，算力消耗微乎其微。 而 llm 是高熵概率系统，依靠 token 预测生成内容。 没有固定内存地址，没有持久化全局状态，上下文窗口是脆弱的短期记忆。 即便关闭随机采样，长时序状态追踪依然会出现记忆溃散、逻辑漂移、幻觉错误。 用概率模型硬做机械执行，等同于拿骰子做精密算术。 既浪费昂贵的推理算力，又无法保障工程层面的稳定性。 这和人脑逻辑高度契合，人脑擅长理解、判断、联想。 却不适合重复检索，精确计数，持久记录。 人类才造出计算机检索工具分担体力运算。 如今，LLM 正在复刻这套分工逻辑。 二、迷宫案例具象化。 双层分工是最务实的落地范式。 以迷宫自主探索为例，这套架构可以清晰切分为执行层与决策层。 边界清晰且不可混淆。 底层执行层由 llm 一次性生成专属状态机程序，全权处理所有机械化动作。 坐标实时更新、墙体碰撞判定、走过路径存档、死胡同标记、循环行走逻辑。 这套代码独立运行，全程不再占用大模型算力。 不会出现上下文膨胀、路径遗忘、随机出错的问题。 完成任务后便可销毁，轻量化且无冗余。 顶层决策层仅保留 LLM 作为回调核心。 只处理程序无力解决的开放式难题，多岔路口全局最优路径判断、隐藏机关解读、谜题语义辨析、突发异常场景推理。 只有遇到规则无法覆盖的不确定性问题时，才临时唤醒 LLM 完成思考，其余时间模型完全休眠。 延伸到所有文本处理、数据运维场景亦是同理。 批量格式转换、关键词检索、日志解析这类基础 NLP 工作，无需反复让 llm 逐行处理，仅需一次需求转代码。 后续大批量执行全部脱离大模型。 传统 nlp 困于规则，无法穷尽奇异场景，而新分工模式完美互补。 确定性程序接管所有标准化工作。 LLM 专职攻克非结构化、高歧义、无成熟算法的复杂问题，从用自然语言包办一切转变为 LLM 充当传统算法的设计者与调度者。 三、这套分工架构的三大不可替代价值。 第一是算力经济学层面的根本性节约。 当前一次简单字符串替换调用 LLM 需要数十上百 token。 正则运算仅消耗纳秒级通用算力。 在高频高并发任务中，纯自然语言循环的成本会指数级膨胀，将可程序化任务剥离。 本质是把稀缺昂贵的 AI 推理算力替换成低成本通用计算资源，这是商业化、规模化绕不开的硬性约束。 第二是系统工程可靠性的质变。 代码具备可调试、可复现、可长期迭代的特性。 程序出错可以断点排查，修改逻辑。 而纯自然语言工作流的误差源于概率本身，只能依靠反复优化 prompt 不存在标准化纠错方案。 未来工业化 ai 系统的稳定性。 必须由确定性代码底座兜底。 第三是彻底解决 LLM 两大原生绝症，上下文溢出与状态丢失。 长期运行的流程状态由程序持久化存储。 不再挤占对话上下文，从根源上杜绝长任务推理失效的问题，大幅拓宽 Agent 的任务生命周期。 四、客观看待现状。 当下纯自然语言循环只是阶段性过渡，并非长久形态。 目前绝大多数 AI Agent 停留在每一步行动都调用一次 LLM 的浅层循环。 并非这套分层架构逻辑错误，而是行业整体仍处于原型验证阶段。 现阶段首要目标是证明 llm 具备自主拆解目标，理解环境，完成复杂决策的基础能力。 算力成本、并发效率、长期可靠性并非核心考核指标，相当于汽车工业早期。 大家重心是造出能行驶的原型车，而非打磨油耗、耐久性、传动效率。 二者分属两个发展维度，不同阶段比拼智能决策能力。 成熟阶段比拼执行效率与工程稳定性。 一旦 ai 从实验原型走向大规模商用部署，高并发、低成本、高可靠成为刚需。 自然语言全包的模式会自然被淘汰。 LLM 动态编译执行程序加回调式决策将成为所有成熟 Agent 的统一收敛形态。 结论十分明确，自然语言是 LLM 思考的媒介。 绝非系统运行的底层指令。 编程能力不是 AI 的附加技能，而是它挣脱概率缺陷，实现可靠落地的核心武器。 好钢用在刀刃上，让大模型只做它最擅长的不确定性推理，把所有确定、机械、重复的工作交给自己生成的程序。 这既是对 LLMs 能力的合理定位，也是 AI 工程化最清晰的演化主线。
英文翻译
back to top