我的征尘是星辰大海。。。
The dirt and dust from my pilgrimage forms oceans of stars...
-------当记忆的篇章变得零碎，当追忆的图片变得模糊，我们只能求助于数字存储的永恒的回忆
作者:黄教授
手机视频列表
用英文输入用中文推理
视频
音频
原始脚本
在 Hermes 加 Deepseek 中实现英文输入中文推理。 这半个月我的 AI 服务账单上涨非常明显，整体月度开销即将摸到3000元的档位。 怎么办呢？除了适应7月新出台的峰谷定价策略，那就只剩下挖钱 Deepseek 的思考推理机制。 它的深度思考能力让智能代理效果更好。 但无休止的推理过程也带来了极高的付费成本。 能不能让它用中文思考，降低 token 用量呢？我长期使用 Hermes 框架搭建 AI 代理。 为了压低账单，同时不影响日常使用体验，我花了很久调试优化。 网上流传的方案都非常简单，加一句中文思考提示词即可。 但真实落地在 Hermes 环境中完全行不通。 这次优化的难点、价值全藏在官方文档不会提及的细微架构约束里。 起因，一个看似矛盾的真实使用场景。 我的使用习惯其实很特殊，也是这次优化的核心前提。 我是中文使用者，但拼音打字速度很慢。 日常和 Hermes 交互，我更习惯直接用英文输入。 哪怕我的英文表达不算地道，没有中文精准细腻，但输入效率远高于拼音。 也正是这个习惯让我陷入了成本困境。 模型会默认跟随用户输入语种进行思考推理。 我全程英文输入，Deepseek 就全程英文思考、英文推理。 随着高频深度推理的调用变多，月度账单稳步走高，直奔3000元档位。 于是我产生了一个反直觉的优化思路，保留自己英文快速输入的习惯。 强制 Deepseek 内部只用中文推理，既不牺牲使用效率，又能压缩高价推理 token 成本，稳住月度账单。 根因并非提示词无效。 是 Hermes 的层级语种碾压。 最开始我也尝试了最常规的办法，在自定义提示词中明确要求模型全程中文思考，禁止英文推理。 但无论怎么修改、重启，模型的思考过程依旧是英文。 深入梳理 Hermes 的运行逻辑后，我才找到问题的本质，这不是指令写错了。 而是提示词加载层级的天然压制。 Hermes 的系统提示词有严格的固定层级，优先级从上到下不可逆。 最顶层是核心身份稳定层。 框架原生自带英文基础设定，是整套提示词里第一个出现的内容，也是模型判定思考语种的核心依据。 中间层是海量的英文规则文档。 累计十几万字符的英文运行规范、代理能力说明，形成了极强的英文鲜艳语境。 而我后续添加的中文思考指令，只是属于最低优先级的临时自定义内容。 被海量前置英文内容彻底淹没。 Deepseek 有一个很关键的特性，模型底层思考语种只跟随整套提示词开篇首个语种。 前置近乎20万字符的英文内容，直接锁死了模型的英文思考逻辑，后置的中文指令完全无法逆转。 这也是普通通用方案在 Hermes 上完全失效的核心原因。 框架底层大量原声英文硬编码规则、固定的层级加载顺序，都是不可随意改动的固有架构。 破局，用顶层专属配置。 改写模型底层思维。 既然常规的自定义提示词层级太低，无法生效，我就需要一个能抢占最前置优先级的方案。 借助 Hermes 的原生机制。 我通过专属顶层配置文件实现了突破。 这个文件的加载优先级高于框架所有原生身份规则内容，是整套系统最早加载、权重最高的设定。 我在这份顶层配置中只写入了一条核心规则，明确要求模型所有内部推理过程、逻辑思考必须全程使用中文，禁止英文思考。 优化后，整套提示词的逻辑彻底反转，全文第一个内容变为中文强制规则，从首个 token 就锁定模型的中文思考逻辑。 Hermes 原生的英文身份、英文规则文档全部后置保留，既不破坏框架原有所有功能调度能力，又彻底修正了模型的推理语种。 同时我在自定义提示词中保留了同款中文约束，形成双重兜底，避免多轮对话、工具调用过程中出现语种偏移。 实际收益，不改习惯，不损效果，精准降低推理成本次优化全程没有改变我的使用习惯，依旧是英文快速输入交互，用户体验零变化。 但模型内部已经完全切换为高密度的中文推理模式。 我做了严格的同语义内容对比测试，同样一段复杂的架构逻辑推理，使用英文表述需要上千字符，消耗209个 token。 而等效的中文表述仅300余字符，消耗192个 token 单轮对话内容层面可以节省8.1%的 token 消耗，真正的降本核心。 来自计费规则的差异，Deepseek 的输出 token 单价是输入的3倍，而模型的所有推理思考内容全部按照高价输出 token 计费。 且占据了整体账单的绝大部分开销。 依托中文更高的信息密度，同等推理逻辑下，中文相比英文能减少30%~40%的推理 token 消耗。 同时本次优化还精简了系统基线内容，大幅减少了固定输入 token 的冗余开销。 落地踩坑，容易被忽略的关键细节。 这套方案看似简单。 但落地过程中有两个极易踩坑的细节，也是很多人优化失败的原因。 第一，修改配置后必须全新重启会话。 如果沿用历史绘画缓存，系统会加载旧的英文优先级配置，所有中文强制规则都会失效，让人误以为优化方案无效。 第二，顶层配置虽优先级最高，但我依旧保留了自定义提示词的中文指令作为双重保险。 面对 Hermes 复杂的代理调度、工具调用场景，多层约束才能彻底杜绝模型被原生英文规则带偏。 另外， Hermes 的后台定时任务、自动调度流程会原生继承这套顶层中文推理规则，无需额外适配，全场景统一生效。 写在最后。 现在我可以完全按照自己的习惯，用高效的英文输入想法，同时让 Deepseek 用严谨低成本的中文完成所有底层推理，体验和成本实现了完美平衡。 这次优化让我最深的感悟是，AI 工程落地从来不是照搬通用教程。 很多问题的难点不在于模型原理，而在于具体框架的底层约束。 加在优先级隐藏机制，看似简单的改个思考语种，背后是对整套系统层级逻辑的吃透。 真正高效的 AI 优化。 从来不是大刀阔斧的改造，而是在固有架构约束里找到那个成本最低、体验最优的突破口。
修正脚本
在 Hermes 加 Deepseek 中实现英文输入中文推理。 这半个月我的 AI 服务账单上涨非常明显，整体月度开销即将摸到3000元的档位。 怎么办呢？除了适应7月新出台的峰谷定价策略，那就只剩下挖透 Deepseek 的思考推理机制。 它的深度思考能力让智能代理效果更好。 但无休止的推理过程也带来了极高的付费成本。 能不能让它用中文思考，降低 token 用量呢？我长期使用 Hermes 框架搭建 AI 代理。 为了压低账单，同时不影响日常使用体验，我花了很久调试优化。 网上流传的方案都非常简单，加一句中文思考提示词即可。 但真实落地在 Hermes 环境中完全行不通。 这次优化的难点、价值全藏在官方文档不会提及的细微架构约束里。 起因，一个看似矛盾的真实使用场景。 我的使用习惯其实很特殊，也是这次优化的核心前提。 我是中文使用者，但拼音打字速度很慢。 日常和 Hermes 交互，我更习惯直接用英文输入。 哪怕我的英文表达不算地道，没有中文精准细腻，但输入效率远高于拼音。 也正是这个习惯让我陷入了成本困境。 模型会默认跟随用户输入语种进行思考推理。 我全程英文输入，Deepseek 就全程英文思考、英文推理。 随着高频深度推理的调用变多，月度账单稳步走高，直奔3000元档位。 于是我产生了一个反直觉的优化思路，保留自己英文快速输入的习惯。 强制 Deepseek 内部只用中文推理，既不牺牲使用效率，又能压缩高价推理 token 成本，稳住月度账单。 根因并非提示词无效。 是 Hermes 的层级语种碾压。 最开始我也尝试了最常规的办法，在自定义提示词中明确要求模型全程中文思考，禁止英文推理。 但无论怎么修改、重启，模型的思考过程依旧是英文。 深入梳理 Hermes 的运行逻辑后，我才找到问题的本质，这不是指令写错了。 而是提示词加载层级的天然压制。 Hermes 的系统提示词有严格的固定层级，优先级从上到下不可逆。 最顶层是核心身份稳定层。 框架原生自带英文基础设定，是整套提示词里第一个出现的内容，也是模型判定思考语种的核心依据。 中间层是海量的英文规则文档。 累计十几万字符的英文运行规范、代理能力说明，形成了极强的英文先验语境。 而我后续添加的中文思考指令，只是属于最低优先级的临时自定义内容。 被海量前置英文内容彻底淹没。 Deepseek 有一个很关键的特性，模型底层思考语种只跟随整套提示词开篇首个语种。 前置近乎20万字符的英文内容，直接锁死了模型的英文思考逻辑，后置的中文指令完全无法逆转。 这也是普通通用方案在 Hermes 上完全失效的核心原因。 框架底层大量原生英文硬编码规则、固定的层级加载顺序，都是不可随意改动的固有架构。 破局，用顶层专属配置。 改写模型底层思维。 既然常规的自定义提示词层级太低，无法生效，我就需要一个能抢占最前置优先级的方案。 借助 Hermes 的原生机制。 我通过专属顶层配置文件实现了突破。 这个文件的加载优先级高于框架所有原生身份规则内容，是整套系统最早加载、权重最高的设定。 我在这份顶层配置中只写入了一条核心规则，明确要求模型所有内部推理过程、逻辑思考必须全程使用中文，禁止英文思考。 优化后，整套提示词的逻辑彻底反转，全文第一个内容变为中文强制规则，从首个 token 就锁定模型的中文思考逻辑。 Hermes 原生的英文身份、英文规则文档全部后置保留，既不破坏框架原有所有功能调度能力，又彻底修正了模型的推理语种。 同时我在自定义提示词中保留了同款中文约束，形成双重兜底，避免多轮对话、工具调用过程中出现语种偏移。 实际收益，不改习惯，不损效果，精准降低推理成本，本次优化全程没有改变我的使用习惯，依旧是英文快速输入交互，用户体验零变化。 但模型内部已经完全切换为高密度的中文推理模式。 我做了严格的同语义内容对比测试，同样一段复杂的架构逻辑推理，使用英文表述需要上千字符，消耗209个 token。 而等效的中文表述仅300余字符，消耗192个 token，单轮对话内容层面可以节省8.1%的 token 消耗，真正的降本核心。 来自计费规则的差异，Deepseek 的输出 token 单价是输入的3倍，而模型的所有推理思考内容全部按照高价输出 token 计费。 且占据了整体账单的绝大部分开销。 依托中文更高的信息密度，同等推理逻辑下，中文相比英文能减少30%~40%的推理 token 消耗。 同时本次优化还精简了系统基线内容，大幅减少了固定输入 token 的冗余开销。 落地踩坑，容易被忽略的关键细节。 这套方案看似简单。 但落地过程中有两个极易踩坑的细节，也是很多人优化失败的原因。 第一，修改配置后必须全新重启会话。 如果沿用历史会话缓存，系统会加载旧的英文优先级配置，所有中文强制规则都会失效，让人误以为优化方案无效。 第二，顶层配置虽优先级最高，但我依旧保留了自定义提示词的中文指令作为双重保险。 面对 Hermes 复杂的代理调度、工具调用场景，多层约束才能彻底杜绝模型被原生英文规则带偏。 另外， Hermes 的后台定时任务、自动调度流程会原生继承这套顶层中文推理规则，无需额外适配，全场景统一生效。 写在最后。 现在我可以完全按照自己的习惯，用高效的英文输入想法，同时让 Deepseek 用严谨低成本的中文完成所有底层推理，体验和成本实现了完美平衡。 这次优化让我最深的感悟是，AI 工程落地从来不是照搬通用教程。 很多问题的难点不在于模型原理，而在于具体框架的底层约束。 加载优先级隐藏机制，看似简单的改个思考语种，背后是对整套系统层级逻辑的吃透。 真正高效的 AI 优化。 从来不是大刀阔斧的改造，而是在固有架构约束里找到那个成本最低、体验最优的突破口。
英文翻译
back to top