离线学习与表示设计：什么时候值得改变模型输入、输出或权重

同样是“模型经常做错”，修复位置可能完全不同。模型不知道现在有哪些订单，应修数据获取；不知道“履约完成”对应哪个事件，应修能力说明；能选对动作却写不出复杂配置，可考虑中间表示；大量重复排序任务太贵，才可能值得训练轻量模型。先保存失败输入、工具返回、预期结果和实际结果，再讨论训练，避免用昂贵权重更新掩盖接口或知识问题。

四种改动对应不同失败

最新库存、权限和客户事实不属于可离线固化的知识。即使模型训练充分，仍须查询当前系统；训练奖励也不能代替写入授权。

Walmart：把强模型的作用放在后台学习

Walmart的任务是查询—商品相关性，不是生成营销文案。教师同时读取查询与商品标题、品类、品牌等属性。人工相关性等级经口径合并，转为表示匹配程度的软标签；LLM再为较大未标注集合评分。轻量学生同时读取查询和商品（cross-encoder），学习同一查询下商品间的相对分数差（扩展Margin-MSE），最终提供线上排序特征。原论文v1，§3、表2、§4

这里应比较三件事：教师是否比原标注模型提供更可靠语义，学生能否保留排序改善，整个服务是否仍满足实时要求。只证明教师评分好，尚不能证明学生好；只证明学生离线NDCG提高，也不能证明收入增长。作者报告线上实验并称学生2024年10月部署，迁移时仍需自己的流量分布与业务指标。

原创电商试验可以保存如下学习记录，不复制Walmart生产Schema：

{
  "query": "儿童防水登山鞋",
  "query_group": "demo-q-1",
  "item_snapshot": "item-17@2026-10-07",
  "attributes": {"category":"登山鞋","audience":"成人","waterproof":true},
  "human_label": "不匹配人群",
  "teacher_score": 0.2,
  "label_policy": "relevance-demo-1",
  "split": "human-holdout"
}

这条人工留出记录不进入训练。另建训练集存教师输出与版本，对同查询商品成对训练和评价。商品库存、价格仍实时获取；人工审核集中检查教师是否把“成人防水鞋”误判为儿童需求。新增品类、拼写或语言变化应分群观察，而不是用总体平均掩盖退步。周期成本比较见第19章。

Office与Flow：先让动作有可检查的表示

Microsoft Semantic Interpreter的ODSL把应用对象和操作收敛到领域语言，Analysis-Retrieval选择相关语法、例子及文档上下文，然后转译应用API。论文评测允许同一请求对应多个可接受程序，避免将词面完全相同当正确。原论文v1，§4–6

Shopify Flow的表示路径有所不同：既有系统使用领域JSON，模型学习Python表示，再用转换器连接原格式。它的冷启动从已运行工作流取样，反推请求与理想工具轨迹；推理先搜索组件摘要、再取得配置。工具名字、顺序、返回字段与服务提示的不一致会影响效果。官方Flow工程文章，2026-04-22 因而“API语义相同”不是训练输入兼容证明。

合成任务“履约完成后移除待处理标签”，可以按以下测试分开判断：

DSL是产品与执行器共同维护的合同。小而浅的稳定Schema直接结构输出可能更省；复杂条件、变量和大量复用轨迹才可能抵偿转换器维护。不要执行模型生成的任意Python来“简化转换”；可以解析白名单语法树并生成配置。第9章解释执行边界。

策展不仅增加好样本，也要纠正行为边界

Sidekick拒答研究提醒：既有成功请求会造成标签覆盖偏差，补样本还可能与旧标签冲突。其共识筛选的作用是提高一致性，代价是丢弃分歧样本。官方策展文章，2026-06-15 迁移到企业助手，需要保留一份分歧队列：领域人员明确是缺信息、缺能力、错误路由还是含义不清，再决定合适行为；不能让困难样本从训练和评测同时消失。

合成例：用户要求“按客户信用等级发优惠券”，系统没有信用等级字段。正确输出不是空人群，也不是用标签猜等级，而是说明能力缺口并提供已有字段范围。若字段存在但权限不足，则是执行拒绝；若查询已成功却为空，则是事实结果。把三者标成同一种“没找到”会训练出不可诊断的系统。

发布训练候选时绑定数据快照、标签政策、工具文本、转换器、模型和Judge版本。留出样本应覆盖旧能力与新困难任务，检查误拒、错误动作和恢复；Judge需要人工校准，分数高并不能授权业务写入。工具与上下文细节见第10章。

MetaGPT和OPPO：流程设计与模型学习不能混为一谈

MetaGPT把软件SOP变成角色产物与消息协议，工程师对生成代码执行测试并使用错误反馈修改。它能帮助设计“产物如何传递和纠错”，但无需为了借用这种机制部署多个模型。MetaGPT v5，§3.1–3.3 比较固定流水线、单模型分步与多角色时，应看同一任务的代码执行结果、需求覆盖、返工及消耗；角色名称不是组织责任的替代。

OPPO Chain-of-Agents则把多Agent轨迹蒸馏为模型内角色与工具序列，并通过SFT和可验证任务RL优化。它研究的是模型训练能力，不是企业工作流管理；网页与编码基准改善不等于CRM或生产现场收益。原论文v1，§3–4 若团队没有可验证奖励、合格轨迹、模型服务能力与足够任务量，先保存轨迹并修工具/表示，不应默认采购GPU或开展RL。若确实训练，还需计入筛选、失败rollout、训练、评测、服务和持续刷新成本，比较每笔合格任务消耗，而非模型每次回答消耗。

怎样拿到可评审的投入决定

用同一代表任务集比较最轻改动和学习方案，保留失败类型、分群质量、端到端时延及完整周期成本。候选学生不能突破关键错误上限；一旦知识或输入分布改变，明确何时刷新、谁审核以及怎样回到旧方案。首先验证降低成本没有把成本转移到人工审核和返工。

若表示改造解决了大部分问题，可以停止在这个层；若离线学习只有总体分数改善而尾部任务更差，应缩小适用范围。可将决定写入方案记录，将刷新与回退责任写入运行复盘。

参考资料

• Walmart v1，§3–4及表2：教师标签、学生排序与作者披露的线上实验。
• Semantic Interpreter v1，§4–6及正文Shopify工程链接：表示与转换。
• MetaGPT v5，§3.1–3.3及Chain-of-Agents v1，§3–4：工作协议与模型训练的不同证据。
• 合成记录与比较练习不构成真实训练或上线验证。