← 知识板块
🤖
大模型训练范式
& Harness 工程体系
从"训练更强的模型"到"打造更强的系统"
——2023→2026 AI技术演进全景解读
⏱ 15分钟 📊 8个模块 👥 面向技术人员
AI 整理 · 2026年6月
01 大模型训练范式：四年四次蜕变 核心主线

每年只有一个核心主线。这四年，模型训练从"学说话"到"学做事"再到"带队打仗"，数据结构和训练目标发生了根本变化。

• Instruction / Chat 阶段

让模型会聊天

prompt → answer 一问一答。人类标注哪个回答更好（RLHF）。典型模型：GPT-3.5、GPT-4、Claude2

• Reasoning 阶段

让模型会思考

prompt → 思维链 → answer 不只要最终答案，还要推理过程。人类挑"哪个推理更好"。典型：o1、DeepSeek-R1

• Action / Agent 阶段

让模型真干活

task → React Loop → 执行轨迹 不再是问答，而是任务。写代码→编译→跑测试→看结果→修正，整个执行轨迹作为训练数据。

• System Engineering 阶段

让模型带队打仗

从训练天才球员 → 打造冠军球队 模型不是独奏家，要和沙箱、数据库、文件系统、memory 体系协同。训练目标是"整支球队更强"。

💡 关键词转换：过去收集答案，现在收集轨迹（trajectory）。这也解释了为什么所有大厂都在做 AI Coding 软件——你不做，就收集不到用户的行为轨迹来训练模型。
02 新范式的燃料：四类训练数据 数据工程

从"人标数据"到"系统自动产生数据"，训练数据来源发生了根本扩展。理解这四类数据，就理解了大模型为什么越来越强。

👨‍💻

人类反馈数据

人类标注"A回答比B好"

从挑答案 → 设计评分标准
从低阶标注 → 高阶规则设计

传统支柱，但在递减

🤖

AI 生成数据

模型自己造训练数据

2024年起成为主流
RL阶段的训练数据大量由AI生成
延伸到AI for Science

量级最大、增长最快

✅

可验证反馈

编译通过？测试通过？

代码能否运行 → 基础奖励
通过单元测试 → 更高奖励
数学结果对错 → 黑白分明

最可信、最高效的数据来源

🌍

环境反馈

日志、文件变化、系统状态

执行任务必然留下痕迹
日志、配置文件修改、浏览器状态
多线程间的相互影响

挖掘远不充分，空间最大

🔑 核心变化：人类角色从"挑哪个回答好"升级为"设计整个反馈系统"——你设计什么样的测试用例、什么样的运行环境、什么样的验证机制，直接决定了你的Agent能收到什么样的反馈数据。这不是简单的"单元测试越多越好"，而是设计能力。
03 Harness：包裹大模型的工程外壳 核心架构

一句话定义：你的 Agent 内部，除了大模型本身以外的所有东西，都属于 Harness。它把模型从"答题机器"变成"数字员工"。

大模型 LLM 🧭 编排层 分阶段、管状态、控策略 🛠 执行层 工具、沙箱、MCP、命令行 ⚖️ 反馈层 测试用例、编译结果、验证机制 📝 记忆层 MD文件、规则、上下文压缩 React Loop 类比：笔记本 类比：裁判+教练 类比：手脚 类比：厨师长
🔑 为什么四层缺一不可？
  • 编排层在不同阶段切换不同策略（思考→编码→测试→部署）
  • 执行层让模型的手脚能够到真实世界（文件系统、API、命令行）
  • 反馈层让每个循环带回更丰富的信息（不只"成没成功"，而是"哪里没成功"）
  • 记忆层保证重要信息不丢失、历史错误不重复（MD文件保护核心约束）
04 非对称性：为什么 Harness 发源于 Coding Agent 第一性原理
🎲

左边：概率性

AI 生成代码的过程是概率模型

  • 每次生成的代码可能不同
  • 同一个任务可能有多种解法
  • 模型今天"状态好"和"状态差"
  • 本质上是在"掷骰子"
🎯

右边：确定性

代码的执行结果是绝对确定的

  • 编译器不会"心情好"就让语法错误通过
  • 测试用例：过了就是过了，没过就是没过
  • 数学计算：3.14159 不能是别的
  • 结果是黑白的，没有灰色地带
🎯 这就是 Coding Agent 的"飞轮效应"：
概率性生成代码 → 确定性得到反馈 → 模型快速学习 → 下次生成更好 → 左脚踩右脚，越飞越高。

⚕️ 医疗 Agent

AI 看 CT 片生成的诊断，谁来判定正确与否？脱离不了人类专家。没有自闭环。

⚖️ 法律 Agent

AI 生成的合同条款，质量怎么评判？需要律师审阅。Human-in-the-loop 不可或缺。

💻 Coding Agent

唯一的例外。代码写出来就能跑，跑不跑得通一秒钟就知道。这是最快的闭环。

💡 Coding Agent 跑通了闭环，不代表 Harness 只能用于编程。恰恰相反——所有领域的 Agent 都在越来越像 Coding Agent（用写代码解决任何不直接能完成的任务），而 Human-in-the-loop 是其他领域补齐闭环的关键。
05 2026年三大趋势：Memory、复杂任务、人机协同 年度主线
🧠

Memory 无处不在

任何类型的 Agent 今年都必须有记忆能力

  • 短期记忆：当前任务上下文
  • 长期记忆：用户偏好、项目规则
  • 文件 + 数据库 + 向量数据库混用
  • 越复杂的任务，记忆越重要

"为什么我们公司的 Agent 不能越用越聪明？" —— 每个老板都会问的问题

🏗️

复杂长程任务

任务从几分钟 → 几小时 → 几天

  • 多线程：用户对话 + 后台任务并行
  • Checkpoint / 断点续传：跑了4小时崩了不能白跑
  • 状态管理：每个阶段用不同的执行/反馈/记忆策略
  • 多Agent协作：各司其职、互不捣乱
🤝

Human-in-the-Loop

人类不再是旁观者，而是循环的一部分

  • Agent 主动给你发 push："这个我判断不了"
  • 你在旁边观察时发现它总犯错，可以中途插入补充信息
  • 权限：哪些可以自动执行？哪些必须人工确认？
  • 可审计：AI 执行的所有步骤事后可以追溯
🔥 今年的 Agent 没有这三样就过时了：去年你的 Agent 只有简单的 Skill + 知识库还能打，今年如果你不做 Memory、不支持长程任务、不设计 Human-in-the-loop —— 招聘市场上你拿什么谈薪水？
06 就业市场信号：分工正在发生 职业发展
↓
初级 AI 应用开发
执行岗薪水
1-3年经验
6-8万
Agent 架构师
月薪范围
2026年新岗位
→
边干边学的
岗位在消失
应届生机会减少

⚠️ 初级岗位预警

  • 应用开发工程师、AI产品经理的初级岗薪水在下降
  • 过去6-8人项目组是"谁行谁上"的扁平模式
  • 现在AI替掉了大量执行层工作——你又要跟年轻人争执行岗？

✅ 大龄程序员的第二春

  • Agent 架构师是2026年才出现的新岗位
  • 需要：8年+开发经验 + 架构经验 + AI coding能力
  • AI帮你写代码（执行层），你专注架构设计——过去10年的经验终于能用上了
给不同人群的建议：
  • 年轻工程师（1-5年）：把 AI Coding 玩到炉火纯青。过去代码写得好的人和现在 AI Coding 玩得好的人是同一拨人。
  • 大龄程序员（30/35+）：向 Agent 架构师转型。你过去的架构经验、避坑积累、业务洞察，在 Agent 架构设计里是核心竞争力。
  • 非技术人员：玩好 Web Coding（通过AI编程做出完整应用），不要挑战 Agent 架构师。
07 总结：三句话记住今年的主线 行动指南
1️⃣

你不造发动机

不用训练大模型
但必须会训练 Agent

2️⃣

数据是石油

但得会炼
可验证反馈是最佳催化剂

3️⃣

抓住 Harness

就抓住了2026的主线
所有新词都看得懂了

如果你想再深入一步

🔧

动手实践

用开源框架搭建带沙箱、记忆、Checkpoint 的 Coding Agent。推荐：OpenClaw、Claude Code 源码阅读。

🎯

领域深耕

选一个行业（金融/医疗/政务），研究 Human-in-the-Loop 的关键节点，设计 AI+人工协作流程。

📊

数据工程

学习如何清洗、标注、评估轨迹数据（Task Trajectory），掌握向量数据库构建企业知识库。

最后的提醒：AI 每年造很多新概念，但主线从来只有一两个。2023是对话，2024是推理，2025是干活，2026就是 Harness。你接收信息的速度会加速度提升——不要焦虑，把底层逻辑吃透，所有新词都装不进你脑子以外的地方。
AI 整理 · 2026年6月
← 回到首页