当前位置：首页 > news >正文

再探 Harness Engineering 该做点什么？

news 2026/7/12 21:16:19

最近在搞 Agent 或 AI Coding 的同学，基本都绕不开一个词 —— Harness。很多人第一反应是 “是不是又一个新概念”，但你真在业务里踩过坑就会发现，这玩意儿不是锦上添花，是救命用的。

前几天看到 Lychee Technology 的一篇文章《Your AI Isn't "Stupid" — It Just Needs a Better Harness》，讲得挺实在。

今天我们就结合 Go 工程视角，把这件事拆开聊清楚：怎么用工程化手段把大模型驾驭住。

一个现实例子

在写 Agent 的时候，很多人都遇到过类似场景：给模型安排一个长链路任务，前面几步执行得非常漂亮，甚至让你觉得 “这波稳了”。

但是很无奈的是，一旦跑到中后段，它开始逐渐失控：要么胡说八道，要么输出结构开始漂移，最后直接给你吐一个少括号的 JSON。

然后你的 Go 服务一接：

var resp PriceResponse _ = json.Unmarshal(raw, &resp) // boom

直接 panic。

这类问题本质上就是：长链路的不确定性累积爆炸。

很多同学第一反应是改 Prompt：

“必须返回合法 JSON”
“绝对不能省略字段”
“请严格遵守格式”

说实话，这套在短链路还行，一旦链路变长，基本就是玄学。

这时候思路就得变了：从 Prompt 工程 → RAG → Harness 工程。

核心思想一句话总结：不要指望模型变聪明，要让系统变严格。

什么是 Harness 工程

简单来说，Harness 就是一层包在 LLM 外面的 “执行壳”。

在这个体系下：

模型不能直接对用户说话
模型不能直接调用外部系统
所有输入输出必须经过 “检查点”

可以理解为：模型只是一个 “函数”，而 Harness 才是 “运行时”。

约束大于指导（强契约与校验）

这个点在 Go 里特别好理解。

与其在 Prompt 里祈求模型 “返回正确格式”，不如直接用结构体 + 校验兜底。

type PriceResponse struct { Price float64`json:"price"` Currency string`json:"currency"` } func ValidateLLMOutput(rawJSON []byte) (*PriceResponse, error) { var resp PriceResponse // 结构校验 if err := json.Unmarshal(rawJSON, &resp); err != nil { returnnil, fmt.Errorf("契约校验失败: %v", err) } // 业务校验 if resp.Currency == "" { returnnil, errors.New("缺少必须的 Currency 字段") } return &resp, nil }

可以看到，这其实就是经典的 Go 风格：写死规则，不信任输入。

如果失败怎么办？

本地重试（Fail locally）
不让脏数据进入后续链路

这比你在 Prompt 里写 10 行 “请务必返回 currency 字段” 靠谱多了。

状态外置（记忆与持久化）

很多人刚写 Agent 会踩一个坑：把状态全放在上下文里。

问题在于：

Context Window 是有限的
Token 一旦超了，前面的信息直接被截断

也就是说，你的 “记忆” 是会丢的。

工程上正确做法是：状态外置。

type AgentState struct { TaskID string `json:"task_id"` Completed []string `json:"completed"` InProgress string `json:"in_progress"` } func SaveState(ctx context.Context, state AgentState) error { data, err := json.Marshal(state) if err != nil { return err } return os.WriteFile("state.json", data, 0644) }

每完成一个步骤就落一次状态。

这样即使：API 超时、进程崩溃、模型抽风等。

都可以从断点继续。这其实就是把 Agent 当成 “分布式任务系统” 来做。

应对上下文焦虑

这里有个很有意思的现象：上下文焦虑。

当 Token 使用接近上限（比如 70% 以上），模型会出现：

开始省略步骤
回答变短
逻辑变乱

这时候很多人会做摘要压缩，但效果有限。

更硬核的做法是：直接重启上下文

if float64(tokensUsed)/float64(maxContext) > 0.7 { // 保存状态 SaveState(ctx, currentState) // 终止当前 Agent cancelCurrentAgent() // 拉起新实例 StartNewAgentInstance(currentState) }

简单粗暴但有效：kill → restore → continue

这在 Go 服务里实现成本很低，但收益非常高。