构建实用LLM Agent：从新手到高手的进阶指南（收藏版）

本文分享了Krafton首席AI官Kangwook Lee在UC Berkeley BLISS研讨会上的演讲内容，探讨了构建真正好用的LLM Agent的难点与解决方案。文章从LLM Agent的核心循环出发，详细介绍了上下文工程、Skills、Compaction、多Agent、递归语言模型、Ralph循环等关键技术，并分析了虚假完成等常见问题。此外，还讨论了测试时扩展、记忆驱动的自我进化等高级技巧。文章强调，构建实用LLM Agent需要在上下文工程上做文章，解决虚假完成问题，并利用记忆机制实现跨任务的连续性。

LLM Agent 到底是什么

说白了就三步循环：观察 → 思考 → 行动，不断重复直到任务完成。Agent 读取环境信息，推理该做什么，调工具执行，然后把结果喂回来继续下一轮。

这个核心循环很简单，后面所有的优化、所有踩过的坑，本质上都是在这个循环上做文章。

从最简单的形态说起

最基础的就是单次工具调用，没有循环，一锤子买卖：给个任务，LLM 想一想，调一个工具，结束。适合"帮我搜一下 X"、"帮我算一下 Y"这类简单需求。

context = task_instruction generated_tokens = LLM(context) thoughts, action = parse(generated_tokens) exec(action)

加上 while 循环就变成真正的 Agent 了——任务没完成就一直跑，每轮把输出追加到历史里，作为下一轮输入。这里有个细节值得注意：输出（output）不是简单的"下一个状态"，而是执行过程中观察到的一切——日志、信号、副作用，甚至奖励信号。比如执行编译命令，输出就是完整的编译日志加上成功/失败标记。

token_history = task_instruction while task not completed: generated_tokens = LLM(token_history) thoughts, action = parse(generated_tokens) output = exec(action) token_history += [thoughts, action, output]

上下文工程：真正的核心竞争力

随着循环推进，历史记录越积越长，最终把上下文窗口塞满。计算开销和 KV 缓存内存都线性增长，而大部分历史内容其实已经没用了。这就引出了上下文工程：把历史存储和实际喂给 LLM 的内容分开，每一轮都精心准备"刚好够用"的上下文，而不是把所有历史一股脑塞进去。

token_history = task_instruction while task not completed: context = context_build(token_history, external_info) generated_tokens = LLM(context) ...

动态切换工具

工具列表定义在系统提示里，上下文工程允许每一轮动态调整可用工具集。比如一个编程 Agent，开始用文件浏览工具，中间切换到编辑工具，最后换成测试工具——按阶段按需加载，不用一次全开着。

Skills：按需加载的技能包

Skills 是结构化的（提示词 + 工具集 + 指令）组合包，需要的时候才加载进上下文。为什么不直接写成一个超长系统提示？因为上下文窗口有限，Skills 的逻辑是：需要什么，用什么，不需要的不占空间。

下面是 Claude Code 里一个真实的 Skill：

# /commit —— 创建 git 提交的技能 # 当用户要求提交更改时： # 1. 运行 git status 和 git diff 查看所有变更 # 2. 分析差异，概括变更性质（新功能、修 bug、重构、文档等） # 3. 起一个简洁的提交信息（1-2 句），重点写"为什么"而不是"做了什么" # 4. 暂存相关文件（避免包含密钥、.env 等） # 5. 创建提交 # 可用工具: Bash(git status), Bash(git diff), Bash(git add), Bash(git commit)

一个 Skill 就是一个文本文件，Agent 在调试代码时根本不会看到/commit这个 Skill。更妙的是，Skills 本身可以被 Agent 写入、更新，甚至在多个 Agent 之间共享——更新 Skill 就等于更新提示词，这是一种去中心化的持续学习方式。

不过要注意，Skills 也是最容易"过拟合"测试集的手段。针对特定任务定制的 Skill 可以刷高评分，但不代表通用能力真的提升了。

Compaction：上下文满了就压缩

不同场景有不同的压缩策略。编程 Agent 可以扔掉冗长的编译日志只保留成功/失败结果；ML 研究 Agent 只保留验证损失而不保存完整训练曲线；实在没办法了就用另一个 LLM 来做摘要压缩。核心思路都一样：把没用的扔掉，只留关键信息。

KV 缓存的约束

上下文工程改变了每一轮的输入，但如果前缀变了，KV 缓存就会失效，需要重新计算，代价不小。

Manus 2025 年提出的解法是掩码法：从一开始就把所有信息放进系统提示，通过 logit masking 来"屏蔽"暂时不需要的部分，而不是动态添加删除。前缀始终不变，KV 缓存一直有效。初始提示词虽然长了，但多轮循环下来收益相当可观。

临时上下文（Ephemeral Context）

另一个技巧是把当前轮特有的信息追加在稳定前缀之后，这部分"临时上下文"用完即丢，不会存入历史。

while task not completed: context = token_history + log # log 是临时的，不会存入历史 generated_tokens = LLM(context) thoughts, action = parse(generated_tokens) output = exec(action) token_history += [thoughts, action, result] # 只保留结果！

PUBG Ally 就用了这个方案——敌人位置、血量、安全区这些信息当下关键，但下一轮就没意义了，没必要永远保留。顺便说一下，PUBG Ally 是一个完全跑在玩家本地 GPU 上的实时游戏 Agent，集成了语音（STT + SLM + TTS）、战术建议、实战辅助，全部本地推理。

多 Agent 和子 Agent：本质是上下文隔离

可以把多 Agent 理解成面向对象编程里的对象隔离。如果让同一个 Agent 既写代码又做 Code Review，Review 的判断会被写代码时的思路所干扰（确认偏误）。分成两个 Agent、各自拥有干净的上下文，问题就解决了：

code = LLM_Agent("code it") review = LLM_Agent("review it", code) # 或者迭代式： while True: code = LLM_Agent("code it", review) review = LLM_Agent("review it", code)

子 Agent 的逻辑也一样：主 Agent 不直接读取一个巨大的文件，而是派一个子 Agent 去读，子 Agent 把摘要返回给主 Agent，自己的上下文直接丢弃。主 Agent 只看到简洁的结论，上下文保持整洁。

递归语言模型：用程序来调度 Agent

假设 LLM 计划处理 file000.txt 到 file099.txt，在实际执行中它可能中途漏掉 file078.txt——记忆不可靠。解决方案是让 LLM 直接写一段程序来调度子 Agent，程序保证每个文件都被处理，LLM 不再需要靠"记忆"来跟踪进度：

summary = run_program(""" for file in files: result += LLM_Agent("summarize " + file) return result """)

这对规模较小的模型效果尤为显著——程序结构弥补了模型在长程追踪上的短板。

最大的生产问题：虚假完成

讲到这里，前面覆盖了上下文工程、Skills、Compaction、多 Agent、递归语言模型——现在到了最关键的问题：Agent 怎么知道自己该停了？

有三种情况：有外部校验器的可验证任务（好处理）、固定时间/预算限制（也好处理）、以及最常见的——LLM 自己决定是否完成。这最后一种，问题最大。

在 Terminal-Bench-2 这个需要深度专业知识的基准测试上，配合 Claude Opus 4.6 的基线 Agent 在时间限制内提交了 5 次结果，5 次全错，且每次都"充满信心"地认为自己完成了。大约 80% 的失败都源于虚假完成（False Completion）。

Ralph 循环

一个直接的解法：加一个外层循环，让一个全新的 Agent 来验证工作是否真的完成了。每次内层循环都从干净的上下文开始，但面对的是同一个世界状态。只有当新 Agent 什么都没改动，才真正退出：

while True: # 外层循环 token_history = [] while True: # 内层循环，上下文干净 ... if action == done: break output, answer_not_changed = exec(action) token_history += [thoughts, action, output] if answer_not_changed: break # 新 Agent 也认为没什么可改了

Terminus-KIRA 的方案

Ralph 循环有效，但需要完整重启内层循环，开销不小。Terminus-KIRA 的变体更轻量：正常跑的同时，单独维护一份只包含动作和输出、不含思考过程的历史。当 Agent 觉得完成了，让一个只看"做了什么"、看不到"怎么想的"的独立验证者再确认一遍：

token_history = task_instruction token_history_wo_thoughts = [] while True: ... if action == done: # 只用动作+输出的历史再验证一次，去掉思考过程的干扰 generated_tokens = LLM(token_history_wo_thoughts) thoughts, action = parse(generated_tokens) if action == done: break # 两个都同意，才算真完成 output = exec(action) token_history += [thoughts, action, output] token_history_wo_thoughts += [action, output] # 只记录做了什么

去掉思考过程的干扰，验证者的判断更客观，而且不需要完整重启一轮循环。

AutoResearch：虚假完成不是问题的情况

Andrej Karpathy 的 AutoResearch 火了之后，很多人问它为什么不需要 Ralph 循环。答案很简单：这是一个进度可度量的任务。

目标是训练出验证损失更低的模型。损失到底有没有降，数据说了算，Agent 根本没办法"虚报完成"。整个提示词的核心逻辑就是：永远不停——看 git 状态，改 train.py，提交，跑实验，读结果，好就保留，不好就 reset，记录，继续循环。

“

一旦实验循环开始，不要停下来询问用户是否继续。用户可能已经睡着了，或者离开了电脑，期望 Agent 一直工作直到被手动停止。按每个实验约 5 分钟算，一晚上能跑 100 个实验，用户醒来就看到结果。

进度（验证损失）是可以直接衡量的，虚假完成几乎不可能发生。AlphaEvolve 和 AdaEvolve 也是同样的模式。

自动强化学习 Agent

和 AutoResearch 类似，但更进一步，用于 RL 工程。不只是调超参数，Agent 还要自主设计奖励函数来避免 reward hacking。KRAFTON 团队用一个 b-boying 蜘蛛做了演示：Agent 自主设计奖励函数、训练 RL 策略、不断迭代，最终达到超人表现。

测试时扩展：多跑几次选最好的

测试时扩展（Test-Time Scaling）的思路是跑多个候选再挑最好的。但用在 Agent 上有几个难题：整个 Agent 循环跑多次成本极高；Agent 输出不是固定选项，没法直接投票；而且当成功率低于 50% 时，多数人投票反而选出了错的那个。

直接让 LLM 从所有候选里挑"最有希望的"，本质上是隐式多数投票，成功率低的时候会适得其反。

BTL 成对比较的思路是每次只让 LLM 比较两个候选，不让它同时看到所有人，从而避免多数偏误：

for i in range(N): history[i] = LLM_agent(task_instruction) for (i, j) in [N] x [N]: y[i,j] = LLM("哪个更有希望？" + history[i] + history[j]) s = BTL_solver(y) # Bradley-Terry-Luce 模型 return argmax(s)

初步测试结果：

BTL 方法确实比简单计分略胜一筹，而且每对可以比较多次，比较本身也是一种测试时算力投入。

OpenClaw：靠记忆自我进化

OpenClaw 的核心是在基础 Agent 循环和 Ralph 循环之上，加了记忆更新。每次任务结束后，Agent 更新自己的记忆，而这个记忆在下一次任务开始时就已经加载进来了：

token_history = system_prompt + memory + task_instruction while True: ... if action == done: memory = memory_update(thought_history) # 自我进化！ break ...

记忆更新可以很有创意——总结本次会话、更新 Agent 的"身份认知"、积累跨任务的性格和经验。这是一种真正意义上的持续学习，任务与任务之间有了连续性。

记忆在真实产品里的样子

inZOI是全球第一款搭载本地 LLM Agent 的游戏，销量超过 100 万份。开发团队尝试过让 AI 角色自主进化性格，但发现角色性格很容易极端化，最终选择了让用户自定义人格的方案来保证稳定性。

PUBG Ally的记忆则集中在友谊和过去的游戏经历上。“还记得我们那次赢的比赛吗？”——有了这样的记忆，队友才有了真实感，而不只是一个指令执行器。

还有哪些没解决的问题

• 主动性：Agent 什么时候该主动找用户说话？什么时候该自己去做？
• 快速反应：System 1 / System 2 架构怎么落地
• 蒸馏：把 LLM Agent 压缩成 SLM Agent，不是简单的知识蒸馏，有离策略、模型共享等难题
• 多模态：语音转文字再转语音，信息在每个环节都有损耗，多模态应该是模型的核心能力而不是外挂
• 评测：Agent 输出复杂、不确定性高，怎么可靠地评估是个大问题
• 规划：LLM 的探索/利用权衡做得很差，外部搜索机制是目前的补丁

最后说几句

LLM Agent 的核心循环本身很简单，但让它在生产环境里真正跑起来，每个环节都有讲究。上下文工程是最核心的设计空间；虚假完成是最常见的生产问题；记忆机制让 Agent 真正拥有了跨任务的连续性。

整个领域还非常早期——作者用的比喻是"通信技术的 1950 年代"。从真实问题出发去做工程，而不是从 benchmark 出发去刷分——这句话值得反复想想。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包：

• ✅ 从零到一的 AI 学习路径图
• ✅ 大模型调优实战手册（附医疗/金融等大厂真实案例）
• ✅ 百度/阿里专家闭门录播课
• ✅ 大模型当下最新行业报告
• ✅ 真实大厂面试真题
• ✅ 2026 最新岗位需求图谱

所有资料 ⚡️ ，朋友们如果有需要《AI大模型入门+进阶学习资源包》，下方扫码获取~

① 全套AI大模型应用开发视频教程

（包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点）

② 大模型系统化学习路线

作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线可以为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划，带你从零基础入门到精通！

③ 大模型学习书籍&文档

学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。

④ AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

⑤ 大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

⑥ 大模型大厂面试真题

面试不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

以上资料如何领取？

为什么大家都在学大模型？

最近科技巨头英特尔宣布裁员2万人，传统岗位不断缩减，但AI相关技术岗疯狂扩招，有3-5年经验，大厂薪资就能给到50K*20薪！

不出1年，“有AI项目经验”将成为投递简历的门槛。

风口之下，与其像“温水煮青蛙”一样坐等被行业淘汰，不如先人一步，掌握AI大模型原理+应用技术+项目实操经验，“顺风”翻盘！

这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

以上全套大模型资料如何领取？