别再瞎搭框架!Agent开发核心:先练就“神技能“再组队
LLM是大脑,但大脑不长腿
做Agent开发的人对LLM的理解基本分两个极端。
一种是觉得GPT-4什么都能干。写一个2000字的system prompt,把业务逻辑全塞进去,让模型又当裁判又当运动员。跑几次发现时灵时不灵,开始疯狂加"你必须"“请注意”“千万不要”。调了一周,成功率从60%到了75%,然后卡住了。
这不是prompt engineering,这是拿锤子拧螺丝。
另一种反过来,觉得LLM就是个会幻觉的文本生成器,不能信。于是核心逻辑全部硬编码,LLM只负责做格式转换之类的边角工作。花大价钱调API,干的活正则表达式就能搞定。
LLM真正厉害的就三件事:理解模糊意图(用户说了句含含糊糊的话,它能猜到意思,传统NLP做不到这个)、综合判断(给它三份互相矛盾的信息,它能给个合理结论,不需要你写规则引擎)、决策路由(这任务该调哪个工具、分几步做,它天生会规划)。
它不行的也是三件事:精确计算、实时信息、确定性输出。小数乘法都可能算错。不知道今天股价。同样输入每次输出不一样。
大脑负责想,不负责看、听、动手。你得给它配眼睛和手脚。
Skill不是prompt
很多人听到Skill第一反应是"写个好prompt"。
差远了。
去年我也这么想的。给LLM写了一段精心调教的投研分析prompt,效果时好时坏,好的时候我觉得自己是天才,坏的时候想砸键盘。后来花了大概两个月才想明白:prompt只是Skill的四分之一。
一个Skill至少包含四样东西:
| 组成部分 | 说明 | 举例 |
|---|---|---|
| Prompt模板 | 告诉LLM怎么思考这类问题 | 投研分析的思考框架 |
| 工具权限 | 能调用什么,不能调用什么 | 允许读文件,禁止写文件 |
| 输入输出契约 | 格式明确约定 | 输入公司名 → 输出JSON分析报告 |
| 验证标准 | 怎么判断"成功了" | 5个必填字段,数据源可追溯 |
Prompt和Skill的区别就俩字:边界,验证。
没有边界的prompt像让实习生"去把这事儿办了"。有边界有验证的Skill是给实习生一份SOP。他可能做得慢,但大概率不会做错。
为什么顺序必须是 Skill → Agent
大多数人做Agent的路径:先想一个宏大目标(“自动写研报的Agent”),然后选个框架(LangChain、CrewAI随便挑),定义几个角色,写几段prompt,串起来跑一下。
第一次跑居然有输出。质量一般但能跑通,很兴奋。
然后就开始了无尽的痛苦。Agent A输出传给Agent B格式对不上。Agent B理解错了意思输出一堆废话。Agent C拿废话继续跑,输出更离谱。去修B的prompt,改好了,A又出问题了。一个礼拜了还在调prompt。
这就好比你组了支乐队。演出曲目选好了,舞台动线排好了,指挥棒一挥——鼓手不会打鼓,吉他手只会三个和弦,主唱跑调。请问你的编排有意义吗?
Agent的质量上限等于它最弱的那个Skill。
这话我踩完坑才真正理解。一个不靠谱的Skill单独用成功率80%,听起来还行对吧?
串三个:0.8 x 0.8 x 0.8 = 51.2%。串五个?32.8%。三次里成功一次,这不是产品,这是碰运气。
一个真实的失败时间线
去年见过一个做AI尽职调查的团队。
第1周搭框架,选了CrewAI,定义5个Agent角色(文档解析、财务分析、风险评估、法律审查、报告撰写),架构图很漂亮。第2-3周写prompt,每个大概500-800字,跑了几次有输出,给投资人看了demo。
然后第4周到第12周,整整两个月,就在调。文档解析漏提关键条款。财务分析数字偶尔对不上。风险评估忽左忽右。改一个Agent的prompt另一个就出问题。第9周开始怀疑是框架的锅,换了LangGraph,花两周重构。问题一样。
第13周项目搁置。
问题不在框架也不在LLM。是他们没有一个Skill真正打磨好。文档解析没定义"解析成功"的标准。财务分析没约束输出格式。风险评估prompt里写了"请综合判断"——什么叫综合?标准是什么?五个半成品拼一起,不是一个产品,是五倍的混乱。
如果让我重新来
前两个月:只做一个Skill
就挑一个,比如"财务数据提取"。定义清楚输入是什么(PDF年报还是财报URL),输出是什么(JSON,哪些字段,什么类型,取值范围),成功标准是什么(字段完整率>95%,数值误差<1%)。给LLM配上PDF解析器和表格识别器,限定只读权限。然后跑50个不同类型的年报。修。再测。再修。
两个月后成功率从70%到了95%。20次错1次。这才叫靠谱。
第三个月:第二个Skill
比如"风险因子识别"。同样的流程,但这次快得多——第一个Skill里积累的经验全都能复用。一个月搞定,成功率93%。
第四个月:串Agent
两个93%以上的Skill串起来:0.93 x 0.93 = 86.5%。加上Agent层的重试和人工兜底,实际可用率90%以上。
时间差不多,结果天差地别。
所以Agent到底是什么
Agent = LLM + 一组Skill + 编排逻辑。
LLM负责理解意图、规划步骤、做判断。Skill负责真正干活,每一步有明确的输入输出和验证。编排逻辑把它们串起来,处理异常、重试、回退。
优先级:先有靠谱的Skill,才有靠谱的Agent。先有靠谱的Agent,才值得去优化编排。LLM的能力是底座,但不是你需要操心的部分,模型厂商会持续升级。你要做的是把Skill和编排做好。
给自己做个检查
如果你正在做Agent项目,问自己:
- 你的Agent用了几个Skill?每个成功率多少?你测过吗?
- 每个Skill有没有明确的输入输出契约?
- 有没有验证环节?你怎么知道这次执行成功了?
- 每个Skill能不能单独拎出来跑,不依赖其他Skill?
- 某个Skill失败了Agent知道吗?会怎么处理?
五个问题三个以上答不上来,你可能需要停下来回到Skill层重新打磨。别觉得是倒退。这是你能做的最大的加速。
最后
对于正在迷茫择业、想转行提升,或是刚入门的程序员、编程小白来说,有一个问题几乎人人都在问:未来10年,什么领域的职业发展潜力最大?
答案只有一个:人工智能(尤其是大模型方向)
当下,人工智能行业正处于爆发式增长期,其中大模型相关岗位更是供不应求,薪资待遇直接拉满——字节跳动作为AI领域的头部玩家,给硕士毕业的优质AI人才(含大模型相关方向)开出的月基础工资高达5万—6万元;即便是非“人才计划”的普通应聘者,月基础工资也能稳定在4万元左右。
再看阿里、腾讯两大互联网大厂,非“人才计划”的AI相关岗位应聘者,月基础工资也约有3万元,远超其他行业同资历岗位的薪资水平,对于程序员、小白来说,无疑是绝佳的转型和提升赛道。
如果你还不知道从何开始,我自己整理一套全网最全最细的大模型零基础教程,我也是一路自学走过来的,很清楚小白前期学习的痛楚,你要是没有方向还没有好的资源,根本学不到东西!
下面是我整理的大模型学习资源,希望能帮到你。
👇👇扫码免费领取全部内容👇👇
最后
1、大模型学习路线
2、从0到进阶大模型学习视频教程
从入门到进阶这里都有,跟着老师学习事半功倍。
3、 入门必看大模型学习书籍&文档.pdf(书面上的技术书籍确实太多了,这些是我精选出来的,还有很多不在图里)
4、AI大模型最新行业报告
2026最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。
5、面试试题/经验
【大厂 AI 岗位面经分享(107 道)】
【AI 大模型面试真题(102 道)】
【LLMs 面试真题(97 道)】
6、大模型项目实战&配套源码
适用人群
四阶段学习规划(共90天,可落地执行)
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
硬件选型
带你了解全球大模型
使用国产大模型服务
搭建 OpenAI 代理
热身:基于阿里云 PAI 部署 Stable Diffusion
在本地计算机运行大模型
大模型的私有化部署
基于 vLLM 部署大模型
案例:如何优雅地在阿里云私有部署开源大模型
部署一套开源 LLM 项目
内容安全
互联网信息服务算法备案
…
👇👇扫码免费领取全部内容👇👇
3、这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
