从 0 到 1 搭建 Agent 团队：技术选型、架构决策和人员配置
从 0 到 1 搭建 Agent 团队：技术选型、架构决策和人员配置
一、公司决定做 AI Agent，但没人知道"第一步是什么"
这是很多中小公司的真实困境：老板拍板"我们要做 AI"，但技术团队没有任何 AI 经验。需要招什么岗位？用开源模型还是 API？技术栈选 Python 还是 Go？要不要上 LangChain？什么时候做第一个 Demo？
从零搭建 Agent 团队需要回答的不是"用什么最先进的技术"，而是"用什么最快验证业务可行性"。以下是实际走过的一条路径。
二、团队搭建的四阶段路线图
核心决策贯穿四个阶段：初期用 API 而非开源模型（验证速度优先）、初期不引入框架（直接调 API 理解底层原理）、人员配置从 2 人起步逐步扩张。
三、关键技术决策的复盘
决策一：Python 还是 Go？实际答案是"都用"。Agent 的推理链路（Prompt 管理、LLM 调用、RAG）用 Python——生态更完善（LangChain、LlamaIndex、OpenAI SDK）。Agent 的后端服务（API 网关、权限、消息队列）用 Go——性能和并发更好。两者通过 HTTP/gRPC 通信。
配置策略：
- Agent 推理层：Python（2 人）
- Agent 后端服务层：Go（1 人）
- 前端：React/Next.js（1 人）
这个组合让团队能利用 Python AI 生态的丰富性，同时保持服务层的性能和可维护性。
决策二：自建编排还是用框架？经历了三个阶段：
- 第 1 个月：直接调 OpenAI API，200 行代码完成第一个 Agent
- 第 3 个月：引入 LangChain 做 RAG 和 Chain 编排
- 第 5 个月：发现 LangChain 的抽象层太重，把核心编排逻辑改为自建（300 行 Go 代码），保留 LangChain 做 RAG 的文档加载
结论：框架适合快速原型（文档加载、Embedding），但在核心的 Agent 编排逻辑上，自建代码更可控、更好调试。
决策三：用哪个 Embedding 模型？对比了 OpenAItext-embedding-3-small、阿里云通义千问 Embedding、BGE（开源）三个选项。最终选了 OpenAI——虽然成本略高（$0.02/1M tokens），但效果稳定，不需要自己维护部署。月处理 50 万条文档分块的成本约 $100，可以接受。
四、人员配置的教训
不要一开始就招"AI 研究员"。团队需要的是"AI 工程师"——会调 API、会写 Prompt、会搭 Pipeline 的人。AI 研究员的价值在"提升模型效果 2%"，但对于验证阶段的团队，"2 周做出能用的 Demo"比这 2% 重要 100 倍。我们团队最初犯过一个错误：招了一个 NLP 方向的算法研究员，背景很好，但他在前两个月主要在研究"用什么评测集来衡量 Agent 的推理能力"——而此时业务方只想知道"这个按钮点了之后能不能出结果"。不是研究员的问题，是我们的岗位设定错了。后来调整策略，招了一个做过 3 年后端开发、最近一年自己在玩 AI 工具的工程师，一个月内就交付了三个可用的 Demo。
产品和开发的配比。一个 AI Agent 团队必须有产品思维的人。不是因为产品经理会写 Prompt，而是因为 AI 产品的边界不清晰——"AI 能做这个吗"这个问题每天会出现 10 次，需要有人定义"做"的标准是什么。建议初期配置：1 后端 + 1 产品（产品兼做 Prompt 测试）。产品经理不需要会写代码，但必须能判断一个 Prompt 的好坏。评判标准很简单：给同一个 Prompt 跑 10 次，输出的一致性和质量如何？输出中有没有明显的错误？用户能理解这个结果吗？产品经理如果练会了 Prompt 评测，就成为了团队里最稀缺的"AI 质量守门人"。
AI 知识的传帮带。不要指望招到一个"全能 AI 工程师"。现实是：AI 领域变化太快，没有人是"专家"。团队应该建立每周一次的"AI 周会"，分享这周发现的技巧、踩的坑、看的论文。三个月后，整个团队的水平会远超任何一个单点招聘的高手。我们在周会上有一个铁打的环节：每人用 5 分钟展示一个自己这周用 AI 工具解决的具体问题。有时候是"我发现了一个让 JSON 输出更稳定的 Prompt 技巧"，有时候是"我发现 AWS Bedrock 的成本比直接调 API 贵了 30%，不值得"。这些碎片化的信息积累起来，形成了团队的集体智慧。
五、总结
从零搭 Agent 团队的六个关键决策：1)初期用 API 不用开源模型（速度优先）；2)技术栈 Python（推理）+ Go（服务）；3)框架先用 API 裸调，按需引入 LangChain；4)团队从 2 人起步（1 后端 + 1 产品）；5)第一个 Demo 必须 2 周内出（倒逼聚焦）；6)每周 AI 周会做知识共享（团队成长 > 个人英雄）。本质上，Agent 团队搭建的第一原则不是"找最好的人"，而是"用现有的人做出最快的结果"。跑通了最小的闭环，再谈扩大和优化。