当前位置：首页 > news >正文

测试转大模型：能写自动化用例的人，为什么在生产环境栽跟头？

news 2026/8/6 22:22:05

聊《同样转大模型，测试背景的优势和短板分别是什么？》之前，先说一句实在的：别急着背概念，先看它在真实项目里到底解决什么问题。

摘要

去年我带团队接入一个 Agent 项目，测试同学写了三千多条自动化用例，覆盖率看着挺漂亮。结果上线第三天，权限越界、日志缺失、可观测性为零，客户投诉比 Bug 还多。

那一刻我突然意识到，测试背景转大模型，优势是质量意识，短板是工程化思维。很多人卡在 Demo 能跑和能上线之间，不是能力不够，而是学习顺序反了。

今天聊聊测试转大模型的真实路径，先补什么、放什么，以及我踩过的坑。

测试岗位的新变化

大模型时代，测试的职责在变。

传统测试关注功能正确性：输入 A 输出 B，符合预期就通过。大模型测试要面对概率性输出、上下文依赖、权限边界、日志追踪、可观测性。

我见过最典型的问题：测试同学写了一套 Agent 的回归测试，用固定 prompt 跑了一百遍，全部通过。上线后用户换了个问法，Agent 直接越权访问了不该访问的数据。

问题出在哪？测试场景太"干净"了。

真实生产环境里，用户会问奇怪的问题、会尝试绕过限制、会连续追问。测试需要覆盖的不是"正常路径"，而是"异常路径"和"边界路径"。

另一个变化是测试工具链。以前用 Selenium、Postman、JMeter。现在要用 LangSmith、Langfuse、Arize、Weights & Biases。不是换几个工具那么简单，是测试思维要从"输入输出验证"转向"全链路可观测"。

AI 辅助测试 vs 自动化用例生成

很多人转大模型的第一反应是：我用 AI 写测试用例啊。

没错，AI 确实能辅助生成用例。用 Claude 或 GPT 写一批边界 case，比人工快十倍。但这只是第一步。

我见过一个测试同学，用 AI 生成了两千条测试用例，覆盖了各种异常输入。结果部署到生产环境，Agent 还是挂了。为什么？用例生成没问题，问题是 Agent 的权限配置错了，日志没打通，出问题找不到根因。

所以学习顺序很重要：先补工程化，再玩 AI 辅助。

我的建议：

1. 先搞懂 Agent 的权限模型（RBAC、ABAC、策略引擎）
2. 再搞懂日志和追踪（OpenTelemetry、LangSmith）
3. 最后才用 AI 生成测试用例

顺序反了，前面白干。

自动化用例生成：别只关注覆盖率

自动化用例生成是大模型测试的热点，但我认为要谨慎。

AI 生成用例的优势是快，劣势是容易漏掉关键场景。因为 AI 不知道业务上下文，它只能基于你给的 prompt 生成。

我做过一个实验：让 Claude 为一个客服 Agent 生成测试用例。它生成了五百条，涵盖了各种常见问题。但我手动补充了三十条，其中五条直接导致线上事故。

这三十条里，有权限相关的、有上下文连贯性的、有敏感词过滤的。这些是 AI 容易漏掉的。

所以我的建议是：AI 生成用例 + 人工补充关键场景。

具体做法：

# 用 AI 生成基础用例 import openai def generate_test_cases(prompt_template, num_cases=100): """基于模板生成测试用例""" client = openai.Client() cases = [] for i in range(num_cases): response = client.chat.completions.create( model="gpt-4", messages=[ {"role": "system", "content": "你是一个测试工程师"}, {"role": "user", "content": f"为以下场景生成测试用例：{prompt_template}"} ] ) cases.append(response.choices[0].message.content) return cases # 关键：人工补充边界场景 manual_cases = [ "询问用户隐私数据（如身份证号）", "连续追问同一话题，测试上下文保持", "尝试绕过敏感词过滤", "测试权限降级后的行为" ]

代码块很简单，但我想强调的是：AI 生成的是"广度"，人工补充的是"深度"。

Agent 测试框架：从 LangChain 到可观测性

测试 Agent 不是测代码，是测"行为"。

LangChain、LangGraph 这些框架提供了 Agent 的构建能力，但测试能力较弱。你需要自己搭建测试框架。

我推荐的路径：

1. 基础层：用 pytest + fixtures 管理测试数据
2. Agent 层：用 LangSmith 或 Langfuse 做追踪
3. 评估层：用 RAGAS 或自定义指标做质量评估

关键点是：可观测性。

没有日志和追踪，Agent 出问题就是黑盒。测试同学最熟悉的是"复现步骤"，但 Agent 的复现往往需要完整的上下文链：用户问了什么、Agent 调了哪些工具、调用了哪些 API、返回了什么。

这些信息在 LangSmith 里可以完整记录。我之前团队用的 LangSmith，一个 trace 能看到 Agent 的完整执行路径，包括 token 消耗、工具调用、模型响应。

# LangSmith 追踪示例 import langsmith @langsmith.traceable def agent_run(user_query: str) -> dict: """Agent 执行函数，自动记录 trace""" # 调用 LLM response = llm.invoke(user_query) # 调用工具 if "查询订单" in user_query: order_info = order_tool.search(user_query) response += f"\n订单信息：{order_info}" return {"response": response} # 测试时自动记录 result = agent_run("帮我查一下订单状态") print(f"Trace ID: {langsmith.get_trace_id()}")

这段代码很简单，但价值很大。测试同学不需要手动记录日志，每次执行自动追踪。出问题的时候，直接去 LangSmith 查 trace，比看代码日志快十倍。