交通工程AI智能体构建：从LoRA微调到工具调用的全流程实践

1. 项目概述：为什么交通工程需要专属的生成式AI智能体？

如果你在交通工程领域工作过，无论是做交通流分析、信号配时优化，还是处理复杂的路网规划，你肯定经历过这样的场景：面对海量的交通检测器数据、CAD图纸和仿真报告，你需要花费大量时间进行数据清洗、报告撰写和方案比选。传统的分析工具和通用的大语言模型（LLM）虽然能提供一些帮助，但总感觉“隔靴搔痒”——它们要么不懂专业术语，要么给出的建议过于宽泛，缺乏对《交通工程手册》、HCM（道路通行能力手册）等专业规范的深度理解。

这正是“定制化生成式AI智能体”要解决的问题。这个项目不是一个简单的聊天机器人，而是一个深度融入交通工程专业工作流的“AI同事”。它不仅能理解“饱和度”、“延误”、“VISSIM仿真”这些行话，还能基于你的具体项目数据，生成符合工程标准的分析报告、提出优化建议，甚至辅助完成一些初步的代码脚本编写。其核心在于“定制化”和“持续预训练”。我们不是从零开始训练一个百亿参数的大模型，那成本高得离谱。相反，我们选择一个基础大模型（如Qwen、Llama），然后通过持续预训练（Continued Pre-training）和LoRA微调这两把“手术刀”，将海量的交通工程专业知识（论文、规范、案例报告、仿真手册）“注入”模型，让它成为一个领域专家。

想象一下，你只需要用自然语言描述：“帮我分析一下XX交叉口晚高峰的流量数据，计算各进口道的饱和流率和延误，并按照《信号控制规范》给出相位配时优化建议。” AI智能体就能调用内置的数据处理逻辑，理解你的需求，生成一份结构清晰、数据准确、引用规范的分析文档草稿。这不仅仅是效率的提升，更是工作模式的革新。它让工程师从重复性的文档工作和基础数据分析中解放出来，更专注于需要创造性思维和工程判断的核心决策。

2. 核心架构与设计思路：如何打造一个“懂行”的AI智能体？

构建一个实用的交通工程AI智能体，远不止是微调一个模型那么简单。它是一套系统工程，需要将领域知识、模型能力、工程工具和交互逻辑有机结合起来。其核心架构可以分解为四个层次：知识层、模型层、工具层和应用层。

2.1 知识层：构建领域专属的“记忆库”

这是智能体专业能力的基石。通用大模型在文学、编程、常识方面表现优异，但对“基于移动平均法的短时交通流预测”或“Synchro软件中的相位差优化原理”可能一无所知。因此，我们需要为它建立一个高质量的领域知识库。

知识来源主要包括：

1. 公开规范与标准：如各国的《道路设计规范》、《交通信号控制指南》、HCM、TRB（交通运输研究委员会）系列报告等。这些是权威的“教科书”。
2. 学术文献：从知网、IEEE Xplore、ScienceDirect等数据库爬取或获取的交通工程领域顶级期刊和会议论文。这是最前沿的“研究动态”。
3. 工程实践文档：企业内部积累的项目可行性研究报告、交通仿真分析报告、设计图纸说明、技术交底记录等。这是最接地气的“实战经验”。
4. 结构化数据与代码：常见的交通数据集（如PeMS）、开源仿真工具（SUMO、VISSIM COM接口）的使用示例、数据处理脚本（Python pandas用于交通流清洗）。这是它的“动手能力”基础。

注意：知识库的构建质量直接决定智能体的上限。必须进行严格的清洗和格式化。例如，将PDF规范转换为纯文本时，要特别注意保留公式、图表标题和编号；对学术论文，最好能提取摘要、关键词和核心方法论段落。杂乱无章的数据投喂进去，只会让模型产生“幻觉”，胡说八道。

2.2 模型层：持续预训练与高效微调的策略

这是智能体的“大脑”。我们选择开源的基础大模型作为起点，如Qwen-7B、Llama-3-8B或DeepSeek-Coder，它们在通用语言理解和代码能力上已有良好基础。

第一步：领域适应——持续预训练（Continued Pre-training）这不是微调，而是让模型“博览群书”。我们将知识层准备好的海量文本数据（数以GB计的规范、论文文本），以无监督学习的方式继续训练基础模型。目标不是学习某项具体任务（如问答），而是让模型深入理解交通工程领域的语言模式、专业概念和知识关联。这个过程计算成本较高，但至关重要，它让模型建立了领域的“常识”。实践中，我们通常会在大量领域文本上训练数万个step，使用相对较低的学习率（如5e-5），防止遗忘原有的通用知识。

第二步：任务对齐——基于LoRA的高效微调在模型具备了领域知识之后，我们需要教会它如何“做事”，即按照我们的指令完成特定任务。这就是微调。全参数微调成本高昂，而LoRA（Low-Rank Adaptation）技术是我们的首选。它的原理很巧妙：不直接修改模型原有的、庞大的参数矩阵（可能包含70亿个参数），而是为矩阵的更新量引入两个小的、低秩的矩阵。在训练时，只训练这两个小矩阵，训练完后再将它们“加回”原矩阵。这相当于只训练了原模型参数的0.1%甚至更少，但效果却能接近全参数微调。

对于交通工程智能体，我们需要构建高质量的指令微调数据集。例如：

• 指令：“根据以下交叉口各流向流量（表格），计算总延误。”
• 输入：流量表格数据。
• 输出：不仅给出延误数值，还应说明使用的计算公式（如Webster公式）和中间步骤。

我们需要成千上万条这样的高质量（指令，输入，输出）三元组，覆盖报告生成、数据分析、代码编写、方案解释等多种任务。使用SFTTrainer（来自Transformers库）配合LoRA配置，我们可以在消费级显卡（如RTX 4090）上高效完成微调。

2.3 工具层：赋予智能体“手和脚”

一个只会“说”的智能体是不完整的。交通工程是实践性极强的学科，需要操作软件、处理数据、运行仿真。因此，我们需要为智能体集成“工具”。

这可以通过函数调用（Function Calling）能力来实现。我们为智能体定义一系列它可以调用的工具函数，并描述清楚每个函数的功能和输入参数格式。例如：

• 工具：运行交通仿真
  • 描述：调用本地SUMO仿真引擎，根据给定的.net.xml路网文件和.rou.xml路径文件运行仿真。
  • 参数：network_file(string),route_file(string),simulation_duration(int)
• 工具：计算道路服务水平
  • 描述：根据流量、自由流速度、车道数等参数，计算道路段的服务水平等级（A-F）。
  • 参数：volume(int),free_flow_speed(float),lanes(int),terrain_type(string)

智能体在理解用户请求后，会自主判断是否需要调用工具、调用哪个工具，并生成符合格式的参数。一个框架（如LangChain、Transformers Agents）会解析这个决定，执行对应的Python函数，并将结果返回给智能体，由它整合进最终的回答中。这样，智能体就能真正“操作”仿真软件，而不仅仅是描述操作步骤。

2.4 应用层：设计自然流畅的交互界面

最终，智能体需要通过一个界面与用户交互。对于工程师而言，最自然的界面可能是：

1. Web应用：一个类似ChatGPT的聊天窗口，但侧边栏可以上传交通流量数据文件（CSV）、CAD图纸或仿真配置文件。
2. IDE插件：集成在VSCode或PyCharm中，在编写交通分析脚本时，可以随时向智能体提问，让它辅助生成代码片段或解释某个算法。
3. API服务：将智能体封装成RESTful API，供企业内部的其他业务系统（如交通管理平台、项目管理系统）调用，实现能力嵌入。

交互设计的关键是引导用户提供上下文。例如，当用户问“分析这个交叉口”时，界面应提示“请上传交叉口的流量数据文件或图片”。智能体的回复也应结构化，优先给出核心结论（如“服务水平为D级，建议拓宽车道”），再附上详细分析过程和数据，并可提供“一键生成报告草稿”的按钮。

3. 持续预训练实战指南：从数据准备到模型训练

理论讲完，我们进入实战环节。持续预训练是让模型“脱胎换骨”的第一步，也是最耗费计算资源的一步。下面我将以使用Qwen-7B模型和交通工程文本语料为例，拆解全流程。

3.1 数据准备与预处理：质量决定天花板

你的原始数据可能是PDF、Word、HTML甚至扫描图片。第一步是将其转化为纯净、结构化的文本。

步骤一：数据收集与格式转换

• 规范/手册：使用pdfplumber或PyMuPDF库提取文本。注意处理多栏排版和页眉页脚。
• 学术论文：如果从PDF提取，Grobid是一个优秀的学术PDF解析器，能较好地区分标题、作者、摘要、正文和参考文献。
• 项目报告：企业内部文档格式不一，可能需要定制解析脚本。目标是提取纯文本内容，并尽可能保留章节结构（如“1.1 交通量预测”）。

步骤二：文本清洗与标准化这是最繁琐但最关键的一步。你需要编写一系列清洗规则：

import re def clean_engineering_text(text): # 1. 移除无意义的换行和空格（保留段落间的换行） text = re.sub(r'\n\s*\n', '\n\n', text) # 合并多个空行 text = re.sub(r'[ \t]+', ' ', text) # 合并多个空格 # 2. 处理交通工程特定格式 # 保留公式标识，如 V = Q / K，可以转换为 LaTeX 格式或保留原样 # 识别并标准化术语，如“V/C比”统一为“V/C比” text = text.replace('流量比', 'V/C比') # 3. 移除版权声明、页码、无关图表标题（如果未成功提取） lines = text.split('\n') cleaned_lines = [] for line in lines: if re.match(r'^第\d+页$', line) or '版权所有' in line: continue # 可以添加更多过滤规则 cleaned_lines.append(line) return '\n'.join(cleaned_lines)

• 核心技巧：构建一个领域关键词词典（如“信号配时”、“通行能力”、“交通冲突”），在清洗后统计关键词出现频率，过低的数据块可能质量不佳，考虑剔除。

步骤三：数据分词与格式化将清洗后的文本，按照模型所需的格式进行分词和打包。我们通常将长文本切分成2048或4096token的片段。

from transformers import AutoTokenizer tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen-7B") # Qwen的tokenizer通常不需要添加bos/eos，但需确认 tokenizer.pad_token = tokenizer.eos_token # 设置填充token def tokenize_function(examples): # examples['text'] 是包含长文本的列表 tokenized = tokenizer(examples['text'], truncation=True, padding='max_length', max_length=2048) # 对于因果语言模型的预训练，标签就是输入本身 tokenized['labels'] = tokenized['input_ids'].copy() return tokenized

将处理好的文本保存为jsonl格式，每行一个{"text": "..."}对象，便于后续流式读取。

3.2 训练环境配置与参数选择

硬件建议：持续预训练对显存要求高。Qwen-7B进行全参数预训练需要至少80GB显存（如A100）。如果资源有限，可以采用以下策略：

1. 使用LoRA进行持续预训练：是的，LoRA也可以用于预训练阶段，虽然不如全参数彻底，但能在24GB显存（RTX 4090）下进行，是性价比之选。
2. 降低精度：使用bfloat16或fp16混合精度训练。
3. 梯度累积：增大per_device_train_batch_size到卡能承受的极限，再通过gradient_accumulation_steps来等效增大总批次大小。

关键训练参数（以LoRA持续预训练为例）：

from transformers import TrainingArguments training_args = TrainingArguments( output_dir="./qwen-transport-pretrain-lora", overwrite_output_dir=True, num_train_epochs=1, # 预训练通常1-3个epoch per_device_train_batch_size=4, # 根据显存调整 gradient_accumulation_steps=8, # 等效批次大小=4*8=32 learning_rate=5e-5, # 预训练学习率可以稍低 weight_decay=0.01, warmup_steps=500, logging_steps=100, save_steps=2000, save_total_limit=2, fp16=True, # 使用混合精度 gradient_checkpointing=True, # 用时间换空间，节省显存 report_to="tensorboard", )

• 学习率：这是最重要的参数之一。对于注入新知识，学习率太低则学习缓慢，太高又会破坏原有模型能力。5e-5是一个常见的起点，需要根据损失曲线调整。
• 批次大小：在显存允许下尽可能大，有助于训练稳定。
• Warmup：在训练初期逐步提高学习率，避免模型“迈大步”导致不稳定。

3.3 启动训练与监控

使用transformers的TrainerAPI，结合peft库来集成LoRA。

from transformers import AutoModelForCausalLM, DataCollatorForLanguageModeling from peft import LoraConfig, get_peft_model, TaskType from datasets import load_dataset # 1. 加载基础模型 model = AutoModelForCausalLM.from_pretrained( "Qwen/Qwen-7B", torch_dtype=torch.float16, device_map="auto" ) # 2. 配置LoRA lora_config = LoraConfig( task_type=TaskType.CAUSAL_LM, r=8, # LoRA秩，影响参数量和能力，通常8-32 lora_alpha=32, # 缩放因子，通常设为r的2-4倍 lora_dropout=0.1, target_modules=["q_proj", "k_proj", "v_proj", "o_proj"], # 针对Qwen的注意力模块 ) model = get_peft_model(model, lora_config) model.print_trainable_parameters() # 查看可训练参数占比，应该很小（<1%） # 3. 加载数据 dataset = load_dataset('json', data_files='transport_corpus.jsonl', split='train') # 4. 数据整理器 data_collator = DataCollatorForLanguageModeling( tokenizer=tokenizer, mlm=False, # 因果语言模型，不是掩码语言模型 ) # 5. 创建Trainer并开始训练 trainer = Trainer( model=model, args=training_args, train_dataset=dataset, data_collator=data_collator, ) trainer.train()

训练监控：密切关注TensorBoard中的损失曲线。理想的曲线应该是平滑下降，并逐渐趋于平缓。如果损失剧烈波动或上升，可能是学习率太高、数据质量有问题或批次大小不合适。训练完成后，使用model.save_pretrained()保存LoRA权重，它只是一个几MB到几十MB的文件，非常轻量。

实操心得：在开始大规模训练前，务必用一个极小的数据集（如1000条文本）跑一个“试训练”（比如500步）。这能帮你快速验证整个数据流水线、训练脚本和参数配置是否正确，避免浪费几天时间后才发现问题。

4. 指令微调（SFT）详解：教会智能体“听话办事”

经过持续预训练的模型已经满腹经纶，但它还不知道如何与用户对话、执行指令。指令微调（Supervised Fine-Tuning, SFT）就是它的“岗前培训”。我们需要准备一个高质量的“问答对”数据集。

4.1 构建高质量的SFT数据集

数据质量是SFT成功的关键。糟糕的指令数据会导致模型输出冗余、偏离主题或无法遵循指令。

数据来源与构造方法：

1. 人工撰写（种子数据）：由交通工程师和AI研究员共同编写。这是质量最高但成本也最高的方式。需要覆盖多样化的任务类型：
   • 问答：Q：“什么是交通冲突技术？” A：“交通冲突技术是一种...的方法，其主要类型包括...”
   • 报告生成：Instruction：“根据以下流量调查表（附数据），撰写一段交通量特征分析。” Input: [CSV数据] Output: [分析段落]。
   • 代码生成：Instruction：“写一个Python函数，使用Webster公式计算信号交叉口最优周期时长。” Output: [带注释的代码]。
   • 逻辑推理：Instruction：“如果一条道路的V/C比从0.8上升到1.2，服务水平和服务流量会如何变化？为什么？” Output: [推理过程与结论]。
2. 自我指令（Self-Instruct）：利用一个初步微调过的模型（或GPT-4 API），根据领域关键词批量生成（指令，输出）对，然后由人工筛选和修正。这能快速扩充数据规模。
3. 数据转化：将已有的项目报告、QA文档转化为指令格式。例如，将报告标题“第三章 交通需求预测”转化为指令“请生成一份交通需求预测报告的章节内容”，将报告正文作为输出。

数据格式：通常使用jsonl，每条数据包含instruction、input（可选）、output三个字段。input用于提供上下文信息（如数据表格）。

{ "instruction": "计算以下交叉口各流向的交通量总和。", "input": "北进口直行：500 pcu/h，左转：200 pcu/h；南进口直行：550 pcu/h，右转：150 pcu/h；东进口...", "output": "首先，计算各进口道流量：北进口=500+200=700 pcu/h；南进口=550+150=700 pcu/h；东进口...。因此，交叉口总交通量为：700+700+... = 3200 pcu/h。" }

4.2 使用SFTTrainer进行微调

Hugging Face的TRL库提供了专为SFT优化的SFTTrainer，它简化了流程并支持一些高级特性。

from datasets import load_dataset from transformers import AutoTokenizer, AutoModelForCausalLM, TrainingArguments from trl import SFTTrainer from peft import LoraConfig # 1. 加载经过持续预训练的模型和分词器 model_name = "./qwen-transport-pretrain-lora" # 或基础模型路径 model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="auto") tokenizer = AutoTokenizer.from_pretrained(model_name) tokenizer.pad_token = tokenizer.eos_token # 2. 为SFT配置新的LoRA（或复用之前的，但通常建议重新配置） lora_config = LoraConfig( r=16, # SFT阶段可以尝试更大的r，以学习更复杂的指令跟随模式 lora_alpha=64, target_modules=["q_proj", "v_proj"], # 可以只针对部分模块 lora_dropout=0.1, bias="none", task_type="CAUSAL_LM", ) # 3. 加载SFT数据集 dataset = load_dataset('json', data_files='sft_data.jsonl', split='train') # 4. 定义格式化函数，将数据拼接成模型接受的对话格式 def formatting_func(example): text = f"### Instruction:\n{example['instruction']}\n\n" if example.get('input'): text += f"### Input:\n{example['input']}\n\n" text += f"### Response:\n{example['output']}" return text # 5. 配置训练参数 training_args = TrainingArguments( output_dir="./qwen-transport-sft", per_device_train_batch_size=4, gradient_accumulation_steps=4, num_train_epochs=3, # SFT通常需要更多epoch learning_rate=2e-4, # SFT学习率可以比预训练高一个数量级 logging_steps=10, save_steps=500, fp16=True, warmup_ratio=0.03, report_to="tensorboard", ) # 6. 初始化SFTTrainer trainer = SFTTrainer( model=model, args=training_args, train_dataset=dataset, tokenizer=tokenizer, max_seq_length=2048, formatting_func=formatting_func, # 使用自定义格式化函数 peft_config=lora_config, # 注入LoRA配置 ) trainer.train()

关键点解析：

• formatting_func：这个函数至关重要。它定义了模型看到的文本格式。清晰的指令、输入、响应分隔符（如### Instruction:）能帮助模型更好地理解任务结构。你可以根据基础模型的训练格式（如Qwen的Chat格式）进行调整。
• 学习率：SFT阶段的学习率通常比预训练高（1e-4到5e-4），因为我们需要模型更积极地调整行为来适应新任务。
• 序列长度：max_seq_length应根据你的数据长度设置，覆盖大部分样本，避免过多截断。

4.3 模型评估与迭代

训练完成后，不能只看损失值，必须进行人工评估和自动评估。

• 人工评估：构建一个涵盖各种任务类型的测试集（50-100条），让领域专家从有用性、准确性、安全性、格式遵从性等多个维度打分。
• 自动评估：对于代码生成任务，可以运行代码检查正确性；对于有标准答案的问答，可以使用BLEU、ROUGE等指标（但谨慎使用，它们与质量不完全相关）。

如果评估结果不理想，需要分析原因：

• 答案笼统、缺乏细节：可能是SFT数据中“输出”部分过于简略，需要补充更详尽的示例。
• 模型“幻觉”，编造信息：可能是预训练阶段注入的领域知识不够扎实，或者SFT数据中存在错误。需要检查数据质量。
• 无法遵循复杂指令：可能是指令的复杂度超过了模型当前能力，需要增加更多分步骤、多任务的训练样本。

SFT是一个迭代过程。根据评估结果，修正数据，调整参数（如学习率、LoRA的r值），进行多轮训练，直到模型表现稳定达标。

5. 工具调用与系统集成：从“聊天”到“实干”

一个只会生成文本的模型，在交通工程这样的实操领域价值有限。真正的智能体必须能“动手”。这就需要实现工具调用（Tool Calling）能力。

5.1 定义智能体的工具集

首先，我们需要明确智能体需要哪些工具。工具本质上是Python函数，我们需要用自然语言清晰地描述它们，以便模型理解何时以及如何调用。

# tools.py import subprocess import json import pandas as pd from typing import Dict, Any def calculate_level_of_service(params: Dict[str, Any]) -> str: """ 根据HCM方法计算道路段的服务水平。 参数: volume (int): 小时交通量 (pcu/h) free_flow_speed (float): 自由流速度 (km/h) lanes (int): 车道数 terrain_type (str): 地形类型，'平原' 或 '丘陵' 返回: str: 服务水平等级 (A到F) 及简要描述。 """ # 这里简化计算，实际应根据HCM复杂公式实现 density = params['volume'] / (params['lanes'] * params['free_flow_speed']) if density < 11: return "服务水平为 A 级，交通流自由。" elif density < 18: return "服务水平为 B 级，交通流稳定。" # ... 其他等级判断 else: return "服务水平为 F 级，强制流或拥堵。" def run_sumo_simulation(params: Dict[str, Any]) -> str: """ 调用SUMO命令行运行一次交通仿真。 参数: network_file (str): .net.xml 路网文件路径 route_file (str): .rou.xml 路径文件路径 simulation_duration (int): 仿真时长 (秒) 返回: str: 仿真结果摘要，例如平均旅行时间、排队长度。 """ cmd = f"sumo -n {params['network_file']} -r {params['route_file']} --duration {params['simulation_duration']}" try: result = subprocess.run(cmd, shell=True, capture_output=True, text=True, timeout=60) # 这里需要解析SUMO的输出日志，提取关键指标 return f"仿真成功完成。平均旅行时间：XX秒，最大排队长度：YY米。" except subprocess.TimeoutExpired: return "仿真超时。" except Exception as e: return f"仿真运行失败：{str(e)}" # 工具描述列表，用于提供给模型 TOOL_DESCRIPTIONS = [ { "name": "calculate_level_of_service", "description": "计算道路段的服务水平等级（A-F）。", "parameters": { "type": "object", "properties": { "volume": {"type": "integer", "description": "小时交通量，单位 pcu/h"}, "free_flow_speed": {"type": "number", "description": "自由流速度，单位 km/h"}, "lanes": {"type": "integer", "description": "车道数"}, "terrain_type": {"type": "string", "enum": ["平原", "丘陵"], "description": "地形类型"} }, "required": ["volume", "free_flow_speed", "lanes", "terrain_type"] } }, { "name": "run_sumo_simulation", "description": "运行SUMO交通仿真。", "parameters": { "type": "object", "properties": { "network_file": {"type": "string", "description": "SUMO路网文件(.net.xml)的路径"}, "route_file": {"type": "string", "description": "SUMO路径文件(.rou.xml)的路径"}, "simulation_duration": {"type": "integer", "description": "仿真持续时间，单位秒"} }, "required": ["network_file", "route_file", "simulation_duration"] } } ]

5.2 实现工具调用逻辑

接下来，我们需要一个“大脑”来协调模型和工具。这里展示一个简化的自洽执行流程：

# agent_core.py import json import re from transformers import AutoModelForCausalLM, AutoTokenizer from tools import TOOL_DESCRIPTIONS, calculate_level_of_service, run_sumo_simulation class TransportationAgent: def __init__(self, model_path): self.model = AutoModelForCausalLM.from_pretrained(model_path, device_map="auto") self.tokenizer = AutoTokenizer.from_pretrained(model_path) self.tools = {desc["name"]: eval(desc["name"]) for desc in TOOL_DESCRIPTIONS} self.tool_descriptions_str = json.dumps(TOOL_DESCRIPTIONS, ensure_ascii=False) def _parse_tool_call(self, model_response: str): """从模型回复中解析工具调用指令。这里假设模型被训练成在需要时输出特定格式，如 <TOOL_CALL>...</TOOL_CALL>""" pattern = r"<TOOL_CALL>(.*?)</TOOL_CALL>" match = re.search(pattern, model_response, re.DOTALL) if match: try: call_info = json.loads(match.group(1)) return call_info.get("name"), call_info.get("parameters") except json.JSONDecodeError: return None, None return None, None def chat(self, user_query: str, context: str = ""): # 1. 构建包含工具描述的提示词 prompt = f"""你是一个交通工程AI助手，可以调用工具解决问题。以下是可用的工具： {self.tool_descriptions_str} 用户问题：{user_query} 上下文：{context} 请思考是否需要调用工具。如果需要，请严格按照以下JSON格式输出工具调用，并只输出这个JSON块： <TOOL_CALL> {{"name": "工具名", "parameters": {{"参数1": 值1, "参数2": 值2}}}} </TOOL_CALL> 如果不需要调用工具，请直接给出回答。 """ # 2. 模型推理 inputs = self.tokenizer(prompt, return_tensors="pt").to(self.model.device) outputs = self.model.generate(**inputs, max_new_tokens=512) response = self.tokenizer.decode(outputs[0], skip_special_tokens=True) # 3. 解析并执行工具调用 tool_name, tool_params = self._parse_tool_call(response) if tool_name and tool_name in self.tools: try: tool_result = self.tools[tool_name](tool_params) # 4. 将工具结果反馈给模型，生成最终回答 follow_up_prompt = f"{prompt}\n\n模型刚才的回复：{response}\n\n工具执行结果：{tool_result}\n\n请根据工具执行结果，给出最终的回答。" inputs2 = self.tokenizer(follow_up_prompt, return_tensors="pt").to(self.model.device) outputs2 = self.model.generate(**inputs2, max_new_tokens=512) final_response = self.tokenizer.decode(outputs2[0], skip_special_tokens=True) # 清理最终回复，移除内部的思考过程 return final_response.split("### Response:")[-1].strip() except Exception as e: return f"工具 {tool_name} 执行出错：{str(e)}" else: # 没有工具调用，直接返回模型回复 return response.split("### Response:")[-1].strip() if "### Response:" in response else response # 使用示例 agent = TransportationAgent("./qwen-transport-sft") answer = agent.chat("请帮我计算一条双向四车道、自由流速度60km/h、小时交通量为1800pcu/h的平原地区道路的服务水平。") print(answer)

这个流程是简化的。工业级实现会更复杂，包括：更鲁棒的解析、多轮工具调用、工具执行状态管理、以及使用专门的框架（如LangChain的AgentExecutor或Transformers的Agent类）。

5.3 部署与集成方案

训练好的智能体需要部署以供使用。常见方案有：

• 本地API服务：使用FastAPI或Flask将上述TransportationAgent类封装成HTTP API。前端（Web或桌面应用）通过调用API与智能体交互。这是最灵活的方式。
• Gradio/Streamlit快速原型：对于演示和内部测试，使用Gradio或Streamlit快速构建一个带聊天界面的Web应用，非常适合与领域专家进行快速迭代反馈。
• 集成到现有软件：将模型封装成DLL或Python包，供现有的交通分析软件（如基于Python的仿真平台）调用，作为智能辅助模块。

部署注意事项：

• 性能：大模型推理较慢。考虑使用vLLM、TGI（Text Generation Inference）等高性能推理框架，支持连续批处理和量化，能极大提升吞吐量。
• 安全：对用户输入进行过滤，防止提示词注入攻击。对工具调用进行权限检查，特别是涉及文件读写和系统命令的工具。
• 成本：如果使用云端GPU实例，需监控推理成本。对于固定任务，可以考虑将模型量化（如GPTQ、AWQ）后部署在成本更低的机器上。

6. 常见问题、避坑指南与效果优化

在实际开发和部署过程中，你会遇到各种各样的问题。下面是我从多个项目中总结出的常见“坑”和解决方案。

6.1 模型表现不佳：问题诊断与调优

问题1：模型输出重复或无意义内容（“幻觉”）

• 可能原因：SFT数据质量差，包含大量重复或低质量样本；预训练不充分，领域知识薄弱；推理温度（temperature）参数过高。
• 解决方案：
  1. 清洗数据：仔细检查SFT数据集，移除指令模糊、输出短小或错误的样本。确保数据多样性。
  2. 强化预训练：增加领域预训练的数据量和轮次。可以尝试在高质量的专业教科书、权威手册上做进一步的预训练。
  3. 调整推理参数：降低temperature（如从0.7调到0.2）可以降低随机性，使输出更确定。同时调整top_p（核采样）或top_k。
  4. 提示词工程：在系统提示词（System Prompt）中明确要求“基于已知事实”、“如果不知道请明确说明”。

问题2：模型无法遵循复杂或多步骤指令

• 可能原因：SFT数据中缺乏复杂任务的分解示例；模型能力有限（如7B参数模型处理超长复杂逻辑有困难）。
• 解决方案：
  1. 数据增强：在SFT数据集中加入“思维链（Chain-of-Thought）”数据。即指令要求分步思考，输出也展示推理过程。例如：“请分步计算交叉口延误。第一步，计算各车道流量...”
  2. 模型缩放：如果资源允许，尝试使用更大参数量的基础模型（如Qwen-14B/32B），其复杂指令理解能力通常更强。
  3. 任务分解：在应用层，将用户的复杂查询自动拆解成多个子问题，让智能体依次回答，类似一个规划器（Planner）的角色。

问题3：工具调用准确率低

• 可能原因：模型没有经过足够的工具调用格式训练；工具描述不够清晰；参数提取困难。
• 解决方案：
  1. 专项训练：在SFT数据集中，大量构造需要调用工具的样本，并严格规范输出格式（如上述的<TOOL_CALL>JSON格式）。让模型反复练习“判断需求 -> 选择工具 -> 填写参数”的过程。
  2. 优化工具描述：工具描述要极其精确，特别是参数的类型、格式和取值范围。使用例子说明。
  3. 后处理与重试：当模型调用失败或参数错误时，设计一个重试机制。例如，将错误信息反馈给模型，让它修正参数后再次调用。

6.2 工程实践中的避坑技巧

1. 从小处着手，快速迭代：不要一开始就试图构建一个全能的智能体。从一个非常具体、边界清晰的任务开始（例如“根据给定公式计算饱和度”），构建完整的数据、训练、评估流水线。跑通后，再逐步增加任务复杂度。
2. 版本控制一切：对数据集、训练脚本、模型checkpoint、评估结果进行严格的版本控制（使用Git + DVC或MLflow）。当模型效果出现波动时，能快速回溯到之前的状态。
3. 评估重于训练：建立一个包含多种任务类型、不同难度的固定评估集。每次训练后都在这个集上测试，记录关键指标（如人工评分、任务完成率）。这是衡量进展的唯一可靠标准。
4. 警惕数据泄露：确保你的测试评估数据没有以任何形式混入训练集。特别是在从同一批项目报告中构造SFT数据时，要严格区分。
5. LoRA参数选择：r（秩）是LoRA最重要的超参数。对于领域知识注入（预训练），r=8通常足够；对于复杂的指令跟随（SFT），可以尝试r=16或32。alpha（缩放因子）通常设为r的2倍，这是一个经验值，可以微调。target_modules通常选择注意力层的q_proj和v_proj，对大多数任务有效。

6.3 效果持续优化策略

1. RAG（检索增强生成）：对于需要最新、最具体知识（如某城市最新交通管制规定）或内部私有文档（如某个特定项目的详细设计）的任务，可以引入RAG。当用户提问时，先从向量数据库中检索最相关的文档片段，连同问题一起送给模型生成答案。这能有效减少“幻觉”，并扩展智能体的知识边界，而无需重新训练模型。
2. 人类反馈强化学习（RLHF）：当SFT达到瓶颈后，可以考虑RLHF。让人类标注员对模型的多个输出进行排序（哪个更好），然后用这些偏好数据训练一个奖励模型，最后用强化学习（如PPO）策略优化模型，使其输出更符合人类偏好。这能显著提升回答的有用性和安全性，但流程复杂，成本高。
3. 智能体记忆与多轮对话：为智能体添加简单的记忆机制（如保存最近几轮对话的摘要），使其能在多轮对话中保持上下文连贯，处理“根据我们刚才讨论的方案，再考虑一下施工成本”这类后续问题。

开发一个定制化的交通工程AI智能体是一个充满挑战但也极具价值的旅程。它不是一个一蹴而就的项目，而是一个需要数据、算法、工程和领域知识持续迭代优化的系统。从构建一个能准确回答专业名词解释的模型开始，到它能调用仿真工具并生成一份可用的分析报告，每一步的突破都能为实际工作带来切实的效率提升。最关键的是始终保持与一线工程师的紧密沟通，让智能体解决的是他们真正的痛点，而不是技术人员的自嗨。