当前位置：首页 > news >正文

Nanbeige 4.1-3B一文详解：如何扩展支持更多＜think＞子标签（如＜plan＞＜verify＞）

news 2026/8/24 5:48:16

Nanbeige 4.1-3B一文详解：如何扩展支持更多子标签（如）

1. 项目背景与需求

Nanbeige 4.1-3B是一款具有独特像素游戏风格的AI对话前端，专为提升用户体验而设计。该系统原生支持<think>标签，能够将模型的思考过程可视化展示在"系统日志"中，既保持了界面整洁，又满足了技术爱好者对AI思考过程的好奇心。

随着用户需求的多样化，我们发现仅支持<think>标签已不能满足复杂场景的需求。特别是在以下情况：

需要展示AI的多阶段思考过程时
希望区分计划制定和验证过程时
需要更结构化地展示推理链条时

因此，我们需要扩展支持<think>的子标签系统，特别是<plan>和<verify>标签，使AI的思考过程更加透明和可解释。

2. 技术实现方案

2.1 现有架构分析

当前系统采用以下技术栈：

前端：Streamlit + 自定义CSS像素风格
后端：Transformers库加载Nanbeige 4.1-3B模型
标签处理：正则表达式匹配<think>内容

# 现有think标签处理代码片段 import re def process_think_tags(text): think_pattern = r'<think>(.*?)</think>' return re.sub(think_pattern, lambda m: f'[系统日志] {m.group(1)}', text)

2.2 子标签扩展设计

为实现子标签支持，我们需要：

修改正则表达式模式：支持嵌套标签识别
添加样式区分：不同子标签使用不同视觉样式
维护标签上下文：确保标签嵌套关系正确

# 新的标签处理函数草案 def process_extended_tags(text): # 支持think/plan/verify三级标签 tag_pattern = r'<(think|plan|verify)>(.*?)</\1>' def replacer(match): tag_type = match.group(1) content = match.group(2) if tag_type == 'think': return f'[系统日志] {content}' elif tag_type == 'plan': return f'[作战计划] {content}' elif tag_type == 'verify': return f'[验证过程] {content}' return re.sub(tag_pattern, replacer, text, flags=re.DOTALL)

2.3 前端样式适配

为保持像素风格一致性，我们需要为不同子标签设计专属样式：

标签类型	背景色	边框样式	图标
`<think>`	`#F0F0F0`	1px虚线`#888888`	⚙️齿轮图标
`<plan>`	`#E6F3FF`	2px实线`#4D96FF`	🗺️地图图标
`<verify>`	`#FFEEEE`	2px实线`#FF6B6B`	🔍放大镜图标

/* 新增CSS样式 */ .system-log .think { background-color: #F0F0F0; border-left: 4px dotted #888888; padding: 8px; } .system-log .plan { background-color: #E6F3FF; border-left: 4px solid #4D96FF; padding: 8px; } .system-log .verify { background-color: #FFEEEE; border-left: 4px solid #FF6B6B; padding: 8px; }

3. 完整实现步骤

3.1 后端修改

更新文本处理管道，支持多级标签解析
添加标签类型验证，防止非法嵌套
实现内容安全过滤，防止XSS攻击

# 完整标签处理器实现 class TagProcessor: def __init__(self): self.tag_stack = [] def process(self, text): pattern = r'<(/?)(think|plan|verify)>(.*?)</\2>' def replacer(match): is_close = match.group(1) tag_type = match.group(2) content = match.group(3) if is_close: if not self.tag_stack or self.tag_stack[-1] != tag_type: raise ValueError(f"标签嵌套错误: 期望关闭{self.tag_stack[-1]}，实际关闭{tag_type}") self.tag_stack.pop() return f'[/{tag_type}]' else: self.tag_stack.append(tag_type) return f'[{tag_type}] {content}' return re.sub(pattern, replacer, text, flags=re.DOTALL)

3.2 前端集成

修改Streamlit组件以支持新标签渲染
添加标签类型到样式的映射
实现动态滚动效果，确保长日志可读

# Streamlit前端集成代码 import streamlit as st from tag_processor import TagProcessor processor = TagProcessor() def display_message(msg, is_user=False): processed = processor.process(msg) if is_user: st.markdown(f'<div class="player-msg">{processed}</div>', unsafe_allow_html=True) else: st.markdown(f'<div class="bot-msg">{processed}</div>', unsafe_allow_html=True)

3.3 测试验证

为确保功能稳定性，建议进行以下测试：

单元测试：验证标签解析正确性
集成测试：检查前后端协同工作
性能测试：确保不影响原有响应速度
安全测试：防止注入攻击

# 示例单元测试 import unittest class TestTagProcessor(unittest.TestCase): def setUp(self): self.processor = TagProcessor() def test_think_tag(self): text = "<think>测试思考</think>" result = self.processor.process(text) self.assertEqual(result, "[think] 测试思考[/think]") def test_nested_tags(self): text = "<think><plan>测试计划</plan></think>" result = self.processor.process(text) self.assertEqual(result, "[think] [plan] 测试计划[/plan][/think]") if __name__ == '__main__': unittest.main()

4. 实际应用示例

4.1 完整对话示例

用户: 如何提高网站的访问量？ AI: <think> <plan> 1. 分析当前流量来源 2. 识别最有潜力的渠道 3. 制定具体优化方案 </plan> <verify> 根据SimilarWeb数据，当前70%流量来自搜索引擎 建议优先优化SEO策略 </verify> 基于以上分析，我建议... </think>