政治光谱分析系统工程实现：从基线模型到BERT微调全流程

做政治光谱分析，技术难点并不在“调用一个现成模型”，而在于把文本立场转换成可量化的连续评分，并保证评分有可解释性、稳定性和服务化能力。围绕 “AI Models – Political Compass” 这个主题，很多开发者第一反应是拿 GPT 类模型直接问“这段文本是左还是右”，但真正落地时会发现：不同语境下同一个词可以导向完全不同的判断，标签体系不统一则模型无法迭代，模型输出分数不等于置信概率，离线评估指标不错也可能在线上数据里翻车。这篇文章会从任务建模、数据构建、机器学习基线、开源语言模型微调、API 服务部署到排查方式，完整走一遍政治光谱分析系统的工程实现。

1. 政治光谱分析系统到底在分析什么

1.1 先定义清楚输入和输出，而不是直接套“情感分类”

政治光谱分析表面上是文本分类，但它的目标和常见的情感分析有本质区别。情感分析关心的是“作者情绪的正负”，比如一段影评是好评还是差评；政治光谱分析关心的是“文本表达的立场倾向”，目标是判断一段政策主张、媒体评论或公共发言落在哪个意识形态框架中。

因此这个任务的输入应该是结构化的文本片段，输出不能只有一个类别标签。最稳妥的做法是建立二维连续评分：

使用连续值而不是硬分类，是因为立场本身是光谱式的。硬分类会让模型在边界样本上产生大量“非左即右”的错误，而回归式输出可以保留中间地带。最终展示给用户时，再把坐标映射到四象限：经济左/社会自由、经济左/社会威权、经济右/社会自由、经济右/社会威权。

1.2 二维评估框架的合理性和标注难度

政治光谱的评估框架在学术界有很多版本，工程上不需要纠结哪种最权威，重要的是保持标签维度与业务解释一致。这里的两个维度分别评估“政府对经济的态度”和“政府对个人生活、社会秩序的态度”，这样设计有三个好处：

• 两个维度间信息重叠少，模型训练时更容易收敛。
• 文本中往往只谈其中一种主题，比如经济政策文本很少涉及社会管控，此时另一个维度应输出接近 0 的中立值。
• 用户阅读理解成本低，给出一个二维坐标就能快速定位立场位置。

标注难度是这个项目最容易低估的地方。给一段文本打一个“经济立场 0.8”这样的分数，需要的不是普通情感标注直觉，而是对政策语言背景的理解。实际建议是让多名标注者分别打分，取平均值作为标签，同时记录标注标准差，相当于给每个样本一个“可信度”权重。

1.3 技术选型：为什么先做基线，再微调模型

这类任务常见的技术路线有三种：传统机器学习特征、开源预训练模型微调、闭源大模型提示词推理。三条路线各有适合场景，不能只看效果。

工程上推荐顺序是：先做廉价基线，用基线错误分析暴露数据问题，再决定是否投入时间做模型微调。直接跳过基线上大模型，经常会在数据质量问题出现时无法判断是标签错、特征错还是模型错。

2. 环境准备：先把依赖和数据集格式定下来

2.1 Python 环境与依赖清单

政治光谱分析系统涉及文本处理、模型训练和服务化部署，建议使用独立的 Python 虚拟环境。项目根目录下创建requirements.txt：

transformers==4.41.2 torch>=2.1.0 scikit-learn==1.4.2 pandas==2.2.2 fastapi==0.111.0 uvicorn[standard]==0.30.1 datasets==2.19.0

安装命令：

python -m venv .venv source .venv/bin/activate pip install -r requirements.txt

安装完成后建议确认关键依赖是否可用：

python -c "import transformers, torch, sklearn; print(transformers.__version__, torch.__version__, sklearn.__version__)"

如果本机没有 NVIDIA GPU，PyTorch 会自动安装 CPU 版本，微调代码可以跑通，但训练速度会明显变慢。实际项目中如果只有 CPU，建议把训练集控制在几百条以内，并调小 batch_size。

2.2 数据集格式设计

训练数据采用 JSONL 格式，每行一条样本，包含正文和两个维度分数。字段名固定为economy和authority，取值范围是 -1 到 1：

{"text": "增加对大企业的税收减免，减少政府干预，让市场自由调节。", "economy": 0.8, "authority": 0.2} {"text": "提高最低工资标准，扩大公共医疗覆盖范围，由财政承担更多民生支出。", "economy": -0.8, "authority": -0.3} {"text": "加强网络内容审核，用统一规范和更严格的法律维护公共秩序。", "economy": 0.1, "authority": 0.8} {"text": "取消不必要的行政审批，保护个人隐私，限制公权力对私人生活的过度介入。", "economy": -0.3, "authority": -0.8}

这里特别说明一点：示例文本只是用于演示数据格式和模型逻辑，不代表任何特定现实立场。真实项目里使用的语料需要由业务方确认来源和使用边界。

数据目录规划如下：

data/ political_compass_train.jsonl political_compass_eval.jsonl src/ build_dataset.py baseline.py train_bert.py app.py models/ #

2.3 最小测试语料生成脚本

为了快速验证流程，可以先写一个脚本生成小型模拟语料。这个脚本的价值不是生成真实训练数据，而是让后续代码可以在完整数据准备好之前跑通：

import json import random samples = [ { "text": "财政应当重点保障教育、医疗和养老等民生领域支出。", "economy": -0.7, "authority": -0.2, }, { "text": "政府应减少对市场价格的直接干预，让企业自主定价。", "economy": 0.7, "authority": 0.1, }, { "text": "个人信息保护需要更严格的法律边界，公权不得随意调用。", "economy": 0.0, "authority": -0.9, }, { "text": "重要信息发布应当经过合规审核，避免不实信息扩散。", "economy": 0.1, "authority": 0.7, }, ] with open("data/political_compass_train.jsonl", "w", encoding="utf-8") as f: for item in samples: f.write(json.dumps(item, ensure_ascii=False) + "\n") print("sample dataset created")

这个脚本对应的检查点是：data目录下出现 JSONL 文件，每行是一个合法 JSON 对象，且economy和authority都在 -1 到 1 之间。真实标注数据接入时，建议增加一条校验规则：超出范围或字段缺失时直接报错，不进入训练流程。

3. 先做机器学习基线，把数据质量看清楚

3.1 TF-IDF 特征与多维回归

在投入 BERT 微调之前，先用 TF-IDF 构建词袋特征，用两个独立的岭回归模型分别预测经济维度和社会维度。选择 Ridge 回归而不是普通线性回归的原因在于，TF-IDF 特征在高维空间里会有大量稀疏维度，Ridge 的 L2 正则化可以抑制过拟合，让模型不会因为某一个词出现次数异常就产生极端预测。

import json import numpy as np from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.linear_model import Ridge from sklearn.metrics import mean_absolute_error, r2_score def load_data(path): texts, economy, authority = [], [], [] with open(path, "r", encoding="utf-8") as f: for line in f: item = json.loads(line) texts.append(item["text"]) economy.append(item["economy"]) authority.append(item["authority"]) return texts, np.array(economy), np.array(authority) train_texts, train_econ, train_auth = load_data("data/political_compass_train.jsonl") eval_texts, eval_econ, eval_auth = load_data("data/political_compass_eval.jsonl") vectorizer = TfidfVectorizer(ngram_range=(1, 2), max_features=5000) train_vectors = vectorizer.fit_transform(train_texts) eval_vectors = vectorizer.transform(eval_texts) econ_model = Ridge(alpha=1.0) auth_model = Ridge(alpha=1.0) econ_model.fit(train_vectors, train_econ) auth_model.fit(train_vectors, train_auth) econ_pred = econ_model.predict(eval_vectors) auth_pred = auth_model.predict(eval_vectors) print("economy MAE:", mean_absolute_error(eval_econ, econ_pred)) print("authority MAE:", mean_absolute_error(eval_auth, auth_pred)) print("economy R2:", r2_score(eval_econ, econ_pred)) print("authority R2:", r2_score(eval_auth, auth_pred))

这里使用ngram_range=(1, 2)是希望特征能捕获一些双词短语，比如“税收减免”“市场自由”。max_features=5000控制了特征空间规模，避免出现几万个稀疏特征拖慢训练。

3.2 基线模型的评估结果怎么读

基线模型能跑通，不等于系统已经可用。需要关注三个核心指标：

• MAE 平均绝对误差：反映预测分与真实分的平均差距，数值越小越好。比如经济维度 MAE 为 0.31，表示模型平均偏离标注分数 0.31 个刻度。
• R2 决定系数：反映模型对标签方差的解释程度。接近 1 表示解释力强，接近 0 表示预测基本无效。
• 误差分布：即使整体 MAE 正常，也要检查是否在某个区间误差特别大，比如极端分数 -0.9 和 0.9 是否系统性偏小。

在这个最小案例中，数据条数太少，评估结果没有统计意义，但它能暴露一个关键问题：TF-IDF 模型只能学习“词的出现与分数之间的关系”，无法理解“否定”和“转折”。比如“不支持减少政府干预”这种否定表达，模型很容易只看“减少政府干预”几个词而打出错误的右倾分数。

3.3 什么时候需要放弃基线，进入深度模型

出现以下三种现象时，就应该进入阶段 4 的 BERT 微调或大语言模型方案：

• 验证集的 MAE 在多次调整特征参数后依然居高不下。
• 错误样例中出现明显的否定句、反讽句、长距离转折句误判。
• 业务方要求输出百分比置信度或可以解释的原词权重，而 TF-IDF 的解释粒度不足以支撑。

需要强调的是，基线模型在真实项目中并不会被完全丢弃。很多部署环境对推理延迟和资源占用有严格要求，语言模型服务不可用时，一个保存好的 Ridge 模型可以作为降级方案快速响应。

4. 微调开源语言模型：让模型学会上下文语义

4.1 为什么采用回归式双输出结构

BERT 类模型本身是通用语言模型，要在政治光谱任务上工作，需要在其顶部加一个回归层。这里使用AutoModelForSequenceClassification，设置num_labels=2，并把problem_type指定为回归，模型会输出两个连续值，分别对应经济维度和社会维度。

选回归而不是四分类，原因在于分类会丢失幅度信息。一个经济立场 0.9 的文本和一个 0.2 的文本如果都被归为“右”，模型就无法区分强度的差异。回归式输出保留了这一点，同时也能在需要时按阈值映射回四象限。

4.2 数据加载与 Dataset 定义

import json import torch from torch.utils.data import Dataset from transformers import AutoTokenizer class PoliticalCompassDataset(Dataset): def __init__(self, path, tokenizer, max_length=128): self.texts = [] self.labels = [] with open(path, "r", encoding="utf-8") as f: for line in f: item = json.loads(line) self.texts.append(item["text"]) self.labels.append([item["economy"], item["authority"]]) self.tokenizer = tokenizer self.max_length = max_length def __len__(self): return len(self.texts) def __getitem__(self, idx): text = self.texts[idx] encoding = self.tokenizer( text, truncation=True, padding="max_length", max_length=self.max_length, return_tensors="pt", ) return { "input_ids": encoding["input_ids"].squeeze(0), "attention_mask": encoding["attention_mask"].squeeze(0), "labels": torch.tensor(self.labels[idx], dtype=torch.float32), }

这个 Dataset 把每条文本编码成固定长度的 token 序列，标签是两个浮点数。truncation=True避免超长文本撑爆显存，max_length=128对于多数政策短文本已经足够。这里要注意padding="max_length"会带来额外计算量，如果数据量很大，可以只按 batch 内部最大长度 padding，但这里为了简化保持固定长度。

4.3 训练脚本核心代码

模型选择bert-base-chinese，因为它对中文的通用语义理解能力在中小模型里比较均衡。实际项目可以根据语料语言和规模换用其他模型，比如roberta-base-chinese或chinese-macbert-base。

from transformers import AutoModelForSequenceClassification, TrainingArguments, Trainer model = AutoModelForSequenceClassification.from_pretrained( "bert-base-chinese", num_labels=2, problem_type="regression", ) training_args = TrainingArguments( output_dir="./checkpoints", num_train_epochs=5, per_device_train_batch_size=8, per_device_eval_batch_size=8, learning_rate=2e-5, warmup_ratio=0.1, logging_steps=20, evaluation_strategy="epoch", save_strategy="epoch", save_total_limit=2, load_best_model_at_end=True, ) train_dataset = PoliticalCompassDataset("data/political_compass_train.jsonl", tokenizer) eval_dataset = PoliticalCompassDataset("data/political_compass_eval.jsonl", tokenizer) trainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, eval_dataset=eval_dataset, ) trainer.train() trainer.save_model("models/compass_bert")

在训练前需要实例化 tokenizer：

tokenizer = AutoTokenizer.from_pretrained("bert-base-chinese")

如果用 CPU 训练，建议将per_device_train_batch_size调整到 2 或 4，num_train_epochs可以减少到 2，先验证流程能跑通。

4.4 训练参数怎么定

学习率是微调阶段最重要的参数。2e-5是 BERT 微调任务中的常见默认值。调大学习率可能导致预训练权重被破坏，调小则训练速度变慢、模型可能停留在欠拟合状态。

epoch 的选择要看验证集 MAE 是否开始回升。如果训练到第 4 轮时验证集误差已经停止下降，就没有必要继续跑到 10 轮。save_total_limit=2只保留最近两个 checkpoint，避免磁盘被中间过程文件占满。

4.5 把回归分数映射回四象限

模型推理输出的是两个连续值，要落回业务图表，可以通过阈值映射：

def polarize(economy, authority): economy_label = "left" if economy < 0 else "right" authority_label = "liberty" if authority < 0 else "authority" return f"{economy_label}-{authority_label}"

阈值可以取 0，也可以取业务侧定义的偏移量。比如之前对“中立”样本的标注集中在 -0.2 到 0.2，那么可以把 -0.25 到 0.25 定义为中立区，避免把无语义倾向的文本强行归入某一象限。映射逻辑必须单独维护文档，因为它直接影响业务展示口径。

5. 搭建推理 API 和批量分析脚本

5.1 FastAPI 提供服务

训练好的模型单独放一个进程，通过 REST API 对外提供服务，是生产环境比较常见的方式，也方便和现有业务系统对接。最小服务如下：

from fastapi import FastAPI from pydantic import BaseModel from transformers import AutoModelForSequenceClassification, AutoTokenizer import torch app = FastAPI() model_name = "models/compass_bert" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForSequenceClassification.from_pretrained(model_name) model.eval() class TextRequest(BaseModel): text: str class CompassResponse(BaseModel): economy: float authority: float quadrant: str @app.post("/predict") def predict(req: TextRequest): encoding = tokenizer( req.text, truncation=True, padding="max_length", max_length=128, return_tensors="pt", ) with torch.no_grad(): output = model(**encoding).logits economy = float(output[0][0].item()) authority = float(output[0][1].item()) return CompassResponse( economy=round(economy, 3), authority=round(authority, 3), quadrant=polarize(economy, authority), ) @app.get("/health") def health(): return {"status": "ok"}

启动命令：

uvicorn app:app --host 0.0.0.0 --port 8000

这里要注意，模型加载到内存需要一定时间，服务启动时不要立刻压测。生产环境建议在启动脚本中加入模型预热逻辑，请求一次 /health 确认模型已就绪。

5.2 批量分析 CSV 文件

接口适合单条请求，批量分析场景建议绕过 HTTP，直接复用模型加载逻辑：

import json import pandas as pd import torch from transformers import AutoModelForSequenceClassification, AutoTokenizer def batch_predict(csv_path, model_dir="models/compass_bert", max_length=128): tokenizer = AutoTokenizer.from_pretrained(model_dir) model = AutoModelForSequenceClassification.from_pretrained(model_dir) model.eval() df = pd.read_csv(csv_path) results = [] for text in df["text"].tolist(): encoding = tokenizer(text, truncation=True, padding="max_length", max_length=max_length, return_tensors="pt") with torch.no_grad(): logits = model(**encoding).logits results.append({ "text": text, "economy": round(float(logits[0][0]), 3), "authority": round(float(logits[0][1]), 3), }) return results if __name__ == "__main__": result = batch_predict("data/documents.csv") with open("data/results.jsonl", "w", encoding="utf-8") as f: for r in result: f.write(json.dumps(r, ensure_ascii=False) + "\n")

批量脚本的核心问题不是模型推理，而是内存和失败恢复。对于上万条文本，建议分块处理并记录进度，防止中途崩溃后全部重跑。

5.3 输出分数不等于概率

这是本系统最容易误用的点。模型输出的economy=0.8表示的是文本在“经济干预 vs 市场自由”轴上的倾向位置，不是“有 80% 概率属于右翼”。如果要输出置信度，需要额外的统计工具：

• 对同一条文本做多次预测并加入随机 dropout，观察分数方差，方差大说明该样本处于模型难以判断的区域。
• 使用温度缩放校准分类概率，但这需要独立的验证集。
• 直接保留原始分数提供给用户，避免用“置信度”误导决策。

在实际交互界面里，正确的做法是把分数可视化成一个坐标点，让它落在四象限的某个位置，用户能直观看到离中线多远。而不是把两个分数展示成两个百分比。

6. 从结果到结论：评估指标、错误分析与排查

6.1 回归误差与分类一致性要分开看

模型上线前只报一个 MAE 不够，建议同时统计分类一致性。分类一致性是指：当前样本的真实标签若落在“右-威权”象限，模型预测是否也落在同一象限。这个指标对业务端最直观。

def quadrant(economy, authority): if economy >= 0 and authority >= 0: return "right-authority" if economy >= 0 and authority < 0: return "right-liberty" if economy < 0 and authority >= 0: return "left-authority" return "left-liberty" true_quadrants = [quadrant(e, a) for e, a in zip(eval_econ, eval_auth)] pred_quadrants = [quadrant(e, a) for e, a in zip(econ_pred, auth_pred)] accuracy = sum(t == p for t, p in zip(true_quadrants, pred_quadrants)) / len(true_quadrants) print("quadrant accuracy:", accuracy)

这个评估有一个盲区：文本本身可能就是中立文本，比如“今天上午九点召开新闻发布会”这类纯事实信息，真实标签接近 (0, 0)，映射到象限会因为微小波动而随机抖动。因此评估时要把标签绝对值低于某个阈值的中立样本单独拿出来看，不能混入象限准确率。

6.2 常见问题排查清单

6.3 数据偏移与标签噪声是长期问题

政治光谱分析语料天然带有时间属性和地域属性。一年前的公共议题热词与当前差异很大，一个只在旧语料上训练的模型很可能在分析近期文本时失准。建议每季度抽样一批最新线上数据重新标注，计算新数据在旧模型上的 MAE。如果 MAE 明显高于离线验证集，说明存在数据偏移，需要补充微调数据。

标签噪声方面，不要只取一个标注者的结果。多人标注时要计算两人之间评分的皮尔逊相关系数，相关系数低于 0.6 的维度说明标注指南不清晰，需要重新梳理定义。高质量的政治光谱训练集，其建设成本往往远超模型训练成本，这个开销应该在项目计划里单独列出来。

7. 生产环境落地时的工程化建议

7.1 学习环境与生产环境的差异

学习环境可以接受模型只在一个 notebook 里跑通，生产环境则必须考虑模型版本、数据版本、推理性能、异常回滚和审计日志。

7.2 可复用检查清单

政治光谱 AI 系统在发布前，可以按这份清单逐项确认：

• 数据采集和标注是否符合来源授权和合规要求。
• 文本预处理链路是否包含空值、超长文本、异常字符处理。
• 训练集、验证集、测试集是否做到时间上互不重叠。
• 标签分布是否覆盖了四个象限以及中立区间。
• 模型训练过程是否记录了超参数、训练集版本、数据量。
• 是否计算了回归 MAE、R2 和象限分类准确率三项指标。
• 是否检查了边界样本的原始输出分数，而不只观察象限。
• API 是否包含健康检查、超时限制和异常响应格式。
• 输出分数是否有说明文档，是否明确“分数不是置信概率”。
• 当模型服务崩溃时，是否存在降级策略。

这份清单也可以直接用于代码审查阶段。每个问题都有一个明确检查动作，而不是笼统提醒“注意数据质量”。

7.3 扩展方向：多语言、多标签与 LLM Agent

政治光谱分析系统后续可以从以下方向扩展。

第一是多语言。中文语料训练的模型无法直接用于英文文本，需要引入多语言模型或翻译后再推理。注意翻译会改变语气，翻译文本的评分不能与原文评分直接比较。

第二是多标签细化。当前只有经济和秩序两维，业务上如果需要区分环境政策、移民政策、科技监管等子主题，应该把任务拆成多标签回归，而不是继续扩大二维坐标的复杂度。否则维度之间会互相干扰，标注一致性也会下降。

第三是接入 LLM Agent。当输入文本很长，比如一整篇演讲或访谈记录，可以直接切分片段后逐个分析，再利用一个 LLM 汇总多维度的得分并给出总结理由。此时 BERT 回归模型负责稳定输出结构化分数，LLM 负责生成解释文案，两者职责分离，比让 LLM 直接输出分数更可控。

对于想要继续深入这项技术的团队，建议先把注意力放在两个地方：一是建立可靠的小规模标注集，二是把回归误差和分类误差分开评估。政治光谱分析本质上是“带语义理解的连续文本回归”问题，任何单一模型都无法绕过数据和评估这两道关。先把最小闭环做扎实，再谈更复杂的模型和能力扩展。