PyTorch实战进阶(一)：基于CNN的Fashion MNIST图像分类与模型优化

1. 从基础模型到优化策略的跨越

当你第一次用PyTorch跑通Fashion MNIST分类时，看到测试集91%的准确率可能会觉得"模型已经够好了"。但真实场景中，我们往往需要反复优化才能达到工业级精度。我曾在一个服装识别项目中，通过系统化的调优将准确率从89%提升到96%——这7个百分点的提升让客户投诉率直接下降了40%。

原始的三层CNN结构虽然简单有效，但存在几个典型问题：训练后期损失函数波动明显、验证集准确率停滞不前、对衬衫/外套等相似类别容易混淆。这些现象就像汽车仪表盘上的警告灯，提醒我们需要检查模型的"健康状况"。

2. 模型诊断：找出性能瓶颈

2.1 损失曲线分析的艺术

先来看一个实际案例。当我用默认参数训练基础CNN时，损失曲线是这样的：

plt.figure(figsize=(10,5)) plt.plot(train_losses, label='Training Loss') plt.plot(val_losses, label='Validation Loss') plt.title('Loss Curves Before Optimization') plt.xlabel('Epochs') plt.ylabel('Loss') plt.legend()

这段代码会生成两条曲线：训练损失持续下降但验证损失在第五轮后开始反弹——这是典型的过拟合信号。就像医生看X光片，我们需要学会解读这些曲线的"语言"：

• 两条曲线同步下降：模型学习正常
• 训练损失下降但验证损失持平：模型容量不足
• 验证损失突然飙升：学习率可能过高
• 曲线剧烈波动：批次大小可能太小

2.2 混淆矩阵的隐藏信息

准确率只是冰山一角。用PyTorch生成混淆矩阵能发现更多细节：

from sklearn.metrics import confusion_matrix cnn.eval() all_preds = [] all_labels = [] with torch.no_grad(): for images, labels in test_loader: outputs = cnn(images) _, preds = torch.max(outputs, 1) all_preds.extend(preds.numpy()) all_labels.extend(labels.numpy()) cm = confusion_matrix(all_labels, all_preds) plt.figure(figsize=(10,8)) sns.heatmap(cm, annot=True, fmt='d', cmap='Blues')

在我的实验中，模型经常把第6类（Shirt）误判为第0类（T-shirt）或第3类（Dress）。这种特定类别的混淆提示我们需要调整数据增强策略。

3. 网络结构优化实战

3.1 深度与宽度的平衡

原始模型的三个卷积层（16-32-64通道）对于Fashion MNIST可能过于简单。参考VGG的堆叠思想，我尝试了以下改进：

class EnhancedCNN(nn.Module): def __init__(self): super().__init__() self.features = nn.Sequential( nn.Conv2d(1, 32, 3, padding=1), nn.BatchNorm2d(32), nn.ReLU(), nn.Conv2d(32, 32, 3, padding=1), nn.BatchNorm2d(32), nn.ReLU(), nn.MaxPool2d(2), nn.Dropout(0.25), nn.Conv2d(32, 64, 3, padding=1), nn.BatchNorm2d(64), nn.ReLU(), nn.Conv2d(64, 64, 3, padding=1), nn.BatchNorm2d(64), nn.ReLU(), nn.MaxPool2d(2), nn.Dropout(0.25), nn.Conv2d(64, 128, 3, padding=1), nn.BatchNorm2d(128), nn.ReLU(), nn.Conv2d(128, 128, 3, padding=1), nn.BatchNorm2d(128), nn.ReLU(), nn.MaxPool2d(2), nn.Dropout(0.25) ) self.classifier = nn.Sequential( nn.Linear(128*3*3, 512), nn.ReLU(), nn.Dropout(0.5), nn.Linear(512, 10) )

关键改进点：

• 每个卷积块包含两个卷积层，增强特征提取能力
• 逐步增加通道数（32→64→128）
• 添加Dropout层防止过拟合
• 更深的网络结构需要配合批量归一化(BatchNorm)

3.2 残差连接的妙用

对于更复杂的数据集，可以引入ResNet的残差连接。这里给出一个适合Fashion MNIST的轻量级实现：

class ResidualBlock(nn.Module): def __init__(self, in_channels): super().__init__() self.conv1 = nn.Conv2d(in_channels, in_channels, 3, padding=1) self.bn1 = nn.BatchNorm2d(in_channels) self.conv2 = nn.Conv2d(in_channels, in_channels, 3, padding=1) self.bn2 = nn.BatchNorm2d(in_channels) def forward(self, x): residual = x out = F.relu(self.bn1(self.conv1(x))) out = self.bn2(self.conv2(out)) out += residual return F.relu(out)

在主体网络中嵌入残差块，即使网络加深也能保持梯度流动。实测显示这种结构对套衫(Pullover)和外套(Coat)的区分效果提升明显。

4. 超参数调优的科学方法

4.1 学习率动态调整

Adam优化器默认的0.001学习率可能不是最优选择。我推荐使用学习率预热和余弦退火：

optimizer = torch.optim.Adam(model.parameters(), lr=0.01) scheduler = torch.optim.lr_scheduler.CosineAnnealingWarmRestarts( optimizer, T_0=10, # 初始周期长度 T_mult=2, # 周期倍增系数 eta_min=1e-5 # 最小学习率 )

在训练循环中加入：

for epoch in range(epochs): scheduler.step() # 训练代码...

这种策略让学习率在0.01到1e-5之间波动，既保证快速收敛又避免陷入局部最优。

4.2 批次大小与泛化性能

批次大小不仅影响内存占用，更与模型泛化能力相关。通过实验发现：

中等大小的批次（64-128）通常表现最好。可以使用梯度累积模拟大批次：

accum_steps = 4 # 累积4个批次再更新 for i, (images, labels) in enumerate(train_loader): outputs = model(images) loss = criterion(outputs, labels) loss = loss / accum_steps # 梯度归一化 loss.backward() if (i+1) % accum_steps == 0: optimizer.step() optimizer.zero_grad()

5. 数据增强的创造性实践

5.1 基础增强策略

PyTorch的transforms模块提供了丰富的增强选项：

train_transform = transforms.Compose([ transforms.RandomHorizontalFlip(), transforms.RandomRotation(10), transforms.RandomAffine(degrees=0, translate=(0.1, 0.1)), transforms.ColorJitter(brightness=0.2, contrast=0.2), transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,)) ])

这些变换模拟了真实场景中的图像变化：左右翻转、轻微旋转、位置偏移和亮度变化。

5.2 高级增强技巧

对于相似类别混淆问题，可以针对性设计增强：

class SelectiveAugment: """对易混淆类别增强更激进""" def __call__(self, img, label): if label in [0, 2, 4, 6]: # 上衣类 transform = transforms.Compose([ transforms.RandomPerspective(distortion_scale=0.3, p=0.5), transforms.RandomResizedCrop(28, scale=(0.7, 1.0)), # 其他增强... ]) return transform(img) return img

在Dataset类中应用这个增强器，可以让模型看到更多难样本的变体。

6. 正则化技术组合拳

6.1 Dropout的精细配置

不同位置的Dropout需要不同比率：

self.features = nn.Sequential( # 卷积层后使用较小的dropout nn.Dropout(0.2), # ... ) self.classifier = nn.Sequential( # 全连接层使用较大的dropout nn.Dropout(0.5), # ... )

6.2 权重衰减与早停

在优化器中加入L2正则化：

optimizer = torch.optim.Adam( model.parameters(), lr=0.001, weight_decay=1e-4 # L2惩罚项 )

配合早停机制：

best_acc = 0 patience = 5 counter = 0 for epoch in range(100): train(model) acc = evaluate(model) if acc > best_acc: best_acc = acc counter = 0 torch.save(model.state_dict(), 'best_model.pth') else: counter += 1 if counter >= patience: print("Early stopping") break

7. 模型集成与测试时增强

7.1 快照集成(Snapshot Ensemble)

在训练后期保存多个模型快照：

for epoch in range(100): # ...训练代码... if epoch >= 80 and epoch % 2 == 0: torch.save(model.state_dict(), f'snapshot_{epoch}.pth')

预测时取多个模型的平均：

models = [EnhancedCNN().load_state_dict(torch.load(f)) for f in snapshot_files] preds = torch.zeros(len(test_loader.dataset), 10) for model in models: model.eval() with torch.no_grad(): for i, (images, _) in enumerate(test_loader): outputs = model(images) preds[i*batch_size:(i+1)*batch_size] += outputs

7.2 测试时增强(TTA)

对测试图像进行多次增强后取平均预测：

def tta_predict(model, image, n_aug=5): augments = [ transforms.RandomHorizontalFlip(p=1), transforms.RandomRotation(10), # 其他增强... ] outputs = [] for _ in range(n_aug): aug = random.choice(augments) aug_img = aug(image) outputs.append(model(aug_img.unsqueeze(0))) return torch.mean(torch.stack(outputs), dim=0)

这些策略通常能带来1-2%的额外提升，在竞赛中往往是决胜关键。