当前位置：首页 > news >正文

7天掌握多类别分类：Machine-Learning-Specialization-Coursera项目Softmax回归终极指南

news 2026/9/1 13:23:26

7天掌握多类别分类：Machine-Learning-Specialization-Coursera项目Softmax回归终极指南

【免费下载链接】Machine-Learning-Specialization-CourseraContains Solutions and Notes for the Machine Learning Specialization By Stanford University and Deeplearning.ai - Coursera (2022) by Prof. Andrew NG项目地址: https://gitcode.com/gh_mirrors/ma/Machine-Learning-Specialization-Coursera

Machine-Learning-Specialization-Coursera项目是由斯坦福大学和Deeplearning.ai联合推出的机器学习专项课程解决方案，包含了Andrew NG教授2022年Coursera课程的全部笔记和实践代码。本指南将带你通过该项目中的Softmax回归实现，快速掌握多类别分类的核心技术。

为什么选择Softmax回归进行多类别分类？

在机器学习中，分类问题可以分为二分类和多类别分类。二分类问题（如判断邮件是否为垃圾邮件）通常使用逻辑回归，但当面对多个可能的结果时（如手写数字识别中的0-9），Softmax回归成为更理想的选择。

![二分类与多类别分类对比](https://raw.gitcode.com/gh_mirrors/ma/Machine-Learning-Specialization-Coursera/raw/d5c95ffb5b1524367e1a9147707ec4725298d715/C2 - Advanced Learning Algorithms/week2/C2W2A1/images/C2_W2_BinaryVsMultiClass.png?utm_source=gitcode_repo_files)图：二分类与多类别分类的区别，左图为二分类问题，右图为多类别分类问题

Softmax回归能够将多个神经元的输出转换为概率分布，使模型能够同时处理多个类别，这在图像识别、自然语言处理等领域有着广泛应用。

Softmax函数的工作原理

Softmax函数是多类别分类的核心，它将神经网络输出的原始分数（logits）转换为概率分布。其数学公式如下：

$$a_j = \frac{e^{z_j}}{ \sum_{k=0}^{N-1}{e^{z_k}} }$$

其中，$z_j$是第j个类别的原始分数，$a_j$是转换后的概率值。

![Softmax函数与逻辑回归对比](https://raw.gitcode.com/gh_mirrors/ma/Machine-Learning-Specialization-Coursera/raw/d5c95ffb5b1524367e1a9147707ec4725298d715/C2 - Advanced Learning Algorithms/week2/C2W2A1/images/C2_W2_Softmax.png?utm_source=gitcode_repo_files)图：逻辑回归与Softmax回归的对比，展示了Softmax如何处理多个输出类别

Softmax函数具有两个重要特性：

每个类别的输出概率在0到1之间
所有类别的概率之和为1

这使得输出结果可以直接解释为属于各个类别的概率。

Softmax回归的损失函数

多类别分类通常使用交叉熵损失函数，对于Softmax回归，损失函数定义为：

$$loss(a_{1},...,a_{N},y) = -\log(a_j) \quad \text{if } y=j$$

![Softmax损失函数](https://raw.gitcode.com/gh_mirrors/ma/Machine-Learning-Specialization-Coursera/raw/d5c95ffb5b1524367e1a9147707ec4725298d715/C2 - Advanced Learning Algorithms/week2/C2W2A1/images/C2_W2_SoftMaxCost.png?utm_source=gitcode_repo_files)图：逻辑回归与Softmax回归的损失函数对比

这个损失函数会惩罚错误分类，当模型对正确类别给出低概率时，损失值会增大。

如何构建Softmax回归模型

在Machine-Learning-Specialization-Coursera项目中，你可以在C2 - Advanced Learning Algorithms/week2/C2W2A1/C2_W2_Assignment.ipynb找到完整的Softmax回归实现。以下是构建模型的关键步骤：

1. 导入必要的库

import numpy as np import tensorflow as tf from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Dense

2. 构建神经网络模型

model = Sequential([ tf.keras.layers.InputLayer((400,)), # 输入层，400个特征对应20x20像素图像 tf.keras.layers.Dense(25, activation="relu", name="L1"), # 隐藏层1 tf.keras.layers.Dense(15, activation="relu", name="L2"), # 隐藏层2 tf.keras.layers.Dense(10, activation="linear", name="L3") # 输出层，10个类别 ])

3. 编译模型

model.compile( loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True), optimizer=tf.keras.optimizers.Adam(learning_rate=0.001), )

![带Softmax输出的神经网络](https://raw.gitcode.com/gh_mirrors/ma/Machine-Learning-Specialization-Coursera/raw/d5c95ffb5b1524367e1a9147707ec4725298d715/C2 - Advanced Learning Algorithms/week2/C2W2A1/images/C2_W2_SoftMaxNN.png?utm_source=gitcode_repo_files)图：具有Softmax输出层的神经网络结构，用于手写数字识别