张量的基础运算

张量的基本概念

张量是多维数组的泛化概念，标量（0维）、向量（1维）、矩阵（2维）均可视为张量的特例。在深度学习和科学计算中，张量是核心数据结构，支持高效的数值运算。

创建张量

以Python库numpy和torch为例：

import numpy as np import torch # 创建numpy数组（张量） np_tensor = np.array([[1, 2], [3, 4]]) # 创建PyTorch张量 torch_tensor = torch.tensor([[1, 2], [3, 4]])

算术运算

张量支持逐元素运算（加减乘除）和广播机制：

a = torch.tensor([1, 2]) b = torch.tensor([3, 4]) # 逐元素加法 result_add = a + b # 输出: tensor([4, 6]) # 逐元素乘法 result_mul = a * b # 输出: tensor([3, 8])

矩阵乘法

使用@或torch.matmul进行矩阵乘法：

A = torch.tensor([[1, 2], [3, 4]]) B = torch.tensor([[5, 6], [7, 8]]) # 矩阵乘法 result_matmul = A @ B # 输出: tensor([[19, 22], [43, 50]])

张量变形

通过reshape或view改变张量形状：

x = torch.arange(6) # tensor([0, 1, 2, 3, 4, 5]) y = x.reshape(2, 3) # tensor([[0, 1, 2], [3, 4, 5]])

聚合操作

对张量进行求和、均值等操作：

z = torch.tensor([[1.0, 2.0], [3.0, 4.0]]) # 全局求和 sum_all = z.sum() # 输出: tensor(10.) # 沿维度求和 sum_dim0 = z.sum(dim=0) # 输出: tensor([4., 6.])

梯度计算（自动微分）

PyTorch张量可通过requires_grad=True启用梯度追踪：

x = torch.tensor(2.0, requires_grad=True) y = x ** 2 y.backward() # 计算梯度 print(x.grad) # 输出: tensor(4.0)

张量设备转换

在CPU与GPU之间移动张量：

if torch.cuda.is_available(): gpu_tensor = torch.tensor([1, 2]).cuda() cpu_tensor = gpu_tensor.cpu()