PyTorch入门实战:深度学习基础与张量操作完整初体验
前言
想要入门深度学习,既要理解基础理论概念,更要动手实践。PyTorch是现在工业界、科研领域都非常热门的深度学习框架。Tensor(张量)是PyTorch的核心数据结构,神经网络所有输入、权重、中间计算结果全部都是张量。
本文结合理论+可直接运行代码示例,覆盖深度学习概念、PyTorch环境部署、张量全套基础操作。代码可以直接复制运行,适合新手入门学习。
运行环境说明:Python3.8+,PyTorch2.x,推荐使用Jupyter Notebook / PyCharm运行代码片段。
一、深度学习的概念和发展历史
1.1 什么是深度学习
机器学习是让计算机从数据里面学习规律;深度学习是机器学习的一个子方向,使用多层人工神经网络自动提取数据特征。
传统机器学习:需要人工手工设计特征。比如做图片识别,人要手动写算法提取图片边缘、纹理。 深度学习:直接喂原始数据,多层神经网络自动学习特征,不需要人工设计特征。
应用场景:图像分类、目标检测、大语言模型、语音识别、图像生成等。
1.2 发展简史
- 1943年:MP神经元模型提出,神经网络思想起源;
- 1958年:感知机模型诞生,可以做简单线性分类;
- 第一次AI寒冬:单层感知机无法解决异或问题,神经网络研究遇冷;
- 反向传播算法出现,多层神经网络成为可能,但是受限于算力、数据量,难以训练深层网络;
- 2012年 AlexNet横空出世,在图像竞赛大幅度碾压传统算法,深度学习时代正式开启;
- 随着GPU算力提升、互联网大数据积累,各类深度学习框架出现(Caffe、TensorFlow、PyTorch);
- 现在:大模型普及,PyTorch成为科研首选框架。
二、PyTorch安装环境的部署【实操】
目标:成功安装PyTorch,区分CPU/GPU版本,验证环境可用。
2.1 环境准备
强烈建议使用虚拟环境,防止不同项目包版本冲突,推荐Anaconda。
# 创建虚拟环境
conda create -n pytorch_env python=3.10
# 激活虚拟环境
conda activate pytorch_env
2.2 安装PyTorch
去PyTorch官网,选择系统、包管理工具、CUDA版本复制命令。
GPU版本(电脑有NVIDIA显卡,安装CUDA)示例命令
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia
CPU版本(无独立显卡)
pip3 install torch torchvision torchaudio --index-url [https://download.pytorch.org/whl/cpu](https://download.pytorch.org/whl/cpu)
2.3 验证是否安装成功
打开python交互终端,输入下面代码:
import torch
# 打印pytorch版本
print(torch.__version__)
# 检查GPU是否可用
print("cuda是否可用:", torch.cuda.is_available())
输出不报错,并且torch.cuda.is_available()GPU机器返回True,代表环境部署完成。
常见坑:装完但是cuda返回False,说明安装的是cpu版本,需要重新选择正确CUDA版本命令重装。
三、张量Tensor全套实操(带完整代码示例)
张量是PyTorch的基础,可以理解为多维数组:
- 0维张量:标量(单个数字)
- 1维张量:向量
- 2维张量:矩阵
- 3维/更高维:图片、文本序列等数据
导入包
import torch
import numpy as np
3.1 张量的创建
方式1:使用torch.tensor()从Python列表创建
# 0维张量 标量
t0 = torch.tensor(10)
print("0维张量:", t0)
print("形状shape:", t0.shape)
# 1维张量
t1 = torch.tensor([1, 2, 3, 4])
print("1维张量:", t1)
print("shape:", t1.shape)
# 2维张量 矩阵
t2 = torch.tensor([[1, 2], [3, 4]])
print("2维张量:")
print(t2)
print("shape:", t2.shape)
方式2:从numpy数组转张量
arr = np.array([1, 3, 5])
t_from_np = torch.tensor(arr)
print("numpy转tensor:", t_from_np)
方式3:创建空张量,只分配内存,值是随机垃圾数据
t_empty = torch.empty((2,3))
print("空张量:")
print(t_empty)
输出:
0维张量: tensor(10)
shape: torch.Size([])
1维张量: tensor([1, 2, 3, 4])
shape: torch.Size([4])
2维张量:
tensor([[1, 2],
[3, 4]])
shape: torch.Size([2, 2])
numpy转tensor: tensor([1, 3, 5])
3.2 创建全0、全1、指定值的张量
在深度学习中经常用来初始化权重、占位存储数据。
torch.zeros(shape):全部元素为0torch.ones(shape):全部元素为1torch.full(shape, fill_value):全部填充自定义数值
# 创建2行3列全0张量
zeros_t = torch.zeros((2, 3))
print("全0张量:")
print(zeros_t)
# 创建3行2列全1张量
ones_t = torch.ones((3, 2))
print("全1张量:")
print(ones_t)
# 创建2行2列,全部填充数值 8
full_t = torch.full((2, 2), fill_value=8)
print("指定填充值张量:")
print(full_t)
输出:
全0张量:
tensor([[0., 0., 0.],
[0., 0., 0.]])
全1张量:
tensor([[1., 1.],
[1., 1.],
[1., 1.]])
指定填充值张量:
tensor([[8, 8],
[8, 8]])
注意:zeros、ones默认是float浮点类型;full根据填充值自动推断类型。
3.3 张量元素数据类型转换
每个张量都有dtype属性,代表元素的数据类型。 常见类型:
torch.float32(默认浮点)torch.int64长整型torch.float64双精度浮点
运算的时候类型必须匹配,类型不匹配直接抛出异常。
使用.to()进行元素类型转换
# 整型张量
t_int = torch.tensor([1,2,3], dtype=torch.int64)
print("原始dtype:", t_int.dtype)
# 转为float32浮点
t_float = t_int.to(torch.float32)
print("转换后dtype:", t_float.dtype)
# 浮点转整型(会截断小数,丢失精度)
t_f = torch.tensor([1.9, 2.1])
t_f2int = t_f.to(torch.int64)
print("浮点转整型:", t_f2int) # 小数直接舍弃
输出:
原始dtype: torch.int64
转换后dtype: torch.float32
浮点转整型: tensor([1, 2])
⚠️ 注意:浮点数转整数会直接截断小数,不是四舍五入,会丢失精度,业务中要留意。
3.4 张量设备类型转换(CPU ↔ GPU)
张量除了元素dtype,还有设备属性device,分为CPU张量、GPU张量。 GPU运算速度更快,如果显卡可用,可以把张量迁移到GPU。
# 创建cpu上的张量
t_cpu = torch.tensor([1,2,3])
print("原始设备:", t_cpu.device)
if torch.cuda.is_available():
# 方法1 .to("cuda") 迁移到GPU
t_gpu = t_cpu.to("cuda")
print("迁移后设备:", t_gpu.device)
# 再迁回CPU
t_back_cpu = t_gpu.to("cpu")
print("迁回设备:", t_back_cpu.device)
坑:CPU张量和GPU张量不能直接做运算,必须放到同一个设备,否则报错。
3.5 张量的数值计算
张量支持丰富数学运算,支持张量与标量、张量与张量计算。遵循广播机制。
a = torch.tensor([[1, 2], [3, 4]])
b = torch.tensor([[5, 6], [7, 8]])
print("a:\n", a)
print("b:\n", b)
# 1. 标量运算
print("a + 2:\n", a + 2)
print("a * 3:\n", a * 3)
# 2. 张量之间逐元素加减乘除(不是矩阵乘法!)
print("a + b:\n", a + b)
print("a - b:\n", a - b)
print("a * b(逐元素相乘):\n", a * b)
print("a / b:\n", a / b)
# 3. 幂运算
print("a的平方:\n", a ** 2)
# 4. 矩阵乘法 @ / torch.matmul
mat_result = a @ b
print("矩阵乘法 a@b:\n", mat_result)
输出结果:
a:
tensor([[1, 2],
[3, 4]])
b:
tensor([[5, 6],
[7, 8]])
a + 2:
tensor([[3, 4],
[5, 6]])
a * 3:
tensor([[ 3, 6],
[ 9, 12]])
a + b:
tensor([[ 6, 8],
[10, 12]])
a - b:
tensor([[-4, -4],
[-4, -4]])
a * b(逐元素相乘):
tensor([[ 5, 12],
[21, 32]])
a / b:
tensor([[0.2000, 0.3333],
[0.4286, 0.5000]])
a的平方:
tensor([[ 1, 4],
[ 9, 16]])
矩阵乘法 a@b:
tensor([[19, 22],
[43, 50]])
重点区分:
*:逐元素相乘,对应位置数字相乘;@/torch.matmul():数学上标准矩阵乘法。
广播机制示例
形状不一样的张量满足广播规则也可以运算:
x = torch.tensor([[1],[2],[3]]) # shape [3,1]
y = torch.tensor([10,20]) # shape [2]
res = x + y
print("广播运算结果:\n", res)
四、常见踩坑小结
- 类型不匹配:int张量和float张量不能直接运算,需要
.to()转换dtype; - 设备不一致:CPU张量不能和GPU张量计算,统一to("cpu")或者to("cuda");
*不等于矩阵乘法,矩阵乘法要用@;- 浮点转整型会截断小数,不是四舍五入;
- 安装PyTorch后cuda还是False,说明版本装错。
总结
本篇完整完成:
- 深度学习基础概念与发展历史;
- PyTorch虚拟环境搭建、安装、验证;
- 张量多种创建方式;
- 全0、全1、指定数值张量初始化;
- 张量元素dtype类型转换;
- CPU/GPU设备迁移;
- 张量基础数值运算、矩阵乘法、广播示例。
张量是整个PyTorch的地基,后续神经网络、反向传播都是基于张量运算实现。掌握以上内容之后,可以继续学习张量维度变换、切片索引、广播机制等进阶内容。