北斗星司

# -*- coding:utf-8 -*- import os import numpy as np import torch import cv2 import torch.nn as nn from torch.utils.data import DataLoader import torch

原因是因为checkpoint设置好的确是保存了相关字段。但是其中设置的train_dataset却已经走过了epoch轮，当你再继续训练时候，train_dataset是从第一个load_data开始。 # -*- coding:utf-8 -*- import os import numpy a

学习率调整 class _LRScheduler 主要属性 optimizer:关联的优化器 last_epoch:记录epoch数 bash_lrs:记录初始学习率 class _LRScheduler(object): def __init__(self, optimizer, last_epo

5和6是在数据回归中用的较多的损失函数 5. nn.L1Loss 功能：计算inputs与target之差的绝对值 代码： nn.L1Loss(reduction='mean') 公式： \[ l_n = |x_n-y_n| \] 6. nn.MSELoss 功能：计算inputs与

损失函数 1. 损失函数概念 损失函数：衡量模型输出与真实标签的差异 \[ 损失函数(Loss Function): Loss = f(\hat y,y) \] \[ 代价函数(Cost Function): Cost =\frac{1}{N} \sum^{N}_{i}f(\hat y_i ,y_i

权值的方差过大导致梯度爆炸的原因 方差一致性原则分析Xavier方法与Kaiming初始化方法 饱和激活函数tanh，非饱和激活函数relu pytorch提供的十种初始化方法 梯度消失与爆炸 \[ H_2 = H_1 * W_2\\ \Delta W_2 = \frac{\partial Loss

https://blog.csdn.net/weixin_36604953/article/details/102652160

import torch.nn as nn from PIL import Image from torchvision import transforms from matplotlib import pyplot as plt import torch import sys import os

卷积层 1. 1d/2d/3d卷积 Dimension of Convolution 卷积运算：卷积核在输入信号（图像）上滑动，相应位置上进行乘加 卷积核：又称为滤波器，过滤器，可认为是某种模式，某种特征。 卷积过程类似于用一个模版去图像上寻找与它相似的区域，与卷积核模式越相似，激活值越高，从而实现