跟李沐学AI基础知识学习--pytorch篇

本次实验使用了sklearn中的数据s曲线，示意图如下： 在扩散模型中，需要定义在每一步所添加的噪声的β值，即其标准差。 让每一步的β呈递增状态，且范围规范至0到1之间 很关键的一步： 就是扩散过程中

本随记大部分内容整合自b站up：deep_thoughts以及csdn博客http://t.csdnimg.cn/yAIKL 基础知识： 马尔科夫链：下一时刻的状态只与当前时刻状态有关，与此时刻之前的

目标检测、语义分割、实例分割的区别： 目标检测是为了定位和区分类别，用方框框出来 语义分割可以看成更精细化的目标检测，但是是顺着物体的边缘的 实例分割将图像中的物体划分为个体。更为精细化的语义分割 经

区域卷积神经网络（region-based CNN或regions with CNN features，R-CNN） 使用启发式搜索算法选择锚框 使用预训练模型对每个锚框抽取特征 训练SVM对类别分类

以每个像素为中心，生成多个缩放比和宽高比（aspect ratio）不同的边界框。 这些边界框被称为锚框（anchor box） 在图像中提取多个被称为锚框的区域 预测每个锚框中是否有关注的物体 若含

目标检测定义：图像里有多个我们感兴趣的目标，我们不仅想知道它们的类别，还想得到它们在图像中的具体位置。 边界框：（bounding box）来描述对象的空间位置。 边界框是矩形的，由矩形左上角的以及右

weight_decay---模型参数（正则化） lr_decay---优化参数（在优化算法中实现） 统计模型+优化模型 下载数据集&整理数据集 读取CSV文件中的标签，它返回一个字典，该字典将文件名

图像增广 图像增广在对训练图像进行一系列的随机变化之后，生成相似但不同的训练样本，从而扩大了训练集的规模。 此外，应用图像增广的原因是，随机改变训练样本可以减少模型对某些属性的依赖，从而提高模型的泛化

批量规范化（batch normalization） 用于加快深层神经网络的收敛速度。 训练神经网络时的挑战 预处理方式会对结果产生巨大影响 使用真实数据时，需标准化输入特征，使其均值为0方差为1，进

卷积的输出形状 填充（padding）：扩大输出维度，防止过多信息损失 --卷积核通常都为奇数 步幅（stride）：为了高效计算或是缩减采样次数，卷积窗口可以跳过中间位置，每次滑动多个元素。（通常取

卷积神经网络（convolutional neural networks，CNN）是机器学习利用自然图像中一些已知结构的创造性方法。 适合于计算机视觉的神经网络架构。 平移不变性（translatio

访问参数，用于调试、诊断和可视化； 参数初始化； 在不同模型组件间共享参数。 这里需要注意：对全连接层的参数只有两个，权重和偏置，可以读取网络中对应的参数。 从嵌套块中收集参数 网络中的大致架构：就是

前言：本科阶段学过这部分内容，但为了加深印象就简单整理一下，此处的笔记可能较为简略。 1、层和块 当考虑具有多个输出的网络时， 我们利用矢量化算法来描述整层神经元。 像单个神经元一样，层（1）接受一组

数值稳定性 不稳定梯度带来的风险不止在于数值表示； 不稳定梯度也威胁到我们优化算法的稳定性。 我们可能面临一些问题。 要么是梯度爆炸（gradient exploding）问题： 参数更新过大，破坏了

一些tricks 模型选择与欠拟合和过拟合 将模型在训练数据上拟合的比在潜在分布中更接近的现象称为过拟合（overfitting）， 用于对抗过拟合的技术称为正则化（regularization）。

多层感知机 ----我们可以通过在网络中加入一个或多个隐藏层来克服线性模型的限制， 使其能处理更普遍的函数关系类型。 要做到这一点，最简单的方法是将许多全连接层堆叠在一起。 每一层都输出到上面的层，直

SOFTMAX回归 基本概念回顾： 回归---估计一个连续值 分类---预测一个离散类别 softmax回归：实质是一个多类分类问题，得到对于每个类的预测置信度，并使用交叉熵来衡量预测和标号之间的差异

线代部分知识 ----对reshape后的数组，第一个2表示分两组，后面的3和4表示每一组为3*4的二维数组 ----向量是标量的推广，矩阵是向量的推广。 --按照某个轴进行累加求和X.cumsum(

对数据预处理和数据访问等的回忆。 Numpy和tensor库 CSV--------------------------------------------