深度学习从0到1实战笔记

神经网络由层和块组成，层是基本单元，多个层可组成一个块。顺序块简化层的组合，自定义块则提供更灵活的前向传播。理解这些概念有助于构建高效的网络模型。

本文介绍如何在Kaggle平台进行房价预测，从数据预处理、特征工程到模型训练和预测。学习使用PyTorch实现线性回归，掌握K折交叉验证等技巧，帮助你在数据科学比赛中提升技能，积累实践经验。

本文探讨了机器学习中的“分布偏移”问题，分析了协变量偏移、标签偏移等类型，并介绍了如何通过调整权重和标签分布应对这些挑战，提升模型准确性。

深度学习中，数值稳定性和模型初始化对训练效果至关重要。本文将探讨梯度消失、对称性打破和参数初始化等核心概念，结合公式和代码示例，帮助读者优化神经网络训练，避免常见数值问题。

在这篇文章中，我们将深入探讨神经网络的两个核心过程：前向传播和反向传播。前向传播从输入层开始，逐层计算出神经网络的输出；反向传播则通过梯度计算，更新网络的参数。

暂退法（Dropout）是一种正则化技术，通过随机丢弃神经元输出，避免过拟合，提高模型的泛化能力，广泛应用于深度神经网络中。

本篇文章介绍了正则化方法及其在深度学习中的应用，重点讲解了权重衰减（L2范数惩罚）如何通过控制模型复杂度来防止过拟合，并探讨了深度学习框架中优化器的实现方式。

机器学习的目标是发现数据的普遍模式，而非简单记忆样本。如何避免过拟合、提升模型泛化能力，是构建高效模型的核心挑战。本篇将深入解析训练误差与泛化误差、欠拟合与过拟合问题及解决方法。

本文介绍了多层感知机（MLP）的结构及实现，通过 PyTorch 高级 API 构建模型，并用 Fashion-MNIST 数据集演示训练过程，展示 MLP 的强大表达能力。

本文通过从零实现多层感知机（MLP），详细讲解了其结构、激活函数、损失函数及训练过程，并在Fashion-MNIST数据集上完成训练，帮助读者深入理解深度学习的核心概念。

多层感知机通过引入隐藏层和非线性激活函数，使得模型能够捕捉到复杂的非线性关系，超越了简单的线性模型。我们讨论了 MLP 的基本结构，并介绍了 ReLU、Sigmoid 和 Tanh 等常用激活函数。

本文介绍了如何使用 PyTorch 实现 Softmax 回归，解决多类别分类问题。通过优化模型结构和损失函数，提升分类准确性，轻松应对图像数据的分类任务。

这篇文章详细介绍了Softmax回归模型的实现，包括模型参数初始化、Softmax运算、交叉熵损失函数、精度评估与训练方法，最终通过Python代码和小批量随机梯度下降优化方法实现图像分类应用。

Fashion-MNIST是一个包含10个类别图像的服装分类数据集，在图像分类中广泛应用。通过灵活的数据加载和迭代功能，我们可以轻松获取小批量数据用于训练模型。

本文介绍了Softmax回归在分类任务中的应用，从网络架构、参数计算到Softmax运算与交叉熵损失函数，深入探讨如何通过Softmax实现多类别概率分布预测。

本文深入浅出地讲解了如何使用深度学习框架PyTorch简洁实现线性回归模型，涵盖数据生成、模型定义、损失函数和优化算法等关键步骤，让初学者也能轻松理解并应用于实际项目。

本节将从零开始实现整个方法，包括数据流水线、模型、损失函数和小批量随机梯度下降优化器。尽管现代深度学习框架几乎可以自动化地进行所有这些工作，但从零开始实现可以确保我们真正知道自己在做什么。

本文深入浅出地讲解了线性回归的基本原理和实践应用，涵盖模型构建、损失函数和优化等关键内容，并结合PyTorch框架实现代码，帮助读者快速掌握机器学习基础知识。

本篇文章深入探讨概率论在日常生活中的实际应用，涵盖金融预测、医疗诊断、气象预测等领域，结合代码示例帮助读者更好地理解概率计算的核心概念及其在机器学习中的重要性。

求导是几乎所有优化算法的核心步骤。随着模型复杂度的增加，手动求导变得异常繁琐且容易出错。为了解决这个问题，自动微分应运而生，高效地帮助我们计算复杂模型中的梯度，极大地简化了深度学习的优化过程。