wangwlj

本系列将通过大概十篇左右文章来分析 PyTorch 的自动微分功能如何实现。本文是前向传播的第一篇，介绍自动微分（梯度计算）所涉及的部分 PyTorch 基础类。

本文从 PyTorch 两篇官方文档开始为大家解读两个示例。本文不会逐句翻译，而是选取重点并且试图加入自己的理解。

本文和上文以 [Automatic Differentiation in Machine Learning: a Survey] 为基础，逐步分析自动微分这个机器学习的基础利器。

WITH_NCCL: 单机上多GPU通信，支持MPI编程。单PCIe上性能最好，虽然多PCIe也可运行。 CUBLAS/Thrust：这个是CUDA的BLAS部分会用到。这个文档直接读NVIDIA官方的就好了 这个部分是PyTorch里最底层的部分，但是也是我觉得写的最好的部分…

我们经常会问 AI 一些问题，大多数情况下，它会综合各种资料，给我们想要的回答。 但有的时候就不行了： 比如我写了 10 年的日记，这些都是私密信息，没有公开。 那让 AI 给我总结下我的一些经历，是

2024 年 11 月的 GitHub 热门项目前十排行榜，涵盖了自动化工具、AI 教程、低代码平台、社交应用和文档管理等领域，展示了最新的技术趋势和解决方案。

这期是被人才群交流里，还有很多之前网友评论强行顶出来的一期，就是让我介绍自己常用的一些工具给他们安利一下，我一听很高兴呀，帅丙我这么乐于奉献的人是吧。 千万不要白嫖，真香警告⚠️。 但是我在构思这篇文章的时候发现我贴个标题，然后发下软件信息会不会太乏味了，于是创作鬼才我呀，准备…

小姐姐♀说先拿出offer炸炸人，否则没人看...咱不是那么庸俗的人，但也没有那么脱俗... 百度三面电话没接起来，然后没然后了... 滴滴给了一“真内推”（直接问能来实习不，来就有...），不过最近在风头上，考虑中... offer的具体工作内容不介绍了，怕被HR小姐姐查出来…

再次感谢作者。 昨天我从Youtube上把PyCon2018和PyData2018两个会议对自己比较有用的视频下载下来，昨天分享的《使用pandas做更好的数据科学》来自PyData2018。受到该演讲者内容启发写了本文。 日常生活中，像亚马逊、淘宝、京东、今日头条等各大互联网…