Google 2017年的论文 Attention is all you need 阐释了什么叫做大道至简！该论文提出了Transformer模型，完全基于Attention mechanism，抛弃了传统的RNN和CNN。 我们根据论文的结构图，一步一步使用 PyTorch …

损失函数，又叫目标函数，用于计算真实值和预测值之间差异的函数，和优化器是编译一个神经网络模型的重要要素。 损失Loss必须是标量，因为向量无法比较大小（向量本身需要通过范数等标量来比较）。 损失函数一般分为4种，HingeLoss 0-1 损失函数，绝对值损失函数，平方损失函数…

比较全面的机器学习资源列表，涉及预备知识、理论、应用、课程与讲座等内容，希望对了解、自学机器学习的朋友有所帮助。（分享自：GitHub）

在新一年即将到来之际，我们为各位掘金的用户献上 2017 年终 Top 10 终极榜单，为大家总结这一年里最活跃的用户、最赞的文章和最被用户关心的技术内容。 可以看到，在这些开发者最关心的技术里，有 3 个与机器学习相关，3 个与数据挖掘及架构相关，此外还有基础知识。当然最最重…