ddlee每周分享

ddlee weekly汇总每周我认为值得分享的信息，以“原链接+评论”的方式呈现，分为博文、开源项目、教程资源、技术简讯、应用推荐等版块，关注的主要方向为AI、计算机视觉、Android、Linux及泛互联网话题。 无特殊情况时，每周日晚更新。 RSS Feed地址为http…

ddlee weekly汇总每周我认为值得分享的信息，以“原链接+评论”的方式呈现，分为博文、开源项目、教程资源、技术简讯、应用推荐等版块，关注的主要方向为AI、计算机视觉、Android、Linux及泛互联网话题。 无特殊情况时，每周日晚更新。 RSS Feed地址为http…

本篇是keras源码笔记系列的第三篇。在前两篇中，我们分析了keras对Tensor和Layer等概念的处理，并说明了它们是如何作用别弄个构成有向无环图的。本篇着眼于多层网络模型层面的抽象，即与用户距

本篇继续讨论keras的源码结构。 第一篇源码笔记中我们观察了Layer, Tensor和Node是如何耦合在一起的，而本篇的重点是观察多层网络构成的有向无环图（DAG）。主要涉及的文件为keras/engine/topology.py， 要观察的类是Container。

Keras架构的主要逻辑实现在/keras/engine/topology.py中，主要有两个基类Node()和Layer()，一个重要函数Input()。具体地， Layer()是一个计算层的抽象，完成网络中对Tensor的计算过程； Node()描述两个层之间连接关系的抽象，配合Layer()构建DAG； Input()实例化一个特殊的Layer(InputLayer)，将backend（TensorFlow或Theano）建立的Tensor对象转化为Keras Tensor对象。

本文讨论LSTM网络的Pytorch实现，兼论Pytorch库的代码组织方式和架构设计。

权重衰减（weight dacay），即L^2范数惩罚，是最常见的正则化技术之一。本文将介绍它是如何起作用的。

文字是传达信息的最好载体，我们需要解构包装信息的逻辑和修辞比喻等附属之物，获取真正的语义并内化为自己的一部分。RSS保留了订阅者和信息产生者各自原初的界限和权利，是比渠道更单纯的信息收集方式。