【深度学习】笔记1-感知机

125 阅读2分钟

持续创作,加速成长!这是我参与「掘金日新计划 · 10 月更文挑战」的第22天,点击查看活动详情 # 前言

活动地址:CSDN21天学习挑战赛

🚀 个人主页:阿阿阿阿锋的主页_CSDN 🔥 本文属于个人笔记,比较乱 🔥 希望和大家一起加油,一起进步!

在这里插入图片描述


1. 感知机

体会:

  1. 实现异或的那个例子很巧妙

函数和概念:

  1. np.ndim(A) 求numpy数组的维数

  2. np.dot(A, B) 将A和B做矩阵乘法(注意:矩阵乘法不具有可交换性)

problem:

  1. 感知机一定是指线性的吗?不能是多项式的?

  2. 阶跃的激活函数与平滑的激活函数

  3. 关于二维数组的行列表示

    对A[3][4],其中3为第0维的元素个数,称为行数;4为第1维的元素个数,称为列数。

    感觉从一维到二维有一点不协调,所以向量是竖着排的确实很有特点。

推荐书籍:

  1. 《计算机系统要素:从零开始构建现代计算机》。

    这本书以深入理解计算机为主题,论述了通过 NAND构建可运行俄罗斯方块的计算机的过程。此书能让读者真实体会到,通过简单的 NAND元件就可以实现计算机这样复杂的系统。

摘抄:

  1. 本书在使用“感知机”一词时,没有严格统一它所指的算法。一般而言,“朴素感知机”是指单层网络,指的是激活函数使用了 阶跃函数 的模型。“多层感知机”是指神经网络,即使用 sigmoid函数(后述)等平滑的激活函数的多层网络。

  2. 从视觉上确认函数的形状对理解函数而言很重要

  3. 之所以sigmoid函数的实现能支持NumPy数组,秘密就在于NumPy的广播功能(1.5.5节)。根据NumPy 的广播功能,如果在标量和NumPy数组之间进行运算,则标量会和NumPy数组的各个元素进行运算。

  4. 如果把这两个函数与水联系起来,则阶跃函数可以比作“竹筒敲石”A,sigmoid函数可以比作“水车”。阶跃函数就像竹筒敲石一样,只做是否传送水(0或1)两个动作,而sigmoid函数就像水车一样,根据流过来的水量相应地调整传送出去的水量。

单词:

aligned 对齐

元组(tuple)

参考:

深度学习入门:基于Python的理论与实现 (斋藤康毅)