神经网络

非线性假设

$h_\theta(x)=g(\theta_0+\theta_1x_1+\theta_2x_2+\theta_3x_1x_2+\theta_4x_1^{2}x_2+\theta_5x_1^{3}x_2+\theta_6x_1x_2^{2}$ $......)$

前向传播

$h_\theta(x)={1\over 1+e^{-\theta^{T}x}}$

激活函数：非线性函数$g(z)={1\over1+e^{-z}}$

$\theta$：参数/权重

列向量x -> $\theta$矩阵 -> z -> sigmoid函数 g(z) -> a

其中 $z^{(2)}=\theta^{(1)}x$ ，$a^{(2)}= g(z^{(2)})$

循环：$z^{(3)}=\theta^{(2)}a^{(2)}$ , $h_\theta(x)=a^{(3)}=g(z^{(3)})$

例：