AI技术研究员

（！！！超多gif图片预警） （本文旨在优化一维函数，实际上模型参数有数百万维以上，差距很大，因此本文最好作为辅助法的理解，而非对算法优劣的判断依据。） 8.13更新算法6：二阶算法牛顿法，算法7：牛顿法+正则化 在深度学习中，有很多种优化算法，这些算法需要在极高维度（通常参数…