关于逻辑回归损失函数为什么取log 笔记

之前没有仔细想过其中的细节，今天刚好看到相关的资料，特此记录一下。

LR是一种广义的线性回归模型，平方损失函数的话，对于Sigmoid函数求导计算，无法保证是凸函数，在优化的过程中，求得的解有可能是局部最小，不是全局的最优值。其二：取完对数之后，对我们的后续求导比较方便。

并且如果根据似然函数，直接计算，有两点缺点：(1)不利于后续的求导，(2)似然函数的计算会导致下溢出。

下溢出，可以这样理解，最后计算的是相乘的结果，而每个计算之后的值都很小，样本如果很多的情况下，就导致下溢出了。