2.3 逻辑回归的代价函数(Logistic Regression Cost Function)
单个样本的cost function用Loss function来表示,使用平方误差(squared error):
逻辑回归一般不使用平方误差来作为Loss function。原因是这种Loss function一般是non-convex的。
non-convex函数在使用梯度下降算法时,容易得到局部最小值(localminimum),即局部最优化。而最优化的目标是计算得到全局最优化(Global optimization),因此一般选择的Loss function应该是convex的
构建另外一种Loss function(针对单个样本),且是convex的:
Last updated