机器学习3

Logistic Regression

特征方程

Cost Function

若是延用原来的Cost Function，在梯度下降的时候会局限于很多的局部最优解，对全局最优解的寻找产生影响。

求导吧

首先，用个小技巧把两个情况合二为一。

得到如下：

正规化

• 逻辑回归正规化公式
  
• 梯度下降正规化公式
  

相关矩阵小技巧

如果我想要把两个矩阵的对应项相乘，那么是不是只有循环了，但是若是我们考虑一下最终的形式，多数情况下，我们不仅要相乘还有相加，所以不用循环。