LECTURE 21 Classification and Logistic Regression I

Recording
Slides
Type
Lecture
讲了logistic regression中的:
  • 对数几率:线性回归的结果是对数几率
  • sigma函数:讲线性回归的结果压缩到了01之间。由对数几率可以推导出来
  • mse作为损失函数的缺陷:非凸,没法较好的衡量模型
  • 交叉熵作为损失函数的特点。

从线性回归到逻辑回归

线性回归得到的结果当作 对数几率,就有了逻辑回归
notion imagenotion image
notion imagenotion image

Sigmoid 函数

notion imagenotion image
notion imagenotion image
notion imagenotion image
notion imagenotion image

参数解释

notion imagenotion image
notion imagenotion image

损失函数

MSE的问题

notion imagenotion image
notion imagenotion image
notion imagenotion image

交叉熵损失

notion imagenotion image
notion imagenotion image
notion imagenotion image
notion imagenotion image
notion imagenotion image