西瓜书day2,day3,day4(线性模型)

基本形式

example:

$\mathbb{x}=(x_1;x_2;...;x_d)$

$x_i$是 $\mathbb{x}$ 在第i个属性上的取值线性模型试图学得$f(\mathbb{x})=\mathbb{w}^T\mathbb{x}+b$ 来预测函数,$\mathbb{w}$ 和 $b$ 为参数

线性模型优点:可解释性强

分类:

  • 回归
  • 分类

回归

均方误差是回归任务中最常用的性能度量

一元线性回归

多元线性回归

更一般的情形,样本由多个属性决定,此时 $f(\mathbb{x}_i)=\mathbb{w}^T\mathbb{x}_i+b$, 称为多元线性回归

依旧用最小二乘法

对数几率回归