周志华 《机器学习》笔记二 线性模型

第三章 : 线性模型

3.1 基本形式

给定由d个描述的示例 x= (x1,x2, x3 ….. xd) ,期中xi 是x 在 x 第i个属性的取值,线性模型(linear model)试图学得一个属性的线性组合来惊醒预测的函数即:

f(x) = w1x1 …. wdxd + b,

一般用向量形式写成

f(x) = w(矩阵) x + b

一下为几个经典的线性回归

3.2 线性回归

f(xi) = wxi + b 使得 (fxi) ≈ yi

如何确定 w 和 b 呢:我们求线性变换的均方误

差的最小化来确定 w b

(w* ,b *) = (yi- wxi – b)²

3.3 对数回顾

3.4 线性判别分析

3.5 多分类学习

3.6 类别不平衡问题

 

习题

Leave a Reply

Your email address will not be published. Required fields are marked *