动机
线性判别分析(Linear Discriminant Analysis)又叫Fisher线性判别分析, 由Fisher1936年提出. 很多书把线性判别分析作为一种高斯分类器讲起, 但线性判别分析之所以流行还是因为它可以作为一种非常有效的降维技术. PCA也是一种常用的降维技术, 但它和线性判别分析完全不同. 线性判别分析属于监督学习范畴, 它是一个矩阵优化问题, 这个矩阵反映的是样本的变异信息. 后面我们会给出线性判别分析的解析解.
基本概念
假设维观测样本, 通过线性变换
,爱人,却不一定能够听懂。他们听见的,多是抱怨不休,心烦意乱。