fisher线性判别的基本思想

Question

如题所述

Answer 1

Fisher线性判别分析的基本思想：选择一个投影方向（线性变换，线性组合），将高维问题降低到一维问题来解决，同时变换后的一维数据满足每一类内部的样本尽可能聚集在一起，不同类的样本相隔尽可能地远。

Fisher线性判别分析，就是通过给定的训练数据，确定投影方向W和阈值w0， 即确定线性判别函数，然后根据这个线性判别函数，对测试数据进行测试，得到测试数据的类别。

Fisher判别分析是要实现有最大的类间距离，以及最小的类内距离。

性判别函数的一般形式可表示成

g ( X ) = W T X + w 0 g(X)=W^TX+w_{0}

g(X)=W 

T X+w 0其中

Fisher选择投影方向W的原则，即使原样本向量在该方向上的投影能兼顾类间分布尽可能分开，类内样本投影尽可能密集的要求。

（1）、W的确定

各类样本均值向量mi

、Fisher线性判别的决策规则

1.投影后，各类样本内部尽可能密集，即总类内离散度越小越好。
2.投影后，各类样本尽可能离得远，即样本类间离散度越大越好。
根据这两个性质，可求出。