费希尔判别的基本原理是什么?

2023年1月26日10:31:50费希尔判别的基本原理是什么?已关闭评论

费希尔判别是依据方差分析原理建立起来的一种判别分析方法,其基本思路就是投影,针对 P 维空间中的某点 x =( x 1 , x 2 ,…, x p )'寻找一个能使它降为一维数值的线性函数 。然后应用这个线性函数把 P 维空间中的已知类别总体以及未知类别归属的样本都变换为一维数据,再根据其间的亲疏程度对未知归属的样本点判定归属。这个线性函数在把 P 维空间中的所有点转化为一维数值之后,既能最大限度地缩小同类中各个样本点之间的差异,又能最大限度地扩大不同类别中各个样本点之间的差异,这样才可能获得较高的判别效率。这里借用了一元方差分析的思想,即依据组间均方差与组内均方差之比最大的原则来进行判别。

费希尔线性判别函数系数向量 C 的求取及判别步骤如下:

(1)根据公式 求取矩阵 W 。

(2)根据 W 求它的逆矩阵 W -1 。

(3)列出矩阵 M 、 I 、 J 。

费希尔判别的基本原理是什么?

(4)根据公式 求矩阵 B ,进一步求矩阵 W -1 B 。

(5)根据方程| W - 1 B - λ I |=0求取矩阵 W -1 B 的最大特征值 λ 。

(6)将求得 λ 值代入方程( W -1 B - λ I ) C =0,求特征向量 C ,组成费希尔线性判别函数:

y( x)=C'X

(7)对于空间未知归属的任意点用所求线性函数将其转化为一维值并进行排序。

(8)求取分界点。有两种方法。

第一种为简单求法,即以相邻两总体线性中心的中点作为分界点。

第二种方法吸取贝叶斯学派思想,考虑先验概率的信息,两相邻总体之间的分界点按下式计算:

费希尔判别的基本原理是什么?

与不考虑先验概率相比,先验概率较大的总体所对应的区间长度会明显增加。

在费希尔判别中,如果未知各类别总体的期望向量和协方差矩阵,可以从样本数据出发进行计算。

  • 版权声明:本篇文章(包括图片)来自网络,由程序自动采集,著作权(版权)归原作者所有,如有侵权联系我们删除,联系方式(QQ:452038415)。