fisher线性判别方法可以将样本从多维空间投影到一维空间。

在进行交叉验证时，一般让临时训练集较大，临时测试集较小，这样得到的错误率估计就更接近用全部样本作为训练样本时的错误率。

特征选择常用的次优算法有顺序前进法，顺序后退法和动态顺序前进法三种。

在总的样本集不是很大的情况下，可以采用交叉验证法来较好的估计分类器性能。

基于数据的方法适用于特征和类别关系不明确的情况。

理想的判据应该对特征具有单调性，加入新的特征不会使判据减小。

当各类的协方差矩阵不等时，决策面是超二次曲面。

我们在对某一模式x进行分类判别决策时，只需要算出它属于各类的条件风险就可以进行决策了。

动态顺序前进法（l-r）法是按照单步最优的原则从未入选的特征中选择l个特征，再从已入选的特征中剔除r个特征，使得仍保留的特征组合所得到的J值最大。

顺序后退法（SBS）是从0个特征开始，每次从已经入选的特征中剔除一个特征，使得仍保留的特征组合所得到的J值最大，是一种特征选择的最优算法。