在感知器算法中训练样本需要经过增广化处理和规范化处理。

特征选择常用的次优算法有顺序前进法，顺序后退法和动态顺序前进法三种。

参数估计是已知概率密度的形式，而参数未知。

顺序后退法（SBS）是从0个特征开始，每次从已经入选的特征中剔除一个特征，使得仍保留的特征组合所得到的J值最大，是一种特征选择的最优算法。

我们在对某一模式x进行分类判别决策时，只需要算出它属于各类的条件风险就可以进行决策了。

分级聚类又叫层次聚类，需要构建聚类树。

概率密度函数的估计的本质是根据训练数据来估计概率密度函数的形式和参数。

测试集的样本数量越多，对分类器错误率的估计就越准确。

多类问题的贝叶斯分类器中判别函数的数量与类别数量是有直接关系的。

当各类的协方差矩阵相等时，分类面为超平面，并且与两类的中心连线垂直。