概率密度函数的参数估计需要一定数量的训练样本，样本越多，参数估计的结果越准确。

概率密度函数的估计的本质是根据训练数据来估计概率密度函数的形式和参数。

在进行交叉验证时，一般让临时训练集较大，临时测试集较小，这样得到的错误率估计就更接近用全部样本作为训练样本时的错误率。

类间离散度矩阵代表了每一个类的重心到整个样本集的重心之间的距离。

隐含层或输出层具有激活函数。

在感知器算法中训练样本需要经过增广化处理和规范化处理。

顺序后退法（SBS）是从0个特征开始，每次从已经入选的特征中剔除一个特征，使得仍保留的特征组合所得到的J值最大，是一种特征选择的最优算法。

分支定界法计算量一定比穷举法小。

参数估计是已知概率密度的形式，而参数未知。

利用神经网络对两类问题进行分类时，可以用一个输出节点来实现。