利用神经网络对两类问题进行分类时，可以用一个输出节点来实现。

特征选择常用的次优算法有顺序前进法，顺序后退法和动态顺序前进法三种。

隐含层或输出层具有激活函数。

在感知器算法中训练样本需要经过增广化处理和规范化处理。

类间离散度矩阵代表了每一个类的重心到整个样本集的重心之间的距离。

贝叶斯估计中是将未知的参数本身也看作一个随机变量，要做的是根据观测数据对参数的分布进行估计。

在监督模式识别中，分类器的形式越复杂，对未知样本的分类精度就越高。

概率密度函数的估计的本质是根据训练数据来估计概率密度函数的形式和参数。

特征提取不仅可以降低特征空间的维度，还可以消除特征之间的相关性。

一个数据集能生成多种决策树。