k-近邻法中k的选取一般为偶数。

分支定界法计算量一定比穷举法小。

顺序后退法（SBS）是从0个特征开始，每次从已经入选的特征中剔除一个特征，使得仍保留的特征组合所得到的J值最大，是一种特征选择的最优算法。

利用神经网络对两类问题进行分类时，可以用一个输出节点来实现。

在总的样本集不是很大的情况下，可以采用交叉验证法来较好的估计分类器性能。

ID3方法的目的是降低系统信息熵。

我们在对某一模式x进行分类判别决策时，只需要算出它属于各类的条件风险就可以进行决策了。

特征选择常用的次优算法有顺序前进法，顺序后退法和动态顺序前进法三种。

测试集的样本数量越多，对分类器错误率的估计就越准确。

一个数据集能生成多种决策树。