题目
CART分类树算法使用基尼系数代替信息增益比,基尼系数代表了模型的不纯度,基尼系数越大,则不纯度越高,特征越好。A. 正确B. 错误
CART分类树算法使用基尼系数代替信息增益比,基尼系数代表了模型的不纯度,基尼系数越大,则不纯度越高,特征越好。
A. 正确
B. 错误
题目解答
答案
B. 错误
解析
本题考查CART分类树算法中基尼系数的相关知识。解题思路是明确基尼系数的含义以及它与模型不纯度和特征优劣的关系。
- 首先,基尼系数是用来衡量模型不纯度的指标。其计算公式为:$Gini(p)=\sum_{k = 1}^{K}p_{k}(1 - p_{k})=1-\sum_{k = 1}^{K}p_{k}^{2}$,其中$p_{k}$是第$k$类样本在样本集中所占的比例,$K$是类别数。
- 然后,从公式可以看出,当所有样本都属于同一类时,即存在某个$p_{k}=1$,其余$p_{j}=0(j\neq k)$,此时$Gini(p)=1 - 1^{2}=0$,这表示模型的不纯度最低。相反,当各类样本比例均匀时,基尼系数会达到最大值。例如,在二分类问题中,当$p_1 = p_2=0.5$时,$Gini(p)=1-(0.5^{2}+0.5^{2})=1 - 0.25 - 0.25 = 0.5$。
- 最后,在CART分类树算法中,我们选择特征的原则是使得划分后数据集的基尼系数减小,也就是选择能让模型不纯度降低的特征。所以,基尼系数越大,不纯度越高,这样的特征并不是好特征,而是越差的特征。