基于集合划分的非线性积分及其在决策树算法中的应用

【摘要】：信息融合就是从许多不同的信息资源中获取综合信息的过程，其目的是为了做出较合理的判断和决策。积分作为信息融合的工具在模式识别、数据挖掘、机器学习等许多领域发挥着重要作用。不同的信息融合需要不同类型的积分，线性积分(即类Lebesgue积分)能有效地处理线性模型，但对非线性模型却难以奏效。而非线性积分恰恰弥补了线性积分的不足，能有效地处理许多非线性模型。目前，已有许多种非线性积分，但这些积分都是定义在集合(或其子集上)上的，还没有定义在集合划分上的积分。受ID3决策树生成算法的思想启发，本文提出了一种基于集合划分的非线性积分，研究了其基本性质，给出了这种新型积分在特殊情况下的计算，将其用于ID3决策树算法，得出了如下的结论：一个属性的某几个属性值并的权熵之和不小于该属性单个属性值的权熵之和。从而，本文为ID3算法提供了一个数学理论依据。