0前言本文主要讲述了决策树背后的信息熵的公式含义及计算方式，并列举出多道例题帮助理解。1信息熵的定义1.1信息熵公式笔者使用下图(1-1)直观理解信息熵的含义。信息熵越大，表示该随机变量的不确定性越高。对于均匀分布，信息熵达到最大值。1.2证明：对于均匀分布，信息熵最