自己做的网站怎么用qq登入,国家企业信用网官网,网站建设费属于文化事业建设费,自己怎么做百度网站在开始之前#xff0c;我们先说一下信息熵的概念。
当一件事情发生#xff0c;如果是意料之中#xff0c;那么这个事情就并不能拿来当做茶余饭后的谈资#xff0c;我们可以说这个事情并没有什么信息和价值。而当一件不可能发生的事情发生的时候#xff0c;我们可能就会觉…在开始之前我们先说一下信息熵的概念。
当一件事情发生如果是意料之中那么这个事情就并不能拿来当做茶余饭后的谈资我们可以说这个事情并没有什么信息和价值。而当一件不可能发生的事情发生的时候我们可能就会觉得震撼三观这件事情太Crazy了带来的信息量也就很多。
哼哼通过上文我们可以知道一个事情越稳定信息量就越少那么如何去衡量呢我们可以用概率的倒数也就是负相关来衡量。 I − l o g ( p ( x ) ) I-log(p(x)) I−log(p(x)) I I I也就是自信息一件事情越确定自信息也就越小。
而信息熵就是自信息的期望代表这一件事情的混乱程度。信息熵越大混乱程度越大说明这件事情越疯狂。 H − l o g ( p ( x ) ) p ( x ) H-log(p(x))p(x) H−log(p(x))p(x) 再说熵权法(Entropy Weight Method)熵权法是客观赋权的一种方式对应的主观赋权有专家打分法相似的还有层次分析法。熵权法是利用信息稳定程度而提出的方法一般来说某列属性越稳定它的信息就越可信那么在实际的权重也应当越高。
不说人话那就是 一般来说若某个指标的信息熵越小表明指标值得变异程度越大提供的信息量越多在综合评价中所能起到的作用也越大其权重也就越大。相反某个指标的信息熵越大表明指标值得变异程度越小提供的信息量也越少在综合评价中所起到的作用也越小其权重也就越小。 你会发现在这段话中自信息和提供信息实际上是成反比的。
不管他只需要知道原本越稳定的数据对异常越敏感也越可信。
在实际计算中遵循以下步骤
step1 归一化
正向指标 Y i j X i j − m i n ( X i ) m a x ( X i ) − m i n ( X i ) Y_{ij}\frac{X_{ij}-min(X_i)}{max(X_i)-min(X_i)} Yijmax(Xi)−min(Xi)Xij−min(Xi) 负向指标 Y i j m a x ( X i ) − X i j m a x ( X i ) − m i n ( X i ) Y_{ij}\frac{max(X_i)-X_{ij}}{max(X_i)-min(X_i)} Yijmax(Xi)−min(Xi)max(Xi)−Xij step2 求频率替换概率 p i j Y i j ∑ Y i j p_{ij}\frac{Y_{ij}}{\sum Y_{ij}} pij∑YijYij step3 计算归一化信息熵 E n t r o p y − 1 l n ( n ) ∑ p i j l n ( p i j ) Entropy-\frac{1}{ln(n)}\sum p_{ij}ln(p_{ij}) Entropy−ln(n)1∑pijln(pij) 以什么为底的不重要啦
step4 计算权重 W j 1 − E j k − ∑ E j W_j\frac{1-E_j}{k-\sum E_j} Wjk−∑Ej1−Ej 以下是实现代码
def EWM(data):t(data-data.min(axis0))/(data.max(axis0)-data.min(axis0))tt/t.sum(axis0)t[t0.0001]0.0001entropy-1/np.log(t.shape[0])*np.sum(t*np.log(t))return [(1-i)/(len(entropy)-sum(entropy)) for i in entropy]当然这样的结果只是个权重我们还需要对数据做乘法
np.matmul(data.values,np.array(EWM(data)).T)对这样一组数据A十分稳定B是正态分布C是二分布得到的结果是
信息熵 权重 确实符合越稳定权重越大。
熵权法的优点
熵值法是根据各项指标指标值的变异程度来确定指标权数的这是一种客观赋权法避免了人为因素带来的偏差。
相对那些主观赋值法精度较高客观性更强能够更好的解释所得到的结果。
熵权法的缺点
忽略了指标本身重要程度有时确定的指标权数会与预期的结果相差甚远同时熵值法不能减少评价指标的维数也就是熵权法符合数学规律具有严格的数学意义但往往会忽视决策者主观的意图
如果指标值的变动很小或者很突然地变大变小熵权法用起来有局限
