贝叶斯网络中 Kullback-Leibler 散度的计算,Entropy

link之家

链接快照平台

输入网页链接，自动生成快照
标签化管理网页链接

相关文章推荐

爱吹牛的海龟 · 绽放活力撞击精彩 - 中共北京市委党校· 1 年前 ·

纯真的熊猫 · 携带等级_ 《梦幻西游》电脑版官方网站 ...· 2 年前 ·

深沉的黑框眼镜 · 女排欧联杯4强出炉 ...· 2 年前 ·

痛苦的筷子 · 中国—东盟清洁能源能力建设计划 ...· 2 年前 ·

率性的蚂蚁 · 《赘婿》中席掌柜已经凉凉？但扮演者沈浩却正炙 ...· 2 年前 ·

Kullback-Leibler 散度

钾 升 (磷, q)

是当我们有一个与概率分布 q 近似的真实概率分布 p 时的标准误差度量 . 它的高效计算在许多任务中都是必不可少的，例如在近似计算中或作为学习概率时的误差度量。在高维概率中，作为与贝叶斯网络相关的概率，直接计算可能是不可行的。本文考虑了有效计算两个概率分布的 Kullback-Leibler 散度的情况，每个分布都来自不同的贝叶斯网络，这些网络可能具有不同的结构。该论文基于辅助删除算法来计算必要的边缘分布，但使用具有潜力的操作缓存，以便在需要时重用过去的计算。这些算法使用来自 bnlearn 存储库的贝叶斯网络进行测试。 Python 中的计算机代码以 pgmpy 为基础提供，这是一个用于处理概率图形模型的库。 Kullback–Leibler divergence

K L (p, q)

is the standard measure of error when we have a true probability distribution p which is approximate with probability distribution q . Its efficient computation is essential in many tasks, as in approximate computation or as a measure of error when learning a probability. In high dimensional probabilities, as the ones associated with Bayesian networks, a direct computation can be unfeasible. This paper considers the case of efficiently computing the Kullback–Leibler divergence of two probability distributions, each one of them coming from a different Bayesian network, which might have different structures. The paper is based on an auxiliary deletion algorithm to compute the necessary marginal distributions, but using a cache of operations with potentials in order to reuse past computations whenever they are necessary. The algorithms are tested with Bayesian networks from the bnlearn repository. Computer code in Python is provided taking as basis pgmpy , a library for working with probabilistic graphical models.