贝叶斯网络中 Kullback-Leibler 散度的计算,Entropy

link之家

链接快照平台

输入网页链接，自动生成快照
标签化管理网页链接

相关文章推荐

呐喊的罐头 · 国产设计协作软件如何选择，Pixso、即时设 ...· 4 月前 ·

神勇威武的匕首 · 2016年秋季入学MBA复试分数线及A线面试 ...· 5 月前 ·

好帅的野马 · kotlin中初始化字符串数组 - CSDN文库· 1 年前 ·

卖萌的登山鞋 · 西藏自治区“十三五”时期民用航空发展规划_西 ...· 1 年前 ·

面冷心慈的草稿纸 · 如何关闭postgresql的服务 - ...· 1 年前 ·

Kullback-Leibler 散度

钾 升 (磷, q)

是当我们有一个与概率分布 q 近似的真实概率分布 p 时的标准误差度量 . 它的高效计算在许多任务中都是必不可少的，例如在近似计算中或作为学习概率时的误差度量。在高维概率中，作为与贝叶斯网络相关的概率，直接计算可能是不可行的。本文考虑了有效计算两个概率分布的 Kullback-Leibler 散度的情况，每个分布都来自不同的贝叶斯网络，这些网络可能具有不同的结构。该论文基于辅助删除算法来计算必要的边缘分布，但使用具有潜力的操作缓存，以便在需要时重用过去的计算。这些算法使用来自 bnlearn 存储库的贝叶斯网络进行测试。 Python 中的计算机代码以 pgmpy 为基础提供，这是一个用于处理概率图形模型的库。 Kullback–Leibler divergence

K L (p, q)

is the standard measure of error when we have a true probability distribution p which is approximate with probability distribution q . Its efficient computation is essential in many tasks, as in approximate computation or as a measure of error when learning a probability. In high dimensional probabilities, as the ones associated with Bayesian networks, a direct computation can be unfeasible. This paper considers the case of efficiently computing the Kullback–Leibler divergence of two probability distributions, each one of them coming from a different Bayesian network, which might have different structures. The paper is based on an auxiliary deletion algorithm to compute the necessary marginal distributions, but using a cache of operations with potentials in order to reuse past computations whenever they are necessary. The algorithms are tested with Bayesian networks from the bnlearn repository. Computer code in Python is provided taking as basis pgmpy , a library for working with probabilistic graphical models.