贝叶斯网络中 Kullback-Leibler 散度的计算,Entropy

link之家

链接快照平台

输入网页链接，自动生成快照
标签化管理网页链接

相关文章推荐

玩手机的帽子 · 博客來-不想上班的日子就讀卡夫卡：當帳單比詩 ...· 5 月前 ·

自信的橡皮擦 · 男子10000米、女子5000米世界纪录双双告破· 6 月前 ·

冷冷的滑板 · 父母偏矮，14岁儿子却长到180cm ...· 1 年前 ·

低调的炒面 · 全票通过！ONES 旗下开源问答软件 ...· 2 年前 ·

谦逊的书包 · 预售价65万起 ...· 2 年前 ·

Kullback-Leibler 散度

钾 升 (磷, q)

是当我们有一个与概率分布 q 近似的真实概率分布 p 时的标准误差度量 . 它的高效计算在许多任务中都是必不可少的，例如在近似计算中或作为学习概率时的误差度量。在高维概率中，作为与贝叶斯网络相关的概率，直接计算可能是不可行的。本文考虑了有效计算两个概率分布的 Kullback-Leibler 散度的情况，每个分布都来自不同的贝叶斯网络，这些网络可能具有不同的结构。该论文基于辅助删除算法来计算必要的边缘分布，但使用具有潜力的操作缓存，以便在需要时重用过去的计算。这些算法使用来自 bnlearn 存储库的贝叶斯网络进行测试。 Python 中的计算机代码以 pgmpy 为基础提供，这是一个用于处理概率图形模型的库。 Kullback–Leibler divergence

K L (p, q)

is the standard measure of error when we have a true probability distribution p which is approximate with probability distribution q . Its efficient computation is essential in many tasks, as in approximate computation or as a measure of error when learning a probability. In high dimensional probabilities, as the ones associated with Bayesian networks, a direct computation can be unfeasible. This paper considers the case of efficiently computing the Kullback–Leibler divergence of two probability distributions, each one of them coming from a different Bayesian network, which might have different structures. The paper is based on an auxiliary deletion algorithm to compute the necessary marginal distributions, but using a cache of operations with potentials in order to reuse past computations whenever they are necessary. The algorithms are tested with Bayesian networks from the bnlearn repository. Computer code in Python is provided taking as basis pgmpy , a library for working with probabilistic graphical models.

推荐文章

玩手机的帽子 · 博客來-不想上班的日子就讀卡夫卡：當帳單比詩集更厚、自信比畫布還薄時，讓巴爾札克、梵谷、海明威、安迪沃荷陪你度過『生計』比『詩與遠方』更重要的每一天

5 月前

自信的橡皮擦 · 男子10000米、女子5000米世界纪录双双告破

6 月前

冷冷的滑板 · 父母偏矮，14岁儿子却长到180cm ，坚持做对3件事，你家娃也可以 - 知乎

1 年前

低调的炒面 · 全票通过！ONES 旗下开源问答软件 Answer 入选 Apache 孵化器-CSDN博客

2 年前

谦逊的书包 · 预售价65万起 Jeep全新⼤切诺基4xe亮相成都-买车网

2 年前