Belief Propagation

定义 Definition

Belief propagation（信念传播）是一种在概率图模型（如贝叶斯网络、马尔可夫随机场）中进行推断的消息传递算法，通过在图的节点之间反复传递“信念/概率信息”（messages）来估计未知变量的边缘概率或最可能状态。它在树形图上可得到精确结果，在含环图上常以“loopy belief propagation（有环信念传播）”形式作为近似方法。

例句 Examples

Belief propagation helps compute probabilities in a Bayesian network.
信念传播可以帮助在贝叶斯网络中计算概率。

In large factor graphs, belief propagation iteratively passes messages between variables and factors to approximate marginal distributions, even when exact inference is infeasible.
在大型因子图中，信念传播通过在变量与因子之间迭代传递消息来近似边缘分布，即使精确推断不可行也能发挥作用。

发音 Pronunciation

/ bɪˈliːf ˌprɑːpəˈɡeɪʃən /

词源 Etymology

belief 原意为“信念、相信”，在概率推断语境中引申为对某个变量取值的“相信程度/概率估计”；propagation 来自“传播、传递”。合在一起，“belief propagation”直译为“信念的传播”，形象地描述了算法通过网络结构把概率信息从一个节点传到另一个节点的过程。该术语常与统计物理中的“sum-product / max-product（和-积/最大-积）”消息传递思想相关联。

相关词 Related Words

• Bayesian
• Inference
• Marginal
• Message Passing
• Factor Graph
• Markov
• Graphical Model
• Sum-Product
• Max-Product
• Viterbi

文学与经典著作 Literary Works

• Judea Pearl，《Probabilistic Reasoning in Intelligent Systems》（1988）——系统讨论在图模型中的信念更新与传播思想。
• Daphne Koller & Nir Friedman，《Probabilistic Graphical Models: Principles and Techniques》（2009）——以“belief propagation / sum-product”等为核心推断算法之一。
• David J. C. MacKay，《Information Theory, Inference, and Learning Algorithms》（2003）——在编码与因子图背景下讲解 belief propagation。
• Michael I. Jordan（编），《Learning in Graphical Models》（1999）——涵盖图模型学习与推断，其中涉及相关消息传递方法。