Importance Sampling

定义 Definition

重要性采样：一种蒙特卡洛（Monte Carlo）方法中的抽样技巧。通过从“更容易抽样的分布”（提议分布）取样，并用权重对样本进行校正，从而估计目标分布下的期望、积分或概率；常用于难以直接采样或稀有事件估计，并可起到降低方差的作用。（在不同语境下也可有更细的变体与实现方式。）

发音 Pronunciation

/ɪmˈpɔːrtəns ˈsæmplɪŋ/

例句 Examples

Importance sampling can estimate an integral when direct sampling is hard.
当直接采样很困难时，重要性采样可以用来估计一个积分。

In Bayesian inference, importance sampling reweights draws from a proposal distribution to approximate expectations under the posterior.
在贝叶斯推断中，重要性采样会对从提议分布抽取的样本重新加权，以近似后验分布下的期望。

词源 Etymology

“Importance”意为“重要性”，这里指哪些区域对目标量（如积分值、期望）贡献更大；“sampling”是“抽样/采样”。该术语在统计学与计算（尤其蒙特卡洛方法）发展过程中被固定下来，用来描述：把抽样资源集中到更“重要”的区域，再用权重纠偏以保持估计的正确性。

相关词 Related Words

• Monte Carlo
• Sampling
• Estimator
• Weighting
• Proposal Distribution
• Variance Reduction
• Bayesian Inference
• Particle Filter

文献与作品 Literary Works

• Monte Carlo Statistical Methods（Christian P. Robert, George Casella）
• Pattern Recognition and Machine Learning（Christopher M. Bishop）
• Bayesian Data Analysis（Andrew Gelman 等）
• Probabilistic Graphical Models: Principles and Techniques（Daphne Koller, Nir Friedman）
• Simulation and the Monte Carlo Method（Reuven Y. Rubinstein, Dirk P. Kroese）