即插即用的分裂吉布斯采样器:在贝叶斯推断中嵌入深度生成先验。

780次阅读
没有评论

Plug-and-Play split Gibbs sampler: embedding deep generative priors in
Bayesian inference

解决问题:本文介绍了一种基于变量分裂的随机插入-播放(PnP)采样算法,它利用深度生成先验来高效地从后验分布中采样。具体而言,本文提出的方法将挑战性的后验采样任务分解为两个较简单的采样问题,其中第一个问题依赖于似然函数,而第二个问题被解释为一个贝叶斯去噪问题,可以由深度生成模型轻松完成。本文的目的是将该方法实现在最先进的基于扩散的生成模型中,以说明其有效性。相比于当前领域的研究,本文的方案有新意,因为它提供了一种同时具有贝叶斯估计器和置信区间的采样方法,而不需要显式选择先验分布。

关键思路:本文的关键思路是基于变量分裂的随机插入-播放(PnP)采样算法,它利用深度生成先验来高效地从后验分布中采样。该方法将后验采样任务分解为两个较简单的采样问题,其中第一个问题依赖于似然函数,而第二个问题被解释为一个贝叶斯去噪问题,可以由深度生成模型轻松完成。与当前领域的研究相比,本文的方案有新意,因为它提供了一种同时具有贝叶斯估计器和置信区间的采样方法,而不需要显式选择先验分布。

其他亮点:本文值得关注的地方是,它提供了一种同时具有贝叶斯估计器和置信区间的采样方法,而不需要显式选择先验分布。实验设计采用了常见的图像处理问题,并与最近的最先进的优化和采样方法进行了比较。该方法的开源代码尚未公开,但作者提供了用于实验的数据集。

关于作者:Florentin Coeurdoux、Nicolas Dobigeon和Pierre Chainais是本文的主要作者,他们分别来自法国国家科学研究中心、图卢兹大学和法国电信。他们的代表作包括:Florentin Coeurdoux的“Robust Bayesian compressive sensing using alpha-stable distributions”、Nicolas Dobigeon的“Sparse Bayesian methods for source separation in the presence of modeling errors”和Pierre Chainais的“Bayesian estimation of a low-rank matrix contaminated by sparse outliers with application to gene expression data”.

相关研究:最近的其他相关研究包括:“Plug-and-Play Methods Provably Converge with Properly Trained Denoisers”(作者:Xiran Wang、Stanley Osher和Wotao Yin,机构:加州大学洛杉矶分校)、“A Unified Plug-and-Play Framework for Video Restoration”(作者:Jingwei Huang、Xin Lu和Yi Zhang,机构:香港科技大学)和“Plug-and-Play Learning for Denoising with Distillation”(作者:Yi Wang、Yue Huang和Xin Yuan,机构:浙江大学)。

论文摘要:本文介绍了一种随机的插拔式(PnP)采样算法,利用变量分裂来有效地从后验分布中采样。该算法基于分裂Gibbs采样(SGS),受到多重器方向法(ADMM)的启发。它将后验采样这一具有挑战性的任务分为两个较简单的采样问题。第一个问题取决于似然函数,而第二个问题被解释为贝叶斯去噪问题,可以通过深度生成模型轻松完成。具体而言,为了说明目的,本文使用了最先进的基于扩散的生成模型来实现所提出的方法。类似于其确定性的PnP-based同类,所提出的方法具有不需要显式选择先验分布的巨大优势,而是将其编码到预先训练的生成模型中。然而,与通常仅提供点估计的优化方法(例如PnP-ADMM)不同,所提出的方法允许常规的贝叶斯估计器伴随着合理的额外计算成本的置信区间。对常见的图像处理问题的实验说明了所提出的采样策略的效率。其性能与最近的最先进的优化和采样方法进行了比较。

 

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy