Sequential Monte Carlo Methods (SMC) 序列蒙特卡洛/粒子滤波/Bootstrap Filtering

小编 2026-06-05 阅读:2046 评论:0

Problem Statement 我们考虑一个具有马尔可夫性质、非线性、非高斯的状态空间模型(State Space Model)：对于一个时间序列上的观测结果{yt,t∈N}\\{ y_t...

Problem Statement

我们考虑一个具有马尔可夫性质、非线性、非高斯的状态空间模型(State Space Model)：对于一个时间序列上的观测结果 $\\{ y_t , t \\in N \\}$ ，我们认为每个观测结果 $y_t$ 的生成依赖于一个无法直接观察的隐变量 $x_t \\in \\{x_t , t \\in N \\}$ ，即： $p(y_t|x_{t}), t \\in [1,N]$ ；我们假设隐变量具有一个先验的状态转移函数 $p(x_t | x_{t-1}), t \\in [1,N]$ ，若给定一个初始分布 $p(x_0)$ ，那么这个模型就能由这三个参数描述： $p(x_0),p(x_t| x_{t-1}),p(y_t|x_t)$ 。这里，我们定义到时间 $t$ 的观察序列： $\\mathbf{x_{0:t}}=\\{ x_0, \\dots, x_t\\}$ 和对应的隐变量序列 $\\mathbf{y_{1:t}}=\\{ y_1, \\dots, y_t\\}$ 。

我们关心如何根据当前的观测序列来推断(infer)隐变量序列，即估计一个后验概率分布 $p(\\mathbf{x_{0:t}| y_{1:t}})$ ，和它的边缘概率分布： $p(x_{t}| \\mathbf{y_{1:t}})$ (这里通常被称为滤波, filtering) ，以及它对于某个函数 $f_t$ 的期望：
$I(f_t) = \\mathbb{E}_{p(\\mathbf{x_{0:t}| y_{1:t}})} f_t(\\mathbf{x_{0;t}}) = \\int p(\\mathbf{x_{0:t}| y_{1:t}}) f_t(\\mathbf{x_{0;t}}) d_{\\mathbf{x_{1:t}}}$

在任何时间 $t$ ，我们可以推导 $p(\\mathbf{x_{0:t+1}| y_{1:t+1}})$ 和 $p(\\mathbf{x_{0:t}| y_{1:t}})$ 之间的关系：
$\\begin{aligned} {p(\\mathbf{x_{0:t+1}| y_{1:t+1}})} &= \\frac {p(\\mathbf{x_{0:t+1}, y_{1:t+1}})} {p(\\mathbf{y_{1:t+1}})} \\\\ &= \\frac{p (\\mathbf{x_{0:t+1}},y_{t+1}|\\mathbf{y}_t) p(\\mathbf{y_{1:t}})}{p(\\mathbf{y_{1:t+1}})} \\\\ &= \\frac {p(\\mathbf{x_{0:t}}|\\mathbf{y_{1:t}})p(y_{t+1},x_{t+1}|\\mathbf{x_{0:t}},\\mathbf{y_{1:t}}) p(\\mathbf{y_{1:t}}) }{p(\\mathbf{y_{1:t}},y_{t+1})} \\\\ &= \\frac {p(\\mathbf{x_{0:t}}|\\mathbf{y_{1:t}})p(x_{t+1}|\\mathbf{y_{1:t}},\\mathbf{x_{0:t}})p(y_{t+1}|\\mathbf{x_{0:t}},\\mathbf{y_{1:t}},x_{t+1}) p(\\mathbf{y_{1:t}}) }{p(y_{t+1}| \\mathbf{y_{1:t}}) p(\\mathbf{y_{1:t}})} \\\\&= p(\\mathbf{x_{0:t}}|\\mathbf{y_{1:t}}) \\frac {p(x_{t+1}|x_t) p(y_{t+1}|x_{t+1}) }{p(y_{t+1}|\\mathbf{y_{1:t}})} \\end{aligned}$