递归状态估计的概率基础

分类于: Robotics
关键词: 概率机器人

递归状态估计的概率基础

引言

状态估计解决的是从不能直接观测但可以推断的传感器数据中估计数量的问题。在最优化估计得理论中，最优化分为参数估计和状态估计。《概率机器人》这本书中一开始就说明了状态估计问题。下面引用一段中文版的内容：

状态估计旨在从数据中找回状态变量。概率状态估计算法在可能的状态空间上计算置信度分布。

概率的基本概念

详细内容参考概率统计相关内容，下面只记录个人认为比较有用的信息。

标准正态分布

一维形式：

$$ p(x)=(2\pi\sigma^2 )^{-\frac{1}{2}}exp{ -\frac{1}{2}\frac{(x-\mu)^2}{\sigma^2} } $$

多维形式：

$$ p(x)=det(2\pi\Sigma)^{-\frac{1}{2}}exp{-\frac{1}{2}(x-\mathbf{\mu})^T\Sigma^{-1}(x-\mathbf{\mu})} $$

条件概率

假定已经知道 $x$ 的值为 $y$，想知道基于以上事实条件 $X$ 为 $x$ 的概率。这样的概率表示为： $p(x|y)=p(X=x|Y=y)$ 称为条件概率。如果 $p(y)>0$ ,则条件概率定义为： $p(x|y)=\frac{p(x,y)}{p(y)}$ 如果 $X$ 和 $Y$ 独立，则有 $p(x|y)=\frac{p(x)p(y)}{p(y)}=p(x)$

全概率公式

离散情况： $p(x)=\Sigma_y{p(x|y)}{p(y)}$

连续情况： ${p(x)}=\int{p(x|y)}{p(y)}{dx}$

贝叶斯准则

该定理将条件概率 $p(x|y)$ 与其“逆”概率 $p(y|x)$ 联系起来。要求 $p(y)>0$ 。

离散情况： $p(x|y)=\frac{p(y|x)p(x)}{p(y)}=\frac{p(y|x)p(x)}{\Sigma_x{p(y|x^{'})p(x^{'}))}}$

连续情况： $p(x|y)=\frac{p(y|x)p(x)}{p(y)}=\frac{p(y|x)p(x)}{\int{p(y|x^{'})p(x^{'}))dx}}$

条件独立

满足 $p(x,y|z)={p(x|z)}{p(y|z)}$ 的式子称为条件独立。很容易证明：

$$ \begin{align} p(x|z)&=p(x|z,y)\ p(y|z)&=p(y|z,x) \end{align} $$

条件独立在概率机器人中起着重要的作用。

注意：条件独立并不意味着绝对独立。

期望

随机量 $X$ 的期望值可以由下式定义：

离散型： ${E(X)}={\Sigma_x{xp(x)}}$

连续性： ${E(X)}={\int{xp(x)dx}}$

协方差

期望是随机变量的线性函数。具体来说，对于任意数值 $a$ 和 $b$ ，有:

$$ E[aX+b]=aE[X]+b $$

$X$ 的协方差可以由下式求得：

$Cov[X]={E[X-E[X]]}^2=E[X^2]-E[X]^2$

协方差衡量的是均值的二次方期望。

熵

概率分布的熵可以由下式给出：${H_p(x)}=E[-log_2p(x)]$

可以导出:

离散型：$H_p(x)=-{\Sigma_x{p(x)log_2p(x)}}$

连续型：$H_p(x)=-{\int{p(x)log_2p(x)dx}}$