什么是Monte Carlo Method
简单来说， Monte Carlo Method就是找到函数的期望输出值/函数的积分等问题答案的一系列统计学的方法集合。
Monte Carlo Method的核心就是random sampling, 引用俄罗斯数学家Sobol的话来说:
The Monte Carlo method is a numerical method of solving mathematical problems by random sampling (or by the simulation of random variables).
Monte Carlo Method主要解决两类问题
- 模拟
- 积分
特点
随着随机采样sample数目的提高，收敛的速度增加的十分缓慢
蒙特卡洛积分公式
$\int{f(x)}dx = \int{\frac{f(x)}{pdf(x)}pdf(x)}dx = E(\frac{f(x)}{pdf(x)})$
$E^e(x) = \frac{1}{N}\sum{\frac{f(x)}{pdf(x)}}$是$E(\frac{f(x)}{pdf(x)})$的无偏估计，pdf是概率分布函数，$x$服从$pdf(x)$分布，这也被称为重要性采样。
$var(E^e(x))$为$\frac{var(x)}{N}$, 选取不同的pdf的目的就是要减少这个无偏估计的方差，当pdf(x)与f(x)为正比关系的时候，$E^e(x)$的方差最小。
如何利用平均分布生成非均匀分布的采样
需要使用平均分布产生上述可能为非均匀的pdf分布
参考链接
无偏与一致性
无偏与一致性是估计量的特点。当估计量的期望与真实值的期望一致的时候，该估计量是无偏的。当样本趋向无穷大的时候，估计量的值向真实值收敛的时候，该估计量是一致的。