贝叶斯:起步(3)

概率论(英语:Probability theory)是研究概率、随机性及不确定性等现象的数学分支,而贝叶斯学派(Bayesians)又是其中有代表性的流派。每周四更新,本文为贝叶斯系列文章第 3 期,用一个完整的例子感受下贝叶斯公式的力量。贝叶斯:起步(3)

文章来自微信公众号“科文路”,欢迎关注、互动。转载须注明出处。

上周四,我们一起品味了这个贝叶斯公式,并且给出了一些术语的解释。

$$
P(A\mid B)={\frac {P(A)P(B\mid A)}{P(B)}}
$$

有细心的读者也指出了其中一些问题。这让我感觉有些读者还是不太清晰这些概念,那还是停一停。这里我画个表格,明确一下。

术语再理解

假设有两个外边看不见内部的盒子(不多说了,你应该知道啥意思),盒 1 有 5 个球,3 黄 2 红;盒 2 有 7 个球,4 黄 3 红。

下面再看这些概念,

概念 符号 通俗理解
事件 A 某种特定的情况,比如“从盒 1 拿出一个球(这里是确定的),这个球是黄色的”(A)
先验概率 $P(A)$ 当下就知道的某个事件的发生概率,上面说的拿出黄球的概率 $P(A)=3/5$
联合概率 $P(A\bigcap B)$ A事件和B事件同时发生的概率;A和B之间是没有关联的;比如“同时从盒1、2中拿出黄球”的联合概率$P(A\bigcap B)=P(A)\times P(B)=12/35$

重要理论

  • 统计独立性
    • 当且仅当两个随机事件A与B统计独立的,这样联合概率可以表示为各自概率的简单乘积
    • 简单讲,就是 A 和 B 的发生没有关联
    • 比如上面,分别从盒1、2中取球,两次取球就是独立的

好了,接下面是重头戏,一般是问题中比较烧脑的部分。

条件概率(后验概率)

$P(A\mid C_\text{box1})$,$C_\text{box1}$ 事件发生的情况下,A 事件发生的概率。

条件概率等价于后验概率,这个说的比较笼统,但我不觉得有什么不妥。条件概率是从形式上说的,后验概率是从陈述性表达上理解的。

先来个简单的,“随机(相当于蒙住了盒子号码)选择盒子,选择了盒子1,并从中拿出一个球,这个球是黄色”,可以表述为符号 $P(A\mid C_\text{box1})$,

  • $A$ 事件,取出一个球(不管哪个盒子),这个球是黄色
  • $C_\text{box1}$ 事件,随机选到盒子1

所以 $P(A\mid C_\text{box1})$ 就是说,我随机选择了盒子1($C_\text{box1}$),拿出的球是黄色($A$)的概率。因为两个事件独立,所以算这个概率很简单,

$P(A\mid C_\text{box1})=P(A)\times P(C_\text{box1})=3/5\times 1/2=3/10$

就是说,随便选一个盒子,这个盒子是盒 1 且拿出来的球是黄球概率是 0.3。

贝叶斯的力量

上面那种情况好算吧,但往往我们需要求解另一种更烧脑的情况——反过来

比如,$P(C_\text{box1}\mid A)$,“取出了一个黄球($A$),这个黄球来自盒1($C_\text{box1}$)”的概率。

这种需求很常见,但是怎么算呢?这就要利用贝叶斯公式。

代入贝叶斯公式,

$$
P(C_\text{box1}\mid A) = \frac{P(A\mid C_\text{box1})\times P(C_\text{box1})}{P(A)}
$$

右边,

  • $P(A\mid C_\text{box1})$ 上面算过了,$3/10$
  • $P(C_\text{box1})$,$1/2$
  • $P(A)=P(A\mid C_\text{box1}) + P(A\mid C_\text{box2})$
    • $=3/5\times 1/2 + 4/7\times 1/2=41/70$

体会到神奇之处了吗,对于这个烧脑的问题,居然可以通过贝叶斯“逆向”计算出来,结果是 $21/82$,就是说拿出黄球,黄球来自盒1 的概率是 $25.6%$ 左右!

时间仓促,不知道写对没有,欢迎斧正!

下期我们再列几个现实生活中的例子~

~~

都看到这儿了,不如关注每日推送的“科文路”、互动起来~

至少点个赞再走吧~

Author

xlindo

Posted on

2023-09-14

Updated on

2024-01-16

Licensed under

Comments