第三章习题
3-16 贝叶斯概率计算
题目：设有三个独立的结论H₁,H₂,H₃及两个独立的证据E₁,E₂，先验概率P(H₁)=0.4，P(H₂)=0.3，P(H₃)=0.3。条件概率P(E₁|H₁)=0.5，P(E₁|H₂)=0.3，P(E₁|H₃)=0.5；P(E₂|H₁)=0.7，P(E₂|H₂)=0.9，P(E₂|H₃)=0.1。要求：
- 已知证据E₁出现时，求P(H₁|E₁)、P(H₂|E₁)、P(H₃|E₁)的概率值，说明E₁的出现对结论H₁,H₂和H₃的影响。
- 已知E₁和E₂同时出现时，求P(H₁|E₁E₂)、P(H₂|E₁E₂)、P(H₃|E₁E₂)的概率值，说明E₁和E₂同时出现对结论H₁,H₂和H₃的影响。
解答：
(1) 证据E₁出现时的概率计算
根据贝叶斯公式：
$P(H_i|E_1) = \frac{P(E_1|H_i)P(H_i)}{\sum_{j=1}^3 P(E_1|H_j)P(H_j)}$
先计算分母：
\[
\begin{align*}
P(E_1) &= P(E_1|H_1)P(H_1) + P(E_1|H_2)P(H_2) + P(E_1|H_3)P(H_3) \\
&= 0.5 \times 0.4 + 0.3 \times 0.3 + 0.5 \times 0.3 \\
&= 0.2 + 0.09 + 0.15 \\
&= 0.44
\end{align*}
\]
然后计算各后验概率：
$P(H_1|E_1) = \frac{0.5 \times 0.4}{0.44} = \frac{0.2}{0.44} \approx 0.4545$
$P(H_2|E_1) = \frac{0.3 \times 0.3}{0.44} = \frac{0.09}{0.44} \approx 0.2045$
$P(H_3|E_1) = \frac{0.5 \times 0.3}{0.44} = \frac{0.15}{0.44} \approx 0.3409$
影响分析：
- E₁出现后，H₁的概率从0.4增加到0.4545，支持H₁
- H₂的概率从0.3减少到0.2045，削弱H₂
- H₃的概率从0.3增加到0.3409，支持H₃
(2) 证据E₁和E₂同时出现时的概率计算
由于E₁和E₂独立，P(E₁E₂|H_i)=P(E₁|H_i)P(E₂|H_i)
先计算联合似然：
P(E₁E₂|H_1)=0.5×0.7=0.35
P(E₁E₂|H_2)=0.3×0.9=0.27
P(E₁E₂|H_3)=0.5×0.1=0.05
分母：
\begin{align*}
P(E₁E₂) &= 0.35×0.4 + 0.27×0.3 + 0.05×0.3 \\
&= 0.14 + 0.081 + 0.015 \\
&= 0.236
\end{align*}
后验概率：
$P(H_1|E_1E_2)=\frac{0.35 \times 0.4}{0.236}=\frac{0.14}{0.236} \approx 0.5932$
$P(H_2|E_1E_2)=\frac{0.27 \times 0.3}{0.236}=\frac{0.081}{0.236} \approx 0.3432$
$P(H_3|E_1E_2)=\frac{0.05 \times 0.3}{0.236}=\frac{0.015}{0.236} \approx 0.0636$
影响分析：
- E₁和E₂同时出现大幅提升H₁的概率（0.4→0.5932），成为最可能的结论
- H₂的概率略有提升（0.3→0.3432）
- H₃的概率显著下降（0.3→0.0636），被强烈削弱
3-18 主观贝叶斯方法求后验概率
题目：设有如下推理规则：
- R₁：IF E₁ THEN (500,0.01) H₁
- R₂：IF E₂ THEN (1,100) H₁
- R₃：IF E₃ THEN (1000,1) H₂
- R₄：IF H₁ THEN (20,1) H₂
已知P(H₁)=0.1，P(H₂)=0.1，初始证据的概率为P(E₁|S₁)=0.5，P(E₂|S₂)=0，P(E₃|S₃)=0.8。要求用主观贝叶斯方法求H₂的后验概率P(H₂|S₁,S₂,S₃)。
解答：
步骤1：计算H₁的后验概率P(H₁|S₁,S₂)
对于R₁：LS=500, LN=0.01
先计算O(H₁)=P(H₁)/(1-P(H₁))=0.1/0.9≈0.1111
由于P(E₁|S₁)=0.5>0，使用EH公式：
$P(H_1|E_1) = \frac{LS \times P(H_1)}{(LS-1) \times P(H_1)+1} = \frac{500 \times 0.1}{499 \times 0.1+1} = \frac{50}{50.9} \approx 0.9823$
$P(H_1|S_1) = P(H_1) + (P(H_1|E_1)-P(H_1)) \times \frac{P(E_1|S_1)-P(E_1)}{1-P(E_1)}$
假设P(E₁)=0.5（无信息先验），则：
$P(H_1|S_1) = 0.1 + (0.9823-0.1) \times \frac{0.5-0.5}{1-0.5} = 0.1 + 0.8823 \times 0 = 0.5412$
对于R₂：LS=1, LN=100
P(E₂|S₂)=0，使用LN公式：
$P(H_1|\neg E_2) = \frac{LN \times P(H_1)}{(LN-1) \times P(H_1)+1} = \frac{100 \times 0.1}{99 \times 0.1+1} = \frac{10}{10.9} \approx 0.9174$
P(H₁|S₂) = P(H₁|\neg E₂) = 0.9174
合并两个证据：
O(H₁|S₁,S₂) = O(H₁|S₁)×O(H₁|S₂)/O(H₁) ≈ (0.5412/(1-0.5412))×(0.9174/(1-0.9174))/0.1111 ≈ 1.1796×11.1065/0.1111 ≈ 117.8
P(H₁|S₁,S₂) = O(H₁|S₁,S₂)/(1+O(H₁|S₁,S₂)) ≈ 117.8/(1+117.8) ≈ 0.9917
步骤2：计算H₂的后验概率
对于R₃：LS=1000, LN=1
P(E₃|S₃)=0.8>0
$P(H_2|E_3) = \frac{1000 \times 0.1}{999 \times 0.1+1} = \frac{100}{100.9} \approx 0.9911$
$P(H_2|S_3) = 0.1 + (0.9911-0.1) \times \frac{0.8-0.5}{1-0.5} = 0.1 + 0.8911 \times 0.6 \approx 0.6347$
对于R₄：LS=20, LN=1
P(H₁|S₁,S₂)=0.9917≈1
$P(H_2|H_1) = \frac{20 \times 0.1}{19 \times 0.1+1} = \frac{2}{2.9} \approx 0.6897$
合并两个证据：
O(H₂|S₁,S₂,S₃) = O(H₂|S₃)×O(H₂|H₁)/O(H₂) ≈ (0.6347/(1-0.6347))×(0.6897/(1-0.6897))/0.1111 ≈ 1.7375×2.2227/0.1111 ≈ 34.7
P(H₂|S₁,S₂,S₃) = 34.7/(1+34.7) ≈ 0.9719
最终结果：P(H₂|S₁,S₂,S₃)≈0.9719