第四章 貝葉斯分析_
第四章 貝葉斯分析 Bayesean Analysis §4.0引言 一、決策問(wèn)題的表格表示——損失矩陣 對(duì)無(wú)觀察(No-data)問(wèn)題 a=δ 可用表格(損失矩陣)替代決策樹(shù)來(lái)描述決策問(wèn)題的后果(損失): | |[pi|… |[pi|… |[pic| | |c] | |c] | |] | |π([pic|[pi| |[pi| |[pic| |]) |c] | |c] | |][pi| | | | | | |c] | |… | | | | | | |π([pic|[pi| |[pi| | | |]) |c] | |c] | | | |… | | | | | | |π([pic|[pi| | | |[pic| |]) |c] | | | |] | 或 | |π([pic]|… |π([pic]|… |π([pic]| | |) | |) | |) | |[pic] |[pic] | |[pic] | |[pic] | |… | | | | | | |[pic] | | |[pic] | | | |… | | | | | | |[pic] |[pic] | | | |[pic] | 損失矩陣直觀、運(yùn)算方便 二、決策原則 通常，要根據(jù)某種原則來(lái)選擇決策規(guī)則δ，使結(jié)果最優(yōu)(或滿(mǎn)意)，這種原則就叫決策原則 ，貝葉斯分析的決策原則是使期望效用極大。本章在介紹貝葉斯分析以前先介紹芙他決 策原則。 三、決策問(wèn)題的分類(lèi)： 1.不確定型(非確定型) 自然狀態(tài)不確定,且各種狀態(tài)的概率無(wú)法估計(jì). 2.風(fēng)險(xiǎn)型 自然狀態(tài)不確定,但各種狀態(tài)的概率可以估計(jì). 四、按狀態(tài)優(yōu)于： [pic]≤[pic] (I, 且至少對(duì)某個(gè)i嚴(yán)格不等式成立, 則稱(chēng)行動(dòng)[pic]按狀態(tài)優(yōu)于[pic] §4.1 不確定型決策問(wèn)題 一、極小化極大(wald)原則(法則、準(zhǔn)則) [pic][pic] [pic] [pic][pic] l ([pic] , [pic]) 或 [pic] [pic][pic] 例: | |[pic] |[pic] |[pic] |[pic] | |[pic] |10 |8 |7 |9 | |[pic] |4 |1 |9 |2 | |[pic] |13 |16 |12 |14 | |[pic] |6 |9 |8 |10 | 各行動(dòng)最大損失: 13 16 12 14 其中損失最小的損失對(duì)應(yīng)于行動(dòng)[pic]. 采用該原則者極端保守, 是悲觀主義者, 認(rèn)為老天總跟自己作對(duì). 二、極小化極小 [pic][pic] l ([pic] , [pic]) 或 [pic] [pic] [pic] 例: | |[pic] |[pic] |[pic] |[pic] | |[pic] |10 |8 |7 |9 | |[pic] |4 |1 |9 |2 | |[pic] |13 |16 |12 |14 | |[pic] |6 |9 |8 |10 | 各行動(dòng)最小損失: 4 1 7 2 其中損失最小的是行動(dòng)[pic]. 采用該原則者極端冒險(xiǎn)，是樂(lè)觀主義者，認(rèn)為總能撞大運(yùn)。 三、Hurwitz準(zhǔn)則 上兩法的折衷，取樂(lè)觀系數(shù)入 [pic]［λ[pic] l ([pic] , [pic])＋（1－λ〕[pic] l ([pic] , [pic])］ 例如 λ=0.5時(shí) λ[pic][pic] : 2 0.5 3.5 1 （1－λ〕[pic][pic]: 6.5 8 6 7 兩者之和： 8.5 8.5 9.5 8 其中損失最小的是：行動(dòng)[pic] 四、等概率準(zhǔn)則(Laplace) 用 [pic][pic] 來(lái)評(píng)價(jià)行動(dòng) [pic]的優(yōu)劣 選[pic][pic][pic] 上例： [pic][pic] : 33 34 36 35 其中行動(dòng) [pic] 的損失最小 五、后梅值極小化極大準(zhǔn)則(svage-Niehans) 定義后梅值 [pic]=[pic]-[pic][pic] 其中[pic][pic]為自然狀態(tài)為[pic] 時(shí)采取不同行動(dòng)時(shí)的最小損失. 構(gòu)成后梅值(機(jī)會(huì)成本)矩陣 S={[pic]}[pic] ,使后梅值極小化極大,即: [pic][pic] 例:損失矩陣同上, 后梅值矩陣為: 3 1 0 2 3 0 8 1 1 4 0 2 0 3 2 4 各種行動(dòng)的最大后梅值為: 3 4 8 4 其中行動(dòng)a1 的最大后梅值最小,所以按后梅值極小化極大準(zhǔn)則應(yīng)采取行動(dòng)1. 六、Krelle準(zhǔn)則： 使損失是效用的負(fù)數(shù)(后果的效用化),再用等概率(Laplace)準(zhǔn)則. 七、莫爾諾(Molnor)對(duì)理想決策準(zhǔn)則的要求 (1954) 1.能把方案或行動(dòng)排居完全序； 2.優(yōu)劣次序與行動(dòng)及狀態(tài)的編號(hào)無(wú)關(guān)； 3.若行動(dòng) [pic]按狀態(tài)優(yōu)于[pic]，則應(yīng)有 [pic]優(yōu)于[pic] ； 4.無(wú)關(guān)方案獨(dú)立性：已經(jīng)考慮過(guò)的若干行動(dòng)的優(yōu)劣不因增加新的行動(dòng)而改變； 5.在損失矩陣的任一行中各元素加同一常數(shù)時(shí)，各行動(dòng)間的優(yōu)劣次序不變； 6.在損失矩陣中添加一行，這一行與原矩陣中的某行相同，則各行動(dòng)的優(yōu)劣次序不變。 §4.2 風(fēng)險(xiǎn)型決策問(wèn)題的決策原則 一、最大可能值準(zhǔn)則 令 π([pic])=maxπ([pic]) 選 [pic]使 l([pic],[pic])=[pic]l([pic],[pic]) 例： | |π([pic]|[pic] |[pic] |[pic] | | |) | | | | |[pic] |0.2 |7 |6.5 |6 | |[pic] |0.5 |3 |4 |5 | |[pic] |0.3 |4 |1 |0 | π([pic]) 概率最大, 各行動(dòng)損失為 3 4 5 ∴應(yīng)選行動(dòng)[pic] 二、貝葉斯原則 使期望損失極?。?[pic]{ [pic]l([pic] , [pic]) π([pic]) } 上例中,各行動(dòng)的期望損失分別為 4.1 3.6 3.7, 對(duì)應(yīng)于[pic]的期望損失3.6最小 ∴應(yīng)選[pic]. 三、貝努利原則 損失函數(shù)取后果效用的負(fù)值,再用Bayes原則求最優(yōu)行動(dòng). 四、E—V(均值—方差)準(zhǔn)則 若 [pic][pic] ≤[pic][pic] 且 [pic] 則[pic]優(yōu)于[pic] 通常不存在這樣的[pic] 上例中: |[pic] |[pic] |[pic] | E 4.1 3.6 3.7 V([pic]) 2.29 3.79 5.967 不存在符合E—V準(zhǔn)則的行動(dòng), 這時(shí)可采用f(μ,σ)的值來(lái)判斷(μ為效益型后果的期望) ( μ-ασ f( μ，σ)=( μ-ασ[pic] ( μ-α(μ[pic]+σ[pic]) f越大越優(yōu). 五、不完全信息情況下的決策原則(Hodges-Lehmann原則) 狀態(tài)概率分布不可靠時(shí), 可采用: φ([pic])=λ[pic] + [pic][pic] i=1,2,… ,m j=1,2,…,n φ越大越優(yōu). §4.3貝葉斯定理 一、條件概率 1.A、B為隨機(jī)試驗(yàn)E中的兩個(gè)事件 P(A｜B)=P(AB)/P(B) 由全概率公式: [pic] j=1,2,…,n 是樣本空間的一個(gè)劃分, P(B)=[pic]P(B|[pic])P([pic]) 得Bayes公式 P([pic]|B)=P(B|[pic])·P([pic])/P(B) = P(B|[pic])·P([pic])/[pic]P(B|[pic])P([pic]) 2. 對(duì)Θ,Χ兩個(gè)隨機(jī)變量 ·條件概率密度 f(θ| x)=f(x |θ)f(θ)/f(x) ·在主觀概率論中 π(θ| x)=f(x |θ)π(θ)/m(x) 其中：π(θ)是θ的先驗(yàn)概率密度函數(shù) f(x｜θ)是θ出現(xiàn)時(shí)，x的條件概率密度,又稱(chēng)似然函數(shù). m(x)是x的邊緣密度, 或稱(chēng)預(yù)測(cè)密度. m(x)=[pic] f(x |θ)π(θ) dθ 或 [pic]p(x|[pic])π([pic]) π(θ｜x)是觀察值為x的后驗(yàn)概率密度。 例：A 壇中白球30%黑球70% B 壇中白球70%黑球30% 兩壇外形相同，從中任取一壇，作放回摸球12次,其中白球4次，黑球8次，求所取為A壇 的概率. 解：設(shè)觀察值4白8黑事件為x，記取A壇為 [pic], 取B壇為[pic] 在未作觀察時(shí)，先驗(yàn)概率p([pic])=p([pic])=0.5 則在作觀察后，后驗(yàn)概率 P([pic]|x)=p(x|[pic])p([pic])[pic]p(x|[pic])p([pic])+p(x|[pic])p([pic]) =[pic]×[pic]×0.5[pic]([pic]×[pic]×0.5+[pic]×[pic]×0.5) =[pic][pic]([pic]×[pic]) =0.2401[pic]0.2482 =0.967 顯然, 通過(guò)試驗(yàn)、觀察、可修正先驗(yàn)分布. §4.4 貝葉斯分析的正規(guī)型與擴(kuò)展型 一、正規(guī)型分析 由Baysean原則：先驗(yàn)分布為π(θ)時(shí)，最優(yōu)的決策規(guī)則δ是貝葉斯規(guī)則[pic],使貝葉斯風(fēng) 險(xiǎn) r(π, [pic])=[pic] r(π,δ(x)) 其中：r(π,δ(x))= [pic]R(θ,δ(x)) =[pic][[pic] l(θ,δ(x)) = [pic][pic] l(θ,δ(x)) f(x |θ)dxπ(θ) dθ (1) 據(jù)(1)式，選[pic]使r(π，δ)達(dá)到極小，這就是正規(guī)型的貝葉斯分析。 在解實(shí)際問(wèn)題時(shí)，求使(1)式極小的δ(x)往往十分困難，尤其在狀態(tài)和觀察值比較復(fù)雜時(shí) ，Δ集中的策略數(shù)目很大，窮舉所有的δ(x)有困難，且計(jì)算量頗大。實(shí)際上可用下法： 二、擴(kuò)展型貝葉斯分析(Extensive Form Analysis) 在(1)式中因l(θ,δ)>-∞，f(x｜θ)，π(θ)均為有限值。 ∴由Fubini定理，積分次序可換 即r(π,δ(x))= [pic][pic] l(θ,δ(x)) f(x |θ)dxπ(θ) dθ =[pic][pic] l(θ,δ(x)) f(x |θ)π(θ) dθdx (2) 顯然，要使(2)式達(dá)到極小，應(yīng)當(dāng)對(duì)每個(gè)x∈X，選擇δ， 使 [pic]l(θ,δ(x)) f(x |θ)π(θ) dθ （2’）為極小 ∵δ(x)=a ∴若對(duì)給定的x,選a，使 [pic]l(θ,δ(x)) f(x |θ)π(θ) dθ 為極小 亦即， 使 [pic][pic]l(θ,a) f(x |θ)π(θ) dθ =[pic]l([pic],a) π([pic]|x) dθ 或 [pic]l([pic],a)p([pic]|x) (3) 達(dá)極小，即可使(1)式為極小. ·結(jié)論： 對(duì)每個(gè)x，選擇行動(dòng)a，使之對(duì)給定x時(shí)θ的后驗(yàn)分布π(θ｜x)的期望損失為極小，即可求得 貝葉斯規(guī)則。 這種方法叫貝葉斯分析的擴(kuò)展型，由此確定的貝葉斯規(guī)則叫formal Bayesean Rule ——Raiffa Sehlaifer,1961年提出。 ·Note ·使(3)式達(dá)極小的行動(dòng)可能不只一個(gè)，即可能有多個(gè)貝葉斯規(guī)則； ·擴(kuò)展型比正規(guī)型更直觀，也容易計(jì)算，故更常用； ·許多分析人員只承認(rèn)擴(kuò)型，理由是： i，π(θ｜x)描述了試驗(yàn)后的θ的分布，比π(θ)更客觀，因此，只要損失函數(shù)是由效用理論 導(dǎo)出的(即考慮了DMer的價(jià)值判斷、風(fēng)險(xiǎn)偏好)，在評(píng)價(jià)行動(dòng)a的優(yōu)劣時(shí)就應(yīng)當(dāng)用后驗(yàn)期望 損失。 ii, r(π，δ)是根據(jù)π(θ)求出的，而用先驗(yàn)分布π(θ)來(lái)確定行動(dòng)a并不一定適當(dāng)。 從根本上講，這種觀點(diǎn)是正確的。 ·無(wú)論從何種觀點(diǎn)來(lái)進(jìn)行貝葉斯分析，從理論上講，結(jié)果是一樣的，所以采用何種方法可 視具體問(wèn)題，據(jù)計(jì)算方便而定。 ·已經(jīng)證明，形式貝葉斯分析對(duì)一類(lèi)非隨機(jī)性決策規(guī)則是成立的，也可以證明它對(duì)隨機(jī)性 決策規(guī)則同樣成立。使所有x上后驗(yàn)期望損失極小的貝葉斯規(guī)則也是隨機(jī)性規(guī)則集Δ*中的 Bayes規(guī)則，因此，總可以找到一驗(yàn)期望損失極小的非隨機(jī)性規(guī)則。 三、例(先看無(wú)觀察問(wèn)題) 農(nóng)民選擇作物問(wèn)題，設(shè)某地旱年[pic]占60%，正常年景[pic]占40%; [pic] 種植耐旱作物 [pic]種不耐旱作物，后果矩陣為: [pic] [pic] [pic] 20 0 [pic] 60 100 決策人的效用函數(shù) u(y)=[pic](1-[pic]) 解：i令：l(y)=1-u(y) [pic] ii,作決策樹(shù)： [pic] iii, 在無(wú)觀察時(shí), R=l, r= [pic]l([pic],a)π([pic]) r(π, [pic])=l([pic],[pic])π([pic])+l([pic],[pic])π([pic]) =0.62 ×0.6+0.19 ×0.4 =0.448 r(π, [pic])= l([pic],[pic])π([pic])+l([pic],[pic])π([pic]) =1.0 ×0.6+0 ×0.4 =0.6 風(fēng)險(xiǎn)r小者優(yōu), ∴δ=[pic]，是貝葉斯規(guī)則, 即貝葉斯行動(dòng).即應(yīng)選擇耐旱作物。 四、例(續(xù)上) 設(shè)氣象預(yù)報(bào)的準(zhǔn)確性是0.8，即p([pic]|[pic])=0.8 p([pic]|[pic])=0.8 其中，[pic]預(yù)報(bào)干旱 [pic]預(yù)報(bào)正常年景 則 m([pic])=p([pic]|[pic])π([pic])+p([pic]|[pic])π([pic]) =0.8 ×0.6+0.2 ×0.4=0.56 m([pic])=0.44 π([pic]|[pic])=p([pic]|[pic])π([pic])[pic]m([pic]) =0.8 ×0.6／0.56=0.86 π([pic]|[pic])=p([pic]|[pic])π([pic])[pic]m([pic]) =0.2 ×0.6／0.44=0.27 π([pic]|[pic])=0.14 π([pic]|[pic])=0.73 1. 正規(guī)型分析 ①策略[pic]: [pic]= [pic]([pic]) [pic]=[pic]([pic]) r(π, [pic])=[pic][pic]l ([pic],[pic]([pic]))p([pic]|[pic])π([pic]) 4-7 = l ([pic],[pic])p([pic]|[pic])π([pic])+l ([pic],[pic])p([pic]|[pic])π([pic]) + l ([pic],[pic])p([pic]|[pic])π([pic])+l ([pic],[pic])p([pic]|[pic])π([pic]) =0.62×0.8×0.6+1.0 ×0.2×0.6+0.19 ×0.2×0.4+0.0× 0.8×0.4 =0.4328 ②策略[pic]: [pic]=[pic]([pic]) [pic]=[pic]([pic]) r(π, [pic])=[pic][pic]l ([pic],[pic] ([pic]))p([pic]|[pic])π([pic]) = l ([pic],[pic])p([pic]|[pic])π([pic])+l ([pic],[pic])p([pic]|[pic])π([pic]) + l ([pic],[pic])p([pic]|[pic])π([pic])+l ([pic],[pic])p([pic]|[pic])π([pic]) = 0.62×0.2×0.6+1.0×0.8×0.6+0.19×0.8× 0.4+0.0×0.8× 0.4 =0.6152 ③策略[pic]: [pic]= [pic]([pic]) [pic]=[pic]([pic]) r(π, [pic])=0.45 ④策略[pic]： [pic]=[pic]（[pic]） [pic]=[pic]（[pic]） r(π, [pic])=0.6 ∵r(π, [pic]) ＜r(π, [pic]) ＜r(π, [pic]) ＜r(π, [pic]) ∴ [pic]([pic]([pic]([pic] [pic]是貝葉斯行動(dòng)。 [pic] 4－82.擴(kuò)展型之一：據(jù)(2’) : [pic]l(θ,δ(x)) f(x |θ)π(θ) dθ 記作r’ ①給定[pic](預(yù)報(bào)干旱): 采用[pic] r‘=[pic]l ([pic],[pic])p([pic]|[pic])π([pic]) = l ([pic],[pic])p([pic]|[pic])π([pic]) + l ([pic],[pic])p([pic]|[pic])π([pic]) = 0.62×0.8×0.6+0.19...
第四章 貝葉斯分析_