在總概率公式的假設下,我們得到了著名的貝葉斯公式,這是一個在概率論中著名的定理。這個公式首次出現在 1763 年英國學者托馬斯・貝葉斯(1702–1761)去世後發表的論文中。
從純數學的角度來看,這個公式可能看起來並不特別;它是從條件概率的定義和總概率公式的直接推導。然而,它的名聲在於其實際和甚至哲學上的重要性。
讓我們首先考慮概率 P ()、P() 等等。這些代表了我們對每個事件 Bi 發生的可能性的初步信念,在我們擁有任何額外信息之前(也就是說,在我們知道事件 A 是否發生之前)。現在,假設我們收到新的信息,事件 A 確實發生了。這個新信息使我們能夠更新對每個事件 發生可能性的評估。
這種重新評估在我們的日常生活中經常發生。最初被認為不太可能的情況,一旦某個特定事件發生,可能會突然變得非常可能(反之亦然)。貝葉斯公式提供了一種量化這種變化的方法。
為了使這一點更直觀,讓我們把事件 A 看作 “效果”,而事件 B1、B2、… 看作可能的 “原因”。從這個角度來看,總概率公式可以被視為從原因推理到效果。它幫助我們根據可能的原因 () 計算效果 () 發生的概率。
另一方面,貝葉斯公式則正好相反。它的目的是從效果推理到原因。既然我們知道 “效果” () 已經發生,我們想要弄清楚許多可能的 “原因” (Bi) 中哪一個是最可能的。這在日常生活和科學研究中都是一個常見的問題。貝葉斯公式告訴我們,每個原因的概率與其產生觀察到的效果的可能性成正比。
例如,想像在某個區域發生了一起犯罪。根據現有的記錄,嫌疑人可能包括像湯姆、戴維等人。在不知道犯罪具體細節之前(我們稱之為 “事件 ”),警方對每個人作為罪犯的可能性有一個初步評估(相當於初始概率 P ()、P()、…),基於他們的前科記錄。然而,一旦犯罪的細節變得明朗,這一評估就會改變。例如,湯姆最初被認為不太可能,現在可能成為主要嫌疑人。
從這個討論中,我們也可以很容易地看到這個公式在統計學中的重要性。在統計學中,我們依賴收集到的數據(“效果” 或事件 )來尋找感興趣問題的答案。這本質上是一個 “從效果中尋找原因” 的過程,而這正是貝葉斯公式顯得如此有用的地方。