貝氏定理(Bayes’ Theorem)

一種條件機率的轉換

貝式定理是很重要的統計工具，可以視為條件機率的轉換過程，白話來說
P(A|B)可以推導出P(B|A)；P(B|A)可以推導出P(A|B)，看在現實生活中你知道什麼已知條件機率，就可以推導出相對的條件機率囉！

貝氏定理也可以幫助我們在基於已知的條件，預測特定事件發生的機率，而透過貝氏定理來進行分類的演算法，則是貝氏分類器，有興趣的讀者可以參考這篇[Python]實作單純貝氏分類器(Naive Bayes Classifier)，並應用於垃圾訊息分類。

全機率法則(Law of Total Probability)

貝氏定理會牽涉到全機率法則，因此這裡簡單做介紹。

全機率法則是在說明當我們好奇B事件的機率，我們可以找到mutually exclusive and exhaustive(互斥且互補)的A事件集合[註1]，逐一計算在A集合底下的每個事件發生下，B的事件同時發生的機率有多少，並且將機率加總在一起，即為B事件。

比如我不清楚今晚看到老鼠的機率有多少(欲預測的事件B)，但是我知道桌上一定會擺放花生、巧克力任一種食物(互斥且互補的A事件集合)，則今晚看到老鼠的機率就是『擺放花生且同時出現老鼠的機率』，加上『擺放巧克力且同時出現老鼠的機率』，這就是全機率法則的一個簡單的應用。

註

1. mutually exclusive and exhaustive(互斥且互補) ：涵蓋所有可能發生的事件，且一次只能發生一個事件。例如擲骰子涵蓋投出1~6六種可能，且一次不會同時擲出兩個點數，就是典型的互斥且互補。

公式

假設一樣本空間S，是由A1, A2, …An一系列互斥(exclusive)且互補(exhaustive)的事件組成，樣本空間可表示為

對於任何一事件B，其機率可以表示如下：