Machine Learning學習日記 — Coursera篇 (Week 4.3):Examples and Intuitions, MultiClass classification
Application
大綱
- Examples and Intuitions
- MultiClass classification
1. Examples and Intuitions
Why Neural Network can learn complex non-linear hypothesis?
假設今天要一個AND的hypothesis，參數為x1跟x2。
這代表只有當x1跟x2為1時，h(x)才會為1，其他時候只會輸出0
要怎麼設定θ才能達成我們要的條件呢？
我們可以透過真值表(truth table)，藉由測試所有x1,x2的組合來驗證這個hypothesis
g(z)代表對 z 取sigmoid函數，就如下圖一樣，0<=z值<=1
當 z值趨近無限大時會使g(z)無限逼近 1，趨近無限小時會使g(z)無限逼近0
下圖就可以發現：當z為4.6時，g(z)就等於0.99了，非常靠近1
θ¹10代表第 1層(輸入層)的第0項單位與第二層的第1項單位間的權重
θ¹11代表第 1層(輸入層)的第1項單位與第二層的第1項單位間的權重
θ¹12代表第 1層(輸入層)的第2項單位與第二層的第1項單位間的權重
隨堂練習
Ans：
假設你已經理解了AND的函式，那麼你應該能夠理解以下三個boolean函式：(1) x1 AND x2 (2) (NOT x1) AND (NOT x2) (3) x1 OR x2
若要形成一個 x1 XNOR x2的函式的話，需要上圖所示的三種不同boolean函式。(不同顏色分別代表著不同的函式)
真值表：
隨堂練習
Ans：
上圖可以理解成，只有當x1,x2都為0才會輸出1
2. MultiClass classification
前面提到hypothesis只是輸出單個結果。
如果是要進行多重分類的話要怎麼表示？
假設我們要判斷圖形中的物體是行人、汽車、機車、卡車的話
與其輸出一個標籤(1=行人,2=汽車...)，會使用一個向量(vertex)來表示結果：除了正確結果為1之外，其他皆為0
隨堂練習
Ans：
先將θ想像成是不同layer之間的連線數
layer 2有5個unit，加上隱藏起來的bias unit一共是6個
結果一共有十個結果(unit)，因此連線數=6*10=60
