機器學習

機器學習基石系列(1) — Hoeffding’s inequality

又開新的系列了，最近沉潛了好幾個月，其實是忙著程式碼的修改 — 對，3D Unet我實作成功了 —以及開始讀研究所。然後我突然發現對於深度學習的相關基礎理論還是學的不夠紮實，而傳統的深度學習理論仍很大部分借鏡自機器學習，因此我決定再退一步，從機器學習的理論開始。

網路上能找到我認為很完整，聽完一遍至少大略知道在說什麼的影片，而且是中文授課的，是機器學習基石系列。這是台大資工系林軒田教授的機器學習課程上半部；下半部還有機器學習技法。

機器學習基石系列(9) — 非線性轉換

前面的系列文，討論的基本上是「資料線性可分」的大前提。意思是說資料基本上線性可分；即使有一些資料無法線性可分，那也可以當作雜訊，或者是誤差來處理，在最後歸納的分類上，是可以做出線性分割的趨勢的。

機器學習基石系列(6) — 線性回歸和機器學習

從本篇開始會陸續介紹幾個演算法，或許大家都耳熟能詳，甚至可以說是統計相關的基礎方法。不過，這次要從機器學習的角度來看它們。首先登場的是線性回歸。

機器學習基石系列(10) — 過度配適

系列的第10篇，算是一個里程碑。本系列預計最後總共會有12~13篇。然後也可以來試試看自己根據數學式實作看看，之後有空的話會接在這個系列後面補完。

完美的契合所有訓練資料，反而不是一件好事

機器學習基石系列(5) — noise和error

在前面系列中，我們推演出VC bound，理解VC…

機器學習基石系列(3) —bounding function 和 VC theory

終於來到本系列課程的第一個重點了。前面兩篇依序提到Hoffeding’s inequality、dichotomy和shatter、以及break point的觀念。