Notes on AI and Deep Learning
1. Deep learning是利用neural network進行machine learning的一種演算法，餵進去一大堆資料過後，機器會自己從裡面找出一些feature，並決定這些feature之間的關係，然後建立模型預測。為什麼叫做Deep learning是因為從input到output中間有許多層hidden layer，每個layer之間會有複雜的互動關係，跟一般的linear regression從input到output只有一層的關係相比深很多（所以有人開玩笑說那叫shallow learning）
2. Deep learning有幾個特點，第一個是需要非常多資料（畢竟是non-parametric），而且資料必須要well-annotated，這就是AI在醫院裡難以應用的原因之一。第二是interpretability很低，人類根本不知道hidden layer發生什麼事，甚至不知道機器生產出了哪些feature來預測。
3. 以上的特點就會對於生醫研究，尤其是醫學研究造成不少麻煩，用IBM的Watson輔助癌症治療曾經是一件超熱門的事情（現在台灣很多醫院好像還是很驕傲這件事），但MD Anderson等大頭癌症醫院都陸陸續續停用了，其中一個原因是畢竟是human-trained（所有訓練Watson的人都來自紐約的Memorial Sloan Kettering Cancer Center），本來就有bias，所有癌症各種不同的guideline也亂七八糟很難統合[1]。
另外一個問題就是要產生出這麼大量well-annotated的病人資料，資料收集端就會是個大問題，自然語言處理跟筆跡辨識不知道還要花幾年才能真正有系統性的辨識病歷。低interpretability也是個很大的問題，就算這個演算法能夠給出比人類更準的診斷，但如果不瞭解背後的原因，醫生跟病人應該都會很恐慌，也沒辦法就此去發展新的研究。
4. 不過退回一步，回到生醫相關的基礎研究，用Deep learning來作生物資訊或基因體相關的研究是非常promising的，有非常龐大且標準化的資訊，現在很多細胞組織的影像辨識軟體都採用的deep learning的演算法[2,3]。
5. 從發展Deep learning這個偷學人類大腦運作的演算法中學到的東西，真正回來研究大腦其實也是一件很有趣的事情，有篇eLife的文章就deep learning的演算法回去模擬大腦神經元的網絡，發現大腦神經元的形態學是可以進行deep learning的[4]。
6. 另外一個很有趣的東西就是explainable AI（XAI），是高度可解釋的AI模型，這很有可能是未來生醫研究用AI的走向，注重hypothesis-driven的data-mining，並且會判別所歸納出的模型能不能解釋或能不能設計實驗測試。學校裡面高速運算中心的教授就用類似的方式分析了自閉症家族幾萬個SNP，從裡面挑出了數百個高interpretability的候選，比原先知道的多了好倍。Journal of Neuroscience最近特別發了一篇文章就在強調這樣類型的機器學習對於之後腦科學研究的重要[5]。
7. 最後就是要提醒自己面對這波趨勢應該保有的態度，基本上未來數十年AI完全取代高度智力集中的工作的可能性不大，但是接下來會變成augmented intelligence的時代，AI的病理識別也許比較準，但是基於上面那些原因（還有政治原因）不太可能完全取代病理科醫師，而比較可能變成輔助工具，標出電腦覺得值得注意的區塊，人類再進一步判別。在接下來無處不見AI的時代裡面，我覺得對於這些演算法或相關的電腦理論有最基本的瞭解是絕對必要的，看看AlphaGo還沒慘電人類的時候圍棋界的那些人有多麼有信心，另外一點更要注意的是現在的電腦可是會自己學習了，他們不用吃飯不用睡覺，還可以自己教自己，人類不再勤奮一點那被淘汰也實在是活該。
reference
[1]IBM pitched its Watson supercomputer as a revolution in cancer care. It’s nowhere close (https://goo.gl/un6gUG)
[2]Deep learning for biology (https://goo.gl/NDe2nq)
[3]Opportunities And Obstacles For Deep Learning In Biology And Medicine (https://goo.gl/HEokXr)
[4]Towards deep learning with segregated dendrites (https://goo.gl/koW7da)
[5]A Shared Vision for Machine Learning in Neuroscience (https://goo.gl/DYp4t8)
