ChatGPT On Model Explainability
Published in
Apr 27, 2024
[ 從個人網站搬過來，本篇書寫於 Mar. 19, 2023 ]
近期 ChatGPT 的熱門程度應該也不用說了~過去歷史中人工智慧技術應該都沒有像現在如此靠近我們的生活，甚至開始有不少人開始擔憂工作會被機器取代…
不過這篇也不是想探討什麼大道理，只是想起過去曾寫過一篇有關模型可解釋性的文章，當初也花了不少時間在尋找資料。但是現在既然有了 ChatGPT，那我們是不是可以先從他的回答中對模型可解釋性有一個初步的認識，為我們接下來的研究做一個很好的開頭呢？
ChatGPT
首先先讓 ChatGPT 做一個簡單的自我介紹吧，分別用中英文問他：
看起來結果差不多~
接下來進入主題，問 ChatGPT 關於模型可解釋性的問題，一樣分別用中英文問他：
結果看來，英文回答明顯的比中文更完整，當然如果用中文進一步問 ChatGPT 也是有可能得到一樣的回答，不過這邊只是想簡單的測試一下能不能從 ChatGPT 的回答做為一個領域學習的開始。從結果來說我覺得是可行的，雖然缺少技術方法的範例能夠更深入的學習 (ex. Grad-CAM)，但是針對一些背景上的了解我覺得是足夠的，而且不足的部分也可以進一步追問 ChatGPT。
看來不久的將來，我們可能會先從 ChatGPT 或是其他大型語言模型 (LLM) 去了解一些知識的皮毛，直到這些皮毛無法滿足我們的求知慾時，才會再去 Google 了解更多的知識~ChatGPT 可以很大程度上節省我們搜尋相關知識的時間。
或許之後也不會是只了解一些皮毛，而是這些 LLM 會直接提供給我們完整且正確的答案，等於是往後人類的知識水平最差也就是 LLM 所提供的結果 (本想法來自 Hung-yi Lee 的上課影片)
