Epoch, Batch size, Iteration, Learning Rate

這幾個字眼在訓練 AI model 或閱讀 Paper 時都很常出現，這篇文章會以簡單的舉例來說明它們之間的關係。

Decision tree 決策樹 — 單純、快速、解釋性高的決策術

這天老師在剛上課時，就先描述了一個情境：假設你已經在工作了，老闆或上司不太懂AI卻又要求你在很短的時間內給出一個可解釋、好懂的AI模型和預測成果，那你要怎麼辦？

Entropy (熵)是甚麼？在資訊領域的用途是？

「熵」是一種對物理系統之無秩序或亂度的量度；資訊與熵是互補的，資訊就是負熵。

Entropy 中文翻作「熵」，西元1854年由一位德國物理學家 Rodolph Clausius 提出，是一種對物理系統之無秩序或亂度的量度，早先應用於熱力學中，用來量度無法轉換成「功」的熱能。Claude Elwood Shannon在1948年將這概念引用到資訊領域來衡量接收到的資訊。

反向傳播算法（ Backpropagation Algorithm ）

藉由微積分中的鏈鎖律（Chain rule）使神經網路能更有效率地收斂

人工神經網路 Artificial Neural Network

簡稱 ANN，又稱類神經網路（Neural…

梯度下降學習法（Gradient Descent Learning Rule）

對神經網路的權重做偏微分，即可求得誤差函數的梯度，那就能藉此尋找誤差的極小值，便可對神經網絡進行優化

論文閱讀 AAAI 2018 — Spatial Temporal Graph Convolutional Networks for Skeleton-Based Action Recognition

人工智慧還有分強弱？

關於人工智慧的定義，大概從1950年代之後就一直有人在討論，弱AI、強AI甚至是超級AI，這篇文章簡單整理了一下我找到的幾種說法。

論文閱讀 CVPR 2016 - You Only Look Once ( YOLO ) : Unified, Real-Time Object Detection

論文閱讀 CVPR 2020 — RetinaFace: Single-shot Multi-level Face Localisation in the Wild