Diffusion model是一個透過變分推斷 (Variational Inference) 訓練的參數化馬可夫鍊 (Markov Chain)，並且在許多任務上展現了超越 GAN的效果，其中最知名的應用莫過於 OpenAI的 DALL-E 2與 Google…

說到 machine learning的工作，最直覺會聯想到的可能是聊天機器人、臉部辨識、自動翻譯、推薦系統或是自動駕駛等等，更精確地描述，這些是包裝好的 ML服務 (service)。實際上 ML相關的職缺橫跨資料科學、軟體整合、硬體設計與加速、雲端服務等等。

今日在GPT (General Pretrained Transformer) 的助攻下，基於attention的Transformer早已是深度學習的主流模型之一。不過在電腦視覺領域，即使ViT (Vision Transformer) 與Swin…

2021 年的 RepVGG 提出了一種在訓練時是 multi-branches ，但在推理 (inference)時可以重參數化 (reparameterize) 成 plain CNN model 的架構。讓模型在表現提升的同時，仍然保有 plain model…

近年，生成式模型 (generative model) 用於圖像生成展現了驚人的成果，最知名的莫過於基於 diffusion model 的 Stable Diffusion 與 Midjourney。雖然目前還無法完整地指出 Midjourney 背後的方法，但透過…

在物件偵測 (object detection) 領域，FPN (feature pyramid network) 與其衍生架構是提升偵測準確度的常用技巧。而YOLOF明確地指出 FPN更重要的在於 divide-and-conquer的 label assignment….

Deep learning在電腦視覺 (Computer Vision, CV)上最常被使用的架構是 Convolution Neural Network (CNN)。 CNN以參數來做 convolution的概念可以說是 Yann LeCun於 1998年發表的…

MAE (Masked Autoencoders)是 FAIR在 2021年提出，借鏡 BERT的 MLM概念、結合切割影像為 patch的 ViT，精煉出不需要 contractive架構的 self-supervised pre-training方法…

在這幾年的類神經網路發展中， 生成模型 (generative model) 網路是很熱門的一個題目。而這之中最常被提起的則是 VAE (Variational Auto-Encoder)與 GAN (Generative Adversarial…