在定義模型時,可以自行設置模型權重的初始化數值,也可以從其他的 pre-trained model 中提取權重參數複製到自己的模型中。權重初始化的方式會分成定義在模型內部或外部兩種方法,前者是指在自定義模型的同時,也設置權重的初始化數值;後者則是指建立好模型後再進行權重的初始化。
本文將要來介紹幾種權重初始化和複製權重參數的方法,所有 code 會放在文章最下方。
當在衡量模型的表現結果 (performance) 時,會藉由評估指標來進行,本文將要介紹在影像分割 (Image Segmentation) 任務上經常使用的評估指標,並進行實作,所有 code…
在進行 Transfer learning 時經常會使用 pre-trained model weight 做 feature extraction (特徵提取) 或…
最近非常受矚目的 SOTA real time object detection 論文 YOLOv7 不僅在準確率上超越了所有 YOLO 系列、transformer-based、convolutional-based…
在看論文時,經常會看到計算 CNN 的 parameters、 FLOPs、MACs、MAC、CIO…
在做訓練時經常會使用 pre-trained model weight,但 pre-trained model 不一定完全符合我們的需要,因此會對其進行一些更動。本文將要來介紹用 pytorch 來進行修改、新增、刪除 pre-trained model layer 的方法,所有 code 會放在文章最下方。
首先 import 需要的 library
import torchimport torch.nn…
YOLOR (You Only Learn One Representation) 由 ScaledYOLOv4 作者開發,能夠在與 ScaledYOLOv4 相同的準確度下,提高 88% 的速度,並且再次拿下 COCO Benchmark 排行榜冠軍。
上一篇文章: Pytorch 分散式訓練 DistributedDataParallel — 概念篇 有介紹分散式訓練的概念,本文將要來進行 Pytorch…