PinnedRafael Manzano MasapantaDitching CUDA for AMD ROCm for more accessible LLM inference. Ryzen APUs Edition.We test the limits of ROCm compatibility (CUDA’s alternative) using Ryzen APUs, for GPU accelerated at-home LLM training.Oct 31, 20234Oct 31, 20234
PinnedRafael Manzano Masapanta¿Sin CUDA ni GPU? Probando ROCm 5.7 con APUs Ryzen.Escribo esta entrada como referencia para quien desee entrenar un LLM localmente y posea un procesador Ryzen en su portátil con gráficos…Oct 31, 2023Oct 31, 2023