Deep Learning UB 2021 - summer school : Day#1
2B | +1% better 2day | ai.005
За би гэдэг хүн Хиймэл оюун (Artificial Intelligence), машин сургалт (Machine learning) талаар шохоорхож эхлээд олон хаврыг үзэж байна аа. Бага сага судалгаа, ганц 2 жижиг төсөл туршиж, хэд хэдэн хичээл эхлүүлээд хаясан боловч яг ул суурьтай, тууштай хичээлд суугаагүй явсан. Харин энэ зун Ковид-н ачаар Deep Learning UB 2021 — Summer school-д цахимаар суралцах боломж олдов. (Өмнө нь 2018, 2019 онд хийгдсэн)
Тэгээд энэ сургалтаас сурсан зүйлээ өдөр өдөрт нь товч тэмдэглэл хийхээр шийдсэн бөгөөд, editor-гүй, хяналт тун бага учир нийтлэлийн чанар бага зэрэг муу байж магадгүйг урьдчилан анхааруулмаар байна. (forgive me :) )
Хичээлийг Гүүгл, Фэйсбүүк, Анд Глобал, Абилитилаб, МаКинзи, Аддайс гэх мэт томоохон газруудад ажилдаг Монголчуудын хэлдгээр “тэргүүний” залуус зааж байгаа. + Фэйсбүүк болон Чимэгэ-с зочин илтгэгчтэй.
Хичээл нь ZOOM → Facebook live (stream yard)-аар явах бөгөөд Лекц + Семинар гэж явах юм билээ. Семинар нь Google Colabarotary дээр. Мөн 2 удаа нээлттэй илтгэл хийгдэх юм билээ.
За тэгээд олон юм нуршилгүй шууд эхний өдөр лүүгээ орьё. Day#1
Day#1 (6/21) : Бэлтгэл лекц (матриц, уламжлал, магадлал, статистик)
За 10 жил, Их сургуулийн эхний курс 2тоо л энэ хэдийг үздэг байсан болохоос сүүлийн үед барааг нь ч хараагүй зүйлс байв. Яахав корона статистик хааяа нэг хардаг, эсвэл өглөө хэдэд босвол ажилдаа амжиж очих вэ нтр магадлалыг л бүдүүн тоймоор бодохоос өөрөөр бодитой хэрэглэхгүй байгаам байна.
1. Шугаман алгебр : Скаляр, Вектор, Матриц = Тенсор
Ер нь Матриц тэрнийг хөрвүүлэх, үржүүлэх, урвууг олох гэх мэт үйлдлүүдийг ойлгох (мэдлэгээ сэргээх) хэрэгтэй. Учир нь Гүнзгий сургалт нь энэ л үйлдлийг цаанаа хийж байдаг.
Tensor : is an algebraic object that describes a (multilinear) relationship between sets of algebraic objects related to a vector space (In mathematics)
Бидний мэдэх шугаман алгебрийн Скаляр, Вектор, Матриц нь бүгд Тенсор мөн боловч ихэнх тохиолдолд 3 болон түүнээс олон хэмжээстийг Тенсор гэж ойлгож, яриандаа хэрэглэдэг.
2. Математик : Функц, Уламжлал
y=f(x) буюу Х хувьсагчийн утга нэг бүр нь F дүрмийн дагуу Y-н зөвхөн ганц утгатай харгалзана. Энд гарч буй F нь функц юмаа. (function)
Сигмойд функц : гэж S хэлбэртэй муруйг үүсгэдэг функц.
Гүнзгий сургалтад “идэвхижүүлэх функц” болгож ашиглах болохоор одоохондоо ямар зүйл гэдгийг л мэдэхэд болно. (activation function)
Софтмакс функц : дурын бодит тоон утгуудтай векторыг оролтонд аваад гаралтын векторын утгуудыг нийлбэр нь тэгээс нэгийн хооронд (0–1) байхаар “шахдаг” юм. (Тооцоолол хийхэд хялбар болгодог)
Уламжлал : Функцийн өөрчлөлтийг аргументын өөрчлөлтөнд харьцуулсан харьцаанаас аргументын өөрчлөлтийг тэг рүү үеийн хязгаар авсныг функцын уламжлал гэнэ.
За би өөрөө ч ойлгохгүй байна :D . Ямар ч байсан 10 жилдээ боддог байсан даа. Тэгээд давхар функцийн уламжлал нтр гээд явж өгдөг дөө.
3. Статистик
Статистик : өгөгдөл цуглуулах, дүн шинжилгээ хийх, тайлбарлах арга загваруудаас тогтох математикийн шинжлэх ухаан. #гэнээ
Магадлал : А үзэгдэл биелэх магадлал гэдэг нь явагдаж болох бүх үзэгдэлийн тоог тэнцүү боломжтой үзэгдэлийн тоонд харьцуулсан харьцаа юм.
Жишээ нь Зоос хаях үед “Сүлд” буух магадлал 50%, Шоо хаях үед “3” буух магадлал 1/6 байдаг. Тэгээд цаашаа Хэсэгчилсэн магадлал (marginal), нөхцөлт магадлал (conditional) гэх мэт гүнзгийрээд явна аа.
За тэгээд сүүлд нь Cross Entropy буюу бид нарын магадлал хэр зөв эсэхийг шалгахад хэрэглэдэг. Энийг бол сонсож л байснаас сайн мэдэхгүйм билээ.
За тэгээд эхний өдрийн лекцийн хувьд иймэрхүү сэдвүүдийг ярьсан байгаа. Буцаад сурагч болсон юм шиг л байна. Даалгавраа хийхгүй бол хэцүүдэх нь ээ.
