tinyML 101:
IoT cihazlarının temel felsefinde dışarıdan bilgiyi toplayıp bunu bulutta işletip sonuç almak vardır. Peki ya bu IoT cihazlarında machine learning uygulamasını koşturabilir miyiz? Bu sorunun cevabı tinyML ile Evet.
Ancak IoT cihazları gibi microcontrollerde temel sıkıntı küçük olmaları ve düşük enerjili olmalarıdır. Sadece yüzlerce kilobytes hafıza ile koşabilirler. Buna çözüm olarak machine learning algoritmalarının buna uygun optimize edilmesi önerilmiştir.
Özetle, tinyML’i hızlı, az kaynağa ihtiyaç duyan ve enerji efficient machine learning olarak tanımlayabiliriz.
tinyML ile birlikte:
- Security: Datalar artık Cloud ortamına taşınmadan daha özel ve güvenli olan local ortamda işlenebilecektir. Data aktarımına ihtiyaç duyulmayacaktır. Yani internete bağlı olmadan kendi elimizdeki microcontrollerde privacy machine learning uygulamalarını koşturabileceğiz.
- Güç Kazanımı: Data transferinden kullanılan enerjiden tasarruf edilecektir. Düşük enerji kullanımı TinyML cihazlarının günlerce haftalarca bataryası takılı olmadan çalışması beklenmektedir.
- Gecikme: Localde işlerin halledilmesi network gecikmesi ihtimalini kaldırır.
Quantization kullanılan optimizasyon yöntemlerinden birisidir. Basit bir neural-network icin ağırlık değerleri ve aktivasyon node hesaplamaları quantize edilebilir. Örnek olarak, floating point degerlerinin integerlere dönüştürülmesi gösterilebilir. Accuracy düşürmeden quantization tekniklerinin geliştirmesi ise araştırmalara açık bir konudur.
Tensorflow gibi makine öğrenimi araçları tinyML icin uygun değildir. Buna çözüm olarak TensorflowLite geliştirilmiştir. Android ve iOS ile uyumludur.
Tensorflow yazilan projeleri Lite forma cevirmek icin TensorFlow Lite converter kullanilabilir.
TinyML projelerine örnek verecek olursak Google Asistant sadece 14kb lık bir Machine Learning modeliyle kelimeleri tespit edebilmektedir. EdgeImpulse sadece 23kb Ram kullanımıyla ses tanımlaması yapabilmektedir.
Bir cok onde gelen sirketin uye oldugu tinyML Foundation kurulmustur. Duzenli olarak etkinlikler duzenlemektedirler.
Takip etmek elbetteki güncel gelişmeleri takip etmek açısından faydalı olacaktır. :)
