Luna Spark : Hello World !

Lcwaikiki BT Ürün Yönetimi Departmanının sorumluluğunda olan programın Enterprise search AI robotu Luna Spark dünyaya merhaba dedi.

Evet kendi AI gpts mizi yaptık :) Gelin nasıl ilerledik biraz üzerinde konuşalım.

Bu çalışma Lcwaikiki BT Ürün Yönetimi ve Yapay Zeka Ekibinin bir projesi olup geceli gündüzlü çalışmalarının sonucunda ortaya çıkmış bir üründür. AI modelinin yapılışından ziyada bu AI modelini besleyecek dökümanları, kullanıcıların ulaşabileceği arayüz tasarımlarını ve backend yapısına ufak bir değinme olacaktır.

Luna Spark Akış Diagramı

1. Kullanıcıların textlerinin girebilmeleri için bir arayüz tasarımı ve bunun AI Modeli ile bağlantı kuracak API yapısının kurulması
2. Gelen istek programın api servisleri tarafından karşılanması
3. Gpt 3.5 altyapısıyla geliştirilmiş yapay zeka Ekibinin AI servisine karşılanacak istek program tarafından iletilmesi
4. Yapay Zeka ekibinden program servisine bir response dönmesi
5. Dönen response elastic search teknolojisi ile lunaspark isimli indexe kayıt atması ve aynı zamanda kullanıcıya dönen response değerinin verilmesi
6. Ek olarak bu verilerin cacheleme işlemleri redis üzerinden ayrı bir db de tutulması.

Bu akış yapılan ara yüz ile AI modelin bir biri ile iletişim kurmasının akışıdır. Bu akış dışında aslında en önemli aşamalardan biri de döküman hazırlama noktası. Döküman hazırlığı için aşağıdaki adımları izlediğimizde modelin doğru cevap verme oranları 80% leri buldu. Bu adımlar ise;

• İlgili programın kullanım klavuzunu clusterlama yapısı ile kurgulamanız çok önemli. Modelin gelen textlerin karışılığını ararken burada karmaşaya düşmeden direk nokta atışı ilerlemesini sağlar
• Dökümanda özellikle kelime kullanımlarını çeşitlendirmeden bulunduğunuz kurumdaki terimlere sadık kalarak yazılması gerekir. Bir paragrafta “eşlenir” diğer paragrafta “eklenir” kelimeleri türkçede her ne kadar eşlenik olmasada model bunu ayırt etmeyebilir. Burada ekleme ise ekleme ile devam edilmeli. Kelime çeşitliliği modelin arama ve anlam bulma konusunda kısır bir döngüye koyabilir
• Dökümanlarda mutlaka kullanıcıların yapılan işlem için anlam bulması gerektiğini düşünüyorsanız süreç dökümanları eklenmelidir. Model buradaki veriler ile birlikte cevabı kullanıcının anlayacağı dile dönüştürebiliyor bu da kullanıcı ile arasındaki mesafeyi azaltır.
• Kurumunuz içinde programlarınız için olası hata/eksik/talep vb gibi durumların toplandığı soru sorulan bir alan var ise mutlaka buradaki iç görüyü dökümanlara ekleyin. Kullanıcının düşünme modelini çıkartarak dökümanı yazmak daha hızlı ve gerçekci oluyor ama unutmayın ki AI modelininde verebileceği cevapları kullanıcının sorusuna göre nasıl döneceğini de düşünmelisiniz. Kısaca AI robotu gibi düşünmeniz tavsiye :)
• Yeni geliştirmeler henüz denenmediği için gelebilecek soruları tespit etmek zor olabilir bu noktada yukarıdaki deneyimden yola çıkarak AI robotu gibi cevap verecek şekilde hazırlamalı varsa program görselleri ile çeşitlendirmelisiniz.

Kullanıcının ara yüzde verilen cevabı yorumlamak için gradeleme yapısı çok önemlidir. Bu puanlama aslında modelinizin gelişmesi ve öğrenme süreçlerinide doğru bir akışta ilertmesini sağlayacaktır. Biz grade seviyemizi 1–5 arasında yaptık böylelikle kullanıcının yaklaşımından bir eğri yakalayıp modelinde öğrenme hızını ölçümleyebileceğiz. Ayrıca kullanıcı geçmişe dönük sorularınıda görebilmesi için bir alan açarak tekrardan soru sormasını ve hızlı/doğru bilgiye ulaşmasını sağladık.

Henüz bizim içinde yeni olan bu geliştirme ile ilgili daha çok deneyimleyeceğimiz özellikleri olucak. Yeni geliştirmeleri sizde bizim gibi merak ederseniz takipte kalın :)

Bu yazı vesilesi ile Lcwaikiki Yapay Zeka Ekibine ve BT Ürün Yönetimi İş Analizi ve Yazılım Ekibine teşekkür ederim.

Beni takip etmek isterseniz veya her hangi bir sorunuz olduğunda aşağıdaki linkten bana ulaşabilirsiniz.

Linkedin hesabı: https://www.linkedin.com/in/serapgur/