Güzel bir proje olmuş. Ancak bence şu konu da en az hız kadar önemli.
Veriler nerede tutuluyor? Kendi geliştirdiğiniz bir yapay zeka modeli mi kullanılıyor, yoksa farklı servislerin API'leri üzerinden mi çalışıyor? Özellikle kurumsal kullanıcılar için veri gizliliği ve KVKK uyumluluğu oldukça önemli.
Biz de kendi yapay zeka modelimizi geliştiriyoruz. Yazılım geliştirme gibi yerel olarak çalışabilecek senaryolarda modeli tamamen lokal çalıştırıyoruz. Ancak güncel bilgi gerektiren konularda veya dış kaynak doğrulaması gereken işlemlerde API desteğinden faydalanıyoruz. Çünkü her modeli lokal çalıştırmak hem ciddi donanım yatırımı hem de yüksek bakım maliyetleri gerektiriyor. Ayrıca büyük modellerde zaman zaman performans ve kaynak kullanımı açısından donanımsal sınırlar da ortaya çıkabiliyor.
Bu yüzden hibrit bir yaklaşımın bugün için çok daha gerçekçi olduğunu düşünüyorum. Hem veri güvenliği korunuyor hem de ihtiyaç duyulan yerde güncel ve güçlü modellerden faydalanılabiliyor.