Merhabalar, bahsettiğiniz sistemi geliştirebiliriz. Kamu kurumu olduğu için burada özellikle verilerin üçüncü taraf veya yurt dışındaki AI servislerine gönderilmediği On-Premise bir yapı öneriyoruz.
Yapay zekâ kurumun kendi sunucusunda çalışır ve mevcut veritabanı/API'lerle entegre edilir. Örneğin kullanıcı “Mehmet'in telefon numarası nedir?” dediğinde sistem kullanıcının yetkisini kontrol eder, ilgili bilgiyi kurumun kendi sunucusundan sorgular ve kullanıcıya iletir. Böylece kurum verisinin dışarı çıkmasına gerek kalmaz.
Doküman ve mevzuat tarafında RAG, canlı veriler tarafında ise kontrollü API/Tool Calling yapısı kullanabiliriz. Kullanıcı/rol yetkilendirmesi ve sorgu kayıtları da sisteme dahil edilebilir.
Maliyet; kullanıcı sayısı, kullanılacak model, GPU/sunucu ihtiyacı ve yapılacak entegrasyonların kapsamına göre değişir. On-Premise yapıda dışarıya sürekli token/API ücreti ödeme zorunluluğu da bulunmaz.
İhtiyaçlarınızı ve mevcut sunucu/veritabanı yapınızı öğrenebilirsek buna göre mimariyi, geliştirme maliyetini ve varsa aylık işletme giderlerini netleştirebiliriz.