tebrik ederim çok güzel bir proje benimde aklımda vardı bu tarz bir platform ismi testok gibi bişey olucaktı mobil uygulama aracılığıyla soru üreten bir platform sizin gibi docker ile deploy edip api üzerinden mobil uygulama ile konuşucaktı mobil uygulamasınıda
(react native) çıkarabilirsiniz web ile kısıtlı kalmasın bol şans !!
hocam ai için api mi kullanıyorsunuz yoksa açık kaynaklı kütüphane ile runpod gibi gpu sağlayıcısı mı kullanıyorsunuz gizli değilse
?
Şu anda Uygun modeli bulmak için Open Router üzerinden api tabanlı kullanıyorum Sadece Model parametresini değiştirerek tüm modelleri rahatça entegre edip test edebiliyoruz.
Ancak Kodların içerisinde localde kurulu modeli kullanarak ai cevaplarını aldığımız sistemi hazırladım. Model olarak Deepseek'in 2 GB lik ufak bir modeli vardı onu kullandım sorunsuz cevap aldım. Eğer yatırım alabilirsem sunucumu yükseltip dockerden yeni bir container olarak 150GB lik bir model'e geçmek istiyorum.