Aı tarafında kendi modelinizi çalıştıra bilirsiniz 26 kart demişsiniz ama sadece 4x 1080TI 11 gb ve bir adet 2060 12 gb var mesajda diğerlerini bilmiyorum açıkcası ve saf kodlama işi için lora ile eğitilmiş local bir ai istediğiniz gibi çalışır hafif kullanımda bu 5 kart sadece günlük sohbetler için kodlama ağır işler olmadan 5 10 kişiye kadar kabaca kaldırır ama tek kişilik bir kullanım dahi olsa yavaş kalacaktır sadece kendinize kullanıp hiç bir sınırlaması etik değeri olmayan bir AI çalıştırabilirsiniz kiralama için diğer kartlarında bilgileri gerek açıkcası
Kiralık gpu fiyatları 0,60 cent ile 2 dolar saat arası değişiyor ama sizin elinizdeki kartlarla alakası bile yok runpod sitesine bakabilirsiniz A100 (40/80GB) 1,39 dolara geliyor saatlik çalışması dur kalk yaparsanız 1 saatlik çalışma aslında bir kaç saat ediyor buradaki 1 saat nonstop olarak RTX 4090 0,69 cente geliyor yani bunlar varken api ile GPU kiralamak özellikle elinizdekiler için bir seçenek değil gibi ama vps olarak gpu luı vds vps kiralayabilirsiniz.
Yalnızca 5 kart var hocam, 26 VM çıkıyor, hepsinde 2 GB vRAM olacak şekilde gpu'larla passthrough yapıyorum yani parçalıyorum. API ile kiralamak elimdeki gpu'lar için hiç para bırakmayacak gibi duruyor, GPU'lu vds olarak kiralayabilirim fakat pc'leri evde hostladığım için bu da şu an için çok mümkün değil. belki elimdeki pc sayısını arttırırsam ileride hosting firması kurabilirim diye düşünüyorum fakat onda da rakip çok açıkçası, tutunabilir miyim diye düşünüyorum, hosting firması kurmayı düşünen kişilerin açtığı r10'daki konulara baktığımda da herkes "yapma" diyor. Kendime yol haritası çizmeye çalışırken açıkçası artık zorlanıyorum