ne kadar güçlü olursa olsun eldeki yani son tüketici ürünleri ile mümkün görünmüyor, api mecburuz, mecbur ettiler, ancak ufak otomasyon vs için her model cpu modelleri bile iş yapar.
laptopumda rtx 3070 var, masaüstü pcmde 2070 var, aşırı kasıyor her ne kadar lmstudio optimize için dünyaları kurcalasam da yok, aşırı yavaş. lmstudio'daki lokal aiyi opencode'a bağlıyorum komutu yorumlayıp kod yazmaya başlaması 10dk üstünde. ilerisini hiç düşünemiyorum o yüzden kaldırdım. 300-400k gibi fiyatlara lokal ai cihazları satıyorlar incelemelerinde hızları fena değil ama proje biraz büyüyünce nasıl performans verecekleri belli değil, yoksa yatırım yapılır.