nispeten güçlü bir bilgisayara yükledim ona rağmen çok yavaş, 5090lı ekran kartı lazım. ben kod için kullanıyorum sohbet hızını denemedim ama glm 4.7 ve qwen coder yükledim, kullanışlı olmadı.
ne kadar güçlü olursa olsun eldeki yani son tüketici ürünleri ile mümkün görünmüyor, api mecburuz, mecbur ettiler, ancak ufak otomasyon vs için her model cpu modelleri bile iş yapar.