Konu
ollama ile claude
Dün, 18:31:25
#5
ealemdar41
8 GB VRAM'de model büyük ihtimalle RAM'e taşıyor, selama bir dakika sürmesi ondan. Terminalde ollama ps yazınca GPU yüzdesini görürsün, 4-8B civarı quantize bir kod modeline inince ajan işi de rahatlar.