Vram dediğimiz şey ekran kartı ramı hocam değiştirilimez.
Önceki mesajlarda 4060 demişsiniz 4060 8 gb vram modelleri var.
Buna göre
Yapay zeka modellerini tam hızda (GPU üzerinde) çalıştırmak için 7B - 8B (7-8 Milyar parametreli) quantized (Q4_K_M veya Q8_0) modeller en ideal seçimdir.
32 GB RAM'iniz sayesinde 14B ve 32B parametreli modelleri de çalıştırabilirsiniz (CPU + RAM desteğiyle / Offloading), ancak yanıt verme hızı (tokens/second) hissedilir derecede düşer.
ama claude, gpt kadar performans almanızın imkanı yok bence.
@Fizz; daha tecrübeli