32gb ram ve 3060ti ile bişeler yapamaz mı Local LLM
Local LLM’de asıl önemli olan VRAM. Normal RAM de kullanılır ama VRAM yetmeyince performans ciddi düşer. 3060 Ti’ın 8 GB VRAM’iyle küçük ve quantize modeller çalışır, güçlü modellerde ise VRAM sınırına takılırsın.