yusuf68700 adlı üyeden alıntı: mesajı görüntüle
Hocam aşağıda ki modeli RTX4060 Ve 64 GB Ram ile kullanıyorum saniyede 20 token hızı alıyorum sansür olmaması sebebi ile inanılmaz iş görüyor bazen zeka olarak GPT 3.5 Turbo ile aynı
https://huggingface.co/llmfan46/Qwen...d-heretic-GGUF
RTX 5060 kullanıyorum ama ram düşük 32 gb maalesef fiyatlarda çok arttığı için arttıramadım bi ucuzlasa 128 gb yapma hedefim var