qlora ile kötü sonuç almanın sebebi genelde model değil veridir, az ya da dağınık örnekle eğitince model saçmalamaya başlıyor. belli bir konu üzerine bilgi öğretmek istiyorsan önce rag dene derim, dokümanları gömüp arama yaptırmak eğitimden hem ucuz hem hızlı, çoğu işte fine-tunea gerek bile kalmıyor. illa eğiteceksen unsloth ile lora yap, en az birkaç bin temiz soru cevap örneği hazırla, base olarak da güncel bir instruct model seç. runpod pahalı gelirse vast.ai fiyatlarına da bakabilirsin.