qlora ile kötü sonuç almanın sebebi genelde model değil veridir, az ya da dağınık örnekle eğitince model saçmalamaya başlıyor. belli bir konu üzerine bilgi öğretmek istiyorsan önce rag dene derim, dokümanları gömüp arama yaptırmak eğitimden hem ucuz hem hızlı, çoğu işte fine-tunea gerek bile kalmıyor. illa eğiteceksen unsloth ile lora yap, en az birkaç bin temiz soru cevap örneği hazırla, base olarak da güncel bir instruct model seç. runpod pahalı gelirse vast.ai fiyatlarına da bakabilirsin.
Belli bir konu üzerine ilerleyecek olsam söylediğin mantıklı hocam dökümanları gömüp arama yaparak eğitebilirim.
Fakat aurdino gibi bir cihazla sensör ve kamera görüntü işleyen bir model oluşturmaya çalışıyorum. Örneğin kamera kalem görünce aurdino ötsün diyebilmeliyim ileriki dönemlerde kapı görünce ötsün diyebilmeliyim ve buna göre eğitmem gerekiyor.
Hatta bunun için çoklu llm'ler eğitmem gerekiyor algılama, derinlik, görüntü işleme vs.
Ama şuan asıl çıkartmak istediğim, vereceğim komutu eğittim verilere ve testlere göre planlayıp alt llm'lere (ajanlara) iletecek ve yönetecek bir llm eğitmek istiyorum.
Belki kafa karıştırıcı olabilirim anlatabildim mi demek istediğimi
