Llm modeli eğitimi hk. R10+

Selamlar mevcut açık kaynak llm'i belli bir konu üzerine eğitmek istiyorum. Bunun için bir çok yöntem denedim fakat hiç biri içime sinmedi
ilk olarak runpod.io üzerinden gpu kiralayıp mevcut llm'leri bu sisteme aktardım ardından qlora ile eğitmeye çalıştım, inanılmaz kalitesiz sonuçlar aldım.
Ayriyeten claude'ye kendi planladığı şekilde ilerleyerek eğitmesini istedim. Günlerce uğraştı denemeler yaptı fakat işime yarayan tarzda bir eğitim olmadı.

Youtube'daki videolar 2 sene öncenin videoları muhtemelen güncel yeni sistemlerde çıkmıştır.

Bu konuda bilgi sahibi olanlar var mı?

Hızlı ve etkili şekilde eğitim yaptırmak istiyorum. Şimdiden teşekkürler herkese

Takip

qlora ile kötü sonuç almanın sebebi genelde model değil veridir, az ya da dağınık örnekle eğitince model saçmalamaya başlıyor. belli bir konu üzerine bilgi öğretmek istiyorsan önce rag dene derim, dokümanları gömüp arama yaptırmak eğitimden hem ucuz hem hızlı, çoğu işte fine-tunea gerek bile kalmıyor. illa eğiteceksen unsloth ile lora yap, en az birkaç bin temiz soru cevap örneği hazırla, base olarak da güncel bir instruct model seç. runpod pahalı gelirse vast.ai fiyatlarına da bakabilirsin.

konu takip

Belli bir konu üzerine ilerleyecek olsam söylediğin mantıklı hocam dökümanları gömüp arama yaparak eğitebilirim.
Fakat aurdino gibi bir cihazla sensör ve kamera görüntü işleyen bir model oluşturmaya çalışıyorum. Örneğin kamera kalem görünce aurdino ötsün diyebilmeliyim ileriki dönemlerde kapı görünce ötsün diyebilmeliyim ve buna göre eğitmem gerekiyor.

Hatta bunun için çoklu llm'ler eğitmem gerekiyor algılama, derinlik, görüntü işleme vs.

Ama şuan asıl çıkartmak istediğim, vereceğim komutu eğittim verilere ve testlere göre planlayıp alt llm'lere (ajanlara) iletecek ve yönetecek bir llm eğitmek istiyorum.

Belki kafa karıştırıcı olabilirim anlatabildim mi demek istediğimi

anlattığın yapı için tek model eğitmek yerine planlayıcı + uzman ajan kurman daha doğru olur. ortadaki model komutu parçalayıp hangi alt ajana gideceğine karar verir, görüntü işini yolo ya da hazır bir vision model halleder, arduino tarafı zaten ayrı bir katman olur. önce bunu prompt ile kurup deneyip yetmediği yerde fine-tune yap derim, baştan çoklu llm eğitmek hem pahalı hem bakımı yoruyor.