Hocam açıkcası her şeyi güzelce yaptım ancak yapay zekamda şu sorunla karşılaştım. Örneğin kullanıcı bir girdi yaptı soru sordu. Benim önceden girip şunu şunu araştır yanıtla dediğim şeylerde bilgi veriyor ama benim daha önceden yerleştirmediğim sorularda cevapsız kalıyor aslında bu sorunu aşmak istiyorum dediğiniz gibi rag ile yola koyuldum bu sistemi en uygun maliyetle yapmaya çalışıyorum ama zor olacak gibi yine de yanıt veren herkese teşekkür ederim.
Finetuning çok maliyetli kesinlikle RAG konusunda ilerlemeniz gerekiyor ama RAG kendi içinde çok yapıya ayrılıyor. Basit ve hızlı bir çözüm olarak LORA GGFU kısımlarını araştırmanızı öneririm.
Bu şekilde son bahsettiğiniz konuyu çözebilirsiniz. Cevapları son verdiğiniz veri setine ilk önce bakarak yanıtlanacaktır.