Açık kaynak llm'leri bağlayıp ajanlaştırabileceğim bir program var mı? R10+

Selamlar yerel olarak çalışan, istediğim llm'i bağlayıp o llm'in ajanlar oluşturmasını istiyorum.
Mesela araba konularında uzmanlaşan bir ajan oluşturacağım.
Sonra motosiklet konularında uzmanlaşan farklı bir ajan oluşturacağım, bu ajanlarında nasıl çalışacağını ben belirleyeceğim.

Ana llm'de bunları koordine edip, doğrusuyla yanlışıyla alt ajanları kontrol edecek.

Bütün istediğim sistem bu.

Hazır programlar varsa bunu yapabileceğim en kolay en basit şekilde paylaşırsanız sevinirim. Tecrübeye sabit yorumlar R10+

hocam senin tarif ettiğin şeyin en kolay hali n8n + ollama ikilisi, ikisi de ücretsiz. ollama ile istediğin açık kaynak modeli locale kuruyorsun, n8n tarafında da her uzmanlık için ayrı bir ai agent açıp altına hangi modelle çalışacağını seçiyorsun. ana koordinatör agent soruyu alıp ilgili alt agentlere paslıyor, kuralını da sen yazıyorsun. kodla uğraşırım dersen crewai + ollama da aynı işi görür ama n8n arayüzden kurulum olduğu için çok daha hızlı toparlarsın.

Merhaba hocam,
Anlattığınız yapı aslında yerel çalışan çok ajanlı bir sistem. Bunu sıfırdan kod yazmadan kurmak için Ollama + n8n iyi bir başlangıç.
n8n'deki AI Agent Tool özelliğiyle ana ajanın altında farklı uzman ajanlar tanımlayabilirsiniz.
Örneğin:
Ana ajan soruyu alır ve konusuna göre otomobil veya motosiklet uzmanına yönlendirir. Her uzman kendi talimatları ve ayrı doküman/veri kaynağı üzerinden cevap hazırlar. Son aşamada bir kontrol ajanı yanıtın verilen kaynaklarla uyumunu değerlendirir.
Burada önemli bir ayrıntı var: Başka bir LLM'nin cevabı kontrol etmesi tek başına doğruluk garantisi vermez. Sağlıklı bir sistem için uzman ajanlara kaynak verisi (RAG), denetim kuralları ve emin olunmayan durumlarda cevap vermeme seçeneği eklemek gerekir.
Kod yazmak isterseniz LangGraph da güçlü bir alternatif; en kolay başlangıç içinse yerel Ollama + n8n öneririm.
Bilgisayarınızın RAM/GPU durumunu paylaşırsanız hangi modelle başlamanızın mantıklı olacağını da değerlendirebiliriz hocam.

Bu mantıkta bende mvp üzerinde başta çalıştım ama bir çok yetenek aynı anda sorunlar baz alıyordu (halüsinasyon) özellikle problem diyebilirim. Ama genelde orkestra doğru ayarladıktan sonra küçük modeller ile CPU da bile çalışan sistem elde ettim, Skill ile de besleme yapınca agentlar yola gelmeye başladı bile temel sorununuz orkestrasyon diyebilirim. Önce bunu sinir ağlarını doğru kurgulamanız gerekiyor gibi makine özelliklerinizi söylerseniz daha iyi yardımcı olabilirim.