Bu sistemde Ollama yerel bir LLM olarak çalıştığı için herhangi bir limit olmadan çalışır. Bazı projelerimde bende ollamayı fallback olarak kullanıyorum. Bu anlatımda ki tek dar boğaz ollamanın çalışacağı bilgisayarın gerçekten iyi bir GPU'ya ihtiyaç duyması olacaktır. Ollama GPU olmadan CPU üzerinden de çalışabilir ancak yanıt süresi uzar.