Ollama Üstünde Model Çalıştırmak İçin Vds İhtiyacım Var
Arkadaşlar başlık gayet açık. Bir Vds Sunucu üzerinde (ubuntu) ollama çalıştırmak istiyorum. Onun üstünde de tinyllama gibi bir model çalışacak. Bazı testler yapacağım.
16 gb ram
Intel xeon gold ya da platinium işlemci ihtiyacım var.
Vps değil Vds lazım.
Diyeceksiniz ki neden böyle saçma bir yöntem seçtin? Çünkü gpu based sistemler aşırı pahalı. Ben de hem ucuz hem de küçük model için ekonomik bir çözüm arayışındayım.