erdemozturk52 adlı üyeden alıntı: mesajı görüntüle
Bir proje için büyük yapay zekâ modellerini kendi bilgisayarımda çalıştırmayı düşündüm. Donanım maliyetlerini araştırınca karşıma çıkan rakamlar gerçekten şaşırtıcı oldu.
Bulut GPU kullanmadan, tamamen kendi donanımımda çalıştırabileceğim sistemleri araştırdım. İncelediğim modeller ve tahmini maliyetler şöyle:
Model
Düşünülen donanım
Tahmini toplam maliyet
Qwen3-Coder-480B-A35B Q4
512 GB birleşik belleğe sahip Mac Studio
600.000–850.000 TL
Qwen3-Coder-480B-A35B Q4
Linux, 4 × NVIDIA RTX PRO 6000 Blackwell 96 GB
4–6 milyon TL
DeepSeek V4.1-Flash
512 GB birleşik belleğe sahip Mac Studio
700.000–1.000.000 TL
DeepSeek V4.1-Flash
Linux, çoklu GPU sistemi
5–8 milyon TL
DeepSeek V4-Pro
Linux, 8 × NVIDIA RTX PRO 6000 Blackwell 96 GB
7,4–11 milyon TL
Önemli: Bunlar kesin satış teklifleri değil, donanım yapılandırmasına göre değişen tahmini bütçelerdir. Modellerin belirtilen nicemleme seviyelerinde gerçekten çalışması, bellek ihtiyacı ve yazılım uyumluluğu ayrıca doğrulanmalıdır. Mac fiyatları da 512 GB bellekli yapılandırmanın tahmini maliyetidir.
Özellikle NVIDIA RTX PRO 6000 Blackwell 96 GB ekran kartının tek başına yaklaşık 1 milyon TL seviyesinde olması, çoklu GPU sistemlerinin maliyetini ciddi ölçüde artırıyor. Apple ise 512 GB birleşik bellekli Mac Studio seçeneğini duyurdu; bu yapılandırma Ekim 2026 sonunda satışa sunulacak.


Beni şaşırtan nokta şu: Büyük bir açık kaynak modeli kendi bilgisayarında çalıştırmak bile milyonlarca liralık yatırım gerektirebiliyor. Üstelik donanımı satın almak yetmiyor; elektrik, soğutma, bakım ve performans gibi ek maliyetler de var.
Daha küçük modellerle çok daha uygun bütçelerle başlanabilir. Ancak özellikle büyük kodlama modellerini hedeflediğinde maliyet bambaşka bir seviyeye çıkıyor.

Sizce bu fiyatlara büyük modelleri yerel olarak çalıştırmak mantıklı mı?

Şuan yapay zekanın bu fiyatlarda olduğuna aldanmamak lazım. Gelecekte inanılmaz yüksek fiyatlara yükselecek gibi duruyor. Seçtiğim modeller de çok gelişmiş modeller sayılmaz. Sizce yapay zeka ucuzlayacak mı? Yâda ucuzlaması için ne yapmaları lazım?
Qwen 3.8 flash next kullanin localde , 16gb vram 32 ram ile 52 token/s veriyor. Ust duzey kalite beklemiyorsaniz opus 5.5 gibi, isinizi gorecektir.