Yapay zekânın aşırı pahalı olduğu gerçeği

Bir proje için büyük yapay zekâ modellerini kendi bilgisayarımda çalıştırmayı düşündüm. Donanım maliyetlerini araştırınca karşıma çıkan rakamlar gerçekten şaşırtıcı oldu.
Bulut GPU kullanmadan, tamamen kendi donanımımda çalıştırabileceğim sistemleri araştırdım. İncelediğim modeller ve tahmini maliyetler şöyle:
Model
Düşünülen donanım
Tahmini toplam maliyet
Qwen3-Coder-480B-A35B Q4
512 GB birleşik belleğe sahip Mac Studio
600.000–850.000 TL
Qwen3-Coder-480B-A35B Q4
Linux, 4 × NVIDIA RTX PRO 6000 Blackwell 96 GB
4–6 milyon TL
DeepSeek V4.1-Flash
512 GB birleşik belleğe sahip Mac Studio
700.000–1.000.000 TL
DeepSeek V4.1-Flash
Linux, çoklu GPU sistemi
5–8 milyon TL
DeepSeek V4-Pro
Linux, 8 × NVIDIA RTX PRO 6000 Blackwell 96 GB
7,4–11 milyon TL
Önemli: Bunlar kesin satış teklifleri değil, donanım yapılandırmasına göre değişen tahmini bütçelerdir. Modellerin belirtilen nicemleme seviyelerinde gerçekten çalışması, bellek ihtiyacı ve yazılım uyumluluğu ayrıca doğrulanmalıdır. Mac fiyatları da 512 GB bellekli yapılandırmanın tahmini maliyetidir.
Özellikle NVIDIA RTX PRO 6000 Blackwell 96 GB ekran kartının tek başına yaklaşık 1 milyon TL seviyesinde olması, çoklu GPU sistemlerinin maliyetini ciddi ölçüde artırıyor. Apple ise 512 GB birleşik bellekli Mac Studio seçeneğini duyurdu; bu yapılandırma Ekim 2026 sonunda satışa sunulacak.


Beni şaşırtan nokta şu: Büyük bir açık kaynak modeli kendi bilgisayarında çalıştırmak bile milyonlarca liralık yatırım gerektirebiliyor. Üstelik donanımı satın almak yetmiyor; elektrik, soğutma, bakım ve performans gibi ek maliyetler de var.
Daha küçük modellerle çok daha uygun bütçelerle başlanabilir. Ancak özellikle büyük kodlama modellerini hedeflediğinde maliyet bambaşka bir seviyeye çıkıyor.

Sizce bu fiyatlara büyük modelleri yerel olarak çalıştırmak mantıklı mı?

Şuan yapay zekanın bu fiyatlarda olduğuna aldanmamak lazım. Gelecekte inanılmaz yüksek fiyatlara yükselecek gibi duruyor. Seçtiğim modeller de çok gelişmiş modeller sayılmaz. Sizce yapay zeka ucuzlayacak mı? Yâda ucuzlaması için ne yapmaları lazım?

İlk etap hepsi yarışta kalmaya çalışıyor ilerde fiyatları artar gibi gözüküyor

hocam 480b yi localde koşmak ölü yatırım bence, o paraya yıllarca api kullanırsın hem de bakımsız. token fiyatları zaten her sene düşüyor, rekabet kızıştıkça daha da ucuzlar.

480b yi localde çalıştırmak ölü yatırım olduğu çok doğru buna katılıyorum hocam. Ama sıkıntı şu açık kaynak en gelişmiş en ucuz llmlerden biri bu. Aklımda deepseek flash ve pro vardı ama pro en tercih edilebilir seçenekti fakat 11 milyon TL gibi çıkıyor bu da inanılmaz yüksek bir değer.

Local şu yüzden istiyorum eminim ileride apiler felaket uçacak. Bu senaryolar gelmeden localime taşıyayım ücretsiz seviyesinde çalıştırayım derdim ama bu fiyatlar çok uçuk duruyor

hocam api fiyatları uçar diye korkma bence, rekabet yüzünden her sene düşüyor zaten. 480bye takılma, günlük işin çoğunu 20-30b modeller localde görüyor, 480b anca gizlilik şartı varsa mantıklı.

DeepSeek, V4-Pro ve V4-Flash modelleri için API fiyatlarını 17 Ağustos'ta %50 ile %1.100 arasında arttırım yapmıştı hocam. Şuan yeni modeller çıktıkça fiyat düşüyor ama bu rekabet için yapılmış bir hamle de olabilir. Gelecekte çok ciddi yükseleceğini düşünüyorum. Nerden bileceğiz keşke geçmişte ram ekran kartı stoğu yapsaydık.

Bence bu rakamlar yerelde yatırım yapmanın neden mantıklı olmadığını çok iyi gösteriyor. Milyonlarca lira verip aldığın donanımı sadece sen kullanıyorsun, günün çoğunda da boşta bekliyor. Üstüne elektrik, soğutma ve bakım masrafı geliyor. Birkaç yıl içinde de hem donanım hem model eskiyor.

Sağlayıcılar ise aynı GPU’ları binlerce kişiye paylaştırdığı için kişi başı maliyet çok düşük. Aylık bir abonelikle bu modellerin daha güçlülerini bile kullanabiliyorsun. Yeni bir model çıktığında da hiçbir şey yapmadan ona geçiyorsun.

Fiyatlar ileride artsa bile, aboneliği istediğin zaman bırakır ya da başka sağlayıcıya geçersin. Ama aldığın donanımın parası geri gelmez.

Bu yüzden bireysel kullanım için abonelik bence açık ara daha mantıklı.

Aslında sadece ben kullanacağım değil. Bunu projelendirmeyi düşünüyorum. Daha fazla üye olacağı için daha fazla donanım maliyeti olacak büyük ihtimalle. İşte burdaki sıkıntı bu kadar yüksek yatırım gerekiyorsa şuanki kullandığımız yapay zekaları bedava kullanıyoruz ve bu gelecek olan çok ciddi zammın habercisidir

Proje olması durumu değiştirmiyor, aksine abonelik ve API tarafını daha da mantıklı hale getiriyor. Çok kullanıcıya hizmet vermek için donanım kurarsan aslında küçük bir yapay zekâ sağlayıcısı olmuş oluyorsun. Bunu da sağlayıcılardan çok daha kötü şartlarda yapıyorsun: GPU’ları toptan alamıyorsun, kullanıcı sayın belirsiz olduğu için ya fazla alıp boşta bekletiyorsun ya da az alıp yetiştiremiyorsun. Üstüne iki üç yılda donanım eskiyor ve yeni modeller daha fazla bellek istiyor.


“Bu kadar yatırım gerekiyorsa şu an bedavaya kullanıyoruz” çıkarımına da katılmıyorum. O donanım bir kişiye pahalı geliyor, çünkü tek kişi kullanınca çoğu zaman boşta duruyor. Sağlayıcıda aynı kart binlerce kişinin isteğini aynı anda işliyor, kişi başı maliyetin düşük olmasının asıl sebebi bu. Sübvansiyon kısmen olabilir ama tablonun tamamını açıklamıyor.


Ciddi zam ihtimaline gelince, senin seçtiğin Qwen ve DeepSeek açık modeller. Bunları onlarca farklı firma API olarak sunuyor ve birbiriyle rekabet ediyor. Biri fiyatı ciddi artırırsa başka sağlayıcıya geçersin. Kapalı modellerde zam olsa bile açık modeller bir taban fiyat oluşturuyor.


Bence doğru yol şu: projeye API ile başla, maliyeti kullanıcılara yansıt ve gerçek kullanımı ölç. Yük düzenli ve gerçekten büyük hale gelirse o zaman kendi donanımını ya da kiralık GPU’yu hesaplarsın. Henüz kullanıcın yokken milyonlarca liralık donanım almak bence en riskli seçenek.