Local LLM ler şu noktada çok pahalı. Ajan çalıştırmak konusuna gelecek olursak bulut hizmeti sunan firmalar var biraz daha ekonomik olabilir o şekilde. Yapay zekanın gelişeceğini de göz önüne alırsak karşımızda 2 seçenek bulunuyor.
Yapay zeka maliyeti düşerse Hem Local LLM bazında hem de firmaların aylık abonelik bazında optimizasyon ve fiyat düşüşü yaşanacak. Bu durumda da daha az sistem gereksinimine daha büyük modeller çalıştırılabilecek. olur da böyle bişey olmazsa fiyatlar düşmez ise zaten en ucuz yapay zeka üyeliği aylık 5 bin dolar rahat olur. anthropic firması 8 bin dolar demişti. eğer bu fiyatlar olursa ya bulut sunucular ya da local LLM ler gene en mantıklı seçenek olmuş olacak. Yani her 2 senaryodada local llm ler mantıklı oluyor.
Bulut firmalar tam tersi genelde daha pahalıya denk geliyor sürekli kullanım olmadığı için. Kullanım yokken kapat gibi alınırsa İlk istekler yavaş işlenir ama daha uyguna gelebilir. Yine de anlık işleme problemi çözülmüyor maalesef. Cihaz kapasitesi belli.
Anthropic 8 bin dolar neye dedi tam bilmiyorum ama aklıma 200 dolarlık paketi tam kullanırsan aylık 7 bin dolara yakın harcama yapabiliyorsun o geldi onu diyor olabilirsiniz. Bunlar şirketlerin kendi belirlediği fiyatlar 7 bin dolar kullanım limiti vermesi onun 7 bin dolar harcadığı anlamına gelmiyor sonuçta. Belki gerçek harcaması 400-500 dolar ama bunu 200 dolara satıyorlar ki kullanmayanlar kullananları eşitlensin makineler sürekli dolu kalsın. Ayrıca herkes claude adını duysun.
Öte yandan, opus 5.5 ile yeni modelimiz artık aynı işlem gücü ile %20 daha performanslı diyerek fiyatlara yansıttılar bunu. Fable 5.1 ile de cache fiyatlarını 1 dolardan 20 sente çektiler.
Uzun lafın kısası, ben rekabet olduğu sürece fiyatların dediğiniz şekilde uçacağını sanmıyorum. Deepseek zarar etmeden satış yapabiliyorsa diğerleri hayli hayli yapar.