Aslında burada gözden kaçırılan önemli bir nokta var: Yapay zekâ sadece yazılımdan ibaret değil. Bu sistemlerin arkasında ciddi bir donanım maliyeti var.
Özellikle GPU/ekran kartı tarafındaki yüksek maliyetler, veri merkezlerinin enerji tüketimi, soğutma, sunucu altyapısı ve sürekli artan hesaplama ihtiyacı doğrudan bu maliyetlere yansıyor.
Üstelik modeller büyüdükçe ve kullanıcıların beklentileri arttıkça gereken hesaplama gücü de artıyor. Dolayısıyla "bir süre sonra maliyetler düşer, abonelikler ucuzlar" demek bana da şu aşamada fazla iyimser geliyor. Elbette donanım verimliliği, model optimizasyonları ve yeni teknolojiler maliyeti aşağı çekebilir ama aynı zamanda kullanım ve hesaplama ihtiyacı da katlanarak büyüyor.
Parla AI tarafında da benzer durumu bizzat görüyoruz. Modeli geliştirmek sadece modeli yazmakla bitmiyor; GPU, sunucu, enerji, depolama ve altyapı maliyetleri sürekli devam ediyor. Özellikle kendi modelinizi çalıştırdığınızda bu maliyetleri çok daha net hissediyorsunuz.
Bence önümüzdeki dönemde asıl değişecek şey "yapay zekâ ucuzlayacak mı?" sorusundan ziyade, bu maliyetin kullanıcıya hangi modelle yansıtılacağı olacak. Ücretsiz ve sınırsız hizmetlerin sürdürülebilirliği de ayrı bir tartışma konusu.
Kısacası yapay zekânın arkasındaki fiziksel altyapıyı hesaba katmadan sadece yazılım maliyeti üzerinden değerlendirme yapmak biraz eksik kalıyor.