CptSLap adlı üyeden alıntı: mesajı görüntüle
Hocam dediğimi anlamadınız isterse Sol 5.6 değil en düşük model olsun 2 milyar tokeni 10 dolara gibi bir fiyata hiçbir orijinal sağlayıcı vermez. Ben de diyorum ki burada isim değil önemli olan. Tamam GPT 4 ün ismini Astra olarak değiştirsin veya 5.6 olarak değiştirsin. Sonuçta 5.6 nın verdiği performansı veriyor mu veriyor.
Hani bir laf varya amaç üzüm yemek değil bağcıyı dövmek diye senin hesap buna çıkıyor. Cached token miktarlarını nereden geliyor sanıyorsun. Senin çinli model dediğin modellerin belki %90'ını test ettim hepsinde algoritma bir şekilde ele veriyor kendini. Bir cache mekanizması aktifse burada çarpan modeli düşürülerek servis sağlanır ve istediği kadarda servis sağlar. Bazı yazacağım şeyler var forum içi ama mod'lar direk mesajı siliyor (rahatsız oluyor birileri vs. şikayet ediyor). Birde bazı ufak bir hileden bahsedeyim Kiro'nun alt yapısını kullanan birçok sağlayıcı var; Kiroda 10k gibi paketleri sahte hesaplar ile açarak bunları servis etmek çok basit. Havuz mantığını bilmen lazım herşeyden önce. Bundan daha öteye bilgi vermekte istemiyorum lakin amacın sistemi çözmekse bu mantıkla ne bulabilirsin ne de çözebilirsin