Token tüketimini arttıran hatalar

Merhabalar, artık neredeyse hepimiz her gün yapay zeka araçlarını kullanıyoruz.
Fakat garip bir şekilde ben elimdeki 5x hesabı bitiremezken insanlara 20x hesaplar yetmiyor.

Bu konu içerisinde en sık yapılan, yok yere fazla token harcatan 2 hataya değineceğim. Umarım işinize yarar.

1- Maliyet düşürmek için model değiştirmek
Bir işi yaparken modeli değiştirdiğiniz zaman modelin hafızasını da sıfırlamış oluyorsunuz.
Bu sebepten ötürü yeni gelen model önbellekten değil, bütün mimariyi baştan kurmak adına daha fazla daha fazla token harcıyor.


Örnek bir API tüketimimde aradaki fark. Model değiştirseydim sürekli muhtemelen harcamam 250 doların üstünde olacaktı.

Eğer farklı bir modele yaptırmak istediğiniz bir iş varsa yeni bir agent açarak yapmanızda fayda var.

2- Fazla kural ve skill kullanmak
Bazı kurallar ve skiller evet çok faydalı. Caveman vb. tasarruf sağlayan skiller var.
Fakat bu skiller bir noktadan sonra modeli köreltebiliyor. Bunun aynısı upuzun promptlar için de geçerli.

Günün sonunda peki ne oluyor? Çıktıyı beğenmiyorsunuz ve revize vermeye, daha fazla maliyet yapmaya başlıyorsunuz.

Fable, Opus 5.5, Astra gibi modeller zaten aşırı iyi sonuçlar ortaya koyabiliyor.
Hazır prompt kullanmak yerine ne istediğinizi açık bir şekilde yazmanız çoğu durumda çok daha iyi sonuç verecektir.

Umarım işinize yarar. İyi forumlar dilerim.

2 haftadır astra yüksek ayarda kullanıyorum. yalandan bir blog sitesi yapayım ara sıra içerik yazarım dedim. önce chatte tokensız başladım tasarıma, şimdi mevcut tasarımı codex'e alıp sol ile orta ayarda ince detayları yapıyorum. şuan sol orta ayarda site tasarlamaya devam etsem, asla limitleri bitiremem. her şeye en iyi model, en yüksek eforu seçerseniz, ha birde hatalı ilerlerseniz şirket sizin olsa yine token dayanmaz.

Katılıyorum. AI fark etmeksizin yüksek efor kullanmak çok mantıklı değil. Testlere göre medium ile arada çok bir uçurum da olmuyor.
Fakat low kullanmakta kötü. Medium her zaman iyidir.

bu yazdıklarını geminiye yazıp, prompt olarak ver de, ve ingilizce yaz.

deep research da çok önemli, bazen planı araştırma sonucuna göre yapmak hataları yaşanmadan ortadan kaldırıyor. astrayı windows ortamındaki güvenlik izolasyonu için yüksek ayarda kullanıyorum, acemiyim bu alanda yalan yok. sanki ftp de ilk kez chmod ile karşılaşan biri gibi sürekli yetkilendirmeyle alakalı sorunlar yaşıyorum. derdim yetki almakta değil, alınmasını önlemek, biraz daha karmaşık ama temelde chmod iyi bir örnek. birkaç hatalı denemenin ardından, geliştirici platformlarına yönelik benzer hata bildirimlerini ve çözümlerini araştırmasını istedim, şak diye doğru yaklaşımın ne olduğunu o hatalardan çıkarttı. en tehlikeli durumlar böyle kör ilerlemeye çalışılan durumlar, kör ilerleyenler öncesinde sağlam bir araştırma yapmalı.