Qwen3.8-27B - Localde Opus 4.6 Max performansı

Teoride güzel ancak Realist olmak gerekirse kaç kişide bu modeli rahat çalıştıracak donanım var? 20tps vs çok yavaş iş yapılmaz bence ayrıca zeka seviyesi de düşüyor zaten kısıtlı donanımda birden çok versiyonu var.

Keşke ülkemizde donanım fiyatları çok pahalı olmasa 5090 gibi kartlar alıp şu modelleri ayağa kaldırabilsek

Ben kurdum pc ye. 9070xt, 32gb ram var. Yok yani o kadar yavaş çalışıyorki çıldırırsın
Çok detaylı incelemedim, ayarlarla belki bişeyler yapılabilir ama yok aylık 20 dolar verir işime bakarım.

Macbook Pro M5 Max, 48 GB mevcut.
Lokalde Qwen3.8-27B çalıştırır mı ? Deneyen tecrübe eden var mı ?

Q4_K_M modelini 25 token/sn hızı ile rahat kullanabilirsiniz

mac mini M4 64g ile çalışır mı acaba ?

https://www.canirun.ai/

5090 32gb vram ile birçok kez denedim ama verim alamadım. Tabii küçük işler için ideal. Hermes ile kişisel agent yapayım dedim aptalca ve yavaş çalıştı. Deepseek v4 flash daha verimliydi ama ücretli tabi. Yapılacak işe göre değişmekle birlikte o klasik ai tadını vermedi bana.

Ek olarak: bu yeni qwen 3.8i şimdi öğrendim deneyeceğim birazdan. Güncellerim.
Ek2: Sonuçlar etkileyici. Daha önce böyle kodlama performansı görmemiştim. Yedekte hazır detaylı kod promptu varsa yollayın deneyelim.
Ek3: 2 dakika 44 saniyede toplam 235 görselin olduğu klasörde mangalda sosisli yapan adam görselini buldu. İnanılmaz bir hız. Bu model ile inanılmaz bir agent kurulur, hermes kuracağım birazdan.
Ek4: Antigravity ile günlerce yazdığım sistemi tek seferde anladı. Düzeltmek ve geliştirmek istediğim iki özelliği hata yapmadan geliştirdi hızlı şekilde. Ek olarak hermes ile çok hızlı bir agent kurmuş oldum. Model şimdiye kadar denediğim en iyisi. Öyleymiş, böyleymiş yok efendim lokalde olmazmış. Biz de yüz bin dolarlık sistem yazalım demedik, ufak tefek geliştirmeler, agentlar, hatırlatıcılar vs için iyi işte. Daha fazlasını yapacak olan adamın zaten parası vardır, gider claude alır çatır çatır. Lokalde ne işi var.

yapay zekalarda ne yazıkki AMD'nin performansı düşük kalıyor her türlü. NVDIA öncelikli optimize ediyorlar diye biliyorum çoğunu.

Dün 3.8 27B için uncensored sansürsüz model yayınlandı. Windows pc ye nasıl kuracağımı biri anlatabilir mi çok merak ediyorum. M4 Airde çalıştırabileceğimden pek ümitli değilim çünkü