Gözden kaçan Cevher Model Ornith 1.0 35B A3B Local de Sonnet 4 Performansı

Ornith 1.0 35B Modelini 8 GB RTX 4060 ve 32 GB Ram ile yaklaşık 30 token /sn hızında kullanabilirsiniz model MOE Tabanlı olduğu için sorunsuz çalışacaktır kod tarafında yaklaşık olarak sonnet 4 ile sonnet 4.5 arasında bir yerde benchmark testlerine göre şuanda modeli indiriyorum indirme tamamlanınca testlerimi konuya ekleyeceğim

Modelin Sansürsüz linki : https://huggingface.co/llmfan46/Orni...d-heretic-GGUF

Merak ettim bekliyoruz

takip

Takip

takip

Merhaba gecikme için kusura bakmayın iş yoğunluğu nedeniyle ben de yeni test edebildim 3 adet tasarım testi ekledim şimdilik ve sonuçlar beklediğimden çok daha iyi 1-2 gün içerisinde daha fazla test paylaşacağım

r10 çok güzel olmuş,hatta r10'a o temayı ekleseler varsayılan yaparım.

sanırım yakında bulut modellere ufak işler için para ödemeyeceğiz

1.5 modelini denediniz mi? konuda gördüm ollama üzerinden indirip denemek istiyorum. 1.0 ve 1.5 modelleri var ve kararsız kaldım