Microsoft 1 bitlik yapay zeka yayınladı

Microsoft, GPU mafyasını öldürdü 🤯

Sonunda bitnet.cpp adını verdikleri 1 bitlik LLM çıkarım çerçevelerini açık kaynaklı hale getirdiler. Bu sayede 100 milyar parametreli modelleri GPU'lara ihtiyaç duymadan yerel işlemcinizde çalıştırabilirsiniz.

- 6,17 kat daha hızlı çıkarım
- İşlemcilerde %82,2 daha az enerji tüketimi

%100 Açık Kaynak.
Link: https://github.com/microsoft/BitNet


https://x.com/oliviscusai/status/201...964641347?s=46

Gelecekte bu şirketlerin bu ai'ler için bu kadar paralar almaları çok komiğimize gidecek gibi geliyor...

çokta başarılı değil.

Güzel bir eğitim ile Türkçe'si düzelir Emeğine sağlık

Modelin Türkçesi iyi değil diye model başarılı değil demek oldukça yanlış. CPU kullanarak ortalama süreler içinde bu yanıtları üretebilmesi harika bir şey. Modeli test etmek için İngilizce test etmenizi öneririm bu sayede neler yapabildiğini çok daha iyi anlayabilirsiniz.