Microsoft, GPU mafyasını öldürdü 🤯

Sonunda bitnet.cpp adını verdikleri 1 bitlik LLM çıkarım çerçevelerini açık kaynaklı hale getirdiler. Bu sayede 100 milyar parametreli modelleri GPU'lara ihtiyaç duymadan yerel işlemcinizde çalıştırabilirsiniz.

- 6,17 kat daha hızlı çıkarım
- İşlemcilerde %82,2 daha az enerji tüketimi

%100 Açık Kaynak.
Link: https://github.com/microsoft/BitNet


https://x.com/oliviscusai/status/201...964641347?s=46