Selamlar, twitter da rastladım paylasayim dedim. 1 bitlik llm yapmislar, yani 8 milyarlik llm i sadece 1 gb lik boyuta sigdirmislar ve guzel tarafi cpu da bile hizli yanit veriyor.

https://huggingface.co/spaces/webml-.../bonsai-webgpu