Şuan için terminalde can sıkıntısından kendi eğittiğim dil modelimle sohbet ederim enazından Claude ve ChatGPT’ye ayda 5k bayılmam. Şuan için devam ediyorum hedef zor ama 3B modelini eğitmek.

sıralama şöyleydi:
150m modeli
250m modeli
500m modeli
Şimdi Tr-1B modeli 2 epoch eğittim

ardından SFT instructed yaptım 15-20 yaşında çocuk seviyesine getirdim daha kuantum mekaniğini öğreteceğim 😁

dostum dışardan hiçbir modeli kullanmadım. Sıfırdan eğitiyorum. Sadece 30b fineweb2 token aldım gerisini crawl yaptım