hocam localde olunca sınıra takılmıyor mu?
Local mantığı pcnize yapay zeka dillerini kurabiliyorsunuz örneğin ollama vs üzerinden llma 3.2, qwen2.5-coder vs gibi açık kaynak ai dilleri kuruyorsun. Tabi uygun olanları mesela llma 3.1 405b dili yaklaşık 200 gb ama sen düşük olanı kurarsan 10-20 gb yer kaplar. Ancak büyük olan kadar bilgisi iyi olmaz. Ram ve ekran kartında güçlü olmalı ki hızlı işlem yapabilsin. Sonra ücretsiz şekilde sınırsız kullanabilirsin. Ancak bir claude 3.5 sonnet kadar iyi değiller. Açık kaynak ai dillerin kapalı ai modellerin şimdiki haline gelmesi sanırım 1-2 yıl sürer. Sonuçta bir chatgpt trilyonlarca veri eğitilirken bir açık açık kaynak mesela meta llma 3.1 405b yarım trilyona anca ulaşmış. Mesela gemini api key alırsın sanırım 1 ya da 2 milyon token işlem hakkı ücretsiz veriyor. Onla da localda api ile kullanım yapabilirsin. Ocak ayına kadar grok apisi 25 dolar bakiye ücretsiz vermekte. Onu deneyebilirsin localde.