Model seçimi genelde en büyük fark yaratan yer, her işi en pahalı modele yaptırmaya gerek yok. Basit metin/etiketleme gibi işleri ucuz bir modele, sadece gerçekten karmaşık kısımları pahalı modele yönlendirmek maliyeti ciddi düşürüyor. Prompt'u kısa ve net tutmak, tekrar eden sabit kısımları önbelleğe alınabilir hale getirmek de output token kadar önemli, çoğu zaman gözden kaçıyor.