Bu arada, hazır kiralamışsın hocam, şöyle bi proje paslayayım : https://github.com/Andyyyy64/whichllm

Kiraladığın hardware üzerinde run edebileceğin modeli rahatça bulabilecek bi çözüm yapmışlar, işine gelirse kullanırsın