Kesinlikle OBS (Open Broadcasters Software) öneririm.
Link: https://obsproject.com/

Canlı yayın yapmanızın dışında PC'de kayıt da yapabiliyorsunuz. Kaydederken örn; 1920x1080 çözünürlüğündeki görüntüyü dilediğiniz gibi 1280x720 ya da 800x600 tarzında kayıt da yapabiliyorsunuz. Videonun boyutu da verdiğiniz Bitrate'e göre değişiyor. Yani:

Daha Yüksek Bitrate = Daha Kaliteli Video = Daha Fazla Boyut

Ben oyun oynarken kullanıyorum, 1080p kayıtlarda 15.000 ya da 20.000 bitrate mükemmel seviyeye ulaştırıyor. 8.000-12.000 arası da yine yeterli. Diyelim 720p kayıt alacaksınız, 5.000 bitrate yeter de artar bile.