Öncelikle
https://github.com/horsicq/Detect-It-Easy bu program ile hangi dille yazıldığını öğrenmeniz lazım. Setup dosyasının kodlarını açma isteğiniz nedir bilemem ama acaba kurulum dosyasının da nasıl oluşturulduğu önemli ki kaynak kodlarını göremezsiniz sadece yorumlanmış halini görebilirsiniz.
https://x64dbg.com/ bu yardımcı olacaktır.