İşletim sistemi çekirdeğiniz 32bit mi önce bunu kontrol edin, 64 bit ise memory limiti ini set ile serbest bırakarak deneyin afaki bir Ram kullanımı varsa yazılımın kodlamasinda sıkıntı var demektir, hatalı kodlanmış olabilir, bir yerde sonsuz döngüye giriyor olabilir vs vs. Olasılıklar bunlar hocam.