function hesapla() {
toplam = 0;
$('table#example .secili').each(function(){

each içerisinde yapılan işlemlerden toplam etkilenir ama
each içerisinde
var gtoplam = price-toplam;

var nm = ...

gibi değişken tanımlarsan each bir döngü olduğundan bunlar döngü içinde sürekli baştan oluşturulur.
sapıtma diye kastettiğin durum bundan ötürü.