$mysql = mysql_query("select * from tabloadi");
if(mysql_num_rows($mysql)=="5"){

 echo "Limit dolmuştur!"; }else{ 

... 

}

yukarda ki kodları açıklamak gerekirse tablo'yu saydırıp if ile kontrol oluşturarak eğer 5 tane var ise hata ver yok ise ekleme işlemini gerçekleştir. En basit ve kısa yolu böyledir..