script tarafı

<script>
        function kontrol() {
            if (document.getElementById('virgul').value.toString().split(',').length>4) {
                alert("Dostum dikkat et üç ten fazla virgul koydun");
                //son virgulu siliyoruz.
                document.getElementById('virgul').value = document.getElementById('virgul').value.substring(0, document.getElementById('virgul').value.length - 1);
            }
           
        }
    </script>
html tarafı
    <input type="text" id="virgul" name="xxx" onkeyup="kontrol();"/>

örnek proje
http://jsfiddle.net/eLTcf/3/