Ajaxla yapabilirsin tek başına php böyle birşeye yetmez malesef.
Xmlrequest kullanarak oluşturacağın php dosyasından online kullanıcı sayısını belli aralıklarla kontrol ettirebilirsin mesela 10 saniye
Değişme varsa, yeni online kullanıcı sayısını sayfayı refresh etmeden javascriptle değiştirebilirsin