En sağlıklısı substr metodu olacaktır : https://codeshare.io/aJVWVn
metehandemir adlı üyeden alıntı: mesajı görüntüle 
<?php
$i = 1;
foreach((get_the_category()) as $category){
    if($i == 1) {
        echo $category->name;
    } else {
        echo ", ".$category->name;
    }
    $i++;
} ?>
Hocam ilk olarak foreach döngüsü içerisinde if else kullanmak yerine substr metodu'da iş görücektir.
2.si if ve else 'in altına parantez kullanmanıza gerek yok (1 satır için), Parantez; 1 satırdan fazla kod blokları için kullanılır aksi halde kullanıldığında gereksiz kod kullanımı olucaktır.