HTML izni olmadığı için ilgili hatayı alıyorsunuz.

Aşağıdaki kodları temanızın functions dosyasına ekleyip denerseniz işinizi halledebilir:

foreach (array('pre_term_name') as $filter)
{
    remove_filter($filter, 'sanitize_text_field');
    remove_filter($filter, 'wp_filter_kses');
    remove_filter($filter, '_wp_specialchars', 30);
}

Kaydedip deneyebilirsiniz ama HTML kullanmak genelde önerilmez ve risklidir. Bunu CSS ile class/sınıf kullanarak yapmak daha doğru olacaktır.