Bu kodu kullanmalısınız 
<?php wp_list_categories('orderby=name&title_li='); ?>