Kullandığın temanın sidebar.php dosyasında kategorilerin gösterildiği kod'u (vereceğim koda benziyor) şu kodla değiştir:

<?php wp_list_categories("orderby=ID&order=desc"); ?>

Bakalım olacak mı. Olmazsa sidebar.php'yi buraya kopyala.