bu soru çok yerde soruluyor fakat mantığı çok basit. sql'in where deyimi ile yapacaksınız. ve sizin söylediğiniz gibi. diyelimki makale tablonuz var ve yapısı şöyle;
makaleno - kategorino - makalebaslik
link şu şekilde gelecek;

 <a href="kategori.php?no=<?=$kategorino ?>">$kategoribaslik</a>

kategori.php de de şöyle bir sorgu

 where kategorino='".$_GET['no']."'

olay bu yani