Çok basit, uzun uzun koda gerek yok en kısa ve öz hali budur.

if($semt){
$semt = "AND semt='".$semt."'";
}else{
$semt = "";
}

$sql = "select * from tablom where sehir=2 and semt='".$semt."'";