ewet yanlış anlatmışssın, tam tersini kastediomuşsun. sana bişi yazdım kısaca, burdan geliştirmeye çalış.
mesela anasayfan bu olsun:
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN">
<html>
<head>
<title>mavili</title>
<meta http-equiv="Content-Type" content="text/html; charset=windows-1254">
<meta http-equiv="Content-Language" content="tr">
</head>
<body>
<script language="JavaScript" type="text/javascript">
<!--
var retVal=""
var valReturned;
function openModal() {
retVal=showModalDialog('popup.htm');
valReturned=retVal;
if (retVal=='a')
location.href='index.asp'

}
//-->
</script>
popup açmak için tıkla<form>
<input type="button" value="popup aç" onClick="openModal()">
</form>
</body>
</html>

___________
popup.htm sayfanda böyle olsun:

<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN">
<html>
<head>
<title>popup</title>
</head>
<body>
<a href="#"onclick="returnValue='a';window.close()">k apat beni</a>

</body>
</html>
______________________________

anladın demi olayı:
returnValue='a' dediğim yer, anasayfaya dönüş değeri, ordan dönen değer a ise index.asp sayfasına yönlendir dedim. bunun gibi linkler verip, geri dönüş değerine göre istediğin sayfaya yönlendirebilirsin. (veya boş bırak, sadece anasayfaya gider, vs...)

daha kısa yolları da vardır tabi. mesela şöyle bi sayfa buldum, incele bi daha pratikte yapılıyomuş:
http://www.codingforums.com/archive/...hp/t-6782.html