http://fancybox.net/
Bu sitede anasayfada "Youtube (iframe)" yazan yere tıkla örneği bu

<a href="youtube_embed_kodu" class="CLASS_ADI fancybox.iframe"></a>
<script type="text/javascript">
$(document).ready(function() {
$(".CLASS_ADI ").fancybox({fitToView:false,width:'777px', height:'550px', autoSize:false,}).trigger('click');
});
</script>

böyle yapıyorsun tabi sayfana önce yukarıda verdiğim fancybox sitesinden ilgili dosyları ve jqueryi ekle