Bir tane dil tablosu oluşturduktan sonra (id,tr,en) üç sütun oluşturmalısınız.

Görüntülenmek istenen dili sayfanın en başında $user_dil adında bir değişkene atarsın,

$user_dil'i Sessiondan mı alırsın sorgu mu yaparsın sana kalmış.

Sonra bir sorgu ile sadece istenen diledeki datayı çekersin.

En sonda ise bu arraydaki dataları hml'e eklemesi kalır.

<?php
$sql=mysql_query("SELECT id,$user_dil FROM dil");
$dil_data=array();
while($row=mysql_fetch_object($sql)){
    $dil_data[$row->id]=$row->$user_dil;
}

// $dil_data[]; içinde tablodaki id anahtarları bulunur.

echo <a href="#"><?php echo $dil_data[1]; //Anasayfa ?></a>
?>

Veya idler ile uğraşmam dersen unique bir name oluşturup name göre tr ve en çekersin.

Mantık bu şekilde ve bunu sadece ufak projelerde tavsiye ediyorum.

Kolay gelsin...