Webmaster dünyasına yeni atılan birçok kişi, bu metin belgesinin fonksiyonunu dahi bilmemektedir. Bilenler ise birçok hata yapmaktadır. Aslında mantıken düşündüğümüzde cevabı kendi kendimize verebiliriz. Örneğin; Google amcanın üzerinde birkaç test yaparak, rahatlıkla doğru olanı öğrenme imkanımız var. Gelin Google amca üzerinde birkaç deneme yapalım…
Browserimizin adres çubuğuna ilk olarak aşağıdaki adresi yazıyoruz:
Eğer, doğru dosya adı robot.txt ise, dosya içerisindeki yazıları görebiliriz. Ancak o da ne!Alıntı
Demek ki robot.txt değilmiş. Peki, ne? robots.txt mi? Ona da bakalım:Alıntı
NOT: robots.txt sadece Google botu için değildir, tüm botlar için geçerlidir.Evet, işte bulduk. Google amca robots.txt kullanıyormuş. Demek ki doğru olan robots.txt imiş.Alıntı
Kaynak: www.seoteknigi.com
