İnternette çoğu site , arama sonuçlarında, gözükmesini istemediği, gizli kalmasını istediği, bazı dosyaları, sayfaları
robots.txt ile gizlerler..
bu sitelerin gizli bölümlerine yine
robots.txt araması ile ulaşabilirsiniz ,
şimdi, önce google arama motorunu açıyoruz ve arama kısmına aşağıdaki kelimeleri , kopyala yapıstır yaparak ekliyoruz
"robots.txt" "disallow:" filetype:txt
arama sonucunda çıkan sitelerin
robots.txt 'lerinin "disallow" yazan kısımındakiler gizli olanlardır....
örnek arama..
örnekte white house kullanılmış,
istediğiniz klasörü açmak için kopyala yapıştır ile seçim yapın ve açın, işte sonuçlar
işte sonuçlar

yani sizde web dedektifi olabilirsiniz
alıntı;
How To Find Secret Sites And Articles